Adoption rapide de l’IA et risques de l’IT clandestin
Plus de 80 % des plus grandes entreprises du monde utilisent désormais l’IA dans le développement de logiciels, mais de nombreuses organisations ont peu de contrôle sur son utilisation. L’usage caché de l’IA devient un risque de sécurité sérieux.
Une adoption rapide, mais des mesures de sécurité insuffisantes
Selon un récent rapport, les assistants de programmation basés sur l’IA sont utilisés par plus de 80 % des entreprises du Fortune 500. Bien que l’adoption soit rapide, des cadres clairs et des mesures de sécurité spécifiques restent souvent en retard.
Il existe un fossé croissant entre l’innovation et la sécurité. Moins de la moitié des entreprises ont des contrôles de sécurité spécifiques pour l’IA générative, et 29 % des employés utilisent des agents IA non approuvés au travail, créant ainsi un nouveau type d’IT clandestin, appelé IA clandestine.
Qu’est-ce que l’IA clandestine ?
L’IA clandestine désigne l’utilisation d’applications IA sans la connaissance ou l’approbation du département informatique ou de sécurité. Les employés utilisent de manière indépendante des outils externes pour accomplir leurs tâches plus rapidement, ce qui peut créer un point aveugle structurel en matière de sécurité.
Les risques liés à l’implémentation rapide de l’IA
Un risque majeur réside dans la rapidité avec laquelle les agents IA sont déployés. Une mise en œuvre rapide peut compromettre les contrôles de sécurité et de conformité existants. Si les organisations ne prennent pas suffisamment de temps pour établir une gouvernance, il y a un risque accru que les agents obtiennent trop d’autorité ou accèdent à des informations sensibles sans supervision appropriée.
Les risques ne sont pas purement théoriques. Des campagnes de fraude ont récemment été identifiées, où des attaquants manipulaient délibérément la mémoire des assistants IA, influençant ainsi structurellement les résultats.
Prévenir les abus et les fuites de données
Il est crucial de gérer les agents IA avec précaution. Comme les comptes humains, les agents IA peuvent avoir un accès étendu à plusieurs sources de données et applications. Si un agent est compromis, cela peut entraîner des fuites de données à grande échelle.
Pour atténuer ces risques, il est recommandé d’adopter une approche de confiance zéro pour les agents IA. Chaque agent doit être vérifié explicitement, les droits d’accès doivent être strictement limités à ce qui est nécessaire, et les activités doivent être surveillées en continu. Il est également conseillé de maintenir un registre central qui recense les agents IA actifs au sein de l’organisation.
Conclusion
La montée de l’IA au sein des organisations semble irréversible. Le défi réside non pas dans l’arrêt de l’innovation, mais dans son introduction de manière contrôlée. Sans gouvernance claire, transparence et mesures de sécurité appropriées, l’IA clandestine risque de devenir un risque structurel difficile à gérer dans l’environnement informatique moderne.
