Impact des Violations Réglementaires de l’IA sur les Litiges Technologiques
Selon une récente étude, les violations réglementaires liées à l’IA entraîneront une augmentation de 30% des litiges pour les entreprises technologiques d’ici 2028. Cette prévision résulte d’une enquête menée par Gartner auprès de 360 responsables informatiques impliqués dans le déploiement d’outils d’IA générative (GenAI).
Confiance dans la Gestion de la Sécurité et de la Gouvernance
Les résultats de l’enquête révèlent que seulement 23% des répondants se disent très confiants quant à la capacité de leur organisation à gérer les composants de sécurité et de gouvernance lors du déploiement d’outils GenAI.
Défis de Conformité Réglementaire
Plus de 70% des personnes interrogées ont indiqué que la conformité réglementaire figure parmi les trois principaux défis pour le déploiement généralisé des assistants de productivité GenAI. Les réglementations mondiales varient considérablement, reflétant l’évaluation de chaque pays sur l’alignement de son leadership en IA, de son innovation et de son agilité avec les priorités de réduction des risques.
Cette disparité entraîne des obligations de conformité incohérentes, compliquant l’alignement des investissements en IA avec la valeur d’entreprise démontrable et répétable, tout en exposant les entreprises à d’autres responsabilités.
Impact du Climat Géopolitique
Le climat géopolitique a un impact croissant sur les stratégies et déploiements GenAI. Dans l’enquête, 57% des responsables informatiques non américains ont déclaré que ce climat avait au moins un impact modéré sur leur stratégie GenAI, tandis que 19% ont rapporté un impact significatif.
Néanmoins, près de 60% de ces répondants ont indiqué qu’ils étaient incapables ou peu disposés à adopter des alternatives d’outils GenAI non américains.
Sentiment envers la Souveraineté de l’IA
Lors d’un récent sondage organisé par Gartner, 40% des 489 répondants ont déclaré que le sentiment de leur organisation envers la souveraineté de l’IA était « positif », tandis que 36% ont indiqué qu’il était « neutre ».
De plus, 66% des répondants se sont déclarés proactifs ou engagés en réponse aux stratégies d’IA souveraine, et 52% ont précisé que leur organisation apportait des changements stratégiques ou de modèle opérationnel en raison de l’IA souveraine.
Recommandations pour les Leaders IT
Les responsables informatiques sont invités à renforcer la modération des résultats en formant des modèles pour concevoir des auto-corrections, à créer des procédures de révision rigoureuses des cas d’utilisation qui évaluent les risques, et à utiliser des tests de contrôle autour des discours générés par l’IA.
Gartner recommande également d’augmenter les tests de modèles et de sandboxing en établissant une équipe interdisciplinaire composée d’ingénieurs décisionnels, de data scientists et de conseillers juridiques pour concevoir des protocoles de pré-test et tester les résultats des modèles contre des sorties conversationnelles indésirables.
