La nécessité d’une gouvernance des données en mode zéro confiance pour protéger les modèles d’IA
Les organisations doivent être moins confiantes envers les données, étant donné la quantité de données générées par l’IA, selon de nouvelles recherches.
Risques croissants avec l’IA générative
À mesure que de plus en plus d’entreprises adoptent l’IA générative, le risque augmente que les futurs modèles de langage (LLMs) soient formés sur des résultats provenant de modèles précédents, ce qui accroît le danger d’un phénomène appelé « effondrement de modèle ».
Recommandations pour une meilleure gestion des données
Pour éviter cela, il est recommandé aux entreprises d’apporter des modifications afin de gérer le risque de données non vérifiées. Cela inclut la nomination d’un responsable de la gouvernance de l’IA pour collaborer étroitement avec les équipes de données et d’analytique, ainsi que l’amélioration de la collaboration entre les départements par le biais de groupes transversaux incluant des représentants de la cybersécurité, des données et de l’analytique. De plus, il est conseillé de mettre à jour les politiques de sécurité et de gestion des données existantes pour faire face aux risques liés aux données générées par l’IA.
Prévisions pour l’avenir
Il est prévu qu’en 2028, 50 % des organisations devront adopter une posture de zéro confiance pour la gouvernance des données en raison de l’énorme vague de données non vérifiées générées par l’IA.
Défis réglementaires
Les exigences peuvent varier considérablement d’une région à l’autre, certaines juridictions cherchant à imposer des contrôles plus stricts sur le contenu généré par l’IA, tandis que d’autres adopteront une approche plus flexible. Un exemple notable des problèmes de gouvernance des données causés par l’IA est survenu lorsqu’une entreprise a dû rembourser une partie des frais d’un contrat gouvernemental en raison d’erreurs générées par l’IA, y compris des citations juridiques inexistantes dans son rapport final.
Conclusion
Les organisations ne peuvent plus faire confiance implicitement aux données ou supposer qu’elles ont été générées par des humains. À mesure que les données générées par l’IA deviennent omniprésentes et indiscernables des données créées par l’homme, il est essentiel d’établir des mesures d’authentification et de vérification pour protéger les résultats commerciaux et financiers.
