Prévisions sur la montée de la gouvernance des données zéro confiance face à l’expansion des données générées par l’IA
Il est prévu qu’en 2028, la moitié des organisations adopteront une approche de gouvernance des données zéro confiance en réponse à l’augmentation du volume de données générées par l’IA non vérifiées. Cette tendance devrait redéfinir la gestion de la fiabilité des données et des risques au sein des entreprises.
Préoccupations liées aux données générées par l’IA
Les données générées par l’IA soulèvent des inquiétudes en matière de confiance et de conformité. Les organisations ne peuvent plus supposer que les données sont générées par des humains ou intrinsèquement fiables. À mesure que le contenu produit par l’IA devient de plus en plus difficile à distinguer de celui créé par des humains, les entreprises devraient introduire des mécanismes d’authentification et de vérification plus stricts pour protéger les résultats commerciaux et financiers.
Il est essentiel d’établir une posture de zéro confiance à mesure que les données générées par l’IA se répandent dans les environnements d’entreprise.
Risques de « l’effondrement du modèle » avec l’adoption de l’IA
Les grands modèles de langage (LLMs) sont généralement formés sur des ensembles de données variés, tels que du contenu Web, des livres, des dépôts de code et des articles de recherche, dont beaucoup contiennent déjà des matériaux générés par l’IA. Si cette tendance se poursuit, les modèles futurs pourraient être de plus en plus formés sur les résultats de systèmes d’IA antérieurs, augmentant ainsi le risque d' »effondrement du modèle », où les réponses s’éloignent de l’exactitude factuelle.
Priorités stratégiques pour les entreprises
- Désigner un responsable de la gouvernance de l’IA : Établir un rôle dédié aux politiques de zéro confiance, à la gestion des risques liés à l’IA et à la conformité, en collaborant étroitement avec les équipes de données et d’analytique.
- Encourager la collaboration interfonctionnelle : Constituer des équipes regroupant des experts en cybersécurité, en données et en analytique, ainsi que d’autres parties prenantes pour réaliser des évaluations des risques des données à l’échelle de l’entreprise.
- Tirer parti des cadres de gouvernance existants : Mettre à jour les politiques de gouvernance des données actuelles pour traiter les nouveaux risques liés au contenu généré par l’IA.
- Adopter une gestion active des métadonnées : Permettre des alertes en temps réel pour des données obsolètes ou non certifiées afin de réduire l’exposition à des informations inexactes ou biaisées.
Conclusion
Il est crucial pour les entreprises de naviguer dans les défis que pose l’IA tout en maximisant ses avantages. La gestion des risques de l’IA et la gouvernance des données deviendront des différenciateurs stratégiques dans les années à venir, alors que les entreprises cherchent à équilibrer innovation et gestion des risques.
Des informations supplémentaires seront partagées lors des sommets sur la sécurité et la gestion des risques prévus cette année.
