Les organisations doivent adopter une gouvernance « zéro confiance » face à l’afflux de données AI menaçant l’intégrité des modèles
Une nouvelle prévision indique que la moitié des entreprises devront adopter des politiques de données en mode zéro confiance d’ici 2028 pour lutter contre l’effondrement des modèles causé par la montée des données synthétiques non vérifiées.
Un changement nécessaire
La moitié des organisations mondiales adopteront une posture de « zéro confiance » pour la gouvernance des données d’ici 2028, selon des prévisions récentes. Ce changement survient alors que le contenu généré par l’IA non vérifié commence à saturer les écosystèmes de données, rendant de plus en plus difficile la distinction entre les informations humaines et synthétiques.
Un responsable a averti que la confiance implicite dans les données n’est plus une stratégie viable. À mesure que les données générées par l’IA deviennent omniprésentes, une posture de zéro confiance—établissant des mesures d’authentification et de vérification rigoureuses—est essentielle pour protéger les résultats commerciaux et financiers.
Les risques de l’effondrement des modèles
La prolifération des données synthétiques pose un risque significatif pour la fiabilité des futurs modèles de langage. Actuellement, les modèles sont formés sur d’énormes quantités de données extraites du web, d’articles de recherche et de code. Cependant, alors que les sorties de l’IA sont de plus en plus réintroduites dans les boucles de formation de nouveaux modèles, l’industrie fait face à un phénomène connu sous le nom d’« effondrement des modèles ».
Cela se produit lorsque les outils d’IA commencent à refléter les erreurs ou les biais de leurs prédécesseurs plutôt que la réalité objective. Malgré ces risques, l’appétit des entreprises pour l’intelligence artificielle reste insatiable.
Recommandations stratégiques
Pour atténuer les risques liés aux données non vérifiées, plusieurs mesures immédiates sont conseillées :
- Nommer un Responsable de la Gouvernance de l’IA : un rôle dédié pour superviser les politiques de zéro confiance et la conformité.
- Collaboration inter-fonctionnelle : aligner les équipes de cybersécurité, d’analyse de données et d’éthique pour réaliser des évaluations de risques complètes.
- Moderniser les pratiques de métadonnées : mettre en œuvre des systèmes automatisés pour identifier et signaler en temps réel le contenu généré par l’IA qui est inexact ou biaisé.
- Adopter des métadonnées actives : utiliser des alertes en temps réel pour les données périmées ou non vérifiées afin d’empêcher le contenu inexact et biaisé d’atteindre des systèmes critiques.
