La tentative des Nations Unies de réguler l’IA pourrait compliquer la conformité des entreprises
Les Nations Unies ont lancé un appel aux pays pour qu’ils s’accordent sur ce qu’elles appellent des lignes rouges de l’IA : des limites à ne pas franchir pour l’intelligence artificielle, qui devraient être établies d’ici la fin de 2026 afin de prévenir les risques les plus graves pour l’humanité et la stabilité mondiale.
Dans une déclaration, l’ONU a indiqué que, sans règles internationales contraignantes, l’humanité fait face à des risques croissants allant des pandémies conçues et de la désinformation à grande échelle aux menaces à la sécurité mondiale et aux violations systématiques des droits de l’homme.
Les interdictions proposées par l’ONU
Le document de questions-réponses de l’ONU concernant cette initiative propose une large gamme de possibles interdictions sur l’IA, notamment :
- Interdiction d’utilisation dans le commandement et le contrôle nucléaires
- Armes autonomes létales
- Surveillance de masse
- Impersonation humaine par des systèmes d’IA qui induisent les utilisateurs en erreur
- Utilisation malveillante de la cybersécurité, y compris le déploiement non contrôlé d’agents cyberoffensifs
- Auto-réplication autonome sans autorisation explicite de l’homme
- Développement de systèmes d’IA qui ne peuvent pas être immédiatement arrêtés si un contrôle humain significatif est perdu
L’ONU a insisté sur le fait que tout futur traité devrait reposer sur trois piliers : une liste claire d’interdictions, des mécanismes de vérification robustes et audités, et la nomination d’un organe indépendant pour superviser la mise en œuvre.
Les préoccupations des analystes
De nombreux analystes s’inquiètent de la faisabilité et de l’applicabilité de ces restrictions mondiales. Les préoccupations se concentrent sur la question de savoir si suffisamment de pays soutiendront cette initiative et si le délai de mise en œuvre d’ici la fin de 2026 est suffisant pour faire une différence.
Ils notent que l’applicabilité des règles aura un impact sur les entreprises, principalement à travers les règles de conformité, mais que les exigences de l’ONU visent principalement les hyperscalers et autres fournisseurs d’IA, plutôt que leurs clients.
Les règles d’IA qui pourraient affecter les entreprises pourraient inclure des limites sur l’utilisation de l’IA pour filtrer les candidats à un emploi, prendre des décisions de prêt ou former des modèles sur des données clients confidentielles.
Les entreprises devront se conformer si elles opèrent dans un pays qui a signé l’accord de l’ONU. Cependant, ces pays, comme l’Allemagne, le Canada, la Suisse ou le Japon, auront probablement leurs propres règles de conformité en matière d’IA, rendant ainsi le mandat de l’ONU potentiellement irrélevant.
Conclusion
Bien que l’intention derrière l’initiative des Nations Unies soit applaudie, des doutes persistent quant à sa viabilité et son efficacité. La mise en œuvre rapide des restrictions est nécessaire, mais le processus bureaucratique pourrait freiner toute avancée significative.
