Façonner les normes de l’IA pour protéger les plus vulnérables des États-Unis
Les récentes politiques de l’administration Trump ont perturbé la vie de nombreux groupes aux États-Unis, mais une industrie trouve son équilibre : l’industrie technologique. Des dirigeants de Big Tech se sont retrouvés au premier plan lors de l’inauguration, tandis que des décrets exécutifs ont cherché à accélérer l’adoption de l’intelligence artificielle. L’annonce du 3 juin par le secrétaire au Commerce, Howard Lutnick, de réformer l’Institut national des normes et de la technologie (NIST) en un Centre américain pour les normes et l’innovation en IA (CAISI) en est un exemple.
Les nouvelles missions du CAISI
Le but du CAISI est de renforcer la capacité du Commerce à comprendre les capacités de l’IA et à identifier les menaces et vulnérabilités, qu’elles soient nationales ou étrangères. Avec cette nouvelle marque, le CAISI met l’accent sur la sécurité nationale et la compétitivité américaine, en centrant la recherche sur l’évaluation des capacités américaines en matière d’IA par rapport à nos concurrents internationaux.
Contrairement à son prédécesseur, le USAISI, qui cherchait à promouvoir la safety science de l’IA à travers une collaboration multipartite, le CAISI devient le « point de contact principal de l’industrie ». La tension entre les intérêts de l’industrie et ceux de la société civile est palpable, car il devient de plus en plus difficile d’intégrer les préoccupations de la société civile dans les résultats de NIST.
Les préoccupations de biais et de discrimination
La nécessité d’aborder les problèmes de biais et de discrimination a été soulevée dès le début. Lors d’un atelier public en novembre 2023, il a été demandé que ces préoccupations soient traitées dans tous les groupes de travail, mais cela n’a pas été fait. La transformation du groupe de travail Société et Technologie en un groupe de Sécurité et Safety illustre la lutte entre les efforts de sécurité de l’IA et les besoins de la société.
Cette transformation signale un changement de priorités dans la recherche sur l’IA, où l’accent est mis sur l’innovation, laissant de côté des recherches bien documentées sur les dommages causés par l’IA.
Collaboration internationale et vulnérabilités
À une époque où la collaboration internationale était essentielle pour avancer la science de la sécurité de l’IA, le CAISI semble maintenant s’opposer à cette idée. Le centre se concentre sur la domination américaine des normes internationales, sans s’intéresser à la collaboration ou à la capture des voix internationales.
Les agendas de recherche des pays sont désormais gardés, axés sur les menaces qui pèsent sur la sécurité nationale, tandis que les problèmes de biais et de discrimination sont relégués au second plan. Cela détourne l’attention des recherches fondamentales nécessaires pour protéger les populations vulnérables.
Conséquences pour l’avenir de l’IA
Le changement du USAISI est révélateur des priorités industrielles et de sécurité nationale qui domineront la politique américaine en matière d’IA dans les années à venir. À une époque où une collaboration multidisciplinaire pourrait faire progresser notre compréhension de l’IA, les gouvernements et les entreprises technologiques semblent unis dans une quête de pouvoir, au détriment des préoccupations sociétales.
Un bon gouvernement démocratique est celui où plusieurs parties prenantes ont du pouvoir et sont entendues, y compris le gouvernement, l’industrie, le monde académique, la société civile et le public. Actuellement, l’avenir de la science et de la responsabilité en matière d’IA est en jeu, tandis que l’industrie prend la place qui lui revient.
