Conflit entre les entreprises d’IA et le Pentagone sur l’utilisation éthique de leur technologie
La bataille éthique continue cette semaine entre des entreprises technologiques et le Pentagone concernant l’utilisation de l’intelligence artificielle.
Négociations et préoccupations éthiques
Le directeur général d’une entreprise d’IA a déclaré avoir négocié des garanties éthiques pour empêcher l’armée américaine d’utiliser sa technologie pour des armes autonomes ou pour une surveillance illimitée des citoyens. Il a exprimé sa préférence pour aller en prison plutôt que de suivre un ordre qu’il considérerait comme inconstitutionnel.
Cependant, certains clients de cette entreprise ne sont pas convaincus par ces assurances éthiques, entraînant l’annulation de plus de 1,5 million d’abonnements à son service en ligne après l’annonce d’un contrat de 200 millions de dollars.
Réactions des entreprises du secteur
Ce dilemme fait partie d’une lutte plus vaste pour les entreprises d’intelligence artificielle qui tentent d’imposer des limites sur l’utilisation de leur technologie par le gouvernement américain, en particulier par le ministère de la Défense et la NSA.
Peu après l’annonce, le gouvernement a suspendu ses affaires avec un concurrent, qui a refusé d’accorder un accès illimité à son intelligence artificielle pour des armes autonomes ou une surveillance de masse des citoyens. Ce concurrent a affirmé qu’il ne pouvait pas, en toute conscience, accéder à une demande de suppression des précautions de sécurité.
Conséquences et implications
Le ministère de la Défense a exigé un standard contractuel plus permissif, mais le gouvernement a finalement annulé le contrat de 200 millions de dollars avec le concurrent, le qualifiant de risque pour la chaîne d’approvisionnement en matière de sécurité nationale.
Le résultat a été que l’application de ce concurrent a dépassé celle de l’autre en termes de téléchargements après son exclusion. Une publication virale sur les réseaux sociaux a commenté que la première entreprise avait été « anéantie pour avoir des principes éthiques ».
Conclusion
Le directeur général de l’entreprise ayant remporté le contrat a souligné que les « lignes rouges » négociées dans son contrat avec le Pentagone empêcheraient les problèmes soulevés par le concurrent. Il a décrit cet accord comme un moyen de « dé-escalader » les tensions entre l’industrie technologique et le gouvernement. Cependant, il reconnaît que sa capacité à contrôler l’utilisation de leurs outils par l’armée est limitée, tandis que des responsables de la Défense soutiennent que des accords flexibles avec les entreprises technologiques sont essentiels pour rester compétitifs sur la scène mondiale.
