Prévenir la Politisation de la Sécurité de l’IA
Dans la société américaine contemporaine, les questions deviennent presque automatiquement politisées. Des sujets comme la santé publique, qui étaient historiquement neutres sur le plan politique, sont désormais au cœur d’une extrême animosité politique.
Heureusement, la sécurité de l’IA a jusqu’à présent largement échappé à cette tendance. Bien qu’il existe des mouvements vocaux de chaque côté de la question, les principaux partis politiques n’ont pas de positions claires à ce sujet.
Si la sécurité de l’IA devenait une question partisane, cela pourrait entraîner de très mauvaises conséquences. Dans le pire des cas, si un parti devenait complètement opposé aux mesures de sécurité de l’IA, il serait difficile d’éviter les dangers liés aux modèles autonomes ou aux modèles permettant aux acteurs malveillants d’agir. Ainsi, prévenir la politisation de la sécurité de l’IA est une priorité urgente.
Principaux Enseignements
Voici les suggestions les plus importantes ou sous-explorées :
- Avoir une relation neutre avec la communauté de l’éthique de l’IA, sans faire partie du même mouvement ni paraître opposé à celui-ci.
- Créer une base de données d’incidents confidentielle pour les laboratoires d’IA.
- Organiser des forums d’experts délibératifs.
- Obtenir des conseils supplémentaires d’experts sur la politisation.
À Quel Point la Politisation Serait-elle Grave ?
Le danger de la politisation est que l’opposition à la sécurité de l’IA devienne une partie de l’idéologie d’un parti. Cependant, à quel point pouvons-nous nous attendre à ce que cette opposition soit extrême et dans quelle mesure est-il probable qu’elle soit mise en œuvre dans la législation ?
Un cadre pertinent est celui de Baumgartner & Jones sur l’équilibre ponctué. L’idée de base est que les questions peuvent être dans l’un de ces deux états :
- Sous-système politique fermé : Un petit ensemble d’acteurs (agences, comités, groupes d’intérêt) domine une question, la définissant en termes technocratiques et non controversés. Dans cette phase, de petits ajustements incrémentaux sont mis en œuvre dans la politique.
- Arena macropolitique : La question devient un sujet de débat partisan. Des changements politiques soudains et dramatiques se produisent sur la base de justifications idéologiques.
Des événements dramatiques, le recadrage médiatique avec un nouveau récit moral ou symbolique, et des mouvements sociaux peuvent déplacer une question vers l’arène macropolitique.
Prévenir la Politisation
Que pouvons-nous faire pour rendre la politisation moins probable ? Voici quelques suggestions :
Cadre et Présentation
- Utiliser un langage clair et universel : Présenter la question en termes simples, en faisant allusion à des valeurs partagées comme la préoccupation pour les générations futures.
- Éviter l’association avec des questions de culture existantes : Il est important d’éviter de cadrer la sécurité de l’IA dans des termes comme « socialisme contre capitalisme ».
- Encourager une large gamme de voix pour convenir d’un cadre afin d’éviter qu’un groupe ne devienne le « propriétaire » symbolique de la sécurité de l’IA.
Mesures Objectifs
Des évaluations de sécurité standardisées fournissent des données objectives qui peuvent éclairer les discussions.
Pour prévenir la politisation, il est également crucial de partager les informations sur la sécurité entre les laboratoires d’IA et avec les politiciens, et d’informer le public sur l’état actuel des affaires.
Efforts des Insiders
Lorsque des solutions et des normes peuvent être élaborées par des experts avant qu’une question n’entre dans l’arène politique, il y a de meilleures chances d’éviter la politisation. Des forums d’experts délibératifs peuvent aider à façonner le cadre du problème et à fournir une légitimité pour les politiques ultérieures.
Conclusion
La prévention de la politisation de la sécurité de l’IA est essentielle pour garantir que cette question cruciale reste abordée de manière rationnelle et scientifique, plutôt que de devenir un champ de bataille partisan. Il est impératif que les communautés d’experts et les acteurs politiques travaillent ensemble pour naviguer dans ce domaine délicat.
