Le Débat sur la Sécurité de l’IA a Besoin de Sceptiques de l’IA
Assister à une conférence sur les menaces émergentes de l’intelligence générale artificielle (AGI) en tant que sceptique réaliste ressemble beaucoup à assister à un service religieux pour la foi de quelqu’un d’autre. En tant que personne qui se concentre sur les capacités techniques et les applications réelles des systèmes plutôt que sur la façon dont nous imaginons qu’ils pourraient un jour être utilisés, je rencontre souvent une croyance inébranlable dans des menaces imaginées.
Cette croyance peut changer le monde tout autant que la réalité, il est donc utile de comprendre ces mythes de l’IA et comment ils façonnent nos pensées. Ces mythes animent les discussions sur les risques existentiels et les visions de déplacement économique à court terme où nous envisageons un monde où le travail devient obsolète.
Des Croyances et des Contradictions
Dans les contextes de conférences, les véritables croyants créent un sentiment que c’est une limite à ma propre imagination, un manque de compréhension des développements d’IA les plus avancés, ou même ma capacité d’empathie. Bien qu’il soit facile de rejeter cette foi apparente dans le potentiel perturbateur de l’IA comme un stratagème, la réalité est beaucoup plus complexe.
La communauté des risques de l’IA n’est pas pleine de cyniques et d’escrocs. Ce sont des experts bien intentionnés et des professionnels de divers domaines, tous préoccupés par la trajectoire de l’IA vers une super-intelligence mal définie. Bien que les preuves de cette trajectoire vers l’AGI soient fragiles, l’orientation vers son imagination peut créer un whiplash intellectuel.
La Politique sans Prosélytisme
Si nous avons tous sincèrement l’intention d’anticiper les dommages causés par ces technologies, la priorité devrait être de déchiffrer quels dommages sont les plus probables. La spéculation pure n’est limitée que par les limites de l’imagination, et donc une identification rigoureuse des priorités est primordiale.
Il existe suffisamment de preuves des dommages qui résultent des applications fausses de l’IA. Les biais dans l’automatisation ne sont pas nouveaux et ne sont pas encore résolus. Les conversations concernant le « risque de l’IA » sont soigneusement élaborées pour éviter l’apparence de partisanerie.
Un Vocabulaire Pragmatique
Naviguer dans ce discours a créé des solutions contre-productives pour résoudre les tensions. Ce qui a émergé est un vocabulaire politique destiné à encadrer les choix stratégiques dans l’espace de l’IA, indépendamment de la croyance en l’inévitabilité de systèmes d’IA tout-puissants.
Ce vocabulaire politique est conçu pour créer un terrain d’entente entre différentes perspectives et acteurs. Mais il crée des limites à l’imagination, tandis que le langage en dehors de son champ perturbe la pensée antérieure de manière jugée inutile.
Les Dangers des Cadres AGI
Indépendamment du vocabulaire, de nombreuses conversations sur les risques de l’AGI sont toujours ancrées dans la réalité. Les gens savent que c’est spéculatif et espèrent mener un dialogue de manière à créer des applications utiles de la politique pour le moment présent. Cependant, cela peut souvent être considéré comme inapproprié.
Ces mythes de l’AGI minent le plus grand risque qui émerge de l’IA, qui est une fausse confiance dans la robustesse et la surévaluation des capacités de systèmes extrêmement fragiles.
Risques et Systèmes Socio-Techniques
Les humains sont une partie essentielle de tout système d’IA, et la boîte noire de la prise de décision bureaucratique est le « risque » ultime. Pour examiner ce risque de manière rigoureuse, il est essentiel de reconnaître les limites des outils et notre imagination à leur sujet.
Les mesures politiques établies à l’avance aident à prévenir des catastrophes et des impacts sociaux inutiles. Mais l’ancrage de l’état actuel de la technologie est souvent coupé, et les préoccupations actuelles sont souvent rejetées en cherchant un imaginaire apolitique.
Les mots que nous utilisons ont de l’importance, et il est crucial que nous construisions notre politique et notre infrastructure sociale autour d’évaluations réalistes des outils avec lesquels nous interagissons. Sinon, nous risquons d’être guidés par des mots sans signification qui émergent de rêves.
