Exploiter l’IA à usage général : Équilibrer innovation, risque et responsabilité

Quels types de risques sont associés au développement et au déploiement de l’IA à usage général

L’IA à usage général (IAG) présente un éventail de risques, classés ici pour plus de clarté : utilisation malveillante, dysfonctionnements et effets systémiques. Certains préjudices sont déjà apparents, tandis que d’autres émergent à mesure que les capacités de l’IAG progressent.

Risques d’utilisation malveillante

De mauvais acteurs pourraient tirer parti de l’IAG pour nuire à des individus, à des organisations ou à la société dans son ensemble :

• Faux contenu : L’IAG facilite la génération de faux contenus très réalistes pour la pornographie non consensuelle, la fraude financière, le chantage et l’atteinte à la réputation.
• Manipulation : L’IAG permet de créer du contenu persuasif à grande échelle, ce qui peut influencer l’opinion publique et les résultats politiques.
• Cyberattaque : Les systèmes d’IAG montrent des capacités d’automatisation de certaines parties des cyberattaques, ce qui abaisse la barrière pour les acteurs malveillants.
• Attaques biologiques/chimiques : Certaines IAG démontrent des capacités d’aide à la création d’armes biologiques ou chimiques. Une grande entreprise d’IA a récemment revu à la hausse son évaluation de ce type de risque biologique, passant de « faible » à « moyen ».

Risques liés aux dysfonctionnements

Même sans intention malveillante, les systèmes d’IAG peuvent causer des dommages en raison de :

• Problèmes de fiabilité : L’IAG actuelle peut être peu fiable et générer des mensonges dans des domaines critiques tels que les conseils médicaux ou juridiques.
• Biais : L’IAG peut amplifier les biais sociaux et politiques, entraînant une discrimination et des résultats inégaux dans des domaines tels que l’allocation des ressources.
• Perte de contrôle (hypothétique) : Bien que cela ne soit pas plausible actuellement, certains envisagent des scénarios dans lesquels les systèmes d’IAG fonctionnent en dehors du contrôle humain, ce qui justifie une attention accrue.

Risques systémiques

Au-delà des risques liés aux modèles individuels, le déploiement généralisé de l’IAG soulève des préoccupations sociétales plus larges :

• Risques pour le marché du travail : L’IAG pourrait automatiser un large éventail de tâches, ce qui pourrait entraîner des pertes d’emplois qui pourraient ou non être compensées par la création de nouveaux emplois.
• Division mondiale de la R&D : Le développement de l’IAG est concentré dans quelques pays, ce qui soulève des inquiétudes quant aux inégalités mondiales et à la dépendance.
• Concentration du marché : Un petit nombre d’entreprises dominent le marché de l’IAG, ce qui augmente le potentiel de défaillances en cascade dues à des bogues ou à des vulnérabilités.
• Risques environnementaux : L’IAG augmente rapidement la consommation d’énergie, d’eau et de matières premières dans l’infrastructure informatique.
• Risques pour la vie privée : L’IAG peut entraîner des violations involontaires et délibérées de la vie privée des utilisateurs.
• Violations du droit d’auteur : L’IAG apprend et crée des médias expressifs, ce qui remet en question les systèmes existants en matière de consentement des données, de compensation et de contrôle. L’incertitude juridique incite les entreprises d’IA à devenir plus opaques, ce qui entrave la recherche sur la sécurité par des tiers.

La publication de modèles d’IA au grand public sous forme de « modèles à poids ouverts » (où les « poids » internes du modèle sont accessibles au public pour être téléchargés) ajoute une autre couche de complexité. Cela peut augmenter ou diminuer divers risques identifiés en fonction des circonstances.

Quelles techniques existent pour identifier, évaluer et gérer les risques associés à l’IA à usage général

La gestion des risques dans l’IA à usage général en est encore à ses balbutiements, mais des techniques prometteuses émergent pour répondre aux défis uniques inhérents à cette technologie. Imaginez qu’il s’agit de construire des systèmes de sécurité pour quelque chose que nous ne comprenons nous-mêmes que partiellement.

Identification et évaluation des risques

La référence actuelle reste les « vérifications ponctuelles », qui consistent essentiellement à tester le comportement de l’IA dans des scénarios spécifiques. Mais soyons clairs, ces vérifications sont limitées. Il est difficile de prédire une gamme complète de cas d’utilisation pour l’IA à usage général, ou de reproduire les conditions du monde réel dans un laboratoire. L’évaluation des risques nécessite de l’expertise, des ressources et l’accès à des informations sur les systèmes d’IA, que les entreprises d’IA hésitent à partager.

Techniques d’atténuation

Plusieurs approches sont explorées, mais des réserves s’appliquent :

• Formation par l’adversaire : Exposer les modèles à des scénarios conçus pour les faire échouer afin qu’ils puissent s’améliorer. Imaginez que vous enseignez à une IA à repérer les escroqueries, mais que vous ne pouvez pas prédire l’émergence de nouvelles menaces. Des découvertes récentes suggèrent que même avec une formation par l’adversaire, il est généralement facile de contourner ces protections.
• Surveillance et intervention : Il existe des outils pour détecter le contenu généré par l’IA et suivre les performances du système. L’association de mesures techniques à une supervision humaine peut améliorer la sécurité, mais introduit également des coûts et des délais.
• Mesures de confidentialité : Elles vont de la suppression des données de formation sensibles à l’utilisation de technologies améliorant la confidentialité. Cependant, l’adaptation des mesures de confidentialité des données en général semble plus difficile que l’atténuation des problèmes de sécurité.

Considérations économiques et politiques

Des éléments externes tels que la pression concurrentielle et le rythme des progrès ajoutent une autre couche de complexité à l’équation. Un compromis doit être trouvé entre les entreprises qui cherchent à mettre en œuvre ces techniques d’atténuation des risques tout en restant compétitives. Les décideurs ne peuvent pas être sûrs qu’il y aura un changement généralisé de politique qui aidera ou entravera les efforts de sécurité.

Comment les décideurs peuvent-ils au mieux comprendre et répondre aux incertitudes inhérentes à l’IA à usage général

Les décideurs politiques confrontés à l’essor de l’IA à usage général (IAGG) sont confrontés à ce que les experts appellent un « dilemme de la preuve ». Le défi consiste à réglementer une technologie lorsque son avancée rapide dépasse les preuves scientifiques disponibles concernant son potentiel et ses risques réels. Compte tenu de la nature imprévisible du développement de l’IAGG, agir trop tôt avec des mesures préventives pourrait s’avérer inutile, voire contre-productif. D’un autre côté, attendre une preuve définitive des risques pourrait laisser la société vulnérable à des menaces soudaines et graves.

Combler le fossé informationnel

Actuellement, il existe une asymétrie informationnelle importante. Les entreprises d’IA possèdent beaucoup plus d’informations sur le fonctionnement interne de leurs systèmes et leurs risques potentiels que les gouvernements ou les chercheurs indépendants. Ce déséquilibre entrave une gestion efficace des risques à tous les niveaux.

Gérer les pressions concurrentielles

Les décideurs politiques doivent également tenir compte de l’impact des pressions concurrentielles sur les entreprises d’IA et les gouvernements. Une concurrence intense peut dissuader une gestion complète des risques au sein des entreprises, tandis que les gouvernements pourraient ne pas accorder la priorité aux politiques de sécurité s’ils perçoivent un conflit avec le maintien d’un avantage concurrentiel dans le paysage mondial de l’IA.

Actions clés pour les décideurs politiques :

• Systèmes d’alerte précoce : Soutenir le développement et le déploiement de systèmes d’alerte précoce capables d’identifier les risques émergents associés à l’IAGG.
• Cadres de gestion des risques : Encourager l’adoption de cadres de gestion des risques qui déclenchent des mesures d’atténuation spécifiques en fonction de nouvelles preuves de risques.
• Mesures de transparence : Explorer des mécanismes pour accroître la transparence autour du développement et du déploiement de l’IAGG, tout en reconnaissant les préoccupations commerciales et de sécurité légitimes.
• Preuve de sécurité : Envisager d’exiger des développeurs qu’ils fournissent une preuve de sécurité avant de publier de nouveaux modèles, en promouvant une approche proactive de la gestion des risques.

Domaines de recherche supplémentaires :

Les décideurs politiques devraient encourager la recherche sur les questions essentielles suivantes :

• Rythme des progrès : À quelle vitesse les capacités de l’IAGG progresseront-elles, et comment les progrès peuvent-ils être mesurés de manière fiable ?
• Seuils de risque : Quels sont les seuils de risque raisonnables pour déclencher des mesures d’atténuation ?
• Accès à l’information : Comment les décideurs politiques peuvent-ils le mieux accéder aux informations sur l’IAGG pertinentes pour la sécurité publique ?
• Évaluation des risques : Comment les chercheurs, les entreprises et les gouvernements peuvent-ils évaluer de manière fiable les risques du développement et du déploiement de l’IAGG ?
• Fonctionnement interne des modèles : Comment les modèles d’IAGG fonctionnent-ils en interne ?
• Conception fiable : Comment l’IAGG peut-elle être conçue pour se comporter de manière fiable ?

En fin de compte, répondre aux incertitudes entourant l’IAGG exige un équilibre délicat. Les décideurs politiques doivent encourager l’innovation tout en se protégeant contre les préjudices potentiels, en naviguant dans un paysage complexe avec des informations limitées et une technologie en évolution rapide.

Quels facteurs, au-delà des aspects techniques, influencent les progrès et l’application de l’IA à usage général ?

En tant que journaliste technologique spécialisé dans la gouvernance de l’IA, on me pose souvent des questions sur les facteurs qui influencent la progression et l’adoption de l’IA à usage général, au-delà des simples capacités techniques. Il s’agit d’un domaine crucial à comprendre pour les professionnels du droit et les analystes politiques, car ces facteurs façonnent considérablement le paysage des risques et de la réglementation.

Influenceurs non techniques du progrès

Bien que les améliorations en matière de calcul, de disponibilité des données et de conception algorithmique soient essentielles aux progrès de l’IA, les facteurs non techniques exercent une influence considérable :

• Réglementations gouvernementales : Les approches adoptées par les gouvernements pour réglementer l’IA auront probablement un impact sur la vitesse de développement et d’adoption de l’IA à usage général.
• Facteurs économiques : Le rythme des progrès de l’IA à usage général crée un « dilemme de la preuve » pour les décideurs.
  L’évolution rapide des capacités permet à certains risques d’émerger par bonds.
• Dynamiques sociétales : Les facteurs sociétaux rendent la gestion des risques difficile dans le domaine de l’IA à usage général.

Le dilemme de la preuve pour les décideurs politiques

Les progrès potentiellement rapides et inattendus de l’IA à usage général présentent un défi unique en matière de gouvernance. Les décideurs politiques sont confrontés au « dilemme de la preuve ». Ils doivent peser les avantages et les risques potentiels sans disposer d’un vaste corpus de preuves scientifiques, en raison du rythme rapide des améliorations technologiques. Cela conduit à un équilibre crucial :

• Mesures préventives : Agir rapidement sur des preuves limitées pourrait être inefficace ou s’avérer finalement inutile.
• Action retardée : Attendre une preuve définitive du risque peut rendre la société vulnérable à des menaces émergentes rapidement, rendant toute atténuation efficace impossible.

Pour résoudre ce problème, certaines solutions sur lesquelles les entreprises et les gouvernements travaillent sont :

• Systèmes d’alerte précoce : Surveiller les risques potentiels en suivant des mesures spécifiques lorsque de nouvelles preuves de risques apparaissent.
• Cadres de gestion des risques : Exiger des développeurs qu’ils fournissent des preuves de sécurité avant de publier un nouveau modèle.

Défis liés à l’asymétrie de l’information

Un défi majeur est le fossé informationnel : les entreprises d’IA possèdent souvent beaucoup plus de connaissances sur leurs systèmes que les gouvernements ou les chercheurs indépendants. Ce manque de transparence complique une gestion efficace des risques.

• Partage limité des données : Les entreprises restreignent souvent l’accès aux informations détaillées sur les modèles en raison de préoccupations commerciales et de sécurité.
• Recherche entravée : L’opacité entrave la recherche indépendante sur la sécurité de l’IA.

Pressions concurrentielles

Outre les défis réglementaires et informationnels, les entreprises et les gouvernements spécialisés dans l’IA sont fréquemment soumis à des pressions concurrentielles qui affectent la priorité accordée à la gestion des risques liés à l’IA :

• Relégation de la gestion des risques : La pression concurrentielle peut inciter les entreprises à investir moins de temps ou de ressources dans la gestion des risques qu’elles ne le feraient autrement.
• Conflits dans les politiques : Les gouvernements peuvent investir moins dans les politiques de soutien à la gestion des risques dans les cas où ils perçoivent des compromis entre la concurrence internationale et la réduction des risques.