Qu’est-ce que le niveau de sécurité de l’IA (ASL) et où en sommes-nous actuellement ?
Le niveau de sécurité de l’IA (ASL) est une approche structurée qui segmente les protocoles de sécurité de l’IA en différentes étapes. Chaque ASL marque un niveau distinct de capacité et de risque de l’IA, allant de l’ASL-1, où se trouvent des modèles plus petits avec un risque minimal, à l’ASL-4, où les choses deviennent spéculatives et, franchement, un peu inquiétantes.
La préoccupation que suscite ce sujet trouve ses racines dans des films de science-fiction comme Terminator, mais les derniers modèles d’IA deviennent de plus en plus autonomes, d’où le débat actuel.
Naviguer dans les ASL ressemble à la gestion d’une entreprise ou à l’éducation d’un enfant. Chaque étape nécessite une approche adaptée, des mesures plus strictes et beaucoup plus de prudence. Cependant, ce n’est pas que du pessimisme. Il s’agit de construire une feuille de route qui prend en compte à la fois la sécurité et la croissance, une dualité que l’on peut apprécier tant dans la vie professionnelle que personnelle.
Voici un aperçu rapide des 4 ASL ou niveaux de sécurité de l’IA :
1. ASL-1 : Ce niveau implique des modèles d’IA plus petits et plus simples avec un risque minimal. C’est le point de départ, où des vérifications de sécurité de base sont en place, mais la technologie elle-même est relativement peu risquée.
2. ASL-2 : À ce stade, des modèles d’IA plus grands et plus complexes sont introduits, nécessitant des protocoles de sécurité renforcés pour garantir une utilisation responsable. Ces modèles peuvent gérer plus de tâches mais restent largement contrôlables et prévisibles.
3. ASL-3 : Ce niveau signifie un risque considérablement plus élevé à mesure que les modèles d’IA deviennent de plus en plus puissants. Des mesures de sécurité et de sûreté plus sophistiquées sont essentielles car la technologie est désormais capable de résoudre des problèmes complexes et peut poser des risques imprévus si elle est mal utilisée ou incontrôlée.
4. ASL-4+ (Spéculatif) : Le niveau le plus élevé, l’ASL-4, est celui où la technologie de l’IA entre dans un territoire spéculatif et hautement autonome. Les modèles à ce niveau peuvent commencer à montrer des comportements autonomes, prenant des décisions indépendantes et contournant potentiellement certaines vérifications de sécurité, créant ainsi des risques complexes et sans précédent.
Où en sommes-nous actuellement et des actions doivent-elles être prises immédiatement ?
Selon une récente interview, nous nous trouvons actuellement à l’ASL-2 et l’ASL-3 sera nécessaire d’ici décembre 2024, cette année ou l’année prochaine. Il est important de noter que cette interview est assez longue et qu’il est essentiel de se concentrer sur les parties pertinentes.
Ainsi, des régulations sur l’IA pourraient être absolument nécessaires. Les principales raisons de leur nécessité sont les suivantes :
1. Capacité accrue et conséquences imprévues
ASL-3 : À ce stade, les modèles d’IA sont suffisamment puissants pour gérer des tâches plus complexes, mais avec cette capacité vient un risque plus élevé. Les actions de l’IA peuvent être plus difficiles à prédire, rendant difficile le contrôle de tous les résultats potentiels. L’IA de l’ASL-3 peut être mal utilisée par des humains (mauvais acteurs) à des fins inattendues, nécessitant des protocoles de sécurité stricts.
ASL-4 : À l’ASL-4, les modèles d’IA atteignent un niveau d’intelligence où ils peuvent potentiellement agir de manière autonome. Ils peuvent même afficher des comportements comme le « sandbagging » (minimiser leurs véritables capacités) ou tromper les tests de sécurité. Ce niveau de complexité nécessite des techniques novatrices pour garantir que l’IA se comporte comme prévu, même dans des situations imprévisibles.
2. Sur quoi devraient se concentrer les régulations ou mesures de sécurité ?
ASL-3 : L’accent ici est principalement mis sur l’utilisation abusive par des humains. Étant donné que l’IA n’est pas encore pleinement autonome, les protocoles de sécurité ciblent la manière dont les gens pourraient exploiter les capacités de l’IA. Cela nécessite la conception de filtres, de systèmes de surveillance et de contrôles d’accès utilisateur qui préviennent les abus tout en permettant des applications productives.
ASL-4 : La sécurité devient encore plus difficile. Maintenant, les protocoles doivent empêcher l’IA elle-même d’agir de manière nuisible. Cela implique des techniques d’interprétabilité avancées qui vont au-delà des contrôles de surface. Les développeurs ont besoin de moyens pour « examiner » l’IA afin de vérifier qu’elle fonctionne dans des limites sûres, en essence une forme d’auto-audit de l’IA.
En conclusion, cette discussion sur les niveaux de sécurité de l’IA est opportune et devrait se dérouler de façon franche au niveau gouvernemental. L’IA change certainement notre manière de travailler et il est temps de déterminer si les modèles sont utilisés à des fins appropriées.
