Quel est l’objectif et la portée globale de l’étude
Ce document présente une analyse d’éléments communs trouvés dans douze politiques de sécurité de l’IA frontière actuellement publiées. Ces politiques, établies par des entreprises d’IA de premier plan, sont des protocoles conçus pour atténuer les risques associés au développement et au déploiement de modèles d’IA de pointe, dans le but de maintenir ces risques à un niveau acceptable. Cette analyse s’appuie sur des travaux antérieurs, en examinant si les neuf politiques supplémentaires publiées au-delà de l’ensemble initial d’Anthropic, OpenAI et Google DeepMind intègrent les mêmes éléments clés initialement identifiés. En fin de compte, le rapport vise à offrir un aperçu des meilleures pratiques actuelles pour la gestion des risques graves liés à l’IA en analysant ces éléments partagés dans le contexte d’informations générales et d’extraits de politiques réels. L’étude vise à favoriser une compréhension plus approfondie de la manière dont l’industrie de l’IA aborde la tâche essentielle de garantir l’avancement sûr et responsable de la technologie de l’IA frontière.
La portée de l’étude englobe un examen détaillé de plusieurs composantes essentielles présentes dans les politiques de sécurité. Ces composantes comprennent les seuils de capacité qui définissent les points auxquels des capacités d’IA spécifiques poseraient des risques graves et nécessiteraient de nouvelles stratégies d’atténuation. La sécurité des poids du modèle est également examinée, en particulier les mesures de sécurité de l’information destinées à empêcher l’accès non autorisé aux poids du modèle. L’étude examine en outre les mesures d’atténuation du déploiement du modèle – des mesures d’accès et au niveau du modèle conçues pour empêcher l’utilisation abusive de capacités d’IA dangereuses. Les conditions d’arrêt des plans de déploiement et de développement sont également analysées, en se concentrant sur les engagements des entreprises à cesser leurs activités si des capacités d’IA préoccupantes émergent avant la mise en place de mesures d’atténuation adéquates. L’exhaustivité de la recherche de capacités lors des évaluations des modèles est également étudiée, ainsi que le calendrier et la fréquence spécifiés de ces évaluations. Enfin, l’étude se penche sur les mécanismes de responsabilisation, en particulier les mécanismes de surveillance internes et externes visant à encourager la bonne exécution des politiques de sécurité, et l’intention déclarée de mettre à jour les politiques au fil du temps à mesure que la compréhension des risques liés à l’IA évolue.
Nuances des politiques
Tout en visant une vue d’ensemble complète des éléments communs, l’étude reconnaît également les approches et les différences uniques que l’on retrouve dans chaque politique de sécurité individuelle. Certaines politiques mettent l’accent sur des risques spécifiques à un domaine, comme l’accent mis par Nvidia et Cohere sur des applications spécifiques, plutôt que de se concentrer uniquement sur le potentiel de dommages catastrophiques. De même, l’étude reconnaît les nuances dans les différentes méthodes d’évaluation, où certaines politiques s’appuient fortement sur des benchmarks quantitatifs, tandis que d’autres privilégient les évaluations qualitatives. Reconnaissant ces variations, l’analyse présente une compréhension holistique des diverses stratégies employées par les développeurs d’IA, fournissant des informations précieuses sur l’état actuel des pratiques de sécurité dans le domaine de l’IA frontière.
Pourquoi est-il nécessaire de décrire les composantes communes des politiques de sécurité de l’IA ?
La prolifération des politiques de sécurité de l’IA de pointe parmi les principaux développeurs d’IA souligne une reconnaissance commune des risques potentiels associés à des modèles d’IA de plus en plus performants. Décrire les composantes communes de ces politiques constitue une étape cruciale pour favoriser une compréhension collective de l’état actuel de la gestion des risques liés à l’IA. En identifiant les éléments partagés, tels que les seuils de capacité, la sécurité des poids des modèles, les mesures d’atténuation du déploiement et les stratégies d’évaluation, nous pouvons commencer à établir une base de référence pour le développement et le déploiement responsables de l’IA. Cette compréhension permet aux parties prenantes, notamment les décideurs politiques, les chercheurs et le public, d’évaluer de manière critique l’exhaustivité et la rigueur des politiques individuelles et d’identifier les lacunes ou les domaines où des améliorations supplémentaires sont nécessaires. Une telle analyse comparative peut considérablement éclairer le dialogue en cours sur la sécurité de l’IA et contribuer à l’élaboration de mesures de sécurité plus robustes et efficaces.
Pourquoi un langage commun est important.
De plus, une articulation claire des composantes communes contribue à promouvoir la cohérence et l’interopérabilité entre les différents efforts de développement de l’IA. Bien que chaque politique puisse refléter une approche unique de la gestion des risques liés à l’IA, un vocabulaire et une compréhension partagés des concepts fondamentaux peuvent faciliter la collaboration et le partage des connaissances entre les développeurs. Ceci est particulièrement important étant donné la nature mondiale de la recherche en IA et la nécessité d’une action coordonnée pour faire face aux risques potentiels. Un cadre normalisé permet une comparaison plus claire des différentes approches, mettant en évidence les meilleures pratiques et facilitant l’adoption de stratégies d’atténuation des risques plus efficaces dans l’ensemble du secteur. Il évite la réinvention et facilite l’utilisation des produits de différentes organisations.
Enfin, la documentation et la diffusion de ces composantes communes constituent une ressource précieuse pour les organisations qui commencent tout juste à formuler leurs propres politiques de sécurité de l’IA. En fournissant un aperçu clair des éléments essentiels, elle abaisse la barrière à l’entrée pour les organisations qui cherchent à adopter des pratiques de développement de l’IA responsables. Ceci est particulièrement important pour les organisations plus petites ou moins bien dotées qui n’ont peut-être pas l’expertise ou les ressources nécessaires pour élaborer des politiques complètes à partir de zéro. Fournir une structure bien définie, comprenant des éléments communs et une justification, garantit que l’industrie évolue vers des pratiques de développement plus sûres dans l’ensemble.
Quels critères définissent les risques potentiellement graves liés aux modèles d’IA ?
L’analyse des politiques de sécurité de l’IA de pointe révèle que plusieurs critères sont systématiquement utilisés pour définir les risques potentiellement graves associés à ces modèles avancés. Ces critères tournent généralement autour des capacités des modèles eux-mêmes, en particulier leur potentiel de mauvaise utilisation et l’impact qui en résulte. Un élément clé est l’établissement de *seuils de capacité*, qui signifient des niveaux spécifiques de fonctionnalité de l’IA qui, s’ils sont atteints, poseraient un risque significatif et nécessiteraient la mise en œuvre de stratégies d’atténuation robustes. Ces seuils sont souvent comparés à des modèles de menace plausibles, qui décrivent des scénarios prospectifs où l’IA pourrait être exploitée pour causer des dommages considérables. Par exemple, le dépassement d’un seuil de capacité prédéfini dans un domaine biologique pourrait indiquer le potentiel de l’IA à faciliter le développement d’armes biologiques, déclenchant ainsi des protocoles de sécurité stricts.
De plus, ces politiques de sécurité mettent communément l’accent sur l’importance des modèles de menace pour déterminer les seuils de capacité. Ceux-ci incluent généralement l’aide au développement d’armes biologiques, l’orchestration ou l’amélioration de cyberinfractions, et l’automatisation de la recherche et du développement en IA, ce qui pourrait accélérer la prolifération de capacités d’IA potentiellement dangereuses. Les évaluations de ces modèles sont fréquemment conçues pour tenir compte des capacités habilitantes, telles que la recherche et le développement automatisés en IA, l’utilisation d’outils ou l’ingénierie des invites, qui pourraient accroître le nombre de cas potentiels de mauvaise utilisation au-delà des capacités du modèle de base. Cela comprend l’évaluation de la compétence du modèle dans des tâches spécifiques pertinentes pour ces modèles de menace, en tenant compte des améliorations potentielles post-formation comme le réglage fin, l’exécution de code, l’utilisation d’outils ou la recherche sur le Web pour s’assurer que l’évaluation saisit tout le potentiel du modèle.
Méthodologies d’évaluation des risques
Un autre aspect crucial de la définition des risques potentiellement graves est l’évaluation et la surveillance continues des modèles d’IA tout au long de leur cycle de vie. Cela implique non seulement des évaluations avant le déploiement, mais aussi des évaluations continues pendant la formation et une surveillance post-déploiement pour détecter toute capacité ou vulnérabilité émergente. La fréquence et l’intensité de ces évaluations sont souvent déterminées par le rythme des progrès des capacités du modèle, avec des évaluations plus fréquentes déclenchées par des avancées significatives ou des percées algorithmiques. L’établissement d’indicateurs précis et de seuils d’alerte, qui sont régulièrement revus et mis à jour en fonction de l’évolution des risques et des progrès de l’atténuation, est un élément essentiel dans la définition d’un risque potentiellement plus élevé qui incite à se concentrer davantage sur l’identification et la résolution des capacités potentiellement dangereuses. Cette approche proactive garantit que les risques potentiels sont identifiés et traités rapidement, empêchant le déploiement avant la mise en place de mesures de protection appropriées et arrêtant le développement si les mesures de sécurité nécessaires ne peuvent être mises en œuvre.
Quelles mesures sont prises pour empêcher l’accès non autorisé aux poids du modèle
Un élément essentiel des politiques de sécurité de l’IA de pointe consiste en des mesures robustes conçues pour empêcher l’accès non autorisé aux poids du modèle. Le consensus entre les politiques examinées est que, à mesure que les modèles d’IA développent des capacités préoccupantes, des mesures de sécurité de l’information de plus en plus strictes sont essentielles pour prévenir à la fois le vol et les divulgations involontaires. Cet accent découle de la reconnaissance que des acteurs malveillants acquérant les poids du modèle pourraient les utiliser à mauvais escient pour infliger des dommages graves. La sophistication des auteurs de menaces potentiels varie, allant des pirates informatiques opportunistes aux opérations de pays dotés de ressources importantes, ce qui nécessite une approche multicouche des protocoles de sécurité.
Mesures de sécurité progressives
Les mesures de sécurité spécifiques sont généralement mises en œuvre en niveaux croissants, proportionnels aux capacités d’un modèle et au risque perçu. Ces niveaux correspondent souvent aux cadres existants qui fournissent des niveaux de contrôles de sécurité recommandés. Par exemple, les contrôles spécifiques peuvent inclure des restrictions d’accès strictes, une journalisation et une surveillance améliorées, des contrôles de sécurité périmétriques avancés, des systèmes de détection et de réponse aux points d’extrémité et l’application d’une authentification à plusieurs facteurs dans l’ensemble de l’environnement de développement. Des tests d’intrusion de sécurité avancés sont souvent utilisés pour simuler des attaques, testant la robustesse des garanties existantes. Les mesures de protection des données, telles que le chiffrement et l’utilisation de jetons de sécurité matériels, sont également courantes pour la sauvegarde des données du modèle et des points de contrôle intermédiaires. De nombreuses politiques soulignent l’importance du cloisonnement interne pour restreindre l’accès aux environnements de formation LLM, au code et aux paramètres uniquement au personnel autorisé ayant les niveaux d’autorisation appropriés. Les poids du modèle sont souvent stockés dans des réseaux isolés qui répondent à des exigences de sécurité strictes.
Plusieurs développeurs d’IA font référence au rapport de la RAND Corporation, « Securing AI Model Weights ». Les entreprises adoptent les principes décrits dans ce cadre, avec des orientations spécifiques sur le niveau de sécurité recommandé pour les modèles dotés de certaines capacités. L’accent est mis sur le respect des cadres et pratiques de sécurité standard de l’industrie, tels que le cadre MITRE ATT&CK, et les meilleures pratiques de gouvernance des risques. De plus, ces politiques visent à garantir des niveaux d’assurance équivalents, même lorsque les modèles sont déployés dans des environnements tiers avec des garanties de sécurité potentiellement différentes. Si des mesures d’atténuation adéquates ne peuvent pas être mises en œuvre rapidement, les politiques imposent la suspension du développement du modèle afin d’éviter la progression de capacités potentiellement nuisibles sans un environnement sécurisé en place. L’efficacité des mesures d’atténuation du déploiement repose sur le fait que les modèles restent en toute sécurité en la possession de développeurs autorisés, soulignant ainsi l’importance des mesures de sécurité de l’information. L’objectif primordial est de protéger ces puissants systèmes d’IA contre une utilisation abusive potentielle par des entités hostiles qui pourraient chercher à exploiter leurs fonctionnalités avancées à des fins néfastes.
Quelles stratégies de déploiement sont employées pour réduire les risques liés aux capacités dangereuses de l’IA ?
Les politiques de sécurité de l’IA de pointe mettent l’accent sur une approche multicouche pour atténuer les risques associés au déploiement. Ces stratégies englobent un éventail de techniques, allant de la formation des modèles à refuser les requêtes nuisibles à une surveillance plus sophistiquée des résultats et à une formation contradictoire. Le principe sous-jacent est que les mesures de protection doivent être proportionnelles au préjudice potentiel qu’un modèle pourrait causer. À mesure que les modèles deviennent plus puissants et capables, ils attirent inévitablement des tentatives plus déterminées et riches en ressources pour contourner les restrictions ou exploiter leurs capacités. Par conséquent, les méthodes initiales, telles que le refus de nuisance de base, sont complétées par des équipes rouges d’experts et automatisées afin d’identifier et de corriger les vulnérabilités potentielles avant le déploiement. Une surveillance continue après le déploiement est également essentielle pour détecter et corriger toute compromission ou évasion qui pourrait survenir.
De nombreuses politiques de sécurité de l’IA de pointe intègrent des stratégies spécifiques d’atténuation du déploiement basées sur des seuils de capacité clairement définis. Lorsqu’un seuil critique est atteint, diverses mesures sont activées, impliquant souvent une combinaison de stratégies de confinement et de réduction des risques. Celles-ci peuvent inclure la limitation sévère de l’accès à un modèle ou à ses fonctionnalités, le déploiement du modèle uniquement dans des environnements très restreints et l’augmentation significative de la priorité des contrôles d’information et de cybersécurité. Certaines entreprises utilisent des techniques telles que le réglage fin des modèles pour rejeter les requêtes nuisibles, l’utilisation de classificateurs de sécurité des résultats et la mise en œuvre d’une surveillance continue pour détecter et corriger l’utilisation abusive d’un modèle. De plus, beaucoup reconnaissent la nécessité d’une remédiation rapide, par le biais de correctifs de vulnérabilité rapides, d’une escalade vers les forces de l’ordre si nécessaire et d’une conservation stricte des journaux. En fin de compte, beaucoup s’engagent à ne pas déployer de modèles de pointe s’ils dépassent des seuils de risque prédéfinis tant que des protections appropriées ne sont pas trouvées et ne sont pas manifestement efficaces.
Tactiques spécifiques pour les modèles à haut risque
Pour les modèles présentant un potentiel important d’utilisation abusive, les stratégies de déploiement impliquent souvent l’établissement de critères de partage des versions du modèle avec des protections réduites avec un groupe sélectionné d’utilisateurs de confiance. Ces utilisateurs sont généralement soumis à des processus de vérification rigoureux, à des contrôles d’accès sécurisés, à une surveillance étroite, à des politiques strictes de conservation des journaux et à des protocoles de réponse aux incidents bien définis. De plus, les cadres définissent les conditions d’arrêt complet des plans de déploiement si des mesures d’atténuation suffisantes ne sont pas en place. Par exemple, si un modèle d’IA démontre des capacités potentiellement dangereuses avant que les protections nécessaires puissent être mises en œuvre, le déploiement ultérieur est suspendu jusqu’à ce que ces mesures de sécurité soient effectivement en place et manifestement robustes. Chacune de ces méthodes se combine pour réduire considérablement le risque d’un modèle lors du déploiement.
Quelles sont les conditions pour restreindre les plans de développement de modèles
Les politiques de sécurité de l’IA de pointe reconnaissent qu’il existe des circonstances où la poursuite du développement de modèles pose des risques inacceptables, nécessitant l’arrêt de tout progrès supplémentaire. Cette section explore les conditions qui déclenchent des engagements à restreindre ou à suspendre les plans de développement de modèles. Ces conditions sont généralement liées à l’émergence de capacités spécifiques de l’IA qui soulèvent de sérieuses préoccupations concernant les abus potentiels, associées à une incapacité à atténuer adéquatement ces risques par le biais de mesures de sécurité ou d’autres protections. Le principe fondamental qui sous-tend ces conditions est la nécessité d’empêcher de nouvelles avancées de modèles qui pourraient causer des dommages catastrophiques si leurs capacités dépassent le développement et la mise en œuvre de mesures de protection suffisantes.
Une condition primordiale pour arrêter le développement est centrée sur les situations où un modèle dépasse les seuils de capacité prédéfinis liés au potentiel dangereux. Par exemple, si un modèle démontre une capacité marquée à faciliter le développement d’armes biologiques ou à exécuter des cyberattaques complexes, et que les protocoles de sécurité correspondants pour empêcher le vol de poids du modèle sont jugés insuffisants, le développement sera suspendu. Un autre déclencheur implique l’identification d’un important défaut d’alignement du modèle pendant le processus d’entraînement, même si le déploiement externe n’est pas imminent. Cela nécessite un arrêt immédiat du développement pour résoudre les problèmes d’alignement fondamentaux avant que d’autres capacités ne soient cultivées. La détermination de la possibilité de mesures d’atténuation adéquates implique souvent un processus d’évaluation rigoureux.
Déterminer la suffisance des mesures d’atténuation
La détermination du caractère suffisant des mesures d’atténuation pouvant être mises en œuvre est un jugement au cas par cas, mais certains principes directeurs peuvent être tirés de la manière dont elle est abordée dans les politiques de sécurité existantes. Elle nécessite fréquemment une réévaluation des protocoles de sécurité planifiés actuels afin de déterminer si l’augmentation avérée de la capacité représente également un risque plus grand. De plus, le développement d’améliorations de la sécurité (et non le développement des capacités) peut se poursuivre pendant la pause. Une telle action pourrait inclure un développement ciblé, tel que le fine-tuning ou la formation à la sécurité. En fin de compte, les politiques reflètent un engagement à donner la priorité à la sécurité, en reconnaissant que la progression rapide des capacités de l’IA doit être gérée avec soin afin d’éviter des conséquences imprévues et potentiellement dévastatrices.
Comment l’analyse de l’ensemble des capacités du modèle peut-elle améliorer le processus d’évaluation ?
Analyser l’ensemble des capacités d’un modèle, plutôt que de se concentrer uniquement sur les fonctionnalités attendues ou prévues, améliore considérablement le processus d’évaluation en révélant les risques potentiels associés à une mauvaise utilisation ou à des conséquences imprévues. Ignorer l’ensemble des capacités peut conduire à une sous-estimation grossière du profil de risque réel, car des capacités peuvent émerger de manière inattendue, en particulier grâce à des techniques telles que l’ingénierie des invites, le réglage fin ou l’utilisation d’outils externes. En tentant activement de susciter les capacités d’un modèle – y compris les scénarios où il pourrait être utilisé de manière malveillante – les évaluateurs peuvent acquérir une compréhension plus réaliste des dommages potentiels qu’il pourrait causer. Cette approche globale de la découverte des capacités fournit une base plus solide pour l’élaboration de mesures de sécurité et de stratégies d’atténuation ciblées.
De plus, la compréhension de l’ensemble des capacités d’un modèle permet un développement plus proactif des mesures d’atténuation. Lorsque les évaluations prennent en compte les domaines potentiels de mauvaise utilisation, les développeurs peuvent concevoir des protections qui ciblent spécifiquement ces vulnérabilités avant qu’elles ne soient exploitées. Par exemple, l’évaluation de la capacité d’un modèle à aider à des cyberattaques permet la mise en œuvre de défenses qui empêchent le modèle de générer du code malveillant ou d’identifier des vulnérabilités. De même, comprendre le potentiel d’un modèle à automatiser la recherche en IA permet une surveillance proactive et des mesures de protection pour empêcher les pratiques de développement dangereuses. Cette approche prospective garantit que les mesures de sécurité sont alignées sur l’impact potentiel du modèle, réduisant ainsi la probabilité de résultats néfastes.
Améliorer la robustesse grâce à la sollicitation des capacités
Le processus de sollicitation de l’ensemble des capacités du modèle renforce également intrinsèquement les tests de robustesse. En testant le modèle de manière approfondie avec des invites complexes, des entrées contradictoires, en simulant des connaissances avancées par le biais d’un réglage fin et en intégrant l’utilisation potentielle d’outils, les développeurs peuvent identifier les faiblesses des mesures de sécurité existantes et les affiner en conséquence. Ce processus d’évaluation rigoureux garantit que les mécanismes de sécurité sont moins susceptibles d’être contournés, car les faiblesses potentielles ont déjà été identifiées et traitées lors de la phase d’évaluation. De plus, cela permet de créer un modèle de menace plus complet et détaillé. Les informations produites par la sollicitation des capacités aident les développeurs à construire les chemins que les acteurs malveillants pourraient emprunter et donnent un aperçu des protections les plus appropriées pour les arrêter.
Comment ces politiques établissent-elles les mécanismes de surveillance dans le contexte de l’IA à la frontière
Les politiques de sécurité de l’IA à la frontière intègrent généralement des mécanismes de responsabilisation, conçus pour garantir la bonne exécution des normes définies dans chaque cadre. Ces mécanismes visent à encourager à la fois la gouvernance interne et l’engagement externe. La gouvernance interne implique fréquemment la désignation de rôles et de responsabilités spécifiques pour superviser la mise en œuvre des politiques de sécurité. Cette surveillance peut être assurée par des personnes spécialisées, comme un « Responsable de la Mise à l’Échelle Responsable », des équipes internes ou des organes directeurs chargés de surveiller le respect des politiques et d’évaluer les risques associés. La conformité est en outre renforcée par des procédures de sécurité internes pour les scénarios d’incidents pertinents, des plans de communication clairs entre les différentes équipes, des revues internes et la mise en place de processus de signalement des violations de la politique, permettant souvent un signalement anonyme.
Au-delà des contrôles internes, plusieurs politiques mettent l’accent sur la transparence et les contributions externes comme éléments essentiels de la responsabilisation. Cela peut inclure la mise à disposition du public d’informations clés relatives aux risques, telles que les méthodologies d’évaluation, les résumés des évaluations des risques et les réponses aux cas de non-conformité identifiés. Les avis d’experts d’entités externes sont sollicités par le biais de consultations pour la réalisation d’évaluations et l’évaluation des seuils de capacité et des mesures d’atténuation associées. De plus, certaines politiques décrivent un engagement proactif avec les agences gouvernementales, indiquant une intention de partager les informations pertinentes concernant les modèles qui atteignent des niveaux de capacité critiques justifiant des protections plus strictes et démontrant un engagement à travailler avec le paysage réglementaire en développement. Certaines organisations s’engagent à réaliser des examens de conformité procédurale par des tiers afin d’évaluer la cohérence des politiques, des tiers auditant le processus d’évaluation afin d’améliorer la précision et l’équité des résultats.
Détails de Mise en Œuvre
Bien que les intentions de haut niveau semblent cohérentes dans bon nombre de ces politiques, les détails spécifiques de la validation externe et des mesures de transparence démontrent une gamme notable. La profondeur et l’étendue de la transparence varient considérablement, certaines organisations s’engageant à une divulgation publique détaillée des évaluations clés, tandis que d’autres se concentrent sur la fourniture d’informations plus générales. Bien que l’engagement en faveur d’un audit indépendant soit prometteur, les détails concrets de la manière dont ces audits sont structurés, mis en œuvre et suivis d’effets restent largement indéfinis. Ces mesures de responsabilisation, tout en montrant une tendance positive vers une surveillance accrue dans le contexte de l’IA à la frontière, devront probablement évoluer et mûrir à mesure que les entreprises continuent de se débattre avec les défis complexes de ce domaine en développement.
À quelle fréquence et selon quels paramètres les politiques de sécurité sont-elles mises à jour ?
Les politiques de sécurité de l’IA de pointe ne sont pas des documents statiques ; elles sont plutôt conçues pour évoluer parallèlement aux progrès rapides des capacités de l’IA et à la compréhension croissante des risques associés. Les douze entreprises ayant publié des politiques de sécurité expriment toutes leur intention de mettre à jour régulièrement leurs protocoles. Cet engagement reconnaît que l’étude empirique des risques catastrophiques liés aux modèles d’IA de pointe n’en est qu’à ses débuts, et que les estimations actuelles des niveaux de risque et des seuils sont susceptibles d’être affinées en fonction de la recherche en cours, des rapports d’incidents et des utilisations abusives constatées. Le suivi continu des développements pertinents en matière de recherche est donc essentiel pour identifier les menaces émergentes ou sous-étudiées qui nécessitent des ajustements aux cadres de sécurité existants.
Les paramètres de déclenchement des mises à jour varient quelque peu d’une politique à l’autre, mais comprennent généralement des changements importants dans les capacités des modèles d’IA et des avancées dans la science de l’évaluation et de l’atténuation des risques. OpenAI, par exemple, indique que les mises à jour sont déclenchées chaque fois qu’il y a une augmentation de plus de 2x de la puissance de calcul effective ou une avancée algorithmique majeure. D’autres entreprises mentionnent des tests de routine des modèles pour déterminer si leurs capacités sont significativement inférieures aux seuils de capacité et qu’un calendrier éclairera les mises à jour (comme Amazon) et Naver, qui évalue les systèmes trimestriellement (ou plus tôt en fonction des augmentations métriques). Ce cadre reconnaît que, dans certains domaines, il peut être bénéfique de concrétiser davantage les engagements. Les mises à jour des politiques sont souvent approuvées par le conseil d’administration ainsi que par un certain nombre d’experts en la matière et en gouvernance.
Modifications et mise en œuvre des politiques
Le processus de mise à jour des politiques comprend plusieurs étapes clés. Les modifications proposées proviennent généralement d’intervenants internes, tels que le PDG, le responsable de la mise à l’échelle responsable ou le conseil de gouvernance de l’IA de pointe, composé d’experts en la matière. Ces propositions sont ensuite soumises à l’examen et à l’approbation d’organes de gouvernance supérieurs, tels que le conseil d’administration ou le comité de direction. De nombreuses politiques intègrent également une rétroaction externe et une analyse comparative par rapport aux normes de l’industrie afin de s’assurer que les pratiques restent alignées sur les cadres mondiaux en évolution. Afin de maintenir la transparence, les entreprises s’engagent souvent à publier des versions mises à jour de leurs politiques, ainsi que des journaux des modifications détaillant les modifications apportées et leur justification. Ces mises à jour facilitent le dialogue continu avec les intervenants et favorisent une compréhension commune du paysage évolutif de la sécurité de l’IA.
Seuils de Capacité
Les descriptions des niveaux de capacité de l’IA qui poseraient un risque grave et nécessiteraient de nouvelles mesures d’atténuation robustes sont un élément central du paysage des politiques de sécurité de l’IA de pointe. La plupart des politiques étudiées définissent méticuleusement des seuils de capacité dangereux, en les utilisant comme points de référence par rapport aux résultats des évaluations des modèles pour déterminer si ces niveaux critiques ont été franchis. La politique d’échelonnement responsable d’Anthropic, par exemple, utilise les concepts de seuils de capacité et de garanties requises, en spécifiant des seuils liés aux armes CBRN et à la R&D autonome de l’IA et en identifiant les garanties requises correspondantes destinées à atténuer les risques à des niveaux acceptables. Le cadre de préparation d’OpenAI établit une échelle de gradation pour les catégories de risques suivies, allant de «faible» à «critique», permettant une application proactive de mesures d’atténuation adaptées à mesure que les menaces augmentent. Le cadre de sécurité frontale de Google DeepMind décrit deux ensembles de niveaux de capacité critiques (CCL) : les CCL de mauvaise utilisation indiquant un risque accru de préjudice grave lié à une mauvaise utilisation et les CCL d’alignement trompeur indiquant un risque accru d’événements liés à un alignement trompeur.
Dans l’ensemble, ces seuils de capacité sont intrinsèquement liés aux modèles de menaces sous-jacents, qui sont des voies plausibles par lesquelles les systèmes de pointe peuvent entraîner des dommages catastrophiques. Parmi les modèles de menaces les plus couramment couverts, mentionnons : l’aide aux armes biologiques, où les modèles d’IA pourraient aider des acteurs malveillants à développer des armes biologiques catastrophiques ; la cyberattaque, où les modèles d’IA pourraient permettre aux acteurs d’automatiser ou d’améliorer les cyberattaques ; et la recherche et le développement automatisés de l’IA, où les modèles d’IA pourraient accélérer le développement de l’IA au niveau d’un expert humain. D’autres capacités sont envisagées, bien que pas universellement, notamment la réplication autonome, la persuasion avancée et l’alignement trompeur. Ces modèles de menaces et ces seuils de capacité contribuent à aligner les politiques de sécurité de l’IA sur les stratégies proactives de gestion des risques.
Il convient de noter qu’il existe des divergences dans les approches en matière de risque, certaines politiques, telles que les cadres de Nvidia et de Cohere, mettant davantage l’accent sur les risques propres à un domaine plutôt que de simplement cibler les risques catastrophiques. De plus, les politiques de sécurité de xAI et de Magic se distinguent par le fait qu’elles accordent une grande importance aux points de référence quantitatifs lors de l’évaluation de leurs modèles, ce qui s’écarte de la plupart de leurs homologues. Indépendamment de ces nuances uniques, des thèmes communs prévalent : toutes les politiques de sécurité frontalières reflètent un accent clair sur l’identification et la gestion des capacités de l’IA qui pourraient représenter un préjudice matériel. Que ce soit par le biais de cadres détaillés, de stratégies d’atténuation spécifiques, de modélisation des menaces ou de tests et d’audits rigoureux, ils visent tous à atténuer les risques des systèmes avancés d’intelligence artificielle.
