Quali sono i principi fondamentali che guidano l’approccio della Responsible Scaling Policy alla gestione del rischio?
La Responsible Scaling Policy (RSP) di Anthropic si basa su tre principi fondamentali per la gestione del rischio dell’IA, progettati per essere proporzionali, iterativi ed esportabili, come affermano nel loro documento.
Proporzionalità: Adattare le misure di sicurezza ai livelli di rischio
La RSP introduce gli AI Safety Level (ASL) Standards, che stabiliscono parametri tecnici e operativi legati a specifici livelli di rischio. L’idea è di implementare misure di sicurezza che corrispondano ai potenziali pericoli di un modello di IA, garantendo protezioni rigorose dove necessario senza ostacolare inutilmente l’innovazione. Questo si riduce a concentrare le risorse sui modelli a più alto rischio, fornendo al contempo maggiore flessibilità per i sistemi a rischio inferiore.
Iterazione: Adattarsi alle capacità dell’IA in rapida evoluzione
Il principio iterativo riconosce la rapida avanzata dell’IA. Il documento afferma che, data la rapidità con cui la tecnologia dell’IA si sta evolvendo, è impossibile anticipare le misure di sicurezza necessarie per i modelli che sono ben oltre la frontiera attuale. Anthropic si impegna a misurare continuamente le capacità del modello e ad adeguare di conseguenza le misure di sicurezza, ricercando costantemente potenziali rischi e tecniche di mitigazione e migliorando lo stesso quadro di gestione del rischio.
Esportabilità: Definire uno standard di settore
Anthropic mira a dimostrare come l’innovazione e la sicurezza possano coesistere. Condividendo esternamente il loro approccio alla governance del rischio, sperano di stabilire un nuovo benchmark di settore e incoraggiare una più ampia adozione di quadri simili. L’obiettivo è influenzare la regolamentazione condividendo i risultati con i responsabili politici e altre aziende di IA, mostrando un approccio scalabile alla gestione del rischio.
Il documento chiarisce inoltre che, sebbene la RSP affronti principalmente i rischi catastrofici, Anthropic riconosce anche altre preoccupazioni. Questi includono l’utilizzo dei modelli di IA in modo responsabile in conformità con la loro Usage Policy, prevenendo la disinformazione, la violenza, i comportamenti odiosi e le frodi, che vengono gestiti attraverso misure tecniche per far rispettare gli standard di fiducia e sicurezza.
Come vengono utilizzati le soglie di capacità e le misure di sicurezza richieste all’interno del quadro politico per gestire i rischi associati ai modelli di IA
La Responsible Scaling Policy (RSP) di Anthropic utilizza le soglie di capacità e le misure di sicurezza richieste come pietre angolari per la gestione dei rischi legati ai modelli di IA sempre più potenti. Pensate a un protocollo di sicurezza a fasi: più alto è il rischio potenziale, più forti sono le protezioni. Ecco un’analisi:
Concetti chiave
Soglie di capacità: Si tratta di livelli predefiniti di capacità dell’IA che fungono da trigger. Quando un modello raggiunge una soglia, segnala un aumento significativo del rischio e la necessità di misure di sicurezza potenziate. Ad esempio, le soglie sono specificate per le capacità relative allo sviluppo di armi chimiche, biologiche, radiologiche e nucleari (CBRN), e anche per la ricerca e lo sviluppo autonomi di IA (AI R&D).
Misure di sicurezza richieste: Si tratta degli specifici standard del livello di sicurezza dell’IA (ASL) che devono essere soddisfatti per mitigare i rischi associati a una particolare soglia di capacità. Questi standard rientrano in due categorie:
- Standard di implementazione: Garantiscono un utilizzo sicuro da parte degli utenti esterni ed equilibrano l’uso benefico con i rischi di uso improprio catastrofico.
- Standard di sicurezza: Si tratta di misure tecniche, operative e politiche vitali per proteggere i modelli di IA da accessi non autorizzati, furti o compromissioni. Pensate alla protezione dei “pesi” del modello.
Come funziona: Passo dopo passo
La RSP impiega le soglie di capacità e le misure di sicurezza richieste in una serie di fasi di valutazione progettate per mitigare proattivamente il rischio:
- Valutazione della capacità
Valutazione preliminare: I modelli nuovi ed esistenti vengono sottoposti a test per determinare se vi è un aumento notevole delle capacità, innescando una valutazione più approfondita.
Valutazione completa: Con test completi, Anthropic valuta se il modello può raggiungere una qualsiasi soglia mappando le minacce sostanziali, eseguendo valutazioni empiriche e misurando come i ricercatori possono ottenere capacità utili dal modello. Inoltre, effettuano previsioni informali per determinare se i test miglioreranno i risultati nel tempo.
- Escalation e azione:
Se un modello supera una soglia di capacità, l’azienda passa al corrispondente ASL di livello superiore (ad esempio, ASL-3). Ciò garantisce che il modello soddisfi nuovi requisiti e standard.
- Valutazione delle misure di sicurezza
Queste valutazioni mirano a determinare se le misure di sicurezza richieste sono soddisfacenti. Gli standard di implementazione ASL-3 richiedono una solida sicurezza da un uso improprio persistente, mentre lo standard di sicurezza ASL-3 impone una protezione di alto livello contro il furto di pesi da parte di aggressori non statali.
- Valutazione di follow-up della capacità:
Dopo l’implementazione, è necessario valutare il nuovo modello e misurare se le capacità di follow-up sono sufficienti per l’uso.
Mitigazione del rischio nella pratica
L’obiettivo finale è raggiungere un livello di rischio accettabile. Sia che le capacità attuali del modello siano sufficientemente al di sotto delle soglie esistenti, sia che abbia superato tali soglie ma disponga delle misure di sicurezza potenziate, i modelli possono essere utilizzati o implementati solo in questi due casi.
- Misure provvisorie: Se l’implementazione immediata di ASL-3 è impossibile, vengono messe in atto misure provvisorie che forniscono un livello di sicurezza simile.
- Restrizioni più severe: Oltre alle misure provvisorie, le restrizioni possono comportare l’implementazione con un modello al di sotto di una soglia di capacità, o l’eliminazione dei pesi correnti all’interno del modello corrente.
- Monitoraggio del pre-addestramento: Le capacità del modello di pre-addestramento devono essere monitorate e confrontate con i modelli capaci esistenti. Se il modello di pre-addestramento ha capacità simili, l’addestramento viene sospeso fino a quando non vengono soddisfatti gli standard di sicurezza.
Punti chiave per la conformità
- Gestione dinamica del rischio: La RSP riconosce che la gestione del rischio dell’IA deve essere iterativa, adattando le misure di sicurezza man mano che i modelli si evolvono.
- Trasparenza e responsabilità: La divulgazione pubblica di informazioni chiave, i riepiloghi dei rapporti sulle capacità e sulle misure di sicurezza e la richiesta di contributi di esperti sono componenti cruciali.
- Proporzionalità: Bilanciare l’innovazione dell’IA con la sicurezza implementando misure di sicurezza proporzionali alla natura e all’entità dei rischi di un modello di IA.
I responsabili della conformità dovrebbero monitorare attentamente le soglie di capacità specifiche definite nella RSP e garantire che i processi di sviluppo e implementazione del modello siano allineati con le corrispondenti misure di sicurezza richieste. Rimanete sintonizzati per ulteriori approfondimenti mentre Anthropic continua ad affinare il suo approccio alla governance del rischio dell’IA.
Quali sono i componenti essenziali del processo di Valutazione delle Salvaguardie
Per i modelli di IA che superano le Soglie di Capacità specificate, indicando potenzialmente la necessità di standard di Livello di Sicurezza dell’IA (ASL) più elevati, una rigorosa Valutazione delle Salvaguardie è fondamentale. Questo processo determina se le misure di sicurezza e controllo dell’utilizzo adottate soddisfano le Salvaguardie Richieste ASL-3.
Componenti chiave per lo Standard di Implementazione ASL-3
Se un modello attiva lo Standard di Implementazione ASL-3, la valutazione si concentra sulla robustezza delle salvaguardie contro l’uso improprio persistente. I criteri per soddisfare questo includono:
- Modellazione delle minacce: Mappatura esaustiva delle potenziali minacce e dei vettori di attacco attraverso i quali il sistema implementato potrebbe essere utilizzato in modo improprio catastrofico. Ciò richiede un perfezionamento continuo.
- Difesa in profondità: Implementazione di molteplici livelli difensivi. Questo è progettato per intercettare tentativi di uso improprio che aggirano le barriere iniziali, come le tecniche di rifiuto del danno che raggiungono alti tassi di richiamo.
- Red-teaming: Test contraddittorio basato su scenari realistici che dimostra l’improbabilità che gli attori di minacce, con livelli di accesso e risorse plausibili, estraggano informazioni che migliorino in modo significativo la loro capacità di causare danni catastrofici.
- Rimedio rapido: Processi che garantiscono l’identificazione rapida e il rimedio delle compromissioni del sistema, come i jailbreak. Ciò comporta la correzione rapida delle vulnerabilità, la potenziale escalation delle forze dell’ordine e la conservazione dei dati per l’analisi.
- Monitoraggio: Stabilire metriche empiriche per garantire la sicurezza operativa entro intervalli di rischio accettati. Significa anche avere un processo per analizzare regolarmente le prestazioni del sistema. Ciò include la revisione delle risposte alle ricompense per i jailbreak, la conduzione di analisi storiche e la conservazione dei registri necessari.
- Utenti fidati: Definire criteri per la condivisione controllata del modello con “utenti fidati”, garantendo un’equivalente garanzia di rischio attraverso la verifica degli utenti, controlli di accesso sicuri, monitoraggio, conservazione dei registri e risposta agli incidenti.
- Ambienti di terze parti: Dimostrare l’adesione ai criteri di cui sopra anche quando i modelli vengono implementati in ambienti di terze parti con salvaguardie potenzialmente diverse.
Componenti chiave per lo Standard di Sicurezza ASL-3
Per i modelli che attivano lo Standard di Sicurezza ASL-3, la valutazione valuta la forza delle protezioni contro il furto del peso del modello da parte di vari attori di minacce:
- Modellazione delle minacce: Aderenza alle migliori pratiche di governance del rischio utilizzando framework come MITRE ATT&CK per mappare in modo completo minacce, risorse e vettori di attacco.
- Framework di sicurezza: Allineamento ed estensione dei framework di sicurezza standard del settore. Questo viene utilizzato per affrontare i rischi identificati e implementare i controlli pertinenti. I componenti del framework includono:
- Perimetri forti e controlli di accesso attorno alle risorse sensibili.
- Sicurezza del ciclo di vita lungo i sistemi e la catena di approvvigionamento del software.
- Identificazione proattiva delle minacce e mitigazione attraverso il monitoraggio e il test delle vulnerabilità.
- Investimento sufficiente nelle risorse di sicurezza.
- Allineamento con le linee guida esistenti sulla protezione dei pesi del modello, come Protezione dei pesi del modello AI, Prevenzione del furto e dell’uso improprio dei modelli Frontier e framework standard come SSDF, SOC 2, NIST 800-53 .
- Audit: Audit e valutazione indipendenti della progettazione e dell’implementazione del programma di sicurezza. I piani di audit richiedono anche la condivisione periodica dei risultati e degli sforzi di rimedio con il management, nonché il red-teaming esperto.
- Ambienti di terze parti: Garantire che tutti i modelli rilevanti soddisfino i criteri di sicurezza anche quando vengono implementati in ambienti di terze parti che possono avere un diverso insieme di salvaguardie.
Dopo queste valutazioni, viene redatto un Rapporto sulle Salvaguardie che documenta l’implementazione delle misure richieste, la sua affermazione e le raccomandazioni sulle decisioni di implementazione e viene rivisto dal CEO e dal Responsabile dello Scaling Responsabile (RSO). Vengono anche richiesti feedback di esperti interni ed esterni. Se le salvaguardie ASL-3 sono ritenute sufficienti, l’implementazione e la formazione al di sopra delle Soglie di Capacità possono procedere dopo una valutazione di follow-up della capacità.
Qual è lo scopo principale della Valutazione di Capacità di Follow-Up?
Lo scopo principale della Valutazione di Capacità di Follow-Up, secondo la Politica di Scaling Responsabile (RSP) di Anthropic, è confermare che ulteriori misure di sicurezza oltre ASL-3 non siano necessarie dopo che le capacità di un modello sono state aggiornate per soddisfare le Salvaguardie Richieste ASL-3.
Ecco la ripartizione per professionisti legal-tech, responsabili della conformità e analisti di policy:
- A seguito dell’aggiornamento di un modello di Intelligenza Artificiale per soddisfare gli standard ASL-3, che si verifica quando il modello supera le soglie di capacità esistenti, viene avviata una valutazione di capacità di follow-up.
- Questa valutazione viene condotta parallelamente all’implementazione delle Salvaguardie Richieste ASL-3.
- L’obiettivo è determinare se le capacità del modello sono sufficientemente al di sotto delle successive Soglie di Capacità (quelle che necessiterebbero di ASL-4) in modo da garantire che il livello di protezione ASL-3 sia effettivamente adeguato.
In che modo le misure dichiarate di Governance e Trasparenza mirano a promuovere l’attuazione efficace e la comprensione pubblica della Responsible Scaling Policy
La Responsible Scaling Policy (RSP) di Anthropic delinea sia la governance interna che le misure di trasparenza esterna progettate per garantire l’attuazione efficace della politica e per promuovere la comprensione pubblica del suo approccio alla gestione del rischio.
Misure di Governance Interna
Per garantire che la RSP sia attuata efficacemente in tutta l’azienda, Anthropic si impegna a diverse misure di governance interna:
- Responsible Scaling Officer: Mantenimento della posizione di Responsible Scaling Officer (RSO), incaricato di supervisionare la progettazione e l’attuazione della RSP. Il RSO propone aggiornamenti delle politiche, approva le decisioni di addestramento/implementazione dei modelli, rivede i contratti principali per la coerenza, supervisiona l’attuazione e l’allocazione delle risorse, affronta le segnalazioni di non conformità, notifica al consiglio di amministrazione i rischi materiali e interpreta/applica la politica.
- Preparazione agli incidenti: Sviluppo di procedure di sicurezza interne per scenari di incidenti, come la sospensione dell’addestramento, la risposta a incidenti di sicurezza che coinvolgono i pesi del modello e la gestione di jailbreak gravi. Ciò include l’esecuzione di esercitazioni per garantire la preparazione.
- Trasparenza interna: Condivisione di riassunti dei Rapporti sulle capacità e dei Rapporti sulle salvaguardie con il personale di Anthropic, redigendo informazioni sensibili. Una versione minimamente redatta viene condivisaCon un sottoinsieme del personale per considerazioni tecniche di sicurezza.
- Revisione interna: Richiesta di feedback dai team interni sui Rapporti sulle capacità e sulle salvaguardie per perfezionare la metodologia e identificare le debolezze.
- Gestione della non conformità: Stabilire un processo per la segnalazione anonima di potenziali non conformità, proteggendo i denuncianti da ritorsioni e escalation delle segnalazioni al consiglio di amministrazione. La non conformità viene monitorata, investigata e affrontata con azioni correttive.
- Accordi con i dipendenti: Evitare obblighi contrattuali di non denigrazione che potrebbero impedire ai dipendenti di sollevare problemi di sicurezza. Tali accordi non precluderanno la possibilità di sollevare problemi di sicurezza o di divulgare l’esistenza della clausola.
- Modifiche alle politiche: Le modifiche alla RSP sono proposte dal CEO e dal RSO e approvate dal consiglio di amministrazione. La versione pubblica della RSP viene aggiornata prima che le modifiche abbiano effetto, con un registro delle modifiche che registra le differenze.
Trasparenza e Input Esterni
Per far progredire il dialogo pubblico sulla regolamentazione dei rischi dell’IA e per consentire l’esame delle azioni di Anthropic, l’azienda si impegna alle seguenti misure di trasparenza:
- Divulgazioni pubbliche: Rilascio di informazioni chiave relative alla valutazione e all’implementazione del modello, inclusi riassunti dei rapporti sulle capacità e sulle salvaguardie, piani per valutazioni future e informazioni sui rapporti interni di non conformità. I dettagli sensibili non vengono divulgati.
- Input degli esperti: Richiesta di input da esperti esterni durante le valutazioni delle capacità e delle salvaguardie.
- Notifica al governo: Notifica al governo degli Stati Uniti se un modello richiede protezioni più forti dello standard ASL-2.
- Revisione della conformità procedurale: Commissionare revisioni annuali da parte di terzi per valutare l’adesione agli impegni procedurali della RSP.
Attraverso queste misure, Anthropic cerca di trovare un equilibrio tra controlli interni e responsabilità esterna, promuovendo sia un’efficace gestione del rischio sia un dibattito pubblico informato sulla sicurezza dell’IA di frontiera.
