Cosa significa l’Istituto di Sicurezza dell’AI del Regno Unito per gli acquirenti, non per i costruttori
La creazione da parte del governo del Regno Unito dell’Istituto di Sicurezza dell’AI (AISI) potrebbe inizialmente essere stata vista dagli acquirenti e dai team di approvvigionamento come una forma di rassicurazione, fornendo indicatori semplici per sapere quali modelli AI frontier hanno subito una valutazione di sicurezza condotta dal governo. Tuttavia, il comportamento di un servizio AI dipende ancora fermamente dal suo utilizzatore. Ciò significa che le organizzazioni devono continuare a condurre la propria due diligence per garantire che i modelli e i servizi associati funzionino come previsto.
Cosa deve fare un acquirente di AI?
L’AISI non valuta gli effetti di un modello AI frontier su specifiche organizzazioni, implementazioni e settori. Inoltre, non fornisce indicazioni su come un’organizzazione dovrebbe implementare un’AI in sicurezza o mitigare i rischi emersi nella sua valutazione di un modello AI frontier. Questo implica che gli utilizzatori dei sistemi AI sono responsabili di eventuali problemi che possono sorgere durante l’implementazione.
Sebbene l’AISI possa fornire un “marchio di fiducia” per questi modelli, funge più come un emettitore di standard di sicurezza per strumenti elettrici. Se l’acquirente utilizza uno strumento in modo errato, è responsabile delle conseguenze. A differenza di uno strumento elettrico, alcuni rischi di implementazione dell’AI non sono così evidenti. Gli acquirenti devono essere consapevoli della conformità normativa, rispettando le normative regionali e nazionali, oltre alla privacy dei dati e al corretto trattamento delle informazioni. Comprendere come un’AI interagirà durante un’interruzione o a fronte di input errati può evitare danni reputazionali costosi. Le organizzazioni devono anche monitorare il drift dei modelli per garantire la stabilità delle prestazioni.
Monitoraggio costante dei modelli AI
Una parte di questo monitoraggio avviene dopo l’implementazione, poiché le normative sull’AI cambiano frequentemente. Il monitoraggio per interruzioni e drift dei modelli è un processo continuo. Gli acquirenti devono essere molto attenti al ciclo di vita di ciascun modello e garantire di avere un fornitore di modelli AI attivo che rilasci aggiornamenti regolari per migliorare la sicurezza e la protezione dei modelli.
La risposta pratica per gli acquirenti non è deferire all’AISI, ma evolvere i propri standard di approvvigionamento e contratto. L’AISI e altri istituti di sicurezza AI in tutto il mondo hanno etichettato l’AI come software ad alto rischio, quindi l’approvvigionamento di questo software dovrebbe assomigliare ad altri acquisti di software critici per la sicurezza piuttosto che a processi standard di acquisto SaaS.
Come hanno notato diversi esperti legali, la responsabilità non può essere esternalizzata attraverso l’approvvigionamento. Discutendo dell’uso dell’AI in un’aula di tribunale, è stato sottolineato che è necessario procurarsi il giusto tipo di AI per un compito, e il tipo giusto è determinato anche dall’essenzialità della responsabilità umana.
Conclusione
L’AISI può essere utile nel convincere i fornitori di AI a fornire maggiori feedback, responsabilità e trasparenza sui difetti dei modelli e sugli aggiornamenti. Se ci sono più occhi sul funzionamento interno di un modello e più test effettuati da attori neutrali, gli acquirenti hanno informazioni di qualità maggiore al momento dell’acquisto. Tuttavia, ciò non elimina completamente il rischio; il punto chiave è che l’AISI non ha ridotto la responsabilità, ma ha aumentato le aspettative per tutti i soggetti coinvolti. L’AISI può filtrare i modelli di AI veramente scadenti dai cicli di approvvigionamento, ma pone anche maggior onere sugli acquirenti per testare adeguatamente i modelli AI e garantire che siano perfettamente adatti alla loro implementazione.
