Il documento discute l’importanza della sicurezza nell’intelligenza artificiale attraverso il modello phi-3, sviluppato secondo i principi di AI responsabile di Microsoft. Viene evidenziato come il processo di allineamento alla sicurezza abbia portato a una significativa riduzione delle percentuali di risposte dannose.
L’Allianza Scozzese per l’IA ha pubblicato il suo Rapporto di Impatto 2024/2025, evidenziando un anno di progressi nella promozione di un’intelligenza artificiale etica e inclusiva in Scozia. Il rapporto mostra come l’alleanza abbia trasformato la strategia in azioni tangibili, supportando le persone e le imprese, e contribuendo a plasmare il panorama politico dell’IA in Scozia.
L’Asia-Pacifico sta assistendo a un’espansione rapida delle tecnologie di sorveglianza, mentre rimane privo di quadri di governance necessari per regolarne l’uso. La mancanza di normative complete consente ai regimi repressivi di utilizzare strumenti di sorveglianza con poca supervisione pubblica.
Un modello di rapporto, o “model card”, è uno strumento essenziale per garantire la trasparenza e la responsabilità nello sviluppo e nell’implementazione dei modelli di intelligenza artificiale. Questi rapporti forniscono informazioni chiare sulle finalità, le prestazioni e le limitazioni di un modello, contribuendo a costruire fiducia tra gli stakeholder.
I modelli di intelligenza artificiale stanno diventando sempre più intelligenti e integrati nei flussi di lavoro aziendali, ma con questa crescita emerge una minaccia maggiore: i jailbreak. Questi tentativi mirati di superare le restrizioni integrate nei modelli di linguaggio possono portare a risposte dannose e violazioni della sicurezza.
Un gruppo di advocacy avverte che l’AI finanziaria discrimina ed esplota i consumatori, evidenziando che le decisioni riguardanti prestiti, assicurazioni e conti bancari vengono delegate a sistemi di AI senza che i consumatori ne siano consapevoli. La mancanza di regolamentazioni adeguate potrebbe compromettere l’equità, la trasparenza e la fiducia pubblica.
Dalen avverte che la velocità non dovrebbe compromettere la sicurezza o la responsabilità. Propone che le aziende abbiano strumenti in grado di scoprire automaticamente le applicazioni e gli agenti AI operanti nell’ambiente, anche quelli implementati dagli utenti aziendali senza approvazione formale.
Ci sono da tempo preoccupazioni sui rischi esistenziali che potrebbero essere posti da sistemi di intelligenza artificiale altamente capaci, che vanno dalla perdita di controllo all’estinzione. Sebbene tale intelligenza potrebbe essere raggiunta e potrebbe comportare rischi estremi, ci sono problemi e danni dell’IA più urgenti che dovrebbero essere affrontati per primi.
Il Papa Leo XIV ha esortato la comunità internazionale a stabilire quadri coordinati e una governance etica per l’intelligenza artificiale, sottolineando che la tecnologia deve essere utilizzata al servizio dell’umanità e della pace. Ha evidenziato che la responsabilità etica non ricade solo sui sviluppatori di IA, ma anche sugli utenti stessi.
Il Papa Leo XIV ha esortato la comunità internazionale a stabilire quadri coordinati e una governance etica per l’intelligenza artificiale, sottolineando che la tecnologia deve essere utilizzata al servizio dell’umanità e della pace. Ha evidenziato che la responsabilità etica non ricade solo sui sviluppatori di IA, ma anche sugli utenti stessi.