Governare l’uso interno dell’intelligenza artificiale – Considerazioni chiave
Numerosi studi indicano che oltre il 70% delle aziende utilizza l’intelligenza artificiale (IA) internamente. In alcuni casi, ciò significa lo sviluppo di uno strumento agentico o di un chatbot a contatto con i clienti per portare efficienze a un particolare flusso di lavoro. In altri casi, può trattarsi di utilizzi più generali da parte dei dipendenti di strumenti IA ampiamente disponibili.
Questi strumenti possono creare efficienze e ridurre i costi, ma è fondamentale gestirne l’uso all’interno di un’organizzazione. La loro natura intrinseca può introdurre rischi significativi che potrebbero non essere immediatamente apparenti. Questo articolo identifica diversi di questi rischi e fornisce suggerimenti per la loro gestione.
La minaccia ai diritti legali consolidati
In molti casi, l’uso di strumenti IA richiede che le informazioni vengano trasmesse dall’utente a una terza parte per l’elaborazione, con il prodotto risultante restituito all’utente. Questa trasmissione di dati al di fuori di un’organizzazione può essere in conflitto con le migliori pratiche tradizionali per la preservazione della riservatezza delle informazioni e con i requisiti legali per mantenere diritti preziosi.
Ad esempio, per brevettare una tecnologia, è necessario che l’idea non sia stata divulgata pubblicamente in precedenza. Pertanto, la trasmissione di informazioni riservate a una terza parte attraverso l’uso di uno strumento IA potrebbe compromettere la brevettabilità di un’idea. È fondamentale controllare attentamente le informazioni fornite a qualsiasi strumento IA esterno, inclusi assistenti di ricerca, chatbot e strumenti di notetaking IA.
Una problematica simile sorge per quanto riguarda la preservazione del privilegio avvocato-cliente. La riservatezza delle informazioni condivise tra una persona o un’azienda e il proprio legale è un principio fondamentale, ma questo diritto esiste solo finché le informazioni non vengono condivise con altre parti.
La minaccia alle informazioni personali e alle misure di sicurezza
Ci sono crescenti preoccupazioni riguardo alle vulnerabilità di sicurezza che sorgono quando si introducono tecnologie non testate in un ecosistema tecnologico esistente. È fondamentale garantire che tutti i servizi siano attentamente verificati per proteggere le aziende da danni imprevisti. Ci sono anche preoccupazioni che la fornitura di determinate informazioni, come quelle personali, possa costituire una violazione delle normative che disciplinano l’uso e la divulgazione di tali informazioni.
Le aziende devono monitorare le attuali e future normative legali per evitare interruzioni. La conformità con queste normative, che saranno probabilmente guidate da obblighi di trasparenza, potrebbe richiedere tempi di preparazione significativi.
La necessità di trasparenza e supervisione umana
Con lo sviluppo di quadri normativi intorno all’IA, un elemento comune è l’importanza della trasparenza. Le aziende devono prestare attenzione ai requisiti di divulgazione associati all’uso di sistemi IA e utilizzare documentazione tecnica per sviluppare avvisi appropriati per gli utenti.
È importante garantire che ci sia una supervisione umana adeguata quando si utilizzano strumenti IA per generare output, evitando rischi legali derivanti da rapporti “hallucinated” o informazioni non basate su dati reali.
La necessità di responsabilità e governance a livello dirigenziale
Nonostante le opportunità emozionanti offerte dall’IA, i suoi rischi devono essere gestiti con attenzione. Le aziende dovrebbero adottare una Politica di Governance IA appropriata, che fornisca un quadro per la supervisione di questa tecnologia in rapida evoluzione.
È fondamentale che le aziende comprendano il quadro normativo applicabile e garantiscano la conformità continua. Devono anche comprendere eventuali restrizioni contrattuali sull’uso dell’IA o limitazioni sull’uso di dati di terzi che potrebbero essere in conflitto con l’uso di uno strumento IA.
Gli strumenti IA offrono la possibilità di realizzare significative efficienze. Questo articolo non suggerisce che il loro uso porterà necessariamente a problemi significativi; piuttosto, mette in evidenza alcuni dei rischi coinvolti nell’applicazione di questi nuovi strumenti in rapida evoluzione e gli approcci per governarli.
