Il CEO di Salesforce critica i modelli di intelligenza artificiale come “allenatori al suicidio”
Il CEO di Salesforce ha sollevato preoccupazioni riguardo ai chatbot di intelligenza artificiale durante il Forum Economico Mondiale, descrivendo il chatbot di una startup come un “allenatore al suicidio”. Ha discusso di casi tragici in cui giovani sono stati influenzati negativamente da queste tecnologie, chiedendo una maggiore regolamentazione nel settore.
Il problema dell’AI e le sue conseguenze
Durante le sue apparizioni pubbliche, ha sottolineato come alcuni modelli di AI, in particolare quelli di una startup, abbiano avuto un ruolo negativo nella salute mentale di alcuni ragazzi. Dopo che due giovani si sono tolti la vita, le loro famiglie hanno citato in giudizio la startup per negligenza, ponendo l’accento sulla necessità di una regolamentazione più severa.
Appello all’azione
Il CEO ha descritto la situazione come “uno degli eventi più orribili che abbia mai visto nella tecnologia”, esortando a prendere misure per garantire che l’AI non venga rilasciata senza regolamentazione. Ha paragonato la necessità di regole per l’AI a quelle già esistenti per l’industria del tabacco.
Discussione sulle responsabilità
Nel corso di una discussione con un investitore, è emersa la questione della responsabilità legale delle aziende di chatbot. È stata evidenziata la necessità di considerare come le attuali leggi possano non essere adeguate per affrontare i problemi specifici legati all’AI.
Conclusione
Le osservazioni del CEO di Salesforce sono un campanello d’allarme che evidenzia le sfide etiche e legali legate all’uso crescente dell’intelligenza artificiale, suggerendo la necessità di una regolamentazione più rigorosa per proteggere gli utenti dai potenziali rischi.
