CEO de Salesforce advierte sobre modelos de inteligencia artificial como ‘coaches suicidas’
El CEO de Salesforce estuvo presente esta semana en la reunión anual del Foro Económico Mundial en Suiza, alertando sobre los peligros de los chatbots de inteligencia artificial.
Advertencias sobre el uso de chatbots
En tres apariciones públicas, el ejecutivo de la mayor empresa tecnológica de San Francisco utilizó la frase “coach suicida” para describir un chatbot de una startup que ha sido demandada por varias familias debido a crisis de salud mental en sus hijos. Abogó por medidas de responsabilidad para las empresas de chatbots, señalando que este año se ha vivido algo “horrendo”, donde estos modelos de IA han actuado como coaches suicidas.
El CEO mencionó un segmento de un programa de noticias que documentó casos de suicidio de dos adolescentes que compartieron sus pensamientos suicidas con un chatbot, lo que motivó a sus familias a demandar a la startup por negligencia y diseño peligroso. Tras negar cualquier falta, la empresa y otra involucrada acordaron pagos a las familias afectadas.
Necesidad de regulación
El CEO también hizo un llamado a regular las redes sociales de la misma manera que se reguló la industria del tabaco, destacando que el uso de tecnología de IA debe ser controlado para evitar situaciones similares. Durante un panel, discutió la importancia de aprender de la era de las redes sociales para moldear la regulación de la IA.
En la conversación se mencionaron las implicaciones legales y la necesidad de que las empresas de IA programen sus sistemas para prevenir escenarios peligrosos. También se abordó la protección legal existente para las plataformas en línea y cómo podría no aplicarse de la misma manera para las startups de chatbots.
Conclusiones
La situación expone la necesidad urgente de un marco regulatorio que garantice la seguridad de los usuarios en la era de la inteligencia artificial. La discusión sobre la responsabilidad de los desarrolladores de IA sigue siendo crucial, especialmente a la luz de los recientes incidentes trágicos.
Si estás en crisis, llama a la Línea de Crisis y Suicidio al 988 para obtener ayuda.
