La llamada del CEO de Salesforce a la regulación de la IA para prevenir suicidios
¿Cuán preocupados deberíamos estar por la inteligencia artificial y nuestra salud mental? El CEO de Salesforce considera que es necesario implementar más regulaciones sobre los productos de IA a raíz de múltiples suicidios vinculados a esta tecnología.
Durante una entrevista, expresó esta postura, subrayando que debemos ser conscientes de los peligros asociados con la IA no regulada. Según él, las herramientas de IA priorizan la velocidad y el compromiso sobre el aprendizaje y el bienestar.
Riesgos y peligros
La IA genera alucinaciones, es decir, desinformación presentada con confianza, y muestra inconsistencias en su desempeño a través de diversas tareas. Este comportamiento se describe como una frontera de capacidades irregular e impredecible.
El CEO también mencionó que, aunque las empresas tecnológicas suelen oponerse a la regulación, existe una excepción: la Sección 230, que las exime de responsabilidad. Esto significa que si un modelo de lenguaje grande incita a un niño al suicidio, la empresa no sería responsable debido a esta sección, lo que, según él, es algo que necesita ser reformado.
Regulación de las redes sociales
En eventos anteriores, el CEO también ha abogado por una mayor regulación de las redes sociales, sugiriendo que su uso debería considerarse un problema de salud pública y regularse de manera similar a los cigarrillos en los Estados Unidos. Señaló que estas plataformas son adictivas y no beneficiosas para la salud.
Conclusiones
La llamada a la regulación de la IA y las redes sociales resalta la necesidad de abordar los impactos que estas tecnologías pueden tener en la salud mental de los usuarios. La implementación de regulaciones podría ayudar a mitigar riesgos y proteger a las personas de consecuencias adversas.
