Oregón busca regular los chatbots de IA
Los legisladores de Oregón, que en el pasado no lograron regular las redes sociales, ahora tienen la oportunidad de abordar los efectos de esta nueva tecnología emergente en la juventud. La senadora Lisa Reynolds y el comité de Salud Infantil y Comportamental del Senado están promoviendo el Proyecto de Ley 15 para regular los chatbots de inteligencia artificial. Este proyecto fue aprobado por el comité con enmiendas y se llevará al Senado.
Uso de la IA entre los jóvenes
El uso de la IA entre los adolescentes es cada vez más común, con un 72% de ellos utilizando compañeros de IA, y más del 50% como usuarios regulares. Investigaciones indican que casi un tercio de los adolescentes considera que las conversaciones con chatbots son tan satisfactorias o más que las interacciones reales. Se ha observado que los adolescentes utilizan los chatbots de IA como compañeros para apoyo emocional o para discutir temas de salud mental.
Propuestas del proyecto de ley
El proyecto de ley propone que los programas de IA, como ChatGPT, recuerden a los usuarios que están interactuando con una herramienta de inteligencia artificial y no con un humano. Además, se sugieren medidas para limitar el acceso de los jóvenes a la IA, incluyendo advertencias sobre la inadecuación del contenido para menores y la promoción de un uso responsable del tiempo.
Prevención del suicidio
El objetivo del proyecto de ley también es proteger a cualquier persona que exprese tendencias suicidas. Se requeriría que los programadores desarrollen protocolos para detectar signos de ideación suicida y que refieran a los usuarios a líneas de ayuda y recursos de crisis. Estos protocolos deben ser accesibles públicamente en el sitio del programa de IA.
Se ha establecido contacto con organizaciones que podrían participar en la provisión de recursos de salud mental que los chatbots de IA podrían ofrecer a los usuarios. Los voluntarios de líneas de ayuda han notado cómo la IA ha impactado a los usuarios, especialmente en momentos de crisis.
Desafíos y consideraciones
El proyecto podría enfrentar desafíos legales si se aprueba, debido a un decreto ejecutivo que limita la regulación estatal de los servicios de IA. Sin embargo, la senadora continúa comprometida en abordar el uso no regulado de la IA, señalando que las empresas de redes sociales han fallado en proteger a los jóvenes.
El proyecto de ley busca establecer límites y advertencias para un uso seguro y responsable de las herramientas de IA, a fin de evitar que los jóvenes caigan en situaciones de riesgo.
