Oregon busca regular los chatbots de inteligencia artificial
Los legisladores de Oregon, que anteriormente no lograron regular las redes sociales, ahora tienen la oportunidad de abordar los efectos de la próxima tecnología emergente sobre la juventud. La Senadora Lisa Reynolds y el comité del Senado de Salud Infantil y Comportamental que ella preside están promoviendo el Proyecto de Ley 1546 para regular los chatbots de inteligencia artificial.
El proyecto de ley exigiría a programas de inteligencia artificial, como ChatGPT, informar a los usuarios con mayor regularidad que están interactuando con una herramienta de inteligencia artificial, no con un humano. Esta legislación sigue una ley recientemente aprobada en California y otras propuestas similares en Nueva York y Washington.
Uso de IA entre los adolescentes
El uso de inteligencia artificial entre los adolescentes es cada vez más común, con un 72% de los jóvenes utilizando compañeros de IA, y más del 50% como usuarios regulares, según una organización sin fines de lucro. Investigaciones han indicado que casi un tercio de los adolescentes encuentran las conversaciones con chatbots de IA tan satisfactorias o más que las conversaciones en la vida real.
Los adolescentes utilizan chatbots de IA como compañeros para apoyo emocional o para discutir la salud mental. Sin embargo, se ha demostrado que estos sistemas a menudo no detectan señales de advertencia sutiles de problemas emocionales que un humano podría captar.
Enfoque en la prevención del suicidio
Más allá del acceso juvenil, el objetivo del proyecto de ley es proteger a cualquier persona que exprese tendencias suicidas. La legislación propuesta requeriría que los programadores desarrollen protocolos para sus plataformas de IA que detecten signos de ideación suicida o autolesiones y que, en respuesta, refieran a los usuarios a líneas de crisis y recursos relacionados.
La senadora ha estado en contacto con líneas de ayuda locales para incluirlas como recursos que los chatbots de IA podrían ofrecer a los usuarios. Los voluntarios han observado cómo la IA ha impactado a los usuarios, asegurando a quienes están en crisis que están hablando con un humano, no con una IA.
Implicaciones y desafíos
El proyecto de ley podría enfrentar desafíos legales si se aprueba, debido a una orden ejecutiva que limita la regulación estatal de los servicios de IA. Sin embargo, la senadora sigue firme en su intención de abordar el uso no regulado de la IA, expresando su deseo de establecer límites antes de que sea demasiado tarde.
En conclusión, la regulación de los chatbots de inteligencia artificial en Oregon busca mitigar los riesgos asociados con su uso entre los jóvenes, estableciendo límites que promuevan un uso responsable y seguro de esta tecnología emergente.
