El Senado de Pennsylvania aprueba un proyecto de ley que regula los chatbots de IA utilizados por niños y adolescentes
A medida que los chatbots de inteligencia artificial sin regulación ganan popularidad y generan preocupaciones sobre la seguridad, los senadores estatales aprobaron casi por unanimidad un proyecto de ley destinado a regular los llamados servicios de acompañamiento de IA.
Detalles del proyecto de ley
La propuesta, patrocinada por un senador, establece una serie de salvaguardias limitadas para los operadores de servicios de chatbots, definidos como algoritmos de IA generativa que simulan relaciones humanas con el usuario. Estas medidas solo se requerirán cuando un operador sepa o sospeche que el usuario es menor de edad.
Sin embargo, el proyecto no requiere explícitamente verificación de edad.
Preocupaciones sobre la seguridad
El senador mencionó que estos sistemas están diseñados para simular la interacción humana, lo que puede sentirse muy real para los usuarios vulnerables. Al depender de una máquina para el apoyo emocional sin las salvaguardias adecuadas, las consecuencias pueden ser devastadoras.
Se han presentado varias demandas contra empresas de IA cuyas productos fueron acusados de contribuir al suicidio y la autolesión.
Requisitos para operadores de chatbots
La medida requerirá que todos los operadores de acompañamiento de IA tomen medidas para asegurar que sus productos no promuevan la autolesión, el suicidio o la violencia hacia otros. También deberán proporcionar a los usuarios recursos del mundo real, como el número de una línea de crisis, si un usuario menciona hacerse daño.
Los operadores tendrán que publicar protocolos relacionados en su sitio web accesible al público.
Regulaciones específicas para menores
Cuando haya razones para creer que un usuario es menor, la ley requerirá que los operadores notifiquen a los usuarios que no son humanos, les recuerden esto cada tres horas y sugieran que tomen un descanso. Si los servicios son utilizados por alguien que el operador sabe que es menor, se prohibirá generar contenido visual sexualmente explícito y fomentar acciones sexualmente explícitas.
Cualquier chatbot ofrecido a menores también deberá notificar a los usuarios que puede no ser adecuado para personas menores de 18 años.
Implicaciones del proyecto de ley
El proyecto de ley encomienda a la oficina del Fiscal General del estado la responsabilidad de hacer cumplir la ley y permitirá sanciones civiles de hasta $10,000 para los operadores de servicios de IA que la violen.
Después de que el proyecto fue aprobado por el Senado, se agradeció a los legisladores por apoyar una legislación de sentido común, destacando que los peligros potenciales relacionados con la dependencia excesiva de la inteligencia artificial son muy reales, como se ha visto en numerosos trágicos incidentes en todo el país.
Próximos pasos
La propuesta aún necesita ser aprobada por la Cámara controlada por los demócratas y firmada por el gobernador para convertirse en ley. El gobernador ya ha indicado que está buscando formas de regular los servicios de chatbots de IA.
