PA Senate Passes Regulation Of AI Chatbots Used By Kids & Teens
Con el aumento de la popularidad de los chatbots de inteligencia artificial no regulados y las preocupaciones sobre su seguridad, los senadores estatales aprobaron casi por unanimidad un proyecto de ley destinado a regular los servicios de acompañamiento de IA.
Detalles del Proyecto de Ley
La propuesta, patrocinada por un senador, establece una serie de medidas de protección limitadas para los operadores de servicios de chatbots, definidos como algoritmos de IA generativa que simulan relaciones humanas con el usuario. Algunas de estas medidas solo serán requeridas cuando un operador sepa o sospeche que un usuario es menor de edad.
Sin embargo, el proyecto de ley no exige explícitamente la verificación de edad. La medida fue respaldada por un grupo bipartidista de co-patrocinadores, con solo un senador oponiéndose.
Preocupaciones sobre la Seguridad
El senador mencionó que estos sistemas están diseñados para simular la interacción humana y que para los usuarios vulnerables pueden parecer muy reales. Advirtió que cuando un joven comienza a confiar en una máquina para obtener apoyo emocional sin las salvaguardias adecuadas, las consecuencias pueden ser devastadoras. Se hicieron referencias a varias demandas contra empresas de IA cuyas aplicaciones fueron acusadas de contribuir a suicidios y autolesiones.
Requisitos para los Operadores de IA
La medida requerirá que todos los operadores de acompañamiento de IA tomen medidas para asegurar que sus productos no promuevan la autolesión, el suicidio o la violencia hacia otros. También deberán proporcionar a los usuarios recursos del mundo real, como el número de una línea de crisis, si un usuario menciona que se está haciendo daño.
Los operadores estarán obligados a publicar protocolos relacionados en su sitio web accesible al público. Cuando haya razones para creer que un usuario es menor, el proyecto de ley requerirá que se notifique a los usuarios que no son humanos, recordándoles esto cada tres horas y sugiriendo que tomen un descanso.
Prohibiciones y Sanciones
Cuando los servicios sean utilizados por alguien que el operador sabe que es menor, se prohibirá generar contenido visual sexualmente explicito y alentar a los usuarios a realizar acciones sexualmente explícitas. Cualquier chatbot ofrecido a menores también deberá notificar a los usuarios que puede no ser adecuado para personas menores de 18 años.
La ley será aplicada por la oficina del Fiscal General del estado y permitirá sanciones civiles de hasta $10,000 para los operadores de servicios de IA que la violen.
Próximos Pasos
La propuesta aún necesita ser aprobada por la Cámara controlada por los demócratas y firmada por el gobernador para convertirse en ley. El gobernador ya ha manifestado que busca maneras de regular los servicios de chatbots de IA.
