Shapiro quiere que Pennsylvania regule los chatbots de IA. ¿Cómo funcionaría eso?
El gobernador de Pennsylvania está dirigiendo a las agencias estatales a desarrollar regulaciones más estrictas para los chatbots de inteligencia artificial, que él dice que pueden ser engañosos y perjudiciales para los niños. Estas nuevas restricciones podrían agregar a Pennsylvania a una lista creciente de estados que buscan imponer límites a medida que más niños utilizan chatbots de IA.
En su discurso sobre el presupuesto, el gobernador afirmó: «Este espacio está evolucionando rápidamente. Necesitamos actuar rápido para proteger a nuestros niños». Un estudio reciente reveló que un tercio de los adolescentes en EE. UU. utiliza chatbots para la interacción social y relaciones, lo que genera preocupaciones sobre el daño emocional que pueden causar.
Propuestas de regulación
Shapiro ha propuesto que Pennsylvania exija verificación de edad, consentimiento parental y una prohibición de contenido sexualmente explícito o violento que involucre a niños. También apoya que las empresas dirijan a los usuarios que mencionen autolesiones o violencia a las autoridades adecuadas y que recuerden periódicamente a los usuarios que no están interactuando con una persona real.
Desafíos de implementación
Sin embargo, la implementación de estos requisitos presenta desafíos significativos. La verificación de edad es un tema controvertido, ya que muchos expertos en seguridad advierten sobre su ineficacia y los riesgos para la privacidad. Además, la posibilidad de que los usuarios falsifiquen su identificación en línea dificulta esta tarea.
En cuanto a la creación de contenido violento o sexualmente explícito, las empresas de IA ya están explorando cómo bloquear la creación de material de abuso sexual infantil, pero los límites actuales pueden ser eludidos fácilmente. Asegurar que un chatbot no produzca dicho contenido es un reto considerable.
Legislación y protección de usuarios
El gobernador ha instado a los legisladores a desarrollar leyes que protejan a los niños y otros usuarios vulnerables de los riesgos potenciales asociados con el uso de chatbots. Un proyecto de ley bipartidista en el Senado estatal establecería «estándares apropiados para la edad» y exigiría salvaguardias contra contenido que fomente la autolesión o la violencia.
Sin embargo, queda por ver cómo se harían cumplir estas protecciones y qué sanciones enfrentarían las empresas cuyos chatbots las violen.
Un sistema fragmentado
La inteligencia artificial ha crecido de manera rápida y no regulada, lo que ha llevado a un sistema fragmentado donde diferentes estados implementan sus propias reglas. A medida que Pennsylvania y otros estados desarrollan sus propios conjuntos de normas, se crea un entorno complicado para las empresas de IA.
Es probable que estados con grandes poblaciones, como California y Nueva York, establezcan el tono para la regulación de IA en EE. UU., lo que podría influir en cómo las empresas abordan las normativas en diferentes estados.
Conclusión
A pesar de los desafíos, la administración de Pennsylvania está adoptando un enfoque responsable hacia la regulación de chatbots. Es vital que las agencias trabajen en colaboración con partes interesadas y expertos para asegurar que las regulaciones no solo sean efectivas, sino también prácticas en su implementación.
