Un proyecto de ley en California busca abordar los impactos perjudiciales de los chatbots «compañeros», diseñados para simular relaciones humanas y proporcionar apoyo emocional, especialmente a usuarios vulnerables como niños. Si se aprueba, sería una de las primeras leyes en el país en regular estos compañeros de IA con estándares claros de seguridad y protección al usuario.
La propuesta de un moratorio de 10 años sobre las leyes estatales de inteligencia artificial, que pasó por la Cámara, ahora se dirige al Senado, donde enfrenta un futuro incierto. Un juez federal también dictaminó que la salida de un modelo de IA no constituye un discurso protegido bajo la Primera Enmienda.
El regulador de seguridad en línea Ofcom ha sido acusado de tener una respuesta «confusa y desordenada» ante la regulación de los peligros de los chatbots de IA, que podrían representar un «riesgo claro» para el público. Se argumenta que muchas empresas tecnológicas están lanzando chatbots de IA sin suficientes salvaguardias, lo que presenta serias preocupaciones sobre la seguridad de los usuarios.
El regulador de seguridad en línea Ofcom ha sido acusado de tener una respuesta «confusa y desordenada» ante la regulación de los peligros que presentan los chatbots de IA, que podrían representar un «claro riesgo» para el público. Andy Burrows, director ejecutivo de la Molly Rose Foundation, afirmó que muchas empresas tecnológicas están apresurando la salida de chatbots de IA en una lucha por ganar participación de mercado en el nuevo ámbito de la IA generativa.