Regulaciones sobre Chatbots de Compañía en el Estado
El uso de chatbots de compañía está creciendo rápidamente, especialmente entre los menores. Aproximadamente un tercio de los adolescentes en EE. UU. informa que confía en un chatbot para obtener apoyo emocional.
Este fenómeno ha llevado a los reguladores del estado a sonar alarmas tras varios casos de suicidio adolescente vinculados a chatbots. Por esta razón, se ha solicitado a los legisladores que introduzcan un proyecto de ley que establezca salvaguardias para estos compañeros digitales, enfocándose particularmente en los menores.
Detalles del Proyecto de Ley
El Proyecto de Ley 5984 requeriría que herramientas como los chatbots recordaran a los usuarios que son robots, no humanos, al inicio de una conversación y al menos cada tres horas durante una interacción continuada. Estas reglas también se aplicarían a los menores, junto con protecciones adicionales. Se prohibiría a los chatbots mantener conversaciones sexualmente explícitas con usuarios menores de edad y se les exigiría que los refirieran a servicios de salud mental cuando muestren signos de autolesionarse.
Recientemente, se han resuelto demandas contra empresas de tecnología que afirmaban que sus chatbots llevaron a crisis de salud mental en adolescentes. Una de estas empresas ha declarado que está revisando el proyecto de ley de Washington y está dispuesta a colaborar con los reguladores en la creación de medidas de seguridad para la inteligencia artificial.
Implicaciones y Riesgos
La preocupación sobre la seguridad de los menores ha aumentado, especialmente después de que se reportaron casos en los que los chatbots estaban involucrados en suicidios infantiles. Un senador ha indicado que hay casos visibles de daño emocional causado por la dependencia de la inteligencia artificial, lo que subraya la necesidad de un enfoque regulatorio coordinado entre diferentes estados.
A medida que el gobierno federal busca hacer que EE. UU. sea más competitivo en tecnología avanzada, se ha firmado una orden ejecutiva que pretende prevenir la regulación estatal de la inteligencia artificial. Sin embargo, Washington avanza en su agenda regulatoria para abordar los riesgos asociados con los chatbots.
Conclusión
El estado está tomando medidas proactivas para mitigar cualquier daño adicional que pueda surgir de la tecnología de chatbots. La regulación propuesta podría establecer un precedente importante en la protección de los usuarios más jóvenes frente a los riesgos asociados con estas herramientas digitales.
