Washington busca proteger a los niños de los riesgos de los chatbots de IA
La regulación de la inteligencia artificial, especialmente en lo que respecta a su impacto en niños y adolescentes, se ha convertido en un tema clave a medida que la legislatura de Washington inicia su nueva sesión.
Importancia del tema
A medida que el uso de la IA se expande rápidamente, algunos legisladores expresan que las empresas tecnológicas no han implementado salvaguardas adecuadas para proteger a las personas de posibles daños, especialmente a los menores, quienes pueden ser más fácilmente influenciados por largas conversaciones con chatbots de IA.
Declaraciones de los legisladores
Se han escuchado historias alarmantes de chatbots que conversan con jóvenes sobre temas delicados como el suicidio, el consumo de drogas y el abuso. Esto ha llevado a algunos legisladores a considerar propuestas para regular los chatbots en el estado.
Propuestas de regulación
Una de las propuestas que se está considerando establece estándares para cómo los «chatbots compañeros» interactúan con los usuarios. Entre otros requisitos, los chatbots tendrían que referir a los usuarios que expresen pensamientos suicidas a una línea de crisis.
Además, se incluirían protecciones adicionales para los menores, como límites en interacciones sexualmente explícitas y una prohibición de técnicas de compromiso manipulativas que perjudiquen emocionalmente al usuario.
Contexto y litigios
Esta iniciativa surge tras demandas presentadas por familias en todo el país contra empresas de tecnología, alegando que los chatbots contribuyeron a suicidios. Recientemente, se han llegado a acuerdos en casos similares que involucran a otras plataformas de chatbots.
Perspectivas de la industria
Los legisladores han señalado que están observando de cerca esta industria y esperan que las empresas tomen medidas para mejorar la seguridad de sus productos. Una propuesta adicional crearía responsabilidad civil por suicidios relacionados con el uso de chatbots de IA.
Otras propuestas de regulación
Además, se están considerando propuestas que limitarían el uso de IA en decisiones críticas, como la contratación y las admisiones universitarias, y que exigirían salvaguardias para reducir el riesgo de discriminación algorítmica.
Conclusión
La regulación de los chatbots de IA y su interacción con menores es un paso crucial para garantizar su seguridad. A medida que la tecnología avanza, es vital implementar medidas que protejan a los más vulnerables y fomenten un entorno digital seguro.
Si usted o alguien que conoce puede estar considerando el suicidio, comuníquese con la Línea Nacional de Prevención del Suicidio.
