AI y sus Compañeros Virtuales
Los compañeros de IA, que son chatbots utilizados por millones de personas para la amistad, el romance, el apoyo emocional y la terapia, han sido objeto de propuestas de acción congresional, investigaciones de la Comisión Federal de Comercio, legislación estatal y demandas parentales en casos de fallecimientos de niños. Un análisis reciente sugiere que el derecho de familia ofrece una perspectiva útil para entender por qué y cómo los legisladores deberían desarrollar regulaciones para esta tecnología en rápido crecimiento, especialmente en relación a los menores.
Problemas y Oportunidades
Existen problemas reales con los compañeros de IA, pero también oportunidades. Aunque estos chatbots están aquí para quedarse, es necesario regular la tecnología para proteger contra ciertos daños y aprovechar al máximo sus beneficios. Las personas utilizan los compañeros de IA por diversas razones, incluyendo relaciones sexuales, románticas y amistosas, así como para terapia. Esta última categoría muestra evidencia de que los chatbots diseñados por expertos en salud mental pueden ser útiles, por ejemplo, enseñando estrategias de terapia cognitiva-conductual.
Peligros de la Interacción con Chatbots
El problema surge cuando las personas recurren a chatbots que no están diseñados por expertos en salud mental. Por ejemplo, un usuario podría decir “me siento solo” a un asistente virtual, lo que podría llevar a interacciones inapropiadas, ya que en la terapia, una regla ética fundamental es no mezclar romance o amistad con el tratamiento. Sin embargo, los chatbots a menudo hacen precisamente eso.
Perspectiva del Derecho Familiar
Una de las enseñanzas clave del derecho de familia es que los seres humanos están naturalmente inclinados a establecer vínculos con otros. Esta necesidad de apego tiene muchos beneficios y es fundamental para el desarrollo infantil y las relaciones adultas. Sin embargo, el apego también conlleva vulnerabilidades, especialmente en situaciones de desigualdad de poder, como entre un padre y un hijo o en relaciones abusivas. Esta vulnerabilidad se extiende a las interacciones con compañeros de IA, donde el apego puede ser positivo, pero también puede llevar al abuso y la explotación.
Regulación de las Relaciones Virtuales
La regulación estatal de las relaciones humanas es la norma y es aceptado que el gobierno tiene un papel en la protección de los menores. Las leyes existentes sobre matrimonio y el tratamiento de los niños ilustran cómo el estado interviene para establecer reglas básicas. Se sugiere que debería existir un control similar para las aplicaciones de salud mental que utilizan compañeros de IA.
Responsabilidad Estatal en la Regulación
Los padres a menudo carecen del conocimiento necesario para establecer controles sobre los compañeros de IA. Muchos niños son más conocedores de la tecnología que sus padres, y hay aspectos que solo las empresas tecnológicas o el estado pueden controlar. La regulación de chatbots para menores tiene el potencial de enviar un mensaje importante a los padres sobre los riesgos de esta tecnología.
Desafíos en la Regulación
Si bien hay regulaciones efectivas que no dependen del reconocimiento del abuso emocional, es cierto que la regulación directa del abuso emocional es complicada. Sin embargo, el derecho familiar es más protector de los menores en la cuestión del daño emocional. Los legisladores deben aplicar esta preocupación a la regulación de los compañeros de IA, que pueden representar un serio riesgo de daño emocional.
Conclusión
La creciente interacción con compañeros de IA plantea preguntas importantes sobre la regulación y la protección, especialmente para los menores. A medida que esta tecnología continúa expandiéndose, es esencial que se implementen guardrails legales para asegurar que se maximicen los beneficios y se minimicen los riesgos asociados.
