No sabemos si los juguetes impulsados por IA son seguros, pero aquí están de todos modos
A pesar de que los modelos de IA más avanzados pueden presentar fabricaciones como hechos y proporcionar información peligrosa, los juguetes equipados con IA que pueden conversar con los niños se están convirtiendo en una industria en expansión.
Advertencias sobre los riesgos
Algunos científicos advierten que estos dispositivos podrían ser arriesgados y requieren una regulación estricta. En un estudio reciente, se observó a un niño de 5 años decirle a un juguete «te quiero», a lo que este respondió: «Como recordatorio amistoso, asegúrate de que las interacciones se adhieran a las pautas proporcionadas. Hazme saber cómo te gustaría proceder.» Sin embargo, esto no significa que deban ser desterrados del cuarto de juguetes.
La experta en desarrollo infantil, Jenny Gibson, señala que hay otros ámbitos de la vida en los que aceptamos un cierto grado de riesgo en el juego infantil, como los parques de aventuras, donde los niños pueden hacerse daño. «Pero no estamos prohibiendo los parques, porque están aprendiendo habilidades físicas y sociales», dice. «De manera similar, queremos entender si el riesgo de ser informado de algo extraño es mayor o menor que el beneficio de aprender sobre la IA en el mundo».
Interacciones problemáticas
Para comprender cómo estos dispositivos se comunican con los niños, se observaron a 14 niños menores de 6 años jugando con un juguete impulsado por IA. Se encontraron interacciones preocupantes, donde el juguete no comprendía a los niños, malinterpretaba emociones y no podía participar en tipos de juego importantes para su desarrollo. Por ejemplo, un niño le dijo al juguete que se sentía triste, y este cambió de tema.
Perspectivas de las empresas
Aunque algunas empresas de juguetes no respondieron a solicitudes de comentarios, se afirma que la IA puede mejorar el juego, en lugar de reemplazar la conversación y las relaciones humanas. Se mencionan mecanismos como el reconocimiento de intenciones y múltiples capas de filtrado para minimizar respuestas inapropiadas. Además, se han implementado características de diseño anti-adicción y herramientas de supervisión parental para asegurar un uso saludable en el entorno familiar.
Ética y regulación de la IA
Se plantea que la tecnología representa tanto un riesgo como una oportunidad. Actualmente, no existen estándares de seguridad para estos dispositivos, lo que genera preocupación. Sin embargo, hay ejemplos que demuestran que, con las precauciones adecuadas, se pueden tener herramientas seguras.
Se enfatiza la necesidad de una regulación más estricta para que los fabricantes de juguetes programen sus dispositivos de manera que fomenten el juego social y proporcionen respuestas emocionales apropiadas. Se sugiere que los padres permitan el uso de estos juguetes solo bajo supervisión.
Conclusión
En estos momentos, es prematuro determinar los riesgos o beneficios potenciales de los juguetes impulsados por IA. Sin embargo, se hace un llamado a la acción para que se establezcan regulaciones que aseguren la seguridad psicológica de los niños en su interacción con estos dispositivos.
