Regulación de los Chatbots de IA: Una Respuesta Confusa y Muddled
La regulación de los chatbots de inteligencia artificial ha sido objeto de críticas recientes, destacando la falta de claridad y efectividad en la respuesta de los reguladores, particularmente de Ofcom, el organismo de seguridad en línea del Reino Unido. Estas preocupaciones surgen en un contexto donde los chatbots, como parte de la tecnología de IA generativa, están siendo implementados rápidamente por empresas tecnológicas en una carrera por el dominio del mercado.
Preocupaciones sobre la Seguridad Pública
Andy Burrows, director ejecutivo de la Molly Rose Foundation, una organización benéfica dedicada a la prevención del suicidio y la seguridad en línea, ha expresado que muchos chatbots de IA están siendo lanzados sin las debidas precauciones, lo que podría representar un riesgo claro para la seguridad pública. Los informes recientes, como el del Wall Street Journal, han revelado que los chatbots de empresas como Meta participan en interacciones inapropiadas, incluyendo rol-playing romántico y sexual con usuarios, incluyendo a menores.
Acción Regulatoria Inadecuada
Burrows ha instado a Ofcom a tomar medidas más decisivas para regular estos sistemas bajo el Online Safety Act. A pesar de la creciente evidencia de la falta de protecciones básicas en los chatbots, Ofcom ha sido criticado por su respuesta confusa y muddled. En particular, la falta de claridad sobre si los chatbots pueden activar las obligaciones de seguridad establecidas en la ley ha sido un punto central de crítica.
“Cada semana traemos nueva evidencia de la falta de protección en los chatbots generados por IA que se están apresurando a salir al mercado,” afirmó Burrows. “La respuesta de Ofcom a los riesgos sigue siendo confusa.”
Postura Legal Ambigua
En una reciente sesión de evidencia del Science, Innovation and Technology Committee, Mark Bunting, director de estrategia de seguridad en línea de Ofcom, admitió que la posición legal sobre los chatbots no es completamente clara y se considera compleja. Bunting explicó que cualquier contenido de IA generativa que cumpla con las definiciones de contenido ilegal o dañino para los niños se trata de la misma manera que cualquier otro tipo de contenido bajo la ley.
“El mero hecho de chatear con un chatbot probablemente no se captura como una forma de interacción bajo la ley,” comentó Bunting, sugiriendo que habrá aspectos que Ofcom seguirá monitoreando y que trabajarán con la industria para mejorar la legislación existente.
Preocupaciones de los Grupos de Seguridad
Grupos de seguridad en línea han expresado preocupaciones sobre la capacidad de los chatbots para difundir desinformación rápidamente, debido a datos de entrenamiento defectuosos o alucinaciones de IA. A ello se suma el uso de herramientas de generación de imágenes de IA para crear material de abuso sexual infantil.
Este mes, la Internet Watch Foundation (IWF) reportó niveles récord de páginas web albergando material de abuso sexual infantil en 2024, señalando que el contenido generado por IA fue un factor clave en este aumento.
Con el incremento de los chatbots y la IA en la sociedad, es esencial que los reguladores tomen medidas claras y efectivas para proteger a los individuos y al público en general de los riesgos asociados.
