AI chatbots enfrentarán reglas de seguridad en el Reino Unido tras la polémica sobre Grok
El gobierno del Reino Unido anunció que incluirá a los chatbots de IA en las leyes de seguridad en línea, cerrando una laguna legal expuesta tras el uso del chatbot Grok para crear deepfakes sexualizados.
Responsabilidad de los proveedores
Los proveedores de chatbots serán responsables de evitar que generen contenido ilegal o dañino, extendiendo reglas que actualmente solo se aplican al contenido compartido entre usuarios en redes sociales. Esta decisión sigue a una reacción internacional contra Grok por permitir a los usuarios crear y compartir imágenes sexualizadas de mujeres y niños utilizando simples comandos de texto.
Nuevas medidas y contexto
El Primer Ministro mencionó que las nuevas medidas incluyen una represión del contenido ilegal generado por IA. Se prevé que el gobierno actúe rápidamente para cerrar la laguna legal y obligar a todos los proveedores de chatbots de IA a cumplir con las obligaciones sobre contenido ilegal en la Ley de Seguridad en Línea, o enfrentar las consecuencias de infringir la ley.
Desde la entrada en vigor de la Ley de Seguridad en Línea en julio, las plataformas que albergan contenido potencialmente dañino deben implementar estrictas verificaciones de edad mediante herramientas como imágenes faciales o comprobaciones de tarjeta de crédito. También es ilegal crear o compartir imágenes íntimas no consentidas, así como material de abuso sexual infantil, incluyendo deepfakes sexuales creados con IA.
Investigaciones y regulaciones
El regulador de medios del Reino Unido ha iniciado una investigación sobre la plataforma de redes sociales que alberga Grok por no cumplir con sus obligaciones de seguridad. Además, la autoridad de protección de datos del país ha lanzado una investigación más amplia sobre las empresas involucradas para determinar si cumplieron con la ley de datos personales en lo que respecta a la generación de deepfakes sexualizados por parte de Grok.
Se ha señalado que no todos los chatbots de IA están regulados bajo la Ley de Seguridad en Línea, incluyendo aquellos que solo permiten que las personas interactúen con el chatbot mismo y no con otros usuarios.
Compromiso con la seguridad infantil
El gobierno está intensificando sus esfuerzos para proteger a los niños en línea, habiendo lanzado una consulta sobre una posible prohibición de redes sociales para menores de 16 años, y considerando medidas para limitar características como el desplazamiento infinito en redes sociales.
En 2025, el Primer Ministro se comprometió a reducir la burocracia para atraer miles de millones de libras en inversión en IA y ayudar al país a convertirse en una «superpotencia de IA».
