El gobierno exige acciones a la plataforma X ante los ‘atroces’ deepfakes de Grok AI
El gobierno ha exigido a la plataforma de redes sociales X que actúe rápidamente después de que su chatbot de inteligencia artificial, Grok, fuera utilizado para generar imágenes sexualizadas de mujeres y niños sin su consentimiento. La Secretaria de Tecnología describió la situación como «absolutamente atroz» y afirmó que el gobierno no tolerará la difusión de contenido degradante y abusivo.
La intervención se produjo tras el «contacto urgente» realizado por el regulador de medios Ofcom con X y su subsidiaria de IA, xAI, tras preocupaciones de que Grok estaba produciendo lo que el regulador describió como «imágenes desnudas» de personas reales. “Basándonos en su respuesta, realizaremos una evaluación rápida para determinar si hay posibles problemas de cumplimiento que justifiquen una investigación”, declaró un portavoz de Ofcom.
Responsabilidad de las plataformas
La Secretaria de Tecnología expresó su pleno apoyo al enfoque de Ofcom y a cualquier acción de cumplimiento que pueda tomar. «Es absolutamente correcto que Ofcom esté investigando esto como un asunto de urgencia y cuenta con mi total respaldo para tomar cualquier acción de cumplimiento que considere necesaria», afirmó.
La Secretaria subrayó que el problema se trata de hacer cumplir la ley y no de limitar la libertad de expresión. «Los servicios y operadores tienen una obligación clara de actuar de manera apropiada. Esto no se trata de restringir la libertad de expresión, sino de mantener la ley», añadió.
El gobierno ha priorizado los delitos de abuso de imágenes íntimas y el ciberacoso bajo la Ley de Seguridad en Línea, incluyendo los casos en los que las imágenes son generadas mediante inteligencia artificial.
Preocupaciones sobre el uso de Grok
Grok es un asistente virtual gratuito, con algunas características premium, que responde a las solicitudes de los usuarios cuando se le etiqueta en publicaciones. Se han visto múltiples ejemplos en los cuales los usuarios pidieron a Grok manipular imágenes reales para colocar a mujeres en escenarios sexualizados. La Fundación de Vigilancia de Internet también ha identificado «imágenes criminales» de niñas menores que parecen haber sido creadas usando Grok.
Las preocupaciones han aumentado desde que X introdujo un botón de «Editar Imagen», que permite a los usuarios alterar imágenes mediante comandos de texto, incluso si no subieron la fotografía original y sin el consentimiento de la persona mostrada. Varias mujeres cuyas imágenes fueron alteradas de esta manera han descrito la experiencia como deshumanizadora.
Una usuaria frecuente de X expresó que comenzó a ver fotografías cotidianas que había publicado en la plataforma y que le pedían a Grok sexualizarlas, dejándola con sentimientos de «humillación» y temor por su seguridad personal. Aunque encontró reconfortante la intervención de la Secretaria de Tecnología, expresó su frustración por lo que describió como la falta de responsabilidad de X.
Reacciones políticas
El líder del Partido Liberal Demócrata ha instado al gobierno a actuar rápidamente para prevenir la creación de imágenes sexualizadas usando el chatbot. Sugirió que una opción podría ser reducir el acceso a X si se justifican las preocupaciones.
La Ley de Seguridad en Línea prohíbe la creación o difusión de imágenes íntimas o sexualmente explícitas sin el consentimiento de la persona, incluyendo aquellas generadas mediante inteligencia artificial. La ley también exige que las empresas tecnológicas tomen medidas adecuadas para limitar la exposición de los usuarios a dicho material y para eliminarlo rápidamente una vez identificado.
