La ICO lanza una investigación sobre X por imágenes sexuales generadas por Grok AI
La ICO ha iniciado una investigación formal sobre X tras las alegaciones de que su herramienta Grok AI generó imágenes sexuales no consensuadas. Al mismo tiempo, las autoridades francesas realizaron una redada en la oficina de X en París debido a preocupaciones criminales relacionadas.
Investigación de la ICO
El regulador de protección de datos del Reino Unido ha abierto una investigación formal sobre la plataforma X, después de que se afirmara que su herramienta Grok AI fue utilizada para generar imágenes sexuales no consensuadas utilizando datos de personas reales. La Oficina del Comisionado de Información (ICO) está examinando si X y su filial irlandesa procesaron datos personales de manera legal, después de que emergieran reportes de que Grok había creado imágenes sexualmente explícitas usando fotografías de individuos, generalmente mujeres, sin su consentimiento.
La ICO confirmó que contactó a X y su brazo de inteligencia artificial, xAI, el 7 de enero, solicitando detalles urgentes sobre las salvaguardas para prevenir tales abusos. Tras las críticas públicas de las víctimas, defensores de la seguridad en línea y políticos, la compañía declaró que había intervenido para restringir la práctica.
Preocupaciones y posibles sanciones
La ICO expresó que los incidentes reportados plantean «serias preocupaciones bajo la ley de protección de datos del Reino Unido» y representan un riesgo de «potencial daño significativo al público». Estas preocupaciones están relacionadas con el procesamiento legal, justo y transparente de datos personales, y si se construyeron salvaguardias adecuadas en el diseño y despliegue de Grok.
El regulador advirtió que fallos podrían dejar a individuos expuestos a daños serios, especialmente a niños. William Malcolm, jefe de riesgo regulatorio e innovación de la ICO, señaló que las alegaciones plantean «preguntas profundamente preocupantes» sobre cómo se pudo haber utilizado datos personales para crear imágenes íntimas o sexualizadas sin consentimiento. La ICO tiene la autoridad para imponer multas de hasta 17.5 millones de libras o el 4% de la facturación anual global de una empresa si se confirman las infracciones.
Acciones en Francia
La investigación en el Reino Unido se produce mientras aumenta la presión sobre X en Europa. Las autoridades francesas confirmaron que investigadores realizaron una redada en las oficinas de la empresa en París como parte de una investigación criminal iniciada en enero. La oficina del fiscal de París indicó que la investigación se abrió tras la alegación de que algoritmos sesgados en X pudieron haber distorsionado los sistemas de procesamiento de datos automatizados.
Las búsquedas fueron llevadas a cabo por la unidad de cibercriminalidad, y tanto el CEO como el ex-CEO de X han sido citados para audiencias programadas para abril. Las autoridades francesas están examinando si X ha cometido múltiples delitos, incluyendo complicidad en la posesión o distribución organizada de material de abuso sexual infantil y violación de derechos de imagen a través de deepfakes sexuales.
El fiscal anunció que dejarían de utilizar X y se comunicarían a través de otras plataformas. La controversia también ha atraído la atención de Bruselas, con la Comisión Europea abriendo una investigación formal sobre xAI debido a preocupaciones sobre la generación de imágenes.
