Por qué la decisión de X sobre Grok marca un punto de inflexión para la ética en IA
La plataforma ha implementado restricciones significativas en su herramienta de IA, Grok, tras críticas generalizadas sobre su potencial para crear imágenes sexualizadas de personas reales.
La empresa ha confirmado que, en jurisdicciones donde es ilegal, Grok ya no podrá editar fotos de individuos para representarlos en ropa reveladora. Este cambio se produce tras la indignación global por la generación de deepfakes sexuales por parte de los usuarios, algunos de los cuales involucraban a mujeres y niños, que fueron publicados en la plataforma.
Reacciones a las restricciones de Grok
El organismo regulador de seguridad en línea del Reino Unido ha abierto una investigación formal para determinar si X ha cumplido con sus obligaciones de proteger a los usuarios de contenido ilegal. Se han expresado serias preocupaciones sobre la función de Grok que produce imágenes desnudas y sexualizadas de personas.
La plataforma ha afirmado haber implementado medidas para evitar la creación de imágenes íntimas de personas, lo que ha sido bien recibido, aunque la investigación formal continúa.
Implicaciones en otros países
No solo en el Reino Unido se han planteado preocupaciones. En Estados Unidos, el fiscal general de California ha lanzado una investigación sobre la difusión de deepfakes sexualmente explícitos, incluyendo material de menores, generados por Grok.
X ha anunciado que ahora bloquea la capacidad de todos los usuarios para generar imágenes de personas reales en trajes de baño y ropa interior en aquellas jurisdicciones donde es ilegal. Solo los suscriptores de pago mantienen acceso a las herramientas de edición de imágenes de Grok, lo que representa una “capa adicional de protección” para asegurar la responsabilidad en su uso.
Ética de la IA y responsabilidad de la plataforma
A pesar de estas reacciones, reguladores y grupos de defensa argumentan que las medidas reactivas de X destacan un problema más amplio de gobernanza en las plataformas de IA generativa. Miles de imágenes sexualizadas de IA han circulado en la plataforma en las últimas semanas, lo que ha llevado a legisladores y grupos de mujeres a solicitar que se prohíba a Grok en las tiendas de aplicaciones.
La reversión de X marca un momento crucial en la evolución de la gobernanza de plataformas de IA. Las herramientas de medios generativos están chocando rápidamente con marcos legales emergentes, obligando a las empresas tecnológicas a adoptar salvaguardias aplicables contra el uso indebido. Al introducir bloqueos geográficos y restringir el acceso a las herramientas, X ha dado un paso hacia la reconstrucción de la confianza, pero los expertos advierten que la implementación de políticas y la transparencia continua serán determinantes para el éxito de estas medidas.
