Kendall insta a X a frenar los deepfakes sexuales generados por IA de Grok
La Secretaria de Tecnología ha instado a la plataforma de redes sociales a abordar el uso de su chatbot de inteligencia artificial Grok en la creación de imágenes sexualizadas no consensuadas de mujeres y niñas.
Esta llamada sigue a las preocupaciones de que Grok puede ser utilizado para generar imágenes sexualizadas sin consentimiento. La cuestión añade un escrutinio sobre cómo las grandes plataformas manejan contenido perjudicial e ilegal vinculado a herramientas de IA generativa.
Marco legal
Se ha indicado que la Ley de Seguridad en Línea del Reino Unido cubre la difusión de imágenes íntimas, incluidas algunas generadas por IA. Según esta ley, compartir imágenes íntimas (que incluyen deepfakes generados por IA que «parecen mostrar» a alguien en un estado íntimo) es un delito penal. La ley exige que todas las empresas tomen medidas robustas contra el contenido y las actividades ilegales.
Las plataformas como X deben implementar medidas para reducir los riesgos de que sus servicios sean utilizados para delitos ilegales y establecer sistemas para eliminar contenido ilegal cuando este aparezca. La ley establece una lista de delitos prioritarios que reflejan las formas más serias y prevalentes de contenido y actividad ilegal.
Implicaciones y riesgos
Se ha señalado que la ley trata el compartir imágenes íntimas sin consentimiento como un delito penal cuando el contenido se encuentra dentro del ámbito de la legislación. Además, se mencionó que las empresas tienen obligaciones de actuar contra el contenido y la actividad ilegal. Esto incluye establecer medidas que reduzcan el riesgo de uso ilegal de sus servicios y sistemas para la eliminación de contenido ilegal.
Las sanciones pueden alcanzar hasta 18 millones de libras o el 10 por ciento de los ingresos mundiales calificados, lo que sea mayor. En casos graves, se pueden solicitar órdenes judiciales que requieran medidas de interrupción comercial, como la retirada de servicios de proveedores de pago o la prohibición de acceso a un sitio en el Reino Unido.
Conclusión
La intervención de Kendall se enmarca en un debate político más amplio sobre cómo las herramientas de IA generativa afectan los daños en línea. Los legisladores y reguladores se han centrado en las imágenes deepfake y la rapidez con la que pueden ser creadas y compartidas a través de grandes redes. La preocupación sobre Grok también plantea preguntas sobre cómo las plataformas gestionan las características de IA incorporadas en los servicios de consumo.
Los reguladores han señalado que las leyes de seguridad y contenido existentes siguen aplicándose cuando tales herramientas se utilizan para actividades ilegales.
