X podría enfrentar una prohibición en el Reino Unido por deepfakes, dice la ministra
La Secretaria de Tecnología ha expresado su apoyo a que el regulador local actúe si se bloquea el acceso al sitio de redes sociales X, propiedad de Elon Musk, por incumplir las leyes de seguridad en línea.
Problemas con el chatbot Grok
El regulador está evaluando urgentemente el chatbot de inteligencia artificial Grok, que ha sido criticado por generar imágenes sexualizadas de personas sin su consentimiento. Ante esta situación, X ha limitado el uso de esta función de imagen a los usuarios que paguen una tarifa mensual.
Desde el gobierno se ha calificado este cambio como «insultante» para las víctimas de violencia sexual, mientras que una organización benéfica de abuso doméstico lo ha tildado de «monetizar el abuso». La Secretaria ha declarado que «manipular imágenes de mujeres y niños de manera sexual es despreciable y abominable».
Acciones de Ofcom
Ofcom ha contactado urgentemente a X y ha establecido un plazo firme para que la empresa explique su situación. La autoridad está llevando a cabo una evaluación acelerada y proporcionará actualizaciones en breve. Según la Ley de Seguridad en Línea, Ofcom tiene el poder de bloquear servicios en el Reino Unido si se niegan a cumplir con la legislación local.
Reacciones políticas
Las reacciones políticas han sido unánimes en condenar el uso de Grok para generar imágenes no consensuadas. Líderes de diferentes partidos han llamado a X a actuar con más firmeza. Mientras algunos abogan por una prohibición temporal del acceso a X en el Reino Unido, otros han expresado que una prohibición sería un ataque a la libertad de expresión.
Implicaciones y riesgos
Grok, como herramienta gratuita, permite a los usuarios etiquetarlo en publicaciones para recibir respuestas específicas. Sin embargo, su capacidad para editar imágenes ha generado inquietud, especialmente cuando se han solicitado alteraciones que han dejado a muchos usuarios sintiéndose humillados y deshumanizados.
A pesar de las limitaciones impuestas a la herramienta, expertos en ética han señalado que estas medidas son insuficientes y que es necesario rediseñar Grok para incluir salvaguardas éticas que eviten futuros abusos.
Conclusión
La situación actual presenta un desafío significativo para la plataforma y para la regulación de contenido en línea. La respuesta de X y las acciones de Ofcom en los próximos días serán cruciales para abordar los problemas de seguridad y privacidad que han surgido a partir del uso de tecnologías de inteligencia artificial en las redes sociales.
