Starmer da la bienvenida a los cambios de Grok AI, diciendo que X debe actuar para cumplir con las leyes del Reino Unido «inmediatamente»
La plataforma de Elon Musk, X, ha anunciado que el chatbot de inteligencia artificial, Grok, ya no permitirá a los usuarios editar imágenes de personas en ropa reveladora en lugares donde esto es ilegal. Esta decisión se produce tras las crecientes preocupaciones del gobierno del Reino Unido y del organismo regulador de medios, Ofcom.
Ofcom inició una investigación sobre X después de que se informara que la tecnología permitía generar imágenes sexuales de mujeres y niños. En un comunicado, la empresa afirmó que ha impuesto restricciones sobre la «edición de imágenes de personas reales en ropa reveladora como bikinis», añadiendo que esto proporciona una capa adicional de protección y ayuda a garantizar que aquellos que intenten abusar de la cuenta de Grok para violar la ley o sus políticas puedan ser responsabilizados.
Además, se ha bloqueado geográficamente la capacidad de todos los usuarios para generar imágenes de personas reales en bikinis y ropa interior en las jurisdicciones donde esto es ilegal. Esta restricción se aplicará a todos los usuarios, incluidos los suscriptores de pago, y la edición y creación de imágenes se limitará a los usuarios premium.
Reacciones del gobierno del Reino Unido
El gobierno del Reino Unido ha acogido con satisfacción esta medida. Sir Keir Starmer declaró que X debe actuar para cumplir con las leyes del Reino Unido «inmediatamente». En su declaración, subrayó que «la libertad de expresión no es la libertad de violar el consentimiento», y que «las imágenes de las mujeres jóvenes no son propiedad pública».
La Secretaria de Tecnología, Liz Kendall, también expresó su apoyo a las restricciones, afirmando que «no descansaré hasta que todas las plataformas de redes sociales cumplan con sus deberes legales».
Ofcom, aunque ha dado la bienvenida a las nuevas restricciones de Grok, ha indicado que su investigación está «en curso» para determinar qué salió mal y qué se está haciendo para solucionarlo. Tras la reacción negativa hacia el uso indebido de Grok, el gobierno anunció recientemente una legislación destinada a criminalizar la creación de imágenes íntimas no consensuadas.
Acciones y medidas futuras
El Primer Ministro, Sir Keir Starmer, también dio la bienvenida a la noticia de que la empresa está tomando medidas respecto a las preocupaciones planteadas, pero añadió que el gobierno no se «echará atrás». Ofcom continuará su investigación independiente sobre Grok. La Secretaria de Tecnología enfatizó que el organismo regulador tendría el apoyo total de los ministros para tomar medidas contra X, incluyendo la posibilidad de prohibir la plataforma en el Reino Unido si no se realizan cambios.
Kendall criticó la decisión de la plataforma de limitar algunas funciones de generación de imágenes de Grok a suscriptores de pago, diciendo que la plataforma estaba «monetizando el abuso». Además, la legislación que convierte en delito la creación o solicitud de imágenes íntimas no consensuadas entrará en vigor esta semana tras la controversia de Grok.
Elon Musk afirmó que no estaba al tanto de «imágenes desnudas de menores generadas por Grok» y que el chatbot «se negaría a producir cualquier contenido ilegal», indicando que su «principio operativo» es «obedecer las leyes de cualquier país o estado».
Conclusión
Las recientes acciones de X en relación con Grok reflejan una respuesta a las críticas y preocupaciones sobre la seguridad en las redes sociales. Sin embargo, los reguladores y el gobierno están preparados para tomar medidas más estrictas si es necesario para garantizar la protección de los usuarios, especialmente de los más vulnerables.
