Grok AI está monetizando el abuso y el gobierno debe actuar
El abuso de imágenes generadas por IA está aumentando a un ritmo sin precedentes, y se requiere una acción urgente por parte del gobierno y de las plataformas tecnológicas para proteger a mujeres y niñas, advierte una organización benéfica dedicada al abuso doméstico.
Contexto del problema
La advertencia surge en respuesta a un creciente número de usuarios de plataformas de redes sociales que utilizan tecnología de IA para crear imágenes sexualizadas de mujeres y niñas. Imágenes inocentes publicadas por mujeres y fotografías de niños han sido manipuladas mediante herramientas de IA para eliminar ropa, colocarlos en posiciones sexualizadas y añadir moretones u otras marcas de violencia.
Tras una condena generalizada, se anunció que la capacidad de los usuarios para editar imágenes con esta herramienta se limitaría a suscriptores de pago. Sin embargo, se argumenta que esta medida simplemente ha monetizado el abuso.
Reacciones de los expertos
La responsable de abuso facilitado por tecnología en Refuge, Emma Pickering, ha expresado su preocupación por esta práctica y urge a que se tomen medidas regulatorias para prevenir este tipo de agresiones y proteger a las víctimas.
