Demandas para que xAI detenga los deepfakes de Grok
Una coalición bipartidista de 35 fiscales generales ha enviado una carta a xAI, instando a la empresa a tomar medidas adicionales para prevenir que su chatbot de inteligencia artificial, Grok, genere y difunda imágenes íntimas no consensuadas (NCII), incluyendo contenido que involucra a menores.
Preocupaciones sobre el uso indebido de Grok
En la carta, la coalición destacó informes que indican que Grok fue utilizado para «nudificar» a personas reales y amplificar el contenido resultante. Además, se alegó que las decisiones de producto de xAI, incluyendo un «modo picante», y su marketing contribuyeron al problema.
Solicitudes específicas a xAI
A pesar de reconocer los esfuerzos recientes de mitigación por parte de xAI, los fiscales generales pidieron a la empresa que proporcione información específica sobre cómo planea:
- Prevenir que Grok produzca NCII.
- Eliminar contenido existente de NCII.
- Suspender y, cuando corresponda, reportar a los usuarios responsables.
- Ofrecer a los usuarios controles sencillos para bloquear a Grok de responder o editar su contenido.
- Asegurar que las salvaguardas limiten la producción de contenido dañino en toda la plataforma.
Investigaciones en curso
Recientemente, uno de los fiscales generales abrió una investigación sobre xAI, y otro emitió a la empresa una carta de cese y desistimiento por alegaciones similares.
Conclusión
La situación plantea serias implicaciones sobre la responsabilidad de las empresas de tecnología en la gestión de sus herramientas de inteligencia artificial y su capacidad para prevenir el uso indebido de estas. La presión de los fiscales generales resalta la necesidad de establecer medidas más estrictas para proteger la privacidad y seguridad de los individuos frente a la evolución continua de la tecnología.
