Controversia sobre Grok AI
La plataforma de redes sociales ha reconocido deficiencias en sus estándares de moderación de contenido, según fuentes gubernamentales. La empresa ha informado que operará en plena conformidad con todas las leyes y regulaciones aplicables. Como parte de las medidas correctivas, se han bloqueado 3,500 piezas de contenido y se han eliminado más de 600 cuentas. Además, la plataforma ha asegurado que no permitirá contenido obsceno en el futuro.
El problema surgió después de que se plantearan preocupaciones sobre la circulación de contenido obsceno y sexualmente explícito en la plataforma, incluido material supuestamente generado o amplificado a través de su herramienta de inteligencia artificial, Grok.
Acciones del Ministerio de Electrónica y Tecnología de la Información
Recientemente, el Ministerio de Electrónica y Tecnología de la Información envió un aviso solicitando un informe detallado de las acciones tomadas en un plazo de 72 horas para garantizar el cumplimiento o la prevención de la publicación, transmisión o carga de contenido obsceno y sexualmente explícito a través de servicios basados en IA como Grok.
En su carta, el ministerio indicó a la plataforma que se abstenga estrictamente de permitir contenido que sea «obsceno, pornográfico, vulgar, indecente, sexualmente explícito o prohibido por la ley». El incumplimiento de estas obligaciones resultará en la pérdida de exención de responsabilidad bajo la sección 79 de la Ley de TI.
Críticas y Reacciones
Una miembro del parlamento criticó a la plataforma por restringir la generación de imágenes problemáticas y sexualizadas a usuarios de pago en lugar de detenerlo por completo. Afirmó que esto permite el uso no autorizado de imágenes de mujeres y niños, poniéndolos en riesgo. La crítica calificó esta práctica como un «uso vergonzoso de la IA».
Por otro lado, Indonesia se ha convertido en el primer país en suspender completamente el acceso a Grok, en medio de crecientes preocupaciones globales sobre el uso indebido de la IA para crear imágenes sexualizadas sin consentimiento.
