Nuevas reglas de MeitY refuerzan la supervisión de la IA, pero los deepfakes obscenos siguen afectando a los anunciantes
Días después de que el Ministerio de Electrónica y Tecnología de la Información notificara enmiendas amplias a las Reglas de Tecnología de la Información (Directrices para Intermediarios y Código de Ética de Medios Digitales) de 2021 para controlar el contenido generado sintéticamente dañino, los expertos de la industria advierten que la regulación por sí sola no neutralizará la creciente inundación de obscenidades generadas por IA en línea.
A pesar de que el marco legal ahora es más estricto, exigiendo trazabilidad, etiquetado y eliminación rápida de contenido sexual explícito, no consensuado y ofensivo, este contenido sigue circulando en las plataformas sociales, creando lo que los expertos describen como una “crisis persistente de seguridad de marca y gobernanza” para los anunciantes.
Enmiendas y Desafíos de Cumplimiento
Bajo las nuevas reglas, los intermediarios deben etiquetar claramente el material generado por IA, incrustar metadatos rastreables y eliminar contenido ilegal dentro de un plazo de tres horas después de ser señalado por las autoridades, un endurecimiento significativo respecto al anterior plazo de 36 horas. Las enmiendas apuntan explícitamente a los deepfakes, imágenes sexuales no consensuadas y manipulaciones sintéticas, imponiendo estrictas obligaciones de diligencia debida sobre las plataformas y proveedores de servicios de IA.
Sin embargo, la aplicación de estas reglas sigue siendo el desafío central. Se han emitido avisos sobre el presunto mal uso de un chatbot de IA que permitía a los usuarios generar y compartir imágenes sexuales explícitas o reveladoras de mujeres, a veces incluso de menores, a través de simples entradas de texto. Este problema ha sido calificado como una violación de la dignidad y privacidad de las mujeres, exigiendo auditorías y medidas de seguridad más robustas.
Contenido en la Zona Gris
La preocupación es mayor en la zona gris del contenido sexualizado, provocativo o inapropiado para niños, que puede ser de mal gusto o éticamente cuestionable, pero que no cumple claramente con la prueba legal de obscenidad. Esto se relaciona más con la gobernanza de plataformas, estándares publicitarios y normas sociales. Los influencers, incluso antes de la IA, han utilizado la sexualidad y el atractivo visual como herramientas de marketing. Los modelos de IA ahora representan una versión más económica y escalable de la misma economía de atención.
La distinción es crítica para las marcas. Mientras que el contenido ilegal criminal invita a un mayor escrutinio regulatorio y mandatos de eliminación, el desafío más prevalente radica en el material “borderline” amplificado algorítmicamente que puede no violar las disposiciones penales, pero que arriesga un retroceso reputacional.
Implicaciones para los Anunciantes
Los anunciantes enfrentan una amenaza doble: la proximidad de su marca al contenido sintético explícito y el uso indebido de la imagen de sus embajadores de marca a través de deepfakes. La publicidad de influencers, que ahora es central en la estrategia de marca digital, está particularmente expuesta. Un estudio de 2024 encontró que una proporción significativa de herramientas de deepfake producen contenido no seguro para el trabajo (NSFW), con muchos influencers reportando que su imagen ha sido manipulada sin consentimiento.
Las plataformas no pueden distanciarse de la responsabilidad cuando sus algoritmos están diseñados para maximizar el compromiso. Aunque las plataformas son negocios, no tienen derecho a beneficiarse del contenido que infringe las pautas. Si sus sistemas están intencionalmente promoviendo material inapropiado solo para mantener a las personas pegadas a las pantallas, eso las convierte en parte del problema.
Conclusión
Las nuevas reglas de MeitY intentan cerrar estas brechas al requerir metadatos incrustados en el material generado por IA y exigir declaraciones de usuario cuando se utilizan herramientas sintéticas. Sin embargo, los observadores de la industria señalan que la tecnología de detección a menudo queda rezagada respecto a las herramientas de generación, lo que complica la moderación en tiempo real.
Como la IA difumina la línea entre la imagen auténtica y la fabricada, las apuestas reputacionales para las marcas nunca han sido más altas. En un ecosistema digital impulsado por la viralidad y la atención monetizada, las reglas de MeitY pueden definir los límites, pero la cooperación sostenida entre reguladores, plataformas e industria determinará si esos límites se mantienen.
