Grok enfrenta escrutinio regulatorio en Corea del Sur por contenido explícito de IA
Corea del Sur ha avanzado hacia acciones regulatorias contra Grok, el chatbot de IA generativa desarrollado por una empresa de tecnología, tras acusaciones de que el sistema fue utilizado para generar y distribuir imágenes profundas sexualmente explotadoras.
Revisión preliminar
La Comisión de Protección de Información Personal del país ha iniciado una revisión preliminar para evaluar si se produjeron violaciones y si el asunto se encuentra dentro de su ámbito legal. Esta revisión sigue a informes internacionales que acusan a Grok de facilitar la creación de imágenes explícitas y no consensuadas de personas reales, incluidos menores.
Implicaciones legales
Bajo la Ley de Protección de Información Personal de Corea del Sur, generar o alterar imágenes sexuales de personas identificables sin su consentimiento puede constituir un manejo ilegal de datos personales, exponiendo a los proveedores a acciones de cumplimiento. Las preocupaciones han aumentado después de que grupos de la sociedad civil estimaron que millones de imágenes explícitas fueron producidas a través de Grok en un corto período, con miles de estas imágenes involucrando a niños.
Reacciones internacionales
Varios gobiernos, incluidos los de Estados Unidos, Europa y Canadá, han abierto investigaciones, mientras que algunas partes del sureste asiático han optado por bloquear el acceso al servicio por completo. En respuesta, la empresa ha introducido restricciones técnicas que impiden a los usuarios generar o editar imágenes de personas reales.
Medidas de protección juvenil
Los reguladores coreanos también han exigido medidas más estrictas de protección juvenil, advirtiendo que la falta de atención al contenido criminal que involucra a menores podría resultar en sanciones administrativas.
Conclusión
El caso de Grok resalta la creciente preocupación sobre la regulación de la inteligencia artificial y el manejo de contenido sensible. Las acciones regulatorias en Corea del Sur podrían establecer un precedente para otros países que enfrentan desafíos similares en la intersección de la tecnología y la ética.
