Establecimiento de un sistema de gobernanza de IA con características de Shanghái
El rápido desarrollo de la IA generativa ha traído consigo una serie de riesgos secundarios, como la desinformación y la seguridad de los datos. La pregunta que surge es: ¿cómo podemos fortalecer la base de seguridad para el desarrollo de la inteligencia artificial?
Riesgos asociados con la IA
El uso indebido de la tecnología muestra nuevas características de industrialización, ocultación e impacto intersectorial. El sistema actual de gobernanza no aborda adecuadamente los desafíos relacionados con la confrontación tecnológica, la seguridad de los datos y los riesgos en el orden del mercado, incluyendo el uso indebido de la tecnología deepfake, el deterioro de los ecosistemas de contenido generado y los riesgos prominentes para la seguridad de los datos y los derechos de propiedad intelectual.
Propuestas para la gobernanza de la IA
Se propone construir un sistema de gobernanza de inteligencia artificial ágil, científico y sistemático que aborde los riesgos negativos asociados con la IA, logrando un «uso efectivo» basado en un «control adecuado». Esto se considera una prioridad urgente para equilibrar el desarrollo de alta calidad con la seguridad de alto nivel.
Centro de Pruebas de Seguridad de Contenido de IA
Se sugiere que los departamentos pertinentes colaboren con instituciones de investigación y empresas líderes para establecer un «Centro de Pruebas de Seguridad de Contenido de IA Municipal». Esta iniciativa tiene como objetivo crear una plataforma técnica que integre monitoreo, advertencia temprana y trazabilidad, implementando un registro técnico para escenarios de alto riesgo y realizar evaluaciones regulares para pasar de una protección tecnológica «pasiva» a una «defensa activa».
Mejoras en los marcos legales
Se propone acelerar la legislación en campos emergentes mediante la formulación de una regulación local que satisfaga las necesidades del desarrollo tecnológico e industrial y establezca estándares globales para la gobernanza de la inteligencia artificial. Esto asegurará una influencia internacional en el ámbito de la IA.
Protección de menores en aplicaciones de IA
Con el aumento de la exposición de menores a productos de IA, se sugiere promover la creación de una «Regulación sobre la Protección de Menores en Aplicaciones de Inteligencia Artificial», que prohíba explícitamente la generación o promoción de contenido que involucre violencia, sesgo o inducimientos dañinos hacia los jóvenes.
Colaboración interdepartamental
Para abordar nuevos tipos de riesgos, como la manipulación de mercados financieros y las violaciones de datos, se recomienda establecer una base de datos compartida sobre «Desinformación de IA y Características de Datos Anómalos». Aprovechar la tecnología de IA para identificar y eliminar rumores creados por manipulación mejorará la capacidad de detectar y responder a nuevos riesgos financieros.
Defensa psicológica contra riesgos de IA
Es fundamental construir una «defensa psicológica» contra los riesgos asociados con la IA en toda la sociedad. Se recomienda incorporar la educación sobre seguridad de IA en el programa de mejora de la alfabetización digital de la ciudad, centrándose en grupos vulnerables como ancianos, niños y personal financiero de empresas. Los mensajes clave deben incluir la concienciación sobre riesgos como la «falsificación de videos» y «predicciones poco fiables».
Conclusión
Para equilibrar el desarrollo con la seguridad y mitigar efectivamente los riesgos negativos que trae la tecnología de IA, es necesario acelerar la construcción de un sistema de gobernanza de inteligencia artificial que refleje las características de Shanghái y cubra todas las áreas necesarias.
