Gobernanza de IA Robusta y Responsiva Esencial para Sostener el Progreso Tecnológico
Se ha publicado un documento titulado ‘Fortaleciendo la Gobernanza de IA a través de un Marco Tecno-Legal’, que describe el enfoque para construir sistemas de inteligencia artificial (IA) seguros, confiables y que fomenten la innovación.
Modelo de Gobernanza Propuesto
El documento propone un modelo de gobernanza que combina leyes, salvaguardias técnicas y supervisión institucional. Se destaca que desarrollar un marco de gobernanza robusto y responsivo no solo es una necesidad regulatoria, sino un requisito previo para mantener el impulso del progreso tecnológico.
Propuesta para una Base de Datos de Incidentes de IA
Se recomienda establecer una base de datos nacional para rastrear problemas relacionados con la IA, tales como fallos de seguridad, resultados sesgados, violaciones de seguridad y mal uso. Los informes provendrían de organismos gubernamentales, empresas, investigadores y grupos de la sociedad civil. Esta base de datos ayudaría a identificar riesgos, rastrear tendencias y guiar la acción regulatoria.
Pasos Voluntarios y Apoyo de Expertos
El documento alienta a las empresas a publicar voluntariamente informes de transparencia, probar los sistemas de IA para verificar su equidad y seguridad, llevar a cabo verificaciones de seguridad y realizar ejercicios de pruebas de estrés. También sugiere crear un Comité de Expertos en Tecnología y Políticas para apoyar la gobernanza de la IA.
Equilibrando la Privacidad, la Equidad y el Rendimiento
Se señala que proteger la privacidad mientras se asegura la equidad y el rendimiento del sistema puede ser un desafío. Se recomienda la eliminación de datos consciente del impacto en lugar de la eliminación automática, para evitar perjudicar a grupos subrepresentados.
