Respuesta Interina del Gobierno Australiano sobre IA Segura y Responsable
El 17 de enero de 2024, el Departamento de Industria, Ciencia y Recursos (DISR) publicó la respuesta interina del Gobierno Australiano al documento de consulta del DISR sobre «Apoyar la IA Responsable en Australia». Este documento de discusión, emitido el 1 de junio de 2023, buscaba opiniones sobre cómo el Gobierno Australiano podría mitigar los riesgos potenciales de la inteligencia artificial (IA) y apoyar prácticas seguras y responsables de IA. La respuesta detalla los comentarios recibidos de los interesados y discute la estrategia del Gobierno para asegurar el desarrollo seguro de la IA.
Consultas Amplias del Gobierno Australiano
Desde el 1 de junio hasta el 4 de agosto de 2023, el gobierno llevó a cabo extensas consultas, buscando insumos de diversos interesados como el público, grupos de defensa, académicos, la industria, firmas legales y agencias gubernamentales. Si bien las presentaciones expresaron entusiasmo por los beneficios potenciales de la IA en áreas como la salud, la educación y la productividad, también se plantearon preocupaciones sobre los posibles daños a lo largo de su ciclo de vida.
Ejemplos de estas preocupaciones incluyeron violaciones de derechos de propiedad intelectual durante la recopilación de datos, sesgos que impactan los resultados de los modelos, impactos ambientales durante el entrenamiento y problemas de competencia que afectan a los consumidores. Las presentaciones enfatizaron la insuficiencia de los marcos regulatorios actuales para abordar los riesgos de la IA, llevando a un consenso sobre la necesidad de guardias regulatorias, especialmente para aplicaciones de IA de alto riesgo.
Puntos Clave de la Respuesta Interina
El gobierno, tras iniciar un diálogo con la comunidad australiana, está comprometido a seguir esta conversación sobre cómo aprovechar las oportunidades de la IA mientras se abordan los riesgos asociados. El análisis inicial, que abarca las presentaciones y discusiones globales como la Cumbre de Seguridad de IA, ha resaltado los siguientes puntos clave:
- Aceptar el impacto positivo de la IA en la creación de empleos y el crecimiento industrial.
- Reconocer que no todas las aplicaciones de IA requieren respuestas regulatorias, enfatizando la necesidad de asegurar el uso sin impedimentos de la IA de bajo riesgo.
- Considerar que las leyes existentes son insuficientes para prevenir daños inducidos por la IA antes de que ocurran, lo que requiere una respuesta mejorada a los daños posteriores.
- Contemplar la introducción de obligaciones obligatorias para aquellos que desarrollan o utilizan sistemas de IA de alto riesgo para garantizar la seguridad.
Principios que Guían la Respuesta Interina
El Gobierno Australiano se comprometió a cinco principios al guiar su respuesta interina:
- Enfoque Basado en Riesgos: Adoptar un marco basado en riesgos para facilitar el uso seguro de la IA.
- Equilibrado y Proporcional: Evitar cargas innecesarias o desproporcionadas sobre empresas, la comunidad y reguladores.
- Colaborativo y Transparente: Involucrar activamente a expertos para dar forma a su enfoque sobre el uso seguro y responsable de la IA.
- Socio Internacional Confiable: Alinear con la Declaración de Bletchley para apoyar la acción global sobre los riesgos de la IA.
- Comunidad Primero: Priorizar el desarrollo de enfoques regulatorios que se alineen con las necesidades y capacidades de todos los individuos.
Próximos Pasos para el Gobierno Australiano en IA
En línea con el objetivo general del Gobierno Australiano de maximizar las oportunidades que presenta la IA, los próximos pasos propuestos se centran en:
a. Prevención de Daños
Ante las preocupaciones, el gobierno busca explorar más las guardias regulatorias enfocadas en pruebas, transparencia y responsabilidad. Esto incluye:
- Pruebas: Auditorías internas y externas, compartir mejores prácticas de seguridad.
- Transparencia: Conciencia del usuario sobre el uso de sistemas de IA.
- Responsabilidad: Roles designados para la seguridad de la IA y formación obligatoria para desarrolladores.
b. Aclarar y Fortalecer Leyes
Para abordar las preocupaciones planteadas durante las consultas, se están llevando a cabo esfuerzos significativos para aclarar y reforzar leyes que protejan a los ciudadanos. Iniciativas clave incluyen:
- Desarrollar nuevas leyes para combatir la desinformación.
- Colaborar en la creación de un marco regulatorio para vehículos automatizados.
- Reformas a la ley de privacidad para mejorar la protección en el contexto de aplicaciones de IA.
c. Colaboración Internacional
Australia está monitoreando cómo otros países están respondiendo a los desafíos de la IA. El Gobierno continuará trabajando con otros países para dar forma a los esfuerzos internacionales en este ámbito.
d. Maximizar los Beneficios de la IA
En el presupuesto 2023-24, el Gobierno Australiano asignó $75.7 millones para iniciativas de IA, enfatizando áreas clave como:
- Programa de Adopción de IA ($17 millones): Crear centros para ayudar a las PyMEs en decisiones informadas sobre IA.
- Expansión del Centro Nacional de IA ($21.6 millones): Ampliar el alcance del centro para investigación vital.
- Programas para Graduados de IA de Nueva Generación ($34.5 millones): Continuar la financiación para atraer y capacitar especialistas en IA.
Conclusión
La respuesta interina del Gobierno Australiano demuestra un compromiso a fomentar los beneficios de la IA mientras se abordan los riesgos asociados. A través de un enfoque basado en principios, busca asegurar el desarrollo de la IA de manera segura, responsable y orientada a la comunidad.
