Gobernanza responsable de la IA: consideraciones clave para organizaciones australianas
La gobernanza responsable de la inteligencia artificial (IA) se ha convertido en un tema crucial en el contexto actual, donde la productividad se encuentra en un mínimo de 60 años y el Gobierno Federal ha comprometido recientemente 900 millones de dólares adicionales para abordar este desafío. La IA se presenta como una oportunidad para impulsar el crecimiento económico y fomentar la innovación, siendo muchas organizaciones las que ya están capitalizando su potencial.
A pesar del potencial de la IA para aumentar la productividad, una encuesta de IPSOS de 2024 reveló que el 64% de los australianos aún se muestra nervioso respecto a su uso. Esta reticencia subraya la necesidad de que las organizaciones integren un enfoque de IA responsable, que vaya más allá del cumplimiento legal e integre principios de IA ética en sus estrategias de gobernanza, implementando salvaguardias prácticas para asegurar que la tecnología sea entrenada, diseñada y desplegada de manera segura, transparente y alineada con las expectativas públicas.
Regulación de la IA en el mundo
El entorno regulatorio internacional de la IA ha evolucionado en direcciones marcadamente diferentes.
Unión Europea
La Unión Europea ha introducido el Acta de IA de la UE, que entró en vigor el 1 de agosto de 2024. Adopta un modelo basado en riesgos que clasifica los sistemas de IA según varios niveles de riesgo, con obligaciones correspondientes dependiendo de la clasificación de riesgo del sistema. A pesar de su intención de garantizar una IA segura y transparente, el Acta de IA de la UE ha sido controvertido, con grandes empresas tecnológicas criticándolo por obstaculizar la innovación.
Estados Unidos
En contraste, el enfoque federal de los Estados Unidos ha cambiado hacia la deregulación. Actualmente, EE.UU. carece de una legislación federal dedicada a la IA, dependiendo de marcos existentes y neutrales en tecnología. Mientras que han surgido propuestas para una legislación federal, la administración actual ha adoptado una postura dereguladora hacia la IA, lo que pone en duda la probabilidad de que tales legislaciones sean aprobadas.
Reino Unido
El Reino Unido también carece de una legislación dedicada a la IA y prefiere un enfoque ligero y «pro-innovación». En su Plan de Acción de Oportunidades de IA, publicado en enero de 2025, se hace poca mención de discusiones regulatorias. En lugar de introducir medidas legislativas amplias, el Reino Unido planea adoptar una regulación «altamente dirigida» enfocada en los riesgos de seguridad que plantean los modelos de IA más poderosos.
República Popular de China
La República Popular de China no cuenta actualmente con una regulación unificada de la IA, pero sí regula casos de uso específicos de IA, incluyendo tecnología de síntesis profunda y algoritmos de recomendación. China busca convertirse en el líder mundial en IA para 2030, tanto desde un punto de vista competitivo como ético.
Singapur
Singapur, al igual que muchas jurisdicciones, carece de legislación sobre IA y depende de marcos legales existentes, apoyados por orientación sectorial de organismos como la Fundación AI Verify.
Regulación de IA en Australia: estado actual
Australia carece de legislación dedicada a la IA, lo que genera incertidumbre sobre cómo gobernar la IA de manera efectiva bajo las leyes existentes. Sin embargo, en un documento de propuestas, el Gobierno Australiano ha considerado la introducción de un marco legislativo basado en riesgos para regular la IA, similar al enfoque de la UE.
A pesar de estos desarrollos, el camino de Australia hacia una legislación integral sobre IA sigue siendo incierto, especialmente considerando las recientes llamadas del Gobierno Federal para reducir la regulación y evitar que la sobreregulación de la IA obstaculice la productividad.
Gobernanza responsable de la IA
Según un informe de EY, los australianos muestran una desconfianza significativa hacia la IA en comparación con el resto del mundo, con solo el 37% de los encuestados creyendo que los beneficios de la IA superan sus riesgos. Esto es problemático dado el papel central que juegan los proveedores de servicios financieros y el gobierno en la economía australiana.
Con la legislación dedicada a la IA aún lejos, las organizaciones deben actuar ahora para implementar marcos de gobernanza de IA responsables que aborden tanto el cumplimiento legal como el despliegue ético. Algunos aspectos clave para considerar incluyen:
- Establecer roles claros y responsabilidades para implementar y supervisar los sistemas de IA.
- Comprender a fondo cómo opera el sistema de IA y sus casos de uso previstos dentro de la organización.
- Evaluar los riesgos de “IA sombra”, que se refiere al uso no autorizado de IA por parte de empleados.
- Evaluar éticamente cualquier decisión para desarrollar o utilizar IA.
- Asegurar pruebas rigurosas antes de cualquier implementación de IA.
- Monitorear y gobernar los sistemas de IA con un alto grado de supervisión humana.
Las acciones anteriores deben complementarse con una comunicación transparente con los clientes y otras partes interesadas para mantener una comprensión clara, gestionar expectativas y crear confianza en cómo se utilizan y gobiernan los sistemas de IA.
Conclusiones clave
En ausencia de legislación vinculante específica para la IA, las organizaciones no deben tratar la IA responsable como opcional. Un enfoque puramente impulsado por el cumplimiento puede satisfacer las obligaciones legales, pero no abordará el creciente escepticismo del consumidor y las expectativas éticas en evolución.
Al integrar principios de IA responsable en sus operaciones y adoptar un enfoque proactivo hacia la gobernanza de la IA, las organizaciones pueden fomentar la confianza entre las partes interesadas, beneficiarse de los aumentos de productividad que ofrece la IA y asegurar que el uso de la IA esté claramente alineado con los objetivos comerciales de la organización.
