ASEAN ha optado por un enfoque de gobernanza de IA basado en principios voluntarios, permitiendo a los estados miembros adoptar diferentes caminos en sus políticas de IA. Sin embargo, esto podría resultar en una fragmentación si no se implementan mecanismos regionales para asegurar una aplicación coherente de estas directrices.
Italia se ha convertido en el primer país de la UE en aprobar una ley integral que regula el uso de la inteligencia artificial, imponiendo penas de prisión a quienes utilicen la tecnología para causar daño. La legislación busca promover un uso de la IA «centrado en el ser humano, transparente y seguro», enfatizando la innovación, la ciberseguridad y la protección de la privacidad.
La inteligencia artificial responsable implica construir y desplegar sistemas de IA que sean éticos, transparentes y alineados con los valores sociales. Los líderes deben priorizar la responsabilidad en la IA para mantener la confianza del mercado y cumplir con las expectativas regulatorias.
La era de los «pilotos» de IA ha terminado, y ahora se espera que los sistemas de IA sean explicables, auditable y confiables. Para construir confianza y escalar de manera segura, las empresas deben implementar un marco de confianza de seis capas que aborde las alucinaciones, la procedencia y la gobernanza en cada paso.
Los algoritmos deciden quién vive y muere en la Franja de Gaza, mientras que la inteligencia artificial (IA) alimenta la vigilancia de periodistas en Serbia. La necesidad urgente de gobernanza en torno a la IA ha crecido a medida que las grandes tecnologías y los regímenes autoritarios convergen, poniendo en peligro los derechos humanos.
La Unión Europea ha dado un paso sin precedentes al regular la inteligencia artificial (IA) a través de la Ley de IA de la UE, que es el primer marco legal integral del mundo para la gobernanza de la IA. Esta ley establece requisitos estrictos para las herramientas de IA utilizadas en procesos de decisión legales o administrativos, lo que podría afectar la ejecución de laudos arbitrales si no se cumplen.
La gobernanza de la IA son las reglas, políticas y medidas de seguridad que aseguran que tu IA no se descontrole. La Ley de IA de la UE clasifica los sistemas de IA en cuatro niveles de riesgo, lo que significa que si tu empresa utiliza IA de «alto riesgo», necesitarás trabajar en su cumplimiento.
Singapur está explorando la inteligencia artificial agentiva para mejorar la rapidez y la eficiencia de los servicios públicos, mientras se asegura la confianza del público. La Vicepresidenta de Servicio Público Global de ServiceNow, Casey Coleman, destacó que esta tecnología busca ayudar a las comunidades a prosperar y a cerrar la brecha entre las expectativas de los ciudadanos y la entrega de servicios.
El sector de la inteligencia artificial se encuentra en una encrucijada, donde la búsqueda implacable de talento y las complejidades de la gobernanza corporativa crean un paisaje volátil que desafía la estabilidad a largo plazo de las startups de IA. Para los inversores, la lección es clara: la gobernanza es un determinante esencial de la estabilidad de la valoración.
La inteligencia artificial generativa está pasando de ser una novedad experimental a una implementación práctica, y el principal desafío para las empresas ya no es si adoptarla, sino cómo hacerlo de manera segura y efectiva. A medida que las organizaciones avanzan, es urgente priorizar la gobernanza como un elemento fundamental de su estrategia de IA.