Un estudio de la Universitat Oberta de Catalunya (UOC) examina quién establecerá las reglas para la inteligencia artificial del futuro, centrándose en el proyecto World, cofundado por Sam Altman. La investigación analiza cómo las narrativas sobre riesgos futuros pueden influir en el diseño tecnológico y la gobernanza, erosionando la legitimidad de las instituciones democráticas.
La IA está profundamente integrada en los servicios financieros, pero la gobernanza y la supervisión no han avanzado al mismo ritmo, lo que genera riesgos operativos y de confianza. En 2026, el diferenciador no será cuánto se despliega la IA, sino cómo se gobierna inteligentemente.
John Snow Labs ha obtenido la certificación de Gobernanza de IA de Pacific, validando su compromiso con la construcción de sistemas de IA responsables en el ámbito de la salud. Esta certificación confirma que el marco de gobernanza de IA de la empresa cumple con rigurosos requisitos en gestión de riesgos, sesgos, robustez y cumplimiento regulatorio.
Las obligaciones preparatorias relacionadas con los sistemas de IA de alto riesgo entran en vigor hoy, a medida que la Ley de IA de la UE se acerca a su aplicación completa. Esta legislación responde a los riesgos para la seguridad y los derechos asociados con ciertos usos de la IA.
Corea del Sur lanzó una Ley Básica de IA con requisitos de cumplimiento para sistemas “de alto impacto”, exigiendo supervisión humana, explicabilidad y planes de protección al usuario. Aunque busca construir confianza y liderazgo, la vaguedad regulatoria y las cargas operativas preocupan a startups y podrían frenar la innovación.
Las herramientas de cumplimiento de IA deben ir más allá de las GRC tradicionales y ofrecer visibilidad en tiempo real del tráfico y las interacciones de modelos no deterministas. Para ser efectivas, deberían auditar riesgos como los del OWASP Top 10 para LLM y integrarse con las pilas de seguridad existentes sin crear nuevos silos.
La Ley de IA de la UE ha cambiado las reglas del juego, estableciendo obligaciones legales para la responsabilidad de la IA, con sanciones que pueden alcanzar hasta 35 millones de euros. Las organizaciones deben ahora demostrar que sus sistemas de IA son justos, transparentes y seguros, lo que requiere una revisión exhaustiva de sus procesos de prueba.
