La Unión Europea está dando inicio a una nueva era de regulación de la inteligencia artificial con su innovadora Ley de IA, que clasifica los sistemas de IA según su potencial de daño. Las aplicaciones de alto riesgo, como las que se utilizan en la contratación o el diagnóstico médico, enfrentan requisitos estrictos para garantizar la gobernanza de datos y la supervisión humana.
La inteligencia artificial (IA) está moldeando los servicios financieros, la agricultura y la educación en África, pero también trae riesgos significativos como sesgos y violaciones de privacidad. Para que Ghana y África se beneficien de la IA, es crucial que las organizaciones alineen sus políticas internas con estándares globales.
Anthropic ha presentado Petri, una herramienta de auditoría de seguridad de IA de código abierto que utiliza agentes autónomos para probar modelos de lenguaje grande (LLMs) en busca de comportamientos riesgosos. Esta herramienta permite auditar modelos como Claude Sonnet 4.5 y OpenAI GPT-5, identificando tendencias problemáticas en áreas como el engaño y la búsqueda de poder.
La Ley de IA de la UE y el RGPD tienen interacciones significativas y similitudes en sus principios, como la transparencia y la gestión de riesgos. Ambos marcos requieren que se implementen medidas de responsabilidad y evaluación de riesgos, pero difieren en cómo abordan el cumplimiento y la supervisión.
La inteligencia artificial agentiva está impulsando implementaciones en atención al cliente y gestión de flujos de trabajo, mientras expone fallas en los procedimientos de cumplimiento del Reglamento General de Protección de Datos (GDPR) de la UE. Para abordar estos desafíos, es necesario pasar de controles estáticos a mecanismos en vivo que operen en tiempo real y garanticen el cumplimiento.
La inteligencia artificial en recursos humanos está transformando la manera en que las empresas gestionan procesos como la contratación y la evaluación del desempeño. Sin embargo, su uso también plantea riesgos legales significativos que los empleadores deben considerar, incluyendo la posibilidad de discriminación y problemas de privacidad.
Este artículo desmitifica las funciones separadas pero interconectadas de la gobernanza de IA y la seguridad de la información (InfoSec), destacando la necesidad de ambos para desarrollar una estrategia de IA responsable. Al reconocer sus misiones distintas y unificar las estrategias, las organizaciones pueden gestionar todos los riesgos de manera efectiva.
California ha aprobado varias leyes relacionadas con la tecnología, incluyendo la Ley de Transparencia en la Inteligencia Artificial, que exige a los laboratorios de IA divulgar los posibles daños y sus protocolos de seguridad. Además, se ha firmado una ley que prohíbe que los anuncios comerciales superen el volumen establecido por el espectador, aplicándose también a los anuncios de streaming.
Los sistemas de salud y las empresas emergentes deben navegar en aguas difíciles de gobernanza y regulación al implementar nuevas herramientas basadas en inteligencia artificial. Un reciente seminario web presentado por Manatt Health destacó la falta de infraestructura y capacidades necesarias para monitorear modelos de aprendizaje automático a gran escala en muchos sistemas de salud.
El Responsible AI Safety and Education Act (RAISE Act), recientemente aprobado por la legislatura del estado de Nueva York, busca abordar los riesgos fundamentales que presentan los modelos de IA de frontera. Sin embargo, al imponer obligaciones únicamente a los desarrolladores de estos modelos, descuida la cadena de valor más amplia de la IA, lo que podría frenar la innovación sin mejorar significativamente la seguridad.