La seguridad de la IA generativa requiere una sólida gobernanza desde la alta dirección para mitigar riesgos como violaciones de datos y fallas de cumplimiento. Las mejores prácticas incluyen la supervisión continua de las herramientas de IA, la aplicación de controles de acceso y la adaptación de políticas según los riesgos emergentes.
Italia se ha convertido en el primer estado miembro de la UE en aprobar una ley nacional sobre inteligencia artificial, que busca establecer un marco regulatorio que garantice la transparencia y la responsabilidad. Esta legislación también incluye sanciones penales por la difusión ilegal de contenido generado o manipulado por IA, lo que marca un avance significativo en la regulación de la tecnología en Europa.
Un grupo de 31 organizaciones de derechos digitales ha instado a la Comisión Europea a garantizar que la Ley de IA se implemente según lo programado. La carta abierta destaca que muchos estados miembros de la UE han perdido el plazo para designar un regulador nacional, lo que podría socavar la protección de los derechos de las personas bajo la Ley de IA.
Los legisladores estatales están buscando estrategias para aprobar proyectos de ley que regulen el uso de la inteligencia artificial en las decisiones de empleo, a pesar de la oposición de la industria tecnológica y la administración Trump. A medida que los estados enfrentan presiones y amenazas de preempción federal, la tendencia hacia la regulación de la IA sigue siendo fuerte, aunque con un enfoque más centrado en la transparencia y la divulgación.
A medida que las herramientas de inteligencia artificial se integran en las operaciones, los reguladores exigen pruebas de supervisión. Las oficinas familiares, aunque no son el objetivo de las nuevas leyes de cumplimiento, enfrentan riesgos significativos debido a su uso interno de la IA y su inversión en la economía de IA.
La propuesta de la ONU busca regular la inteligencia artificial estableciendo límites para prevenir riesgos severos para la humanidad y la estabilidad global. Sin embargo, analistas expresan dudas sobre la viabilidad y efectividad de estas regulaciones, especialmente en el contexto de cumplimiento para las empresas.
El profesor Suresh Venkatasubramanian de la Universidad de Brown visitó la Universidad Carnegie Mellon para dar una conferencia sobre la regulación de la inteligencia artificial (IA) y la evaluación de la equidad en su uso. Venkatasubramanian enfatizó la importancia de enfoques prácticos y de abajo hacia arriba en la gobernanza de la IA, sugiriendo que los reguladores deben centrarse en objetivos políticos en lugar de especificaciones técnicas que pueden volverse obsoletas rápidamente.
FICO ha anunciado el lanzamiento de dos modelos fundamentales, FICO Focused Language (FICO FLM) y FICO Focused Sequence (FICO FSM), diseñados para cumplir con las estrictas necesidades de confianza y cumplimiento de sus clientes en el sector financiero. Estos modelos se centran en la comunicación y el análisis de transacciones, ofreciendo una puntuación de confianza que asegura la precisión y relevancia de las respuestas generadas.
La gobernanza de la inteligencia artificial responsable no debe comenzar ni terminar con el cumplimiento legal. Las empresas deben evaluar los riesgos de cada sistema de IA independientemente, considerando no solo los requisitos legales, sino también los impactos potenciales en la reputación y la operación.
Nvidia ha criticado públicamente la propuesta de la Ley GAIN AI, enfatizando su potencial para sofocar la competencia en el sector de la inteligencia artificial. La ley busca asegurar que los componentes clave de IA permanezcan accesibles para las empresas y agencias gubernamentales estadounidenses antes de ser suministrados al extranjero.