Según una publicación reciente de Northern Light Group, la confianza y la gobernanza se están convirtiendo en requisitos esenciales para el uso empresarial de la IA generativa. Este enfoque busca reducir las alucinaciones y mitigar los riesgos de la «IA sombra», facilitando así la gobernanza y auditoría.
Un estudio del Indian Institute of Management Lucknow destaca la necesidad de marcos éticos claros para regular el marketing impulsado por inteligencia artificial, enfatizando un uso responsable que evite sesgos y proteja la confianza social.
La académica Elif Biber analiza cómo los sistemas de inteligencia artificial afectan los derechos humanos en la era digital, y argumenta que la arquitectura de estas tecnologías restringe las condiciones sociopolíticas en las que emergen dichos derechos, lo que requiere nuevas respuestas conceptuales e institucionales.
Yoshua Bengio, ganador del Premio Turing, advierte sobre riesgos emergentes de la IA, incluidas sus acciones contrarias a instrucciones humanas y la rápida evolución tecnológica que supera las prácticas actuales de gestión de riesgos, con posibles consecuencias graves para la sociedad.
Los legisladores de Alabama están introduciendo proyectos de ley para regular el uso de la inteligencia artificial en el estado, desde la verificación de edad para chatbots hasta decisiones en atención médica. A pesar de una orden ejecutiva del presidente Trump que limita la capacidad de los estados para promulgar leyes estrictas sobre IA, se busca proteger a los ciudadanos cumpliendo con los requisitos federales.
La inteligencia artificial (IA) tiene el potencial de transformar cada etapa del desarrollo de medicamentos, desde el descubrimiento inicial hasta los ensayos clínicos. La regulación que implementen las agencias federales sobre el uso de IA será clave para lograr esta promesa.
A medida que la inteligencia artificial se integra en las funciones de recursos humanos, la conversación se desplaza hacia la gobernanza y el cumplimiento regulatorio. En 2026, los líderes de recursos humanos deben enfrentar nuevas obligaciones legales mientras utilizan herramientas de IA para decisiones críticas como la contratación y la gestión del rendimiento.
En 2024, un caso sobre datos de reconocimiento facial causó una multa de 30.5 millones de euros a Clearview AI. Este hecho ha incrementado la demanda de software de gobernanza de IA entre proveedores SaaS empresariales, mientras la adopción de IA crece rápidamente.
Una nueva encuesta de CNCT Capitol Pulse muestra que la mayoría de los asistentes del Congreso favorecen un enfoque híbrido para la regulación de la inteligencia artificial (IA), con un 57% apoyando una combinación equilibrada de regulaciones federales y estatales. Este hallazgo indica que los esfuerzos por centralizar la regulación de la IA podrían enfrentar obstáculos legislativos.
En una conversación con Bert Maerten, Director del Programa Internacional de Oxfam Dinamarca, se abordó cómo las ONG internacionales pueden avanzar en su adopción de la inteligencia artificial generativa, destacando la importancia de aceptar la incertidumbre y fomentar un diálogo abierto para avanzar de forma creativa y colectiva.