Los legisladores del estado de Nueva York aprobaron un proyecto de ley que busca prevenir que los modelos de inteligencia artificial de OpenAI, Google y Anthropic contribuyan a escenarios de desastre. Si se convierte en ley, el proyecto establecería los primeros estándares de transparencia legalmente obligatorios para los laboratorios de IA de frontera en Estados Unidos.
Priya Dharshini Kalyanasundaram es una gerente de programas técnicos que está impulsando innovaciones en seguridad impulsadas por inteligencia artificial en una empresa de comercio electrónico global. Su enfoque se centra en la incorporación de análisis de fallos en el desarrollo de sistemas de seguridad, enfatizando la importancia del bienestar de las personas detrás de cada dato.
Los expertos advierten que la inteligencia artificial agente, que opera con un alto grado de autonomía, presenta riesgos de seguridad cada vez mayores para las organizaciones. A medida que estas tecnologías se implementan más rápido que los controles de seguridad, se incrementa el peligro de errores y vulnerabilidades.
La inteligencia artificial (IA) en el sector salud presenta desafíos críticos en gobernanza, riesgo y cumplimiento. Es esencial establecer marcos adecuados para asegurar la ética y la seguridad en el uso de la IA.
Las plataformas de orquestación de contenedores que impulsan los servicios de inteligencia artificial de hoy manejan una propiedad intelectual y datos personales cada vez más sensibles. Es crucial que los CISO y los arquitectos de seguridad sean estratégicos en la protección de los servicios de inferencia de ML y LLM en entornos de orquestación de contenedores.
La inteligencia artificial generativa (GenAI) está transformando las industrias al ofrecer capacidades que van desde la creación de texto similar al humano hasta la generación de imágenes y videos realistas. Sin embargo, a medida que las empresas adoptan cada vez más GenAI, la necesidad de medidas robustas de gobernanza y ciberseguridad se vuelve crítica.
Los equipos de seguridad pueden mantenerse relevantes a través de habilidades en inteligencia artificial y al enfatizar los beneficios de la diversidad, según un experto de Microsoft Security. Vasu Jakkal destacó la importancia de la gobernanza en un futuro donde los agentes de IA serán más comunes y actuarán como «colegas digitales» junto a los trabajadores humanos.
La Organización Mundial de la Salud (OMS) ha anunciado un esfuerzo histórico para crear el primer marco de gobernanza armonizado a nivel mundial para la inteligencia artificial (IA) en la atención médica, con el objetivo de garantizar que las tecnologías de IA sean seguras, éticas y accesibles, especialmente en los países de ingresos bajos y medianos. La iniciativa, conocida como la Iniciativa Global sobre Inteligencia Artificial para la Salud (GI-AI4H), establece una estrategia integral centrada en la ética, la regulación, la implementación y las operaciones.
Recientemente, me encontré en un debate interesante con mi equipo sobre los Niveles de Seguridad de la Inteligencia Artificial (ASLs). Cada ASL marca un nivel diferente de capacidad y riesgo de la IA, desde ASL-1, donde existen modelos más pequeños con riesgo mínimo, hasta ASL-4, donde las cosas se vuelven especulativas y, francamente, un poco inquietantes.
Un legislador de California ha propuesto la ley «No Robo Bosses», que busca regular el uso de sistemas de decisión automatizados en el empleo. La ley impondría obligaciones clave a los empleadores, como la necesidad de supervisión humana en decisiones laborales críticas.