Hablar sobre la inteligencia artificial (IA) y la gobernanza en este momento es una tarea desalentadora, ya que las capacidades de la IA están cambiando rápidamente. Sin embargo, el desarrollo de la «inteligencia general artificial» (AGI) parece estar cada vez más cerca de convertirse en una realidad.
La confianza de los australianos en la inteligencia artificial ha alcanzado un mínimo histórico, con un amplio temor sobre su mal uso. Un nuevo informe y una tarjeta de puntuación política revelan que la mayoría de los australianos desea regulaciones más estrictas para abordar la desinformación impulsada por la IA.
La inteligencia artificial generativa está transformando industrias al permitir que las empresas ofrezcan experiencias excepcionales a los clientes, pero también plantea riesgos significativos. La metodología de red teaming es fundamental para identificar vulnerabilidades y garantizar el desarrollo seguro y responsable de sistemas de IA.
Hoy, la Partnership on AI (PAI) lanzó su Comité de Dirección de IA Empresarial, una nueva iniciativa para promover el uso responsable de los sistemas de IA en entornos empresariales. Este comité reunirá a líderes de empresas del sector privado, organizaciones de la sociedad civil, academia y organizaciones filantrópicas para fomentar una comprensión compartida sobre cómo adoptar e implementar la IA de manera responsable.
La Alianza de Civilizaciones de las Naciones Unidas concluyó su reunión en Ginebra con recomendaciones clave sobre la gobernanza de la inteligencia artificial y lanzó la iniciativa HUMAN-AI-T. Esta plataforma digital segura tiene como objetivo preservar el legado ético y cultural de la humanidad, alineándose con los valores universales y la dignidad humana.
A pesar de la proliferación de eventos de gobernanza de IA y iniciativas de consulta, aún no se ha establecido un marco integral. Es crucial reflexionar sobre cómo avanzar en la conversación sobre la seguridad de la IA, abordando la fragmentación actual y promoviendo diálogos especializados.
Los equipos de seguridad pueden mantenerse relevantes a través de habilidades en inteligencia artificial y al enfatizar los beneficios de la diversidad, según un experto de Microsoft Security. Vasu Jakkal destacó la importancia de la gobernanza en un futuro donde los agentes de IA serán más comunes y actuarán como «colegas digitales» junto a los trabajadores humanos.
ISO 42001 es la primera norma internacional dedicada a la gestión de la Inteligencia Artificial (IA), que se centra en la gobernanza, la responsabilidad y la gestión de riesgos a lo largo del ciclo de vida de la IA. Esta norma se está convirtiendo en esencial para garantizar sistemas de IA éticos y confiables que cumplan con los objetivos organizacionales y las expectativas sociales.
A medida que la adopción de la inteligencia artificial se acelera en diversas industrias, los gobiernos y reguladores de todo el mundo están trabajando para establecer marcos éticos y legales. Este artículo analiza cómo está evolucionando la regulación de la IA a nivel global y los riesgos que enfrentan las empresas si no se adaptan.
El uso de herramientas de inteligencia artificial (IA) en el lugar de trabajo en EE. UU. ha superado la capacidad de las empresas para gobernar su uso, con el 44% de los trabajadores utilizando estas herramientas de manera inapropiada. A pesar de que el 70% de los trabajadores está ansioso por aprovechar los beneficios de la IA, el 75% sigue preocupado por los resultados negativos.