La Unión Europea lanzó un plan ambicioso para convertirse en líder global en inteligencia artificial, que incluye estrategias para acelerar su uso en industrias clave y fomentar la investigación científica. Este esfuerzo tiene como objetivo asegurar la independencia tecnológica de Europa y fortalecer su competitividad frente a Estados Unidos y China.
La inteligencia artificial en recursos humanos está transformando la manera en que las empresas gestionan procesos como la contratación y la evaluación del desempeño. Sin embargo, su uso también plantea riesgos legales significativos que los empleadores deben considerar, incluyendo la posibilidad de discriminación y problemas de privacidad.
El 25 de septiembre, las Naciones Unidas lanzaron el Diálogo Global sobre la Gobernanza de la IA, que tiene como objetivo proporcionar una plataforma para discusiones futuras sobre el desarrollo seguro de los sistemas de IA. Sin embargo, Estados Unidos se opone firmemente a cualquier iniciativa de gobernanza multilateral de la IA, lo que plantea dudas sobre la efectividad y el futuro del diálogo.
En la 80ª sesión de la Asamblea General de las Naciones Unidas, se lanzaron iniciativas como el Diálogo Global sobre la Gobernanza de la IA y el Panel Científico Internacional Independiente sobre la IA. Estas iniciativas buscan proporcionar una plataforma inclusiva para abordar cuestiones críticas sobre la IA y ofrecer evaluaciones científicas rigurosas para la toma de decisiones informadas en la gobernanza de esta tecnología transformadora.
Este artículo desmitifica las funciones separadas pero interconectadas de la gobernanza de IA y la seguridad de la información (InfoSec), destacando la necesidad de ambos para desarrollar una estrategia de IA responsable. Al reconocer sus misiones distintas y unificar las estrategias, las organizaciones pueden gestionar todos los riesgos de manera efectiva.
En nuestro último episodio del podcast AI Think Tank, entrevistamos a Greg Hutchins, un experto en ingeniería y gestión de riesgos, sobre la gobernanza de la IA y la importancia de los estándares emergentes como ISO 42001 y el NIST AI RMF. Greg destacó que la confianza en los sistemas de IA es crucial, ya que su evolución presenta riesgos significativos y la necesidad de establecer marcos claros para su gestión.
California ha aprobado varias leyes relacionadas con la tecnología, incluyendo la Ley de Transparencia en la Inteligencia Artificial, que exige a los laboratorios de IA divulgar los posibles daños y sus protocolos de seguridad. Además, se ha firmado una ley que prohíbe que los anuncios comerciales superen el volumen establecido por el espectador, aplicándose también a los anuncios de streaming.
Los sistemas de salud y las empresas emergentes deben navegar en aguas difíciles de gobernanza y regulación al implementar nuevas herramientas basadas en inteligencia artificial. Un reciente seminario web presentado por Manatt Health destacó la falta de infraestructura y capacidades necesarias para monitorear modelos de aprendizaje automático a gran escala en muchos sistemas de salud.
El GAIN Act exige que los fabricantes de chips de inteligencia artificial sirvan primero a los clientes estadounidenses antes de cualquier exportación, lo que podría alterar el equilibrio global de la tecnología. Este acto, aprobado por el Senado con 77 votos a favor y 20 en contra, ha sido criticado por empresas como Nvidia, que advierten sobre el cierre del mercado y sus efectos negativos en la innovación global.
La seguridad de la inteligencia artificial es un desafío crucial del siglo XXI, ya que estamos al borde de construir una mente nueva que será mucho más inteligente que nosotros. El objetivo no es solo construir un esclavo obediente, sino una asociación sabia y benevolente que comprenda nuestros verdaderos valores y la esencia de lo que significa ser humano.