En la sociedad estadounidense contemporánea, los temas se politizan casi por defecto. La seguridad de la inteligencia artificial ha evadido en gran medida esta tendencia, pero si se convierte en un tema partidista, podría llevar a resultados muy negativos.
Ninguna de las siete principales empresas de IA evaluadas, incluidas OpenAI, Google DeepMind y Anthropic, recibió una calificación superior a D en «planificación de seguridad existencial». Las organizaciones deben instaurar sistemas de retroalimentación y respuesta robustos ahora, mientras aún hay tiempo para dar forma al despliegue de la IA.
Un grupo de defensa advierte que la inteligencia artificial financiera está discriminando y explotando a los consumidores, ya que muchas decisiones sobre préstamos, precios de seguros y acceso a cuentas bancarias se delegan a sistemas de IA sin que los consumidores se den cuenta. Peter Norwood, de Finance Watch, señala que sin reformas urgentes, la IA en las finanzas podría socavar la equidad, la transparencia y la confianza pública.
La transformación del Instituto de Seguridad AI de EE. UU. (USAISI) al Centro de Estándares e Innovación de AI de EE. UU. (CAISI) refleja las prioridades industriales y de seguridad nacional que dominarán la política de AI estadounidense en los próximos cuatro años. Es lamentable que en un momento en que existe una amplia investigación que muestra la oportunidad para la colaboración multidisciplinaria, los gobiernos y las empresas tecnológicas estén unidos en una búsqueda glotona de poder.
Priya Dharshini Kalyanasundaram es una gerente de programas técnicos que está impulsando innovaciones en seguridad impulsadas por inteligencia artificial en una empresa de comercio electrónico global. Su enfoque se centra en la incorporación de análisis de fallos en el desarrollo de sistemas de seguridad, enfatizando la importancia del bienestar de las personas detrás de cada dato.
La inteligencia artificial centrada en el ser humano (HCAI) se refiere al desarrollo de sistemas de IA que priorizan los valores humanos y la colaboración entre humanos y máquinas. Este enfoque ético es crucial para garantizar que los agentes de IA tomen decisiones que respeten los derechos humanos y fomenten la confianza.
La cumbre de acción de IA de París concluyó con una «Declaración sobre Inteligencia Artificial Inclusiva y Sostenible para las Personas y el Planeta». Esta declaración prioriza la reducción de divisiones digitales y asegura que la IA sea abierta, inclusiva, transparente, ética, segura y confiable.
La inteligencia artificial (IA) está revolucionando diversas industrias, pero también plantea preocupaciones éticas relacionadas con el sesgo y la equidad. Es fundamental que los desarrolladores y responsables de políticas trabajen juntos para crear sistemas de IA que sean éticos, transparentes y justos.