Sus preguntas respondidas: dónde estamos en la regulación de la IA y hacia dónde vamos
Ya sea que la encuentres en tu vida diaria o que nunca pienses en ella, la inteligencia artificial (IA) nos afecta a todos. Desde solicitar un préstamo hasta esperar en la consulta del médico, los sistemas de IA se utilizan a menudo tras bambalinas para tomar decisiones en el mundo real, impactándonos de maneras que no se divulgan de manera clara.
A pesar del creciente alcance de la IA y la diversidad de herramientas y sistemas que abarca, las regulaciones que rigen cómo se desarrolla y despliega, y cómo se informa a las personas afectadas, siguen siendo preocupantemente escasas. Sin regulación, estos sistemas pueden infringir tu capacidad para controlar tus datos o reforzar la discriminación en prácticas de contratación y empleo. A medida que las implicaciones en los derechos civiles se vuelven más serias, fortalecer las protecciones ya no es opcional.
La necesidad de más regulación en el uso de la IA
La IA a menudo se utiliza para tomar decisiones sobre nuestras vidas sin una divulgación transparente. Por ejemplo, cuando solicitas un préstamo o envías una solicitud de empleo, los bancos o empleadores pueden usar IA para analizar tus materiales antes de que una persona real realice la revisión. En la consulta del médico, tu proveedor puede usar un escribano de IA para tomar notas sobre tu conversación. Y las agencias gubernamentales están utilizando IA y otros sistemas automatizados para tomar decisiones cruciales sobre quién recibe beneficios y cuáles son esos beneficios. La IA debería estar sujeta a estándares estrictos cuando se trata de la vida de las personas.
Daños a nuestras libertades civiles por el uso no regulado de la IA
Sin una supervisión cuidadosa, se ha demostrado que los sistemas de IA utilizados para la toma de decisiones perpetúan desigualdades sistemáticas existentes. Hemos visto que cuando se utilizan herramientas de IA para filtrar solicitudes de empleo o evaluar a posibles empleados, pueden discriminar injustamente a personas de color, personas con discapacidades, personas neurodiversas y personas de entornos de bajos ingresos. El uso de la IA en áreas como la contratación, la vivienda y la vigilancia significa que puedes ser negado un empleo o un apartamento, o incluso arrestado de manera injusta cuando sistemas basados en IA que utilizan tecnología de reconocimiento facial, que sufren de serios problemas de sesgo racial y a menudo se utilizan sin salvaguardias apropiadas, identifican erróneamente a sospechosos en investigaciones criminales.
Ninguno de estos problemas es un accidente, y no son inevitables. Hay un conjunto increíblemente diverso de herramientas y sistemas que a menudo se categorizan como «IA», y las implicaciones en los derechos civiles de estos sistemas dependen del contexto en el que se utilizan. Mientras que algunos de estos sistemas pueden usarse de maneras relativamente benignas, en otras instancias, los sistemas de IA sesgados crean serios riesgos de discriminación contra personas reales en situaciones que alteran vidas. Las personas, empresas e instituciones que desarrollan y despliegan sistemas de IA son responsables de habilitar estos sesgos, pero políticas y regulaciones más estrictas pueden responsabilizarlas por su impacto y garantizar que estas prácticas no continúen.
Cómo pueden los responsables de políticas y defensores abordar los desafíos reales derivados del uso de la IA
En un nuevo informe, se destaca la amplia gama de regulaciones sobre IA propuestas por los responsables de políticas en todo el país. Hay proyectos de ley que regulan el uso de la IA en áreas específicas como la educación o las elecciones, así como propuestas más amplias que expanden aún más las protecciones de derechos civiles que ya se aplican a los usos de la IA en áreas de alto riesgo.
Las investigaciones también revelaron dos recomendaciones clave para abordar los desafíos que surgen al realizar análisis de políticas de IA computacionales:
- Se urge a los investigadores y al personal de políticas a trabajar juntos para crear formatos y estructuras estandarizadas para textos legislativos a través de las jurisdicciones, facilitando así el análisis computacional de datos.
- Se anima a los investigadores y defensores a incorporar una perspectiva multilingüe al analizar la legislación de IA introducida en regiones bajo jurisdicción.
Derechos digitales en un mundo de decisiones automatizadas
Ya sea que las decisiones sean tomadas por un humano o por IA, las leyes federales de anti-discriminación continúan prohibiendo la discriminación en la contratación y el empleo basándose en raza o etnicidad, sexo, orientación sexual o identidad de género, discapacidad y otras características protegidas. Además de las protecciones federales, un número creciente de estados ha aprobado leyes que regulan cómo los empleadores y los proveedores de terceros recopilan, utilizan y comparten tus datos personales durante el proceso de contratación. Estas leyes te brindan un mayor control sobre tu información y más transparencia sobre si los sistemas automatizados te están evaluando y cómo esos sistemas pueden influir en las decisiones de empleo.
Puedes aprender más sobre la discriminación digital y tus derechos digitales al buscar o solicitar trabajos en nuestra página de Conoce tus derechos.
