Nuevas regulaciones sobre IA en decisiones de ‘alto riesgo’
A medida que la inteligencia artificial se utiliza cada vez más en los sectores público y privado para tomar decisiones importantes, los legisladores estatales en Nueva York están buscando establecer nuevas normas para estas herramientas.
El contexto actual
Recientemente, se llevó a cabo una audiencia donde diversas partes interesadas, incluidos sindicatos y la industria tecnológica, expusieron sus opiniones sobre el uso de la IA en contextos de alto riesgo. La senadora estatal, presidenta del Comité de Internet y Tecnología, destacó que ha habido un aumento en los informes sobre el uso de estas herramientas en situaciones críticas, lo que puede resultar en daños reales cuando no funcionan como se esperaba.
Riesgos potenciales
Uno de los principales riesgos es la programación de estas herramientas, que puede conducir a la discriminación involuntaria en áreas como el empleo, la vivienda y la atención médica. La IA también se utiliza en el monitoreo de trabajadores en centros de llamadas, así como en diagnósticos médicos y cobertura de seguros.
Por ejemplo, se mencionó un caso en el que un algoritmo de IA entrenado para la Administración de Servicios para Niños de la ciudad utiliza datos que pueden reflejar raza y estatus socioeconómico, lo que socava la experiencia profesional de los trabajadores sociales mediante un sistema sesgado.
Propuesta de ley
La senadora propuso el «Proyecto de Ley de IA de Nueva York», que exigiría a los desarrolladores de herramientas de IA y a las entidades que las utilizan para la toma de decisiones que tomen medidas razonables para prevenir la discriminación algorítmica en decisiones de alto riesgo. Esto incluiría auditorías regulares de estas herramientas por entidades independientes para evaluar el riesgo de discriminación y el cumplimiento de las regulaciones estatales.
Además, la ley requeriría que las empresas informen a los usuarios cuando se utilice una herramienta de decisión automatizada y les brinde la opción de optar por no participar, lo que implicaría que un humano realice la tarea en su lugar.
Opiniones de la industria tecnológica
Representantes de la industria tecnológica se manifestaron en contra de la propuesta, argumentando que generaría una carga regulatoria, ahogaría la innovación y dificultaría el uso de herramientas por parte de pequeñas empresas y organizaciones sin fines de lucro debido a los costos de mantenimiento.
Un director de una organización comercial reconoció que el uso de la IA podría tener consecuencias no intencionadas, pero consideró que la legislación podría ser innecesaria, sugiriendo que las leyes contra la discriminación existentes podrían ser suficientes para abordar estos problemas.
Otros proyectos de ley
Además de la ley sobre IA, se están considerando otros proyectos legislativos, como la Ley BOT, que regularía cómo los empleadores monitorean a los trabajadores utilizando IA, y la Ley de Noticias Justas, que establecería reglas sobre el uso de IA en organizaciones de medios.
Los legisladores tendrán hasta principios de junio para considerar estas medidas.
