Las regulaciones estatales de IA podrían dejar a los CIOs con sistemas inutilizables
A medida que los estados se apresuran a regular la inteligencia artificial (IA), los CIOs enfrentan la perspectiva de que los sistemas se vuelvan inutilizables o económicamente inviables bajo nuevas leyes. Estas regulaciones amenazan con aumentar los costos de cumplimiento, reducir el retorno de la inversión (ROI) o dejar inversiones varadas.
Ejemplos de regulaciones emergentes
Por ejemplo, cuando se informó que una cadena de supermercados estaba utilizando reconocimiento facial para identificar a ladrones reincidentes, algunos legisladores de Connecticut expresaron su intención de prohibir el reconocimiento facial en las tiendas minoristas. En Nebraska, se busca prohibir las etiquetas electrónicas en estantes en supermercados de más de 10,000 pies cuadrados, preocupados por que la fijación dinámica de precios podría desplazar empleos. Maryland, en cambio, prohibiría la fijación dinámica de precios y el uso de datos de vigilancia para establecer precios individualizados, aunque no prohibiría las etiquetas electrónicas.
La amenaza de un marco regulatorio fragmentado
Numerosos estados están considerando regulaciones de IA para sistemas en áreas como atención médica, seguros, recursos humanos y finanzas. Según algunas propuestas, las empresas tendrían que proporcionar a los reguladores árboles de decisión de IA, documentación de datos de entrenamiento, resultados de auditorías y notificaciones a los clientes sobre cómo se utilizan los sistemas de IA.
Los costos de cumplimiento asociados con estas nuevas leyes de IA aumentarán, lo que implicará costos organizativos y de gestión que las empresas no han considerado. Estos costos «se acumularán en el futuro».
Costos a largo plazo del cumplimiento regulatorio
El Reglamento General de Protección de Datos (GDPR) de Europa ilustra esta dinámica. Un estudio encontró que las empresas de Fortune 500 gastaron un promedio de $15.8 millones en cumplimiento inicial del GDPR, con costos de mantenimiento anuales recurrentes que típicamente alcanzan entre el 20% y el 30% de esa inversión inicial.
A pesar del creciente riesgo regulatorio, las empresas parecen reacias a frenar las implementaciones de IA. La IA ya está profundamente integrada en cómo operan las organizaciones y es esencial para la velocidad y la competitividad.
La respuesta de los legisladores y el futuro de la regulación de IA
Se espera un aumento en los proyectos de ley relacionados con la IA a medida que los legisladores y el público se vuelvan más conscientes de los riesgos de la IA. Algunos estados han creado comités para examinar tanto los riesgos de la IA como cómo las agencias gubernamentales podrían utilizar la tecnología para mejorar los servicios públicos.
A nivel federal, parece poco probable que el Congreso adelante las leyes estatales de IA. Un intento anterior de imponer una moratoria de 10 años sobre la regulación estatal de IA fue eliminado de un proyecto de ley presupuestario federal.
Desafíos para los CIOs en un entorno regulatorio cambiante
Los CIOs deben planificar según las diversas reglas estatales que pueden cambiar con el tiempo. Este es el mismo problema que enfrentan hoy con las leyes de privacidad, ya que el Congreso nunca ha adelantado a los estados en este tema.
No todas las leyes de IA se implementarán. La mayoría de los proyectos de ley en las legislaturas estatales no serán adoptados, y algunos perderán su efectividad si se convierten en ley. Por ejemplo, una ley adoptada en Nueva York requería auditorías de sistemas de contratación impulsados por IA para garantizar que estén libres de sesgos, aunque su aplicación es limitada.
La importancia de la gobernanza y los contratos
Los CIOs deben establecer marcos internos sólidos para la implementación de la IA, lo que les permitirá reaccionar mejor a los cambios legislativos y anticipar nuevos requisitos. Sin embargo, los cambios regulatorios pueden dejar a las empresas con sistemas que son técnicamente sólidos pero legalmente inutilizables.
Para gestionar este riesgo, se aconseja a los CIOs negociar cláusulas de «cambio de ley» en los contratos de proveedores que otorguen derechos de terminación si las regulaciones hacen que el uso continuado de un sistema sea imposible o impráctico. No obstante, estas cláusulas no eliminan el riesgo de costos hundidos.
Además de la exposición legal, los CIOs también deben anticipar la reacción pública y política hacia la IA y las herramientas biométricas. La percepción de estas tecnologías por parte del público y los legisladores es una responsabilidad clave para los CIOs.
En resumen, los CIOs se enfrentarán a un entorno regulatorio en constante evolución y deberán estar preparados para actuar ante sorpresas en las acciones estatales sobre la IA.
