La próxima pelea de la IA son los derechos de la Primera Enmienda para los chatbots
La lucha entre una empresa de tecnología y el Pentágono parece, en un principio, ser una cuestión de seguridad de la IA; es una empresa ética estableciendo límites. Pero es también un caso de la Primera Enmienda.
Se trata de una prueba de si el poder ejecutivo puede eliminar a sus proveedores por «no cumplimiento». Es una historia de riesgo para los inversionistas que han invertido miles de millones en empresas de IA bajo la suposición de que el gobierno de EE. UU. sería un cliente, no un ejecutor corporativo. Y es un ensayo para todas las cuestiones difíciles que la humanidad no ha logrado resolver sobre la tecnología de información más poderosa que jamás haya construido.
El inicio del conflicto
El conflicto comenzó cuando la empresa se negó a eliminar dos medidas de seguridad de su sistema de IA especializado que proporciona al Pentágono: protecciones contra la vigilancia masiva sin orden judicial de los ciudadanos estadounidenses y contra el despliegue en sistemas de armas totalmente autónomos. El Pentágono amenazó con designar a la empresa como un «riesgo de cadena de suministro», una etiqueta que antes solo se reservaba para adversarios extranjeros.
El Pentágono cumplió con esta amenaza, efectivamente excluyendo a la empresa de contratos gubernamentales. La empresa presentó una demanda, advirtiendo que esta designación podría costarle miles de millones.
Implicaciones legales y éticas
El caso avanza rápidamente y se desarrolla en un momento peculiar de la historia estadounidense, donde el argumento de la Primera Enmienda sostiene que obligar a una empresa a construir herramientas que considera éticamente inaceptables es un discurso forzado. El argumento central se basa en la naturaleza de un modelo de IA como máquina de información, no como un contratista de defensa tradicional.
Si el gobierno gana, las implicaciones se extienden más allá de este caso. Si se le da al gobierno la licencia para «ejecutar» empresas, entonces estas siempre estarán bajo la amenaza de la ejecución y sentirán la necesidad de cumplir con las demandas del gobierno.
El futuro de la regulación de la IA
Este conflicto se desarrolla en un contexto regulatorio que se considera inadecuado. Las empresas de IA reconocen la necesidad de una regulación coherente, pero la falta de entendimiento sobre la tecnología por parte de los reguladores ha complicado la situación. Las empresas están comenzando a actuar como reguladores, ya que los requisitos de contratación del Pentágono establecen estándares para la industria más amplia.
Conclusión
El resultado de la audiencia determinará si el uso novedoso de la designación de cadena de suministro por parte del Pentágono supera su primera prueba legal. Sin embargo, es importante no sobrestimar el impacto de un solo caso en las preguntas más amplias que plantea la IA, incluidas las cuestiones existenciales sobre la responsabilidad y la regulación.
