Conflicto entre empresas de IA y el Pentágono sobre el uso ético de su tecnología
La batalla ética continúa esta semana entre empresas tecnológicas y el Pentágono sobre el uso de la inteligencia artificial.
Negociaciones éticas
El director ejecutivo de OpenAI ha afirmado haber negociado salvaguardias éticas para evitar que el ejército de EE. UU. utilice su tecnología en armas autónomas o para la vigilancia irrestricta de ciudadanos estadounidenses. En un comunicado interno, expresó que preferiría ir a la cárcel que seguir una orden que considere inconstitucional.
El contrato negociado, valorado en 200 millones de dólares, ha generado desconfianza entre algunos de los clientes de OpenAI. Más de 1.5 millones de usuarios de ChatGPT cancelaron sus suscripciones en los primeros dos días tras el anuncio del contrato.
Desafíos para la industria de IA
El dilema del director de OpenAI forma parte de una lucha más amplia para las principales empresas de inteligencia artificial que intentan imponer límites sobre cómo el gobierno de EE. UU., en particular el Departamento de Defensa y la Agencia de Seguridad Nacional, puede utilizar su tecnología.
Días después de que se anunciara el contrato, el presidente ordenó al gobierno que dejara de hacer negocios con un competidor de OpenAI, que se negó a otorgar al ejército acceso irrestricto a su inteligencia artificial. Este competidor también prohibió dar acceso a agencias gubernamentales si su contrato permitía el uso de la tecnología en armas autónomas o para vigilancia masiva de ciudadanos privados.
Implicaciones del contrato
El Departamento de Defensa exigió un estándar de «todo uso legal» más permisivo en el contrato. La decisión del presidente de cesar negocios con el competidor fue en respuesta a la necesidad de no permitir que una corporación tuviese influencia sobre el gobierno.
Como resultado, el competidor perdió el contrato de 200 millones de dólares que fue otorgado a OpenAI. Las autoridades de defensa clasificaron al competidor como un «riesgo de cadena de suministro» para la seguridad nacional, cortando efectivamente su acceso a contratos federales.
El impacto de esta situación fue que la aplicación del competidor superó a ChatGPT como la número uno en la App Store de EE. UU., con un aumento del 51% en descargas diarias tras ser excluido.
Conclusión
El director de OpenAI sostiene que las «líneas rojas» negociadas en el contrato con el Pentágono evitarían los problemas mencionados por el competidor. Describió el acuerdo como una forma de «desescalar» la tensión entre la industria tecnológica y el gobierno. Sin embargo, reconoce que su capacidad para controlar cómo se utilizan sus herramientas por parte del ejército es limitada.
Los funcionarios de defensa argumentan que acuerdos flexibles con empresas tecnológicas son esenciales para mantener el ritmo frente a competidores globales.
