Análisis: La ruptura de Anthropic con el Pentágono enciende el debate sobre la ética de la IA
Tras rechazar las exigencias del Pentágono relacionadas con armas autónomas y vigilancia, la postura de Anthropic ha intensificado el debate sobre la ética de la inteligencia artificial (IA), resonando con las advertencias recientes del Vaticano.
En medio de la explosión de la inteligencia artificial en los últimos años, las voces católicas han pedido consistentemente la inclusión de salvaguardas socialmente responsables, límites y principios éticos dentro de la tecnología. Ahora, un desarrollador líder de IA que intenta hacerlo se encuentra en una gran disputa con el gobierno estadounidense, avivando un acalorado debate sobre las dimensiones éticas y morales del desarrollo de la IA.
Contexto y Disputa
Anthropic, una startup, es el creador de un asistente de IA basado en un modelo de lenguaje amplio que ha disfrutado de una adopción considerable en diversos sectores de la sociedad. Fundada en parte por desertores de una empresa de IA prominente, Anthropic se ha posicionado como la opción segura y responsable en el ecosistema de la IA. Su CEO aboga por el desarrollo de «guardrails» para proteger a la humanidad de una IA sin control.
El gobierno de EE. UU. ha estado explorando el uso de la IA en la defensa nacional. Cuatro grandes empresas de IA han estado trabajando con el Pentágono, con contratos altamente lucrativos en juego. Debido a su enfoque cauteloso, el producto de Anthropic fue el primero en ser permitido en las redes clasificadas del Pentágono, donde sus capacidades analíticas han sido utilizadas en operaciones militares de alto perfil.
Anthropic había estado en conversaciones con el Pentágono como parte de una negociación de contrato de 200 millones de dólares, pero las negociaciones se rompieron cuando el secretario de defensa presionó para que Anthropic permitiera el uso de su tecnología para «cualquier uso legal», incluidas armas autónomas y vigilancia masiva. Al negarse a permitir esos usos, el gobierno designó a Anthropic como un «riesgo de cadena de suministro,» lo que llevó a la orden de detener el uso de Anthropic en un plazo de seis meses.
Implicaciones Éticas
A pesar de su nobleza, la posición de Anthropic podría resultar infructuosa. La designación de «lista negra» por parte del gobierno impide que cualquier contratista que trabaje con el Pentágono también haga negocios con Anthropic. Sin embargo, expertos en ética de la IA aprecian el camino que ha elegido Anthropic, que se alinea con las solicitudes morales del Vaticano. Se ha enfatizado la necesidad de priorizar los usos beneficiosos y morales de estas tecnologías.
El Vaticano ha expresado repetidamente su oposición a la idea de empoderar sistemas de armas computarizadas que operen de manera independiente. Asimismo, ha abordado la vigilancia masiva, afirmando que el uso de IA para restringir la libertad de las personas es injustificable.
Conclusión
La decisión de Anthropic de no comprometerse en estos principios éticos puede ser vista como un gesto grandioso, aunque potencialmente fútil. La comunidad ética de la IA considera que la postura de Anthropic es valiosa, ya que pone de relieve la importancia de la ética en el desarrollo tecnológico. Sin embargo, queda por ver si las advertencias del Vaticano sobre la IA para la vigilancia y las armas autónomas serán atendidas a los más altos niveles del poder mundial.
