Antropocén: La nueva constitución de Claude AI que incorpora seguridad y ética
Antropocén ha renovado por completo la “constitución de Claude”, un documento que establece los parámetros éticos que rigen el razonamiento y comportamiento de su modelo de inteligencia artificial.
Lanzada en la Cumbre de Davos del Foro Económico Mundial, los principios de la nueva constitución establecen que Claude debe ser “ampliamente seguro” (sin socavar la supervisión humana), “ampliamente ético” (honesto, evitando acciones inapropiadas, peligrosas o dañinas), “genuinamente útil” (beneficiando a sus usuarios) y cumplir con las directrices de la empresa.
Según la compañía, la constitución ya se está utilizando en el entrenamiento del modelo de Claude, convirtiéndose en fundamental para su proceso de razonamiento.
Una evolución en el enfoque filosófico
La primera constitución de Claude apareció en mayo de 2023, siendo un documento modesto de 2,700 palabras que se basaba en gran medida en la Declaración Universal de Derechos Humanos de la ONU y en los términos de servicio de una conocida empresa tecnológica. Sin embargo, la constitución de 2026 se aleja de este enfoque centrado en “principios independientes” para adoptar un enfoque más filosófico, basado en la comprensión no solo de lo que es importante, sino de por qué lo es.
Antropocén sostiene que es necesario un enfoque diferente. Para que los modelos ejerzan un buen juicio en una amplia variedad de situaciones novedosas, necesitan poder generalizar, aplicando principios amplios en lugar de seguir mecánicamente reglas específicas.
Esta complejidad adicional ha llevado a un aumento significativo del tamaño del documento, que se ha ampliado a 84 páginas y 23,000 palabras. El razonamiento detrás de esto es que el documento ha sido escrito para ser asimilado principalmente por Claude mismo. “Necesita funcionar tanto como una declaración de ideales abstractos como un artefacto útil para el entrenamiento”, indicó el anuncio.
Retos y consideraciones éticas
El contexto de esta actualización se sitúa en el creciente escepticismo sobre la fiabilidad, ética y seguridad de los grandes modelos de lenguaje propietario. Desde sus inicios, la compañía ha buscado diferenciarse adoptando un enfoque distinto.
Una referencia más polémica en la constitución es su mención a la discusión sobre la conciencia de la inteligencia artificial. La constitución señala que “el estatus moral de Claude es profundamente incierto”, indicando que esta cuestión es un tema serio que merece consideración. Algunos filósofos destacados en la teoría de la mente han tomado este asunto muy en serio.
En el ámbito práctico, se introdujo una nueva función que terminaría una conversación si un usuario intentara reiteradamente impulsar contenido dañino o ilegal, como una medida de autoprotección. Un informe de investigación también sugirió que los modelos más avanzados de Claude muestran “cierto grado” de introspección, razonando sobre acciones pasadas de una manera casi humana.
Conclusiones
A pesar de los avances, algunos expertos advierten que los modelos de lenguaje son modelos estadísticos y no entidades conscientes. Señalan que enmarcar estos modelos como actores morales puede desviar la atención del verdadero problema: la responsabilidad humana. La ética en la inteligencia artificial debe centrarse en quién diseña, implementa, valida y confía en estos sistemas. Una “constitución” de IA puede ser útil como una restricción de diseño, pero no resuelve los riesgos éticos subyacentes. La ética surge de cómo se utilizan los sistemas, no de principios abstractos codificados en pesos.
