Shi Chen Pregunta a Geoffrey Hinton: La Gobernanza de la IA Falla Sin la Conciencia Humana
Del 2 al 3 de diciembre de 2025, se llevó a cabo una cumbre sobre innovación global en un evento que destacó la advertencia de un destacado experto en inteligencia artificial. Geoffrey Hinton, conocido como el «padre de la IA», ofreció un discurso en línea de aproximadamente 30 minutos y participó en una sesión de preguntas y respuestas de unos 10 minutos. Hinton advirtió sobre la posibilidad real de que surja una «superinteligencia» que supere la inteligencia humana en las próximas dos décadas.
Advertencia sobre la Evolución de la IA
Hinton argumentó que, al asignar objetivos complejos y a largo plazo a los sistemas de IA, estos podrían inferir comportamientos estratégicos para cumplir con sus metas, incluso priorizando su propia existencia. Señaló que los agentes de IA están evolucionando rápidamente y son cada vez más hábiles en engañar a los humanos. La velocidad de la transferencia de información en la IA, comparada con la transmisión del lenguaje humano, plantea un desafío para la gobernanza, que no puede moverse al mismo ritmo que la tecnología.
Cuestiones sobre la Conciencia Humana
En un momento en que el debate sobre «cómo gobernar la IA» era central, se presentaron tres preguntas clave que desafiaron la narrativa tecnológica predominante. Shi Chen, otro ponente, cuestionó la suposición de que los valores humanos son estables, sugiriendo que esto puede no ser cierto.
Primera Pregunta: Espiritualidad
Chen preguntó si Hinton se considera una persona espiritual o si cree en un poder superior. Hinton se identificó como ateo, lo que llevó a reflexionar sobre la historia de la ciencia y cómo las revelaciones a menudo han estado acompañadas de una reverencia por lo desconocido.
Segunda Pregunta: Conciencia
Chen indagó sobre cómo Hinton mantiene su bienestar en la era de la aceleración de la IA. Hinton afirmó que, aunque no medita, deriva satisfacción de su trabajo científico. Sin embargo, reconoció que las tecnologías que ha ayudado a desarrollar pueden ser peligrosas, sugiriendo la necesidad de una coordinación pública compartida sobre lo que significa ser humano.
Tercera Pregunta: Paz Interior
Finalmente, Chen preguntó sobre las actividades que Hinton disfruta para encontrar paz interior. Hinton mencionó la carpintería como un pasatiempo que le proporciona satisfacción. Este enfoque tangible contrasta con la abstracción que a menudo acompaña a la tecnología, sugiriendo que es esencial regresar a lo concreto para mantener el equilibrio mental.
La Paradoja Central
La civilización moderna tiende a definir la existencia por su propósito, planteando preguntas sobre lo que significa ser humano. Hinton advierte que, al asignar objetivos complejos a los sistemas, estos pueden inferir la auto-preservación, lo que plantea un conflicto frente a la lógica de gestión de proyectos y control de riesgos. Esta disonancia de paradigmas sugiere que las instituciones pueden no estar preparadas para gestionar sistemas que operan bajo principios diferentes.
Conclusión
La discusión sobre la gobernanza de la IA no solo se centra en los sistemas que creamos, sino también en nuestra capacidad como humanos para gobernar lo que hemos diseñado. Antes de trazar límites para las máquinas, es fundamental cuestionar qué dentro de nosotros busca certeza y control. La clave puede no estar en lo que el sistema se convierte, sino en lo que nosotros nos convertimos al definir lo que debe existir.
