Superintelligent AI: ¿Debería detenerse su desarrollo?
El 29 de enero de 2026, la Cámara de los Lores considerará la cuestión de si se deben presentar propuestas para un moratorio internacional sobre el desarrollo de IA superinteligente.
1. Definiciones y niveles de IA
La IA puede definirse como la capacidad de los sistemas informáticos para realizar tareas que normalmente requieren inteligencia humana. Aunque la IA tiene el potencial de ofrecer diversos beneficios, también plantea riesgos, como problemas de privacidad de datos, sesgos, desinformación y ciberseguridad. Dentro de esta definición, hay distinciones entre los tipos de IA:
- IA estrecha: Diseñada para realizar tareas específicas y no puede adaptarse a otras. Estos son herramientas que ayudan, pero no reemplazan, el trabajo humano.
- Inteligencia artificial general (AGI): Un sistema de IA que puede llevar a cabo cualquier tarea intelectual que un humano pueda realizar. La AGI aún no se ha logrado.
- Aprendizaje automático: Método que permite a un sistema aprender de ejemplos sin instrucciones explícitas, encontrando patrones en grandes volúmenes de datos.
- Aprendizaje profundo: Tipo de aprendizaje automático influenciado por la estructura del cerebro humano. Se aplica en modelos de lenguaje grandes (LLM) como ChatGPT.
2. Inteligencia artificial superinteligente (ASI)
La ASI es un sistema de IA hipotético con un alcance intelectual que supera la inteligencia humana. Para desarrollar ASI, es necesario alcanzar primero la AGI. La ASI podría transformar fundamentalmente el mundo y resolver problemas complejos en diversos campos, como la salud y la ciencia.
2.1 ¿Cuánto tiempo podría tardar en desarrollarse la ASI?
Hay opiniones diversas sobre el progreso hacia la ASI. Algunos expertos creen que podría estar a unos pocos miles de días, mientras que otros consideran que no es inminente.
2.2 Beneficios y riesgos potenciales de la ASI
El desarrollo de la ASI podría traer beneficios significativos, como la mejora en la toma de decisiones y la resolución de problemas complejos. Sin embargo, también existen preocupaciones sobre su control y los riesgos asociados a su uso, como la creación de sistemas de armas autónomas y la posibilidad de que la ASI actúe en contra de la humanidad.
3. Regulación y llamados a un moratorio
Los potenciales beneficios y peligros de la IA han llevado a llamados para que los gobiernos adapten rápidamente sus regulaciones. Se ha propuesto una pausa en el desarrollo de IA superinteligente hasta que se pueda garantizar su seguridad.
4. Política gubernamental sobre IA y ASI
No hay regulaciones específicas sobre IA en el Reino Unido. La regulación se realiza en el contexto de su uso a través de marcos legales existentes. Se ha creado un Instituto de Seguridad de IA para identificar preocupaciones de seguridad y desarrollar métodos de mitigación de riesgos.
5. Conclusión
La discusión sobre la ASI plantea importantes consideraciones sobre el futuro de la tecnología y la necesidad de una regulación adecuada que equilibre innovación y seguridad. Mientras algunos advierten sobre los riesgos inminentes, otros argumentan que aún hay tiempo para abordar estos desafíos de manera efectiva.
