Conflicto entre Goertzel y Lanier sobre la autonomía y control de la IA
En un nuevo episodio de la serie «Las Diez Reflexiones de la AGI», dos figuras prominentes han expuesto visiones contrastantes sobre la responsabilidad y el estado moral de la IA autónoma. La discusión se centra en hasta dónde debe extenderse la empatía hacia los sistemas de IA y la futura inteligencia general artificial, así como en cómo la sociedad debe tratar temas de seguridad, autonomía y responsabilidad humana.
Debate sobre la responsabilidad
Uno de los oradores argumenta que los sistemas legales y sociales requieren una línea clara de responsabilidad por las acciones tomadas con la IA. Afirmó que «la sociedad no puede funcionar si nadie es responsable de la IA». Además, rechaza la idea de que los modelos de lenguaje actuales representen una forma de vida, enfatizando que estos no están creando un ser viviente.
Este debate refleja una división más amplia en la gobernanza de la IA. Muchos investigadores y responsables políticos consideran que la IA es una herramienta que permanece bajo control humano, mientras que otros esperan que los sistemas de IA se vuelvan más autónomos y actúen de manera menos similar a un software y más como agentes.
La cuestión de la autonomía
Se plantea que la moralidad humana no debe ser considerada fija a medida que los sistemas de IA cambian. Reconocer la autonomía se presenta como una decisión de gobernanza, no como un umbral técnico. Se enfatiza que es necesario moldear las nuevas reglas de manera sabia para que la autonomía no deshaga la civilización.
Preocupaciones sobre el entrenamiento
Ambos oradores reconocen los límites actuales de la IA, describiéndola como poderosa, pero vulnerable a malos usos. La discusión también aborda el papel de las elecciones de entrenamiento y despliegue en la configuración del comportamiento de sistemas más avanzados.
Se sugiere que si se avanza la IA bajo un gobierno racional y verdaderamente democrático, se pueden lograr resultados positivos, pero existe el riesgo de que se salga de control si no se gestionan adecuadamente.
Enfoque descentralizado
Se propone un camino que supere el modelo de desarrollo propietario actual hacia sistemas más descentralizados. La seguridad y la gobernanza son claves en esta transición, junto con un enfoque de diseño que incorpore valores en los sistemas en lugar de depender de medidas que solo bloqueen comportamientos no deseados.
La discusión subraya que la inyección de compasión en la IA y su implementación con una base participativa y descentralizada son esenciales. Cada medida de seguridad debe hacer más que simplemente bloquear el daño; debe enseñar al sistema por qué el daño importa.
Conclusión
El debate sobre la responsabilidad y la autonomía de la IA sigue siendo un tema candente a medida que las organizaciones despliegan modelos en diversos ámbitos. La cuestión de quién lleva la responsabilidad por los daños causados por la IA aún no está resuelta, y es un aspecto crucial que debe ser abordado en los marcos de evaluación de riesgos y transparencia que comienzan a desarrollarse en diferentes jurisdicciones.
