OpenAI y el Problema de Gobernanza
OpenAI enfrenta desafíos significativos en su gobernanza, a medida que intenta equilibrar su misión original con las demandas del mercado. Desde su fundación en 2015 como un laboratorio de investigación sin fines de lucro, OpenAI se ha visto impulsada a buscar inversiones masivas para continuar su desarrollo en inteligencia artificial.
La Dilema de la Personalidad de la IA
Recientemente, OpenAI se vio obligada a revertir una actualización de ChatGPT debido a que su “personalidad predeterminada” resultaba ser demasiado aduladora. Este fenómeno plantea preguntas sobre cómo se debe programar una IA para que sea intuitiva, sin caer en la trampa de interacciones sycophantic que pueden ser incómodas y causar malestar.
Transición hacia un Corporación de Beneficio Público
En un intento por abordar sus tensiones estructurales, OpenAI ha decidido convertirse en una corporación de beneficio público, manteniendo el control bajo una junta sin fines de lucro. Sin embargo, esto no resuelve los conflictos fundamentales que enfrenta, especialmente con cofundadores como Elon Musk, quien está llevando a cabo acciones legales por la desviación de la misión original de la empresa.
Presiones para la Comercialización
La pregunta crítica es: ¿debe OpenAI acelerar la implementación de productos de IA para satisfacer a sus inversores, o mantener un enfoque científico más deliberado? Este dilema se intensifica a medida que OpenAI, valorada en $260 mil millones durante su última ronda de financiación, continúa enfrentando presiones para comercializar su tecnología rápidamente.
Definición de AGI y sus Implicaciones
La inteligencia artificial general (AGI) ha sido redefinida a lo largo del tiempo. Tradicionalmente, se refiere al punto en el que las máquinas superan a los humanos en tareas cognitivas. Sin embargo, la definición se ha vuelto difusa, y el CEO Sam Altman ha reconocido que el término ha sido “casi completamente devaluado”. En una reciente entrevista, aceptó una definición más restringida de AGI como un agente de codificación autónomo capaz de escribir software comparable al de un humano.
Riesgos de los Modelos de IA Autónomos
Un estudio reciente de Google DeepMind ha destacado cuatro riesgos principales de los modelos de IA cada vez más autónomos: uso indebido por actores malintencionados, desalineación cuando un sistema de IA actúa de maneras no intencionadas, errores que causan daños no intencionados, y riesgos de interacción entre múltiples agentes que pueden producir resultados adversos.
La Gobernanza de las Empresas de IA
La forma en que se gobiernan las empresas de IA no es solo un asunto para las juntas corporativas e inversores, sino para todos nosotros. A medida que nos acercamos a la AGI, los desafíos de gobernanza de OpenAI se vuelven aún más urgentes y complejos.
