El Gran Acto de Equilibrio de Algoritmos: Singapur y la Diligencia en IA
Singapur, al borde de celebrar seis décadas de progreso notable, se enfrenta a un nuevo tipo de precipicio. El país insular ha presentado su ambicioso Estrategia Nacional de IA 2.0 (NAIS 2.0), que actualiza la versión de 2019 con nuevos habilitadores y un enfoque en la IA generativa. Con esto, Singapur se posiciona como un innovador y regulador en el ámbito de la IA.
Sin embargo, acechan sombras como la privacidad de datos, los sesgos en la IA y las “alucinaciones” de la IA, su tendencia a generar información errónea con la confianza de un político experimentado. Surge así la pregunta crucial: ¿puede la ambición realmente superar a la bestia indomable de la IA?
El problema de la confianza con la IA generativa
El factor de la confianza es primordial. Según un estudio de Salesforce, el 50% de los clientes no confían en lo que la IA hace con su información. Esta desconfianza no es infundada. Las empresas que implementan sistemas de IA sin un gobierno adecuado arriesgan exponer datos sensibles, incrustar sesgos o tomar decisiones difíciles de explicar, lo que puede ser un terreno minado en el entorno empresarial altamente regulado de Singapur.
Un estudio reciente de Boomi en colaboración con MIT Technology Review Insights revela cifras alarmantes: el 45% de las empresas están frenando la IA debido a problemas de gobernanza, seguridad y privacidad. Un impresionante 98% prefiere esperar para asegurarse de no jugar con los datos de las personas.
La aproximación de Singapur se diferencia notablemente de las regulaciones estrictas de Europa. En lugar de medidas punitivas inmediatas, el marco de Singapur establece líneas guía mientras fomenta la innovación.
El registro de agentes como solución
Para las empresas que buscan implementar la IA de manera responsable, la calidad de los datos se mantiene como la base. “Lo que debemos entender primero en la organización es la calidad de los datos que tenemos”, señala un experto. Este desafío se agrava cuando múltiples equipos despliegan soluciones de IA sin coordinación, lo que resulta en una expansión de la IA con diferentes departamentos utilizando sistemas dispares.
Los registros de agentes son sistemas de supervisión centralizados que rastrean las implementaciones de IA en una organización. “Un registro de agentes proporciona una vista sincronizada de todos los agentes en operación dentro de su organización, lo que permite monitorear sus actividades y asegurar el cumplimiento de cualquier marco”, explica un experto.
La conundrum de la responsabilidad
El marco de Singapur enfatiza la responsabilidad, un principio que se vuelve cada vez más difícil de hacer cumplir a medida que los sistemas de IA se vuelven más autónomos. “Solo la supervisión humana garantizará la responsabilidad de las decisiones que toma la IA”, se afirma. Este enfoque es precisamente lo que se está construyendo en la plataforma de gobernanza de IA, incluyendo un “botón de apagado” que desconecta a los agentes cuando se detecta un comportamiento inapropiado.
Sin embargo, este marco asume modelos de IA estáticos, mientras que la realidad es mucho más compleja. Los modelos pueden degradarse con el tiempo, creando un objetivo en movimiento para la gobernanza.
Un paso pragmático hacia adelante
Para las empresas en Singapur y en toda ASEAN que enfrentan la implementación de la gobernanza de IA, se ofrece un consejo pragmático: comenzar con ganancias rápidas. “Si busca adoptar la IA para su negocio, encuentre dónde están esas ganancias rápidas”, se aconseja. Dos casos de uso destacados son la mejora de chatbots con generación de recuperación aumentada (RAG) y la resumación de documentos.
Independientemente de la aplicación, una gobernanza efectiva requiere estandarización. “Hasta que tengamos estandarización entre agentes, la gobernanza será realmente difícil”, se advierte.
A medida que se despliega la estrategia de IA de Singapur, ofrece un camino intermedio entre la innovación y la regulación. Pero para las empresas atrapadas entre sistemas heredados y las exigencias de la IA, el viaje sigue siendo desafiante. “Muchas empresas todavía están atrapadas con sistemas heredados y tecnología obsoleta”, se observa. “Están en esta dicotomía de ser presionadas a adoptar la IA, impulsar nuevas fuentes de ingresos y mantenerse competitivas, pero siendo frenadas por sistemas heredados, silos de datos, silos organizacionales y recursos limitados.”
En esta tensión entre ambición y capacidad radica la verdadera prueba de la estrategia de IA de Singapur: no solo crear marcos, sino ayudar a las empresas a transformarse desde la base.
