Por qué Filipinas podría liderar—o perder—la revolución de la ética en IA
He pasado dos décadas como periodista-tecnólogo observando a personas poderosas tomar decisiones que moldean millones de vidas. Ahora estoy viendo cómo los algoritmos hacen lo mismo, pero lo hacen más rápido, a mayor escala y con mucha menos responsabilidad.
La pregunta que me quita el sueño es: ¿Ayudará Filipinas a redactar las reglas para este nuevo poder, o simplemente viviremos bajo reglas escritas por otros? La respuesta podría sorprenderte: estamos mejor posicionados de lo que piensas.
La mayoría de la gente no sabe que Filipinas ya se menciona en discusiones globales sobre políticas de IA. Nos llaman «Paciente Cero» de la desinformación digital, el campo de pruebas donde se perfeccionaron las tácticas de manipulación en redes sociales antes de ser exportadas a todo el mundo.
Hay otro lado en ser Paciente Cero. Hemos desarrollado «anticuerpos». Sabemos cómo es la guerra de la información porque hemos vivido a través de ella durante agitación política y elecciones. Y esa experiencia se está utilizando en los niveles más altos.
Una figura destacada es una laureada Nobel que se volvió famosa por exponer el papel de las redes sociales en la difusión de desinformación en el país, y ahora forma parte de un panel de IA de la ONU. Su experiencia filipina le proporciona perspectivas que los ejecutivos de Silicon Valley y los burócratas de Ginebra simplemente no tienen. Nuestras luchas tienen valor. Nuestras cicatrices nos enseñan cosas que otros necesitan aprender.
Innovaciones en IA en Filipinas
A medida que una serie de innovadores filipinos construyen soluciones de IA que abordan problemas únicos del país, uno de ellos utiliza el procesamiento del lenguaje natural para preservar lenguas en peligro de extinción. Mientras las grandes empresas tecnológicas entrenan modelos de IA en inglés y mandarín, se asegura de que lenguas como el ilocano y el cebuano no desaparezcan en el vacío digital.
Otra compañía desarrolló un chatbot que millones de filipinos usaron durante la pandemia. Estos son ejemplos de cómo la IA puede servir a las comunidades, no solo a las corporaciones.
Sin embargo, estos innovadores enfrentan desafíos. Están construyendo soluciones de clase mundial con presupuestos limitados, compitiendo contra empresas respaldadas por miles de millones en capital de riesgo.
Desafíos en la regulación de la IA
Recientemente, se han realizado esfuerzos para construir marcos de gobernanza de IA antes de que la tecnología avance demasiado. Pero cuando se les pregunta cómo regular algo que no entienden completamente, la respuesta es que están aprendiendo sobre la marcha.
El esfuerzo es real. Están abogando por un Consejo Nacional de IA y desarrollando estándares éticos para el sector financiero. Pero la brecha entre la ambición política y la realidad tecnológica sigue ampliándose.
Mi experiencia como periodista me hace dudar de ciertos tipos de regulación. He visto cómo la «moderación de contenido» se convierte en «censura de contenido» cuando el poder cambia de manos. Cuando escucho llamados a la regulación de IA, me preocupa. No porque la regulación sea mala, sino porque una mala regulación es peor que ninguna regulación. Necesitamos responsabilidad algorítmica sin autoritarismo algorítmico.
Hacia un futuro en IA
Esto significa, en la práctica, transparencia obligatoria. Los sistemas de IA que toman decisiones importantes sobre las vidas de los filipinos deberían tener que revelar cómo funcionan, qué datos utilizan y quién los controla. También se deben establecer derechos de auditoría y la capacidad de apelar cuando un algoritmo se equivoca.
Sin embargo, no se debe permitir que el gobierno decida lo que la IA puede o no puede decir. La solución para el discurso peligroso nunca ha sido el silencio. Se trata de más discurso, mejor información y sistemas lo suficientemente transparentes para que los ciudadanos puedan juzgar por sí mismos.
A medida que formamos una comunidad de investigadores en IA, debemos construir caminos profesionales y oportunidades de investigación aquí. A menos que lo hagamos, seguiremos exportando nuestro mejor talento y importando remesas.
Al dejar el periodismo diario para concentrarme en este tema, creo que estamos en una encrucijada. Un camino lleva a Filipinas como consumidora de IA, utilizando herramientas extranjeras y siguiendo reglas extranjeras. El otro camino lleva a Filipinas como contribuyente de IA, moldeando la tecnología y reclamando un lugar en la mesa.
El tiempo se agota. Los cimientos se están estableciendo ahora, en laboratorios y oficinas en todo el mundo. Si no estamos en esas salas, o si llegamos demasiado tarde, pasaremos los próximos cincuenta años viviendo en una casa que no diseñamos. Eso no es aceptable.
