Informe sobre IA Responsable de Google
El reciente informe de Google sobre la IA responsable ha generado un debate significativo debido a lo que no menciona, específicamente la falta de referencias a armas y vigilancia. Este informe, que es el sexto en su serie anual, detalla los «métodos para gobernar, mapear, medir y gestionar los riesgos de la IA», además de actualizaciones sobre cómo la empresa está operativizando la innovación responsable en este campo.
Aspectos Destacados del Informe
En el informe, Google señala una serie de logros en su investigación de seguridad durante 2024, incluyendo más de 300 documentos de investigación publicados y una inversión de 120 millones de dólares en educación y capacitación en IA. Además, destaca que su plataforma Cloud AI recibió una calificación de «madurez» por parte del Instituto Nacional de Estándares y Tecnología (NIST) en su Marco de Gestión de Riesgos.
El enfoque del informe se centra principalmente en la seguridad y en el red-teaming orientado al contenido, explorando en profundidad proyectos como Gemini, AlphaFold y Gemma, y cómo la empresa protege sus modelos de generar o difundir contenido dañino. También se mencionan herramientas de proveniencia como SynthID, una herramienta de marcado de contenido diseñada para rastrear mejor la desinformación generada por IA.
Marco de Seguridad y Nuevas Recomendaciones
Google ha actualizado su Marco de Seguridad de Frontera, añadiendo nuevas recomendaciones de seguridad y procedimientos de mitigación de abusos. Un aspecto notable es el riesgo de alineación engañosa, que se refiere al riesgo de que un sistema autónomo socave deliberadamente el control humano. Este fenómeno ha sido observado recientemente en modelos como OpenAI o1 y Claude 3 Opus.
A pesar de la atención al usuario final, la empresa ha eliminado de su sitio web su compromiso de no usar IA para desarrollar armas o vigilar a los ciudadanos. Esto ha sido documentado por diversas fuentes y plantea la pregunta: ¿qué constituye una IA responsable?
Principios de IA y Enfoque Futuros
Como parte del anuncio del informe, Google ha renovado sus principios de IA en torno a tres tenencias clave: innovación audaz, progreso colaborativo y desarrollo y despliegue responsables. Estos principios actualizados refuerzan el despliegue responsable como un compromiso con los «objetivos del usuario, la responsabilidad social y los principios ampliamente aceptados de derecho internacional y derechos humanos». Sin embargo, esta formulación puede interpretarse como lo suficientemente vaga como para permitir la reevaluación de casos de uso relacionados con armas sin contradecir su propia guía.
El informe concluye reafirmando el compromiso de Google de enfocar su investigación y aplicaciones de IA en alineación con su misión y áreas de especialización, evaluando siempre el trabajo específico considerando si los beneficios superan sustancialmente los riesgos potenciales.
Esta evolución en la postura de Google se alinea con una tendencia creciente entre los gigantes tecnológicos hacia las aplicaciones militares de la IA, reflejando un cambio significativo en la percepción y el uso de estas tecnologías en la sociedad moderna.
