La alfabetización en IA: No solo un ejercicio de cumplimiento
Los beneficios de la alfabetización en IA van más allá del cumplimiento regulatorio. Esta es crucial para la implementación exitosa de la gobernanza de IA. Desarrollar una base de conocimiento, habilidades y comprensión sobre IA, adaptada a cada individuo, no solo incrementa la confianza en los enfoques de gobernanza de IA, sino que también promueve la innovación utilizando herramientas de IA.
Las decisiones se documentan mejor, la supervisión humana cumple su propósito y se descubren problemas potenciales con mayor anticipación. Las políticas, las salvaguardias técnicas y otros controles que las empresas deben implementar solo podrán cumplir su objetivo si el personal sabe cómo aplicarlas.
Una fuerza laboral alfabetizada en IA es más capaz de utilizar la IA de manera efectiva. Un mejor entendimiento del poder a nuestra disposición significa que sabemos cómo enmarcar problemas, formular mejores prompts y evaluar los resultados. Esto mejora la calidad de la producción, aumenta la eficiencia y reduce el riesgo de ‘alucinaciones’.
Además, la alfabetización en IA impulsa el cambio cultural. Proporciona una herramienta que abre puertas entre los equipos de legal, riesgo, TI, RRHH y producto, generando nuevas innovaciones a través de un pensamiento más integrado. Una mejor alfabetización en IA puede tener impactos medibles: mayor adopción de herramientas aprobadas, menos incidentes, más casos de uso y auditorías más claras. En esencia, la alfabetización en IA ayuda a convertir la ‘gobernanza’ tradicional en buenos comportamientos cotidianos.
¿Qué dice la ley?
El Artículo 4 requiere que los «proveedores y desplegadores de sistemas de IA tomen medidas para asegurar, en la medida de lo posible, un nivel suficiente de alfabetización en IA de su personal y otras personas que manejen la operación y uso de sistemas de IA en su nombre, teniendo en cuenta su conocimiento técnico, experiencia, educación y formación y el contexto en el que se utilizarán los sistemas de IA».
El requisito de alfabetización en IA se aplica a los proveedores y desplegadores de sistemas de IA, pero no a importadores o distribuidores. Cada empresa deberá evaluar su propio papel en la cadena de valor de IA.
¿Qué es la alfabetización en IA?
La alfabetización en IA se define como «habilidades, conocimientos y comprensión que permiten a los proveedores, desplegadores y personas afectadas, teniendo en cuenta sus derechos y obligaciones respectivas en el contexto de esta regulación, realizar un despliegue informado de sistemas de IA, así como adquirir conciencia sobre las oportunidades y riesgos de la IA y el posible daño que puede causar».
Es crucial entender que esta definición se extiende a habilidades, no solo a conocimientos y comprensión. Esto significa que no es suficiente proporcionar información, y una presentación de diapositivas a los empleados probablemente no cumplirá con el estándar. La formación debe mejorar las habilidades relacionadas con IA de los participantes.
Consecuencias
En cuanto a la aplicación, se establecerán varios organismos reguladores, incluido un Oficina de IA dentro de la Comisión Europea y un Consejo de IA que actuará como un cuerpo asesor. Las autoridades públicas nacionales serán responsables de la aplicación de la ley, similar al papel de las autoridades de protección de datos bajo el GDPR.
Es evidente que la ley exige más que una simple política o un memorándum para todo el personal acompañado de una hora de formación genérica. Un simple ejercicio de marcado de casillas no será suficiente, y las empresas que deseen seguir cumpliendo deberán involucrarse de manera reflexiva en estos temas.
La alfabetización en IA no solo es una obligación legal, sino que también ofrece beneficios colaterales significativos para las empresas, permitiendo a los empleados comprender y medir el valor de los datos, identificar áreas de innovación y gestionar riesgos. Tener un alto grado de alfabetización en IA permitirá desplegar las capacidades de IA de manera más efectiva y cumplir con su promesa.
