Visión general de los tipos de IA: entendimiento para una mejor gobernanza
La IA hoy en día abarca una amplia diversidad de tecnologías, modelos y casos de uso. Esta pluralidad hace que su comprensión sea esencial para las organizaciones, con el fin de captar sus impactos, identificar los riesgos asociados y definir marcos apropiados para la responsabilidad y la gobernanza.
El sistema de IA: la base del ecosistema de IA
Antes de examinar las diferentes categorías de IA en detalle, es necesario centrarse en el concepto central alrededor del cual se construye todo el marco regulatorio europeo: el sistema de IA. Esta noción constituye el punto de anclaje del marco regulatorio, ya que define el ámbito de aplicación de los requisitos, responsabilidades y mecanismos de control establecidos por la regulación.
Según la definición legal de un sistema de IA, este se refiere a un sistema basado en máquina diseñado para operar con diferentes niveles de autonomía y que puede exhibir adaptabilidad después de su implementación, inferiendo a partir de la entrada que recibe cómo generar salidas como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales.
En la práctica, el sistema de IA es el principal objeto de regulación: la clasificación de riesgos, las obligaciones de cumplimiento, los controles y las sanciones se aplican a él.
El modelo de IA: la base técnica del sistema
Un modelo de IA se refiere a una representación matemática o computacional obtenida a través de un proceso de entrenamiento basado en datos y utilizada para realizar inferencias. Este modelo transforma los datos de entrada en salidas, como predicciones, clasificaciones, recomendaciones o decisiones, según una función aprendida.
Los modelos de IA generalmente no están directamente regulados por la ley de IA, ya que se consideran componentes fundamentales de los sistemas de IA. Sin embargo, se clasifican como modelos de IA de propósito general cuando muestran características que les permiten desempeñar una amplia gama de tareas.
Desafíos de gobernanza
La distinción entre modelo y sistema es decisiva para la gobernanza de la IA. Los riesgos, obligaciones y responsabilidades no surgen del modelo en aislamiento, sino de su integración y uso dentro de un sistema desplegado, así como del propósito y contexto de uso del sistema.
Los chatbots: la interfaz conversacional
Un chatbot es un sistema de IA diseñado para simular una conversación y proporcionar información, asistencia o un servicio. Este tipo de sistema se encuentra sujeto a las obligaciones del marco regulatorio de IA, incluyendo la transparencia hacia los usuarios.
Agentes de IA: de herramienta a autonomía
Los agentes de IA son sistemas que presentan características específicas, como la capacidad de actuar de forma autónoma y realizar decisiones sin intervención humana continua. Un ejemplo puede ser un asistente automatizado que clasifica correos electrónicos entrantes.
Conclusión
La diversidad de tecnologías de IA hace indispensable una comprensión detallada de los diferentes tipos de IA desplegados dentro de las organizaciones. Identificar los tipos de IA utilizados permite determinar las obligaciones regulatorias aplicables y facilita una evaluación más precisa de los riesgos.
Este entendimiento es crítico para definir y desplegar controles técnicos, organizativos o humanos apropiados y asegurar su efectividad a lo largo del tiempo.
