Construcción de una IA Responsable
Nos encontramos en una era impulsada por la IA, que evoluciona rápidamente y trae nuevos aspectos a nuestras vidas diarias. Sin embargo, es crucial hacer que estas soluciones sean accesibles y universales para todos, especialmente para la comunidad de personas con discapacidad.
Según la Organización Mundial de la Salud (OMS), más de 380 millones de adultos en edad laboral viven con discapacidades en todo el mundo, y las tasas de desempleo entre ellos alcanzan hasta el 80% en algunas regiones. Actualmente, se utilizan soluciones de IA para mejorar la vida de las personas con discapacidad; sin embargo, los problemas de equidad para las personas con determinadas clases de discapacidad a menudo se pasan por alto en los datos de entrenamiento y evaluación utilizados para el desarrollo de la IA. Esto crea una escasez de datos sobre discapacidad y se convierte en una barrera importante para construir una IA inclusiva y responsable. Los datos son la columna vertebral de cualquier solución de IA, pero la mayoría de los modelos de IA se entrenan con conjuntos de datos existentes que carecen de representación de grupos diversos.
Recientemente, se destacó que el Centro para la Democracia y la Tecnología ha advertido en su último informe que la falta de datos de discapacidad de alta calidad en la IA y en las herramientas de toma de decisiones algorítmicas representa un riesgo significativo de perpetuar y exacerbar las barreras existentes para las personas con discapacidad en varios aspectos de la vida. Este problema se complica aún más cuando las personas con determinadas clases de discapacidad son ignoradas durante la recolección de datos, ya que pueden representar una proporción relativamente pequeña de la comunidad. El estado actual conducirá a problemas de rendimiento con los modelos de IA en el reconocimiento y respuesta a la comunidad de discapacitados.
Navegando los Obstáculos
Para superar estos desafíos técnicos, existe una necesidad crítica de realizar una evaluación de riesgos de las soluciones de IA actuales para personas con discapacidad. Esto ayudará a identificar las brechas y actuará como punto de partida para futuras investigaciones y desarrollos.
Recomendaciones
- Creación de conjuntos de datos más inclusivos para probar y evaluar modelos de IA, y establecer regulaciones claras para proteger la privacidad de la comunidad de discapacitados. Además, se puede generar datos sintéticos mediante simulaciones para crear conjuntos de datos inclusivos. Este enfoque puede llenar el vacío generando datos a través de usuarios que simulan discapacidades. Aunque los datos simulados pueden no ser perfectos, son una opción atractiva para hacer soluciones de IA inclusivas.
- La IA debe ser diseñada con la inclusividad como núcleo y un mejor enfoque de mitigación de sesgos que garantice la equidad para las comunidades de discapacitados. Una forma de mitigar esto es diseñando una arquitectura multimodal que combine varios modelos de IA para la generación de texto, voz y visión, logrando así soluciones de IA más inclusivas.
- El diseño de soluciones de IA personalizadas para grupos de usuarios particulares, alimentando conjuntos de datos de discapacidad altamente enfocados, puede ayudar a aprovechar la resolución de la IA. Por ejemplo, se están desarrollando modelos de IA personalizados más inclusivos para las más de 340 millones de personas en el mundo que son ciegas o tienen baja visión.
- Se deben enmarcar cumplimientos y políticas para tener regulaciones que hagan la tecnología accesible y responsable. La próxima generación debe ser educada para promover la inclusividad en sus innovaciones.
Las soluciones de IA ofrecen un futuro prometedor. Para que sean más accesibles y responsables, debemos practicar la IA inclusiva como una responsabilidad moral. A medida que avanzamos, nuestra misión debe ser no solo construir una IA inclusiva, sino también aprovechar el poder de la IA para construir un mundo que sea inherentemente más accesible para todos.
