Responsabilidad en la IA
Los diseñadores y desarrolladores de IA son responsables de considerar el diseño, desarrollo, procesos de decisión y resultados de la IA. La judicatura humana juega un papel crucial en un sistema aparentemente objetivo de decisiones lógicas. Son los humanos quienes escriben los algoritmos, quienes definen el éxito o el fracaso, quienes toman decisiones sobre el uso de los sistemas y quienes pueden verse afectados por los resultados de un sistema.
Cada persona involucrada en la creación de IA en cualquier etapa es responsable de considerar el impacto del sistema en el mundo, al igual que las empresas que invierten en su desarrollo.
Acciones recomendadas
01
Hacer que las políticas de la empresa sean claras y accesibles para los equipos de diseño y desarrollo desde el primer día, de modo que nadie se confunda acerca de los problemas de responsabilidad o rendición de cuentas. Como diseñador o desarrollador de IA, es tu responsabilidad saber.
02
Entender dónde termina la responsabilidad de la empresa/software. Puede que no tengas control sobre cómo se utilizarán los datos o una herramienta por un usuario, cliente u otra fuente externa.
03
Mantener registros detallados de tus procesos de diseño y toma de decisiones. Determina una estrategia para mantener registros durante el proceso de diseño y desarrollo para fomentar las mejores prácticas y alentar la iteración.
04
Adherirse a las pautas de conducta empresarial de tu empresa. Además, comprender las leyes, regulaciones y directrices nacionales e internacionales dentro de las cuales puede tener que operar tu IA.
“Casi el 50% de los desarrolladores encuestados creen que los humanos que crean IA deben ser responsables de considerar las ramificaciones de la tecnología. No los jefes. No los gerentes intermedios. Los programadores.”
A considerar
- Entender el funcionamiento de tu IA incluso si no estás desarrollando y monitoreando personalmente sus algoritmos.
- Consultar investigaciones secundarias de sociologos, lingüistas, conductistas y otros profesionales para comprender los problemas éticos en un contexto holístico.
Preguntas para tu equipo
- ¿Cómo cambia la responsabilidad según los niveles de influencia del usuario sobre un sistema de IA?
- ¿La IA se incorporará en un proceso de decisión humana, tomará decisiones por sí sola o será un híbrido?
- ¿Cómo mantendrá nuestro equipo registros de nuestro proceso?
- ¿Cómo hacemos un seguimiento de las elecciones y consideraciones de diseño ético después del lanzamiento de la IA?
- ¿Podrán otros nuevos en nuestro esfuerzo entender nuestros registros?
Ejemplo de responsabilidad
- El equipo utiliza investigadores de diseño para contactar a huéspedes reales en los hoteles para entender sus deseos y necesidades a través de entrevistas cara a cara.
- El equipo considera su propia responsabilidad cuando la retroalimentación de un asistente del hotel no cumple con las necesidades o expectativas de los huéspedes. Han implementado un bucle de retroalimentación para comprender mejor las preferencias y han resaltado la capacidad de un huésped para desactivar la IA en cualquier momento durante su estancia.
