Cuestiones Críticas Sobre la Responsabilidad en A.I. Resueltas
Los modelos de responsabilidad en A.I. siguen siendo un tema polémico, pero es fundamental que los ejecutivos asuman la responsabilidad por las tecnologías que implementan.
Este artículo explora cómo se puede asignar la responsabilidad cuando los sistemas de inteligencia artificial están involucrados en la toma de decisiones. A medida que la A.I. se vuelve más común, no está claro quién debe ser responsable si estos sistemas toman decisiones equivocadas. El modelo tradicional de responsabilidad de arriba hacia abajo enfrenta desafíos debido a la naturaleza de caja negra de la A.I. En este sentido, enfoques como hacer que los desarrolladores o los usuarios sean responsables tienen limitaciones.
Los autores argumentan que la responsabilidad compartida entre múltiples partes interesadas puede ser óptima, respaldada por pruebas, comités de supervisión, directrices, regulaciones y A.I. explicable. Ejemplos concretos en finanzas, servicio al cliente y vigilancia ilustran los problemas de responsabilidad en A.I. El artículo resume perspectivas desde la academia y la práctica empresarial sobre los roles de los ejecutivos y las juntas directivas, incluyendo la necesidad de auditorías y transparencia.
¿Por qué es importante la responsabilidad?
Se ha puesto un gran énfasis en los sesgos de aprendizaje automático (ML) y inteligencia artificial. La justificación general se basa en el sesgo humano, pero ¿qué pasa con el sesgo en los datos de entrenamiento del aprendizaje automático? Sin embargo, es hora de no pasar por alto la responsabilidad por cualquier acción dañina de la A.I., que aún se discute y está parcialmente en progreso en varios países y áreas económicas sobre regulaciones.
Puntos reflexivos sobre la responsabilidad
Mundo financiero y seguridad nacional: Consideremos la posibilidad de actividades engañosas, ¿quién debería ser considerado responsable?
Salud: ¿Qué pasa si los diagnósticos son incorrectos debido a problemas con ML y A.I.?
Transporte: Consideremos los vehículos autónomos y si la aplicación algorítmica falla. ¿Quién es responsable de los daños causados por la A.I. a las partes interesadas?
