El desarrollo de IA en Sudáfrica debe guiarse por la ética
Las empresas que desarrollan inteligencia artificial (IA) y ignoran sus sesgos están destinadas a complicarse la vida. El sesgo y la discriminación no solo fomentarán la ira entre los clientes, sino que también pueden conducir a problemas regulatorios en el futuro.
No hay forma de frenar el avance de la IA. La tecnología se ha infiltrado en todos los aspectos de la vida, desde plataformas de chat hasta juegos. Mientras que la mayoría de las IA orientadas al cliente pueden ser ignoradas por los usuarios que no desean interactuar con ellas, las empresas están utilizando la tecnología para automatizar ciertas tareas y trabajos. Desde el punto de vista de un operador de negocios, delegar tareas laboriosas a una máquina y ahorrar dinero es una elección fácil.
La importancia de la ética en el desarrollo de IA
Sin embargo, es fundamental que la ética sea un componente central en el desarrollo e implementación de IA. La IA ahora está integrada en áreas como el servicio al cliente, la detección de fraudes, el reclutamiento, la creación de contenido y los sistemas de apoyo a la decisión. No obstante, los marcos de gobernanza sobre cómo se diseñan, entrenan y despliegan estas herramientas son preocupantemente escasos. Las empresas se mueven más rápido que sus controles de riesgo, lo que es una señal de alerta para cualquier junta.
Lo más preocupante es que el sesgo ya parece existir incluso sin una implementación profunda de la IA. El año pasado, se descubrió que varios esquemas médicos discriminaban injustamente a proveedores de atención médica negros a través de la detección de fraudes. Estas medidas parecían discriminar de manera injusta a los proveedores negros en comparación con los blancos. Si este sesgo ya existe y se implementa, incluso sin querer, en el sistema de IA, las vidas reales podrían estar en peligro.
Riesgos y consecuencias
Estos no son riesgos teóricos. Cuando un algoritmo clasifica erróneamente, las consecuencias se sienten en la vida real y las repercusiones financieras y de reputación recaen sobre la organización, no sobre el proveedor del software. No se puede externalizar la responsabilidad a una máquina.
Además, hay un riesgo significativo para la reputación de una empresa si se descubre que es sesgada o discriminatoria. Cuando la legislación se ponga al día con la tecnología, las empresas pueden encontrarse fuera de sincronía con los requisitos legales y regulatorios.
Áreas de gobernanza recomendadas
Por lo tanto, se delinean cuatro áreas de gobernanza que deberían guiar el desarrollo de IA localmente:
- Transparencia: Los resultados generados o asistidos por IA deben ser claramente divulgados a las partes interesadas internas y externas. La comunicación transparente reduce el riesgo reputacional y se alinea con los estándares globales emergentes.
- Auditoría de datos y sesgos: Los sistemas de IA deben ser entrenados y probados con datos que reflejen la diversidad racial, lingüística y geográfica. Las auditorías regulares deben ser obligatorias para garantizar que los modelos no refuercen desigualdades históricas ni incorporen decisiones injustas.
- Supervisión humana: Los tomadores de decisiones humanos deben seguir siendo los responsables finales. Todas las acciones apoyadas por IA, desde la producción de contenido hasta la evaluación de riesgos, deben ser revisadas por su precisión, alineación cultural y cumplimiento con marcos éticos y legales.
- Desarrollo de habilidades: Los equipos necesitan una comprensión más profunda tanto de las capacidades como de las limitaciones de la IA. Sin mejorar las habilidades, las organizaciones corren el riesgo de mal utilizar las herramientas, malinterpretar los resultados y perder señales de advertencia tempranas de fallos algorítmicos.
Conclusión
La IA puede transformar la operación de las empresas, pero solo aquellas organizaciones que priorizan la gobernanza, la claridad y la confianza verán un valor sostenible. Al ser conscientes de las numerosas trampas que pueden afectar el desarrollo de la IA ahora y en el futuro, las empresas pueden prepararse mejor para cuando las regulaciones se pongan al día. Simplemente tiene sentido empresarial ser más diversas, equitativas e inclusivas, especialmente en un contexto multicultural.
