Aplicación de la IA a imágenes aéreas aumenta los riesgos de cumplimiento para los aseguradores
La aplicación de la inteligencia artificial (IA) en el uso de imágenes aéreas plantea riesgos de cumplimiento para los aseguradores. A continuación, se presentan algunas consideraciones clave sobre este tema.
Directrices para el uso de la IA
Los aseguradores deben establecer directrices claras para el uso de la IA en imágenes aéreas. Las regulaciones pueden variar significativamente entre estados. La asociación de reguladores de seguros estatales está examinando cómo se utiliza la IA para seleccionar imágenes aéreas y aplicarlas a decisiones de cobertura.
Transparencia y riesgos asociados
El uso de la IA para determinar lo que se encuentra en partes ocultas de una propiedad en las imágenes presenta problemas de transparencia. La IA debería servir como una guía para identificar aspectos positivos o negativos de una propiedad, pero es crucial hacerse preguntas sobre la información que proporciona. Por ejemplo, un asegurador podría confundir escombros con la parte superior de un árbol.
Los asesores sostienen que la aplicación de la IA en las decisiones basadas en imágenes aéreas crea un riesgo adicional. Muchos estados carecen de requisitos claros de notificación sobre el uso de estas imágenes, lo que deja a los propietarios a menudo inconscientes de que dichos datos han influido en las decisiones a nivel de póliza. Esto dificulta que los propietarios disputen o contextualicen cualquier decisión negativa debido a la falta de transparencia.
Responsabilidad y regulaciones
Los aseguradores siguen siendo responsables de los resultados de las decisiones soportadas por IA. Las decisiones automatizadas pueden ser problemáticas, incluso para un humano capacitado, y cualquier asegurador que utilice un servicio de terceros para proporcionar criterios de suscripción será responsable del uso de esos datos, ya sea correcto o incorrecto. Permitir que el modelo dictamine decisiones puede exponer a la empresa a riesgos significativos.
Las directrices de la asociación de reguladores sobre la IA, emitidas en 2023, y su plan para una herramienta de evaluación de sistemas de IA, abordan las aplicaciones de IA de los aseguradores que utilizan imágenes aéreas. Se busca entender cómo se utiliza la IA para asegurarse de que no se emplee de maneras que violen las leyes de prácticas comerciales o que se utilice como un proxy para algún sesgo ilegal.
