Nueva Propuesta Legislativa en Florida sobre el Uso de IA en el Manejo de Reclamaciones
La IA aún no está reemplazando a los tomadores de decisiones de las compañías de seguros, ya que una nueva legislación presentada en Florida tiene como objetivo requerir revisiones humanas obligatorias de las denegaciones de reclamaciones.
Detalles de la Legislación
La HB 527 de Florida (y el proyecto de ley complementario SB 202) se aplicaría a la información proporcionada a los aseguradores por algoritmos, sistemas de inteligencia artificial o sistemas de aprendizaje automático, ninguno de los cuales puede servir como única base para ajustar o denegar una reclamación, total o parcialmente.
Los proyectos de ley también establecen que cuando un asegurador planea utilizar algoritmos, sistemas de inteligencia artificial o sistemas de aprendizaje automático en sus procesos de manejo de reclamaciones, debe detallar en su manual de manejo de reclamaciones la manera en que se utilizarán los sistemas y cómo estos cumplen con la ley.
Requisitos de Revisión
La persona que revisa las denegaciones de reclamaciones debe ser un «profesional humano calificado», es decir, un individuo que, bajo el Código de Seguros de Florida, tiene la autoridad para ajustar o denegar una reclamación o una parte de ella y puede ejercer dicha autoridad sobre una reclamación en particular.
Según la HB 527 y el proyecto de ley complementario SB 202, antes de ajustar o denegar una reclamación o una parte de una reclamación, el profesional deberá:
- Analizar los hechos de la reclamación y los términos de la póliza de seguros de manera independiente de cualquier sistema de inteligencia artificial, sistema de aprendizaje automático o algoritmo;
- Revisar la precisión de cualquier resultado generado por dicho sistema o algoritmo;
- Determinar que la reclamación o parte de la reclamación no es pagadera bajo los términos de la póliza de seguros y debe ser denegada, o que el pago de la reclamación debe ser reducido.
Implicaciones y Riesgos
Los patrocinadores de la legislación propuesta afirman que el proyecto de ley «aborda un desafío creciente en nuestros mercados de seguros» con una «salvaguarda clara y razonable» contra decisiones impulsadas por algoritmos.
En 2023, la Asociación Nacional de Comisionados de Seguros aprobó un boletín modelo sobre el uso de IA por parte de las compañías de seguros. Este documento destaca la necesidad de procesos y controles para prevenir posibles inexactitudes de la IA, sesgos discriminatorios y vulnerabilidades de datos.
El boletín recuerda a los aseguradores las leyes regulatorias establecidas, como la Ley Modelo de Prácticas Comerciales Injustas, que regulan métodos de competencia desleal o actos injustos o engañosos. Se establece que se necesitan gobernanza y controles sobre los sistemas de IA para cumplir con estas leyes.
Es probable que esta legislación propuesta sea impugnada a nivel federal, ya que el Presidente firmó recientemente una orden ejecutiva bloqueando a los estados de hacer cumplir sus propias leyes que regulan la inteligencia artificial.
