¿Cómo será asegurar contra los riesgos de la IA?
Junto con los esfuerzos para definir y promulgar requisitos legales y regulatorios para gestionar los riesgos de la IA y fomentar la gobernanza voluntaria de la IA a través de normas y estándares, los responsables de políticas y los investigadores han comenzado a prestar atención a palancas privadas de gobernanza, como el seguro contra los riesgos de la IA y la responsabilidad. Mientras que muchos han considerado cómo la inteligencia artificial impactará y transformará la industria de seguros, menos han explorado cómo la industria de seguros puede moldear el desarrollo e integración de la IA, incluida la adopción de salvaguardias contra los riesgos que la IA puede introducir o amplificar.
El papel de la industria de seguros
La industria de seguros privada opera identificando y, a veces, creando condiciones para la mitigación de los factores de riesgo probables que podrían resultar en reclamaciones de pólizas, así como estimando y negociando los costos financieros de esos eventos riesgosos. Por ejemplo, si los aseguradores determinan que un conjunto determinado de riesgos puede preverse y gestionarse con suficiente confianza, podrían ofrecer cobertura para esos riesgos a quienes desarrollan o implementan IA. Las pólizas de seguro comúnmente imponen controles o prácticas de gestión de riesgos requeridas para obtener o mantener la cobertura, pero también pueden ofrecer incentivos al reducir las primas si se adoptan ciertas prácticas de gestión de riesgos.
Por ejemplo, una nueva empresa de seguros de IA ha anunciado que tomará en cuenta la adopción de una norma internacional para la gobernanza y gestión de riesgos de IA en su proceso de suscripción.
Implicaciones de la gobernanza
Al establecer precios y condiciones para la cobertura, algunos han especulado que el seguro privado terminará funcionando como un mecanismo de gobernanza adicional o alternativo no solo para gestionar riesgos, sino también para fomentar esfuerzos preventivos de mitigación de riesgos y apoyar una adopción más amplia de tecnologías novedosas. Sin embargo, para que el seguro desempeñe este papel de gestión de riesgos y gobernanza, las políticas de cobertura deberán diseñarse para incentivar a los asegurados (aquellos que desarrollan o implementan IA) a abordar los riesgos conocidos sin permitir que la presencia de una red de seguridad fomente comportamientos irresponsables.
Investigación y desarrollo futuro
Para comprender mejor si y en qué medida el seguro dará forma a prácticas responsables en IA, se ha iniciado una agenda de investigación para entender cómo los aseguradores toman decisiones clave sobre la asegurabilidad, los factores de riesgo y los modelos financieros de daños que determinan la disponibilidad y condiciones de cobertura. Se ha presentado un primer documento sobre el tema que describe brevemente los diferentes actores dentro de la industria de seguros privada y cómo pueden influir en el desarrollo y uso de la IA.
Se busca conectar con expertos y profesionales sobre este tema, por lo que se invita a compartir perspectivas.
