Revisando los 5 Principales Riesgos de la IA (Parte II de II)
Examinamos cinco áreas de riesgo primarias cuando una empresa utiliza IA en un rol de apoyo o asistencia, en lugar de un caso de uso basado en algoritmos.
1. Protección de Datos y Ciberseguridad
Los casos de uso internos de IA pueden involucrar chatbots, redacción de documentos, correos electrónicos y otros entregables. En la medida en que los empleados incorporen datos sensibles en las herramientas de IA de proveedores, dichos datos pueden ser retenidos, transferidos o divulgados sin los controles apropiados. Por ejemplo, si se carga material privilegiado en una herramienta de IA de terceros, la divulgación y el procesamiento de dicha información pueden resultar en la divulgación de material privilegiado a una persona no autorizada, amenazando la preservación de dicho privilegio. Además, si los datos se ingresan en una herramienta de IA y están sujetos a transferencias transfronterizas, la empresa puede haber violado los requisitos regulatorios de datos aplicables. En estas situaciones, es necesario que la conformidad asegure que el uso de esta herramienta sea identificado y se pueda necesitar orientación sobre los tipos de datos que se pueden ingresar en la herramienta de IA.
2. Riesgos de Proveedores de Terceros
Las empresas deben comprender cómo los empleados acceden y utilizan las herramientas de IA, ya que muchas pueden ser adquiridas informalmente. Si una empresa compra servicios de IA proporcionados por terceros, o descubre que un tercero depende de funciones de IA para proporcionar servicios, la conformidad debe identificar los riesgos y mitigarlos a través de procedimientos y disposiciones contractuales. El rango de riesgos aquí puede ser amplio. Un empleado puede usar una herramienta de IA que es ampliamente disponible sin la aprobación del departamento de IT o del equipo de conformidad. Con respecto a los proveedores de terceros, el uso de datos y los procedimientos de procesamiento pueden no ser divulgados a la empresa, lo que aumenta el riesgo de una violación involuntaria de las políticas de privacidad de datos. Es imperativo realizar la debida diligencia sobre los proveedores de IA y sobre terceros que dependen de IA al proporcionar servicios.
3. Desinformación y Propiedad Intelectual
Los abogados son un ejemplo perfecto de los riesgos de desinformación. Cualquier abogado que dependa de la IA para investigaciones legales está jugando a la ruleta rusa. Los abogados deben asegurarse de que los materiales legales generados por IA tengan tasas de error extremadamente bajas. Sin embargo, los riesgos de desinformación van más allá de la investigación legal, ya que las empresas dependen del contenido basado en Internet. Las empresas deben evitar depender de información inexacta que pueda crear problemas de responsabilidad. En cuanto a cuestiones de propiedad intelectual y derechos de autor, el contenido generado por IA puede infringir los derechos de propiedad de terceros. Los empleados no pueden asumir que una empresa posee toda la información generada por IA.
4. Riesgos en el Lugar de Trabajo
Los profesionales de recursos humanos están integrando rápidamente herramientas de IA para asistir en numerosas funciones de empleo, como la vigilancia de empleados y evaluaciones generadas por IA. Estos casos de uso deben ser divulgados y revisados para evitar materiales de recursos humanos y de conformidad que puedan ser accionables.
5. Regulaciones de IA
Las regulaciones federales, estatales y locales sobre IA están creciendo rápidamente. Las empresas deben monitorear estos desarrollos para actualizar sus programas de conformidad de manera continua.
