As AI-generated fake content mars legal cases, states want guardrails
La primavera pasada, un juez de un condado de Illinois notó algo sorprendente: un escrito legal presentado en su tribunal citaba un caso que no existía.
El juez, al revisar dos sistemas de investigación legal y luego consultar la biblioteca del tribunal, se dio cuenta de que el caso no estaba registrado. Este caso falso, generado por inteligencia artificial, llegó a su escritorio poco después de que entrara en vigor la política de la Corte Suprema de Illinois sobre el uso de IA en los tribunales. Esta política permite el uso de IA siempre que cumpla con los estándares legales y éticos existentes.
Con la creciente aparición de citas falsas y casos judiciales erróneos generados por IA, asociaciones de abogados y sistemas judiciales estatales están emitiendo directrices sobre su uso. Algunos estados están considerando o implementando legislación para abordar el tema, y muchas cortes y asociaciones profesionales se centran en la educación de los abogados.
Implicaciones y riesgos
Desde casos de divorcio hasta demandas por discriminación, el contenido falso generado por IA puede llevar a la desestimación de pruebas y a la negación de mociones. Algunos estados instan a los abogados a apoyarse en la orientación existente sobre precisión y transparencia, mientras que las nuevas políticas abordan preocupaciones relacionadas con la confidencialidad, competencia y costos.
La IA puede ayudar a los abogados al automatizar tareas administrativas, analizar contratos y organizar documentos. Sin embargo, los profesionales legales han enfrentado multas y suspensiones de licencia por presentar documentos legales que citan información falsa. Muchos abogados pueden no notar instancias en las que un sistema de IA «alucina», afirmando confidentemente declaraciones que no son ciertas.
Directrices estatales
Hasta el 23 de enero, al menos 10 estados y el Distrito de Columbia han emitido directrices formales sobre el uso de IA, típicamente en forma de opiniones éticas. Estas no son vinculantes, pero indican la conducta adecuada. Por ejemplo, el Comité de Ética Profesional de un estado ha emitido una opinión que detalla los problemas que pueden surgir del uso de IA por parte de los profesionales legales.
Los sistemas judiciales en al menos 11 estados han establecido políticas o emitido reglas de conducta sobre el uso de IA por parte de los profesionales legales. Por ejemplo, un estado permite a los abogados utilizar inteligencia artificial sin requerir divulgación, enfatizando que los jueces serán responsables de sus decisiones, independientemente de los avances tecnológicos.
Educación legal
Es importante que las asociaciones de abogados y las escuelas de derecho proporcionen educación sobre inteligencia artificial. La IA puede reducir el tiempo de investigación como lo hacen los sistemas de investigación legal en línea, pero requiere capacitación.
A medida que los abogados y las firmas legales se sienten más cómodos con las herramientas de IA, los tribunales han sido más cautelosos. La IA tiene el potencial de mejorar el procesamiento de casos y permitir que las personas que buscan asesoría legal encuentren información utilizando chatbots de IA, pero los tribunales aún enfrentan problemas con pruebas alteradas por IA y escritos llenos de alucinaciones.
En conclusión, mientras la inteligencia artificial continúa evolucionando, su integración en el sistema legal presenta tanto oportunidades como desafíos. Es crucial establecer procesos para asegurar un uso adecuado y responsable de estas tecnologías.
