Los peligros de la fe ciega en la inteligencia artificial: lecciones de una sanción de $60,000
La profesión legal está actualmente navegando un período de cambio tecnológico rápido, con herramientas de inteligencia artificial generativa como Chat GPT emergiendo como asistentes para la investigación y redacción legal. Por lo tanto, el uso de la IA en la investigación y redacción legal debe ir acompañado de un estricto rigor humano. La falta de esta supervisión puede resultar en multas costosas, sanciones y vergüenza pública.
Un caso notable
Recientemente, se impuso una multa de $60,000 a un prominente bufete de abogados de Chicago y a uno de sus abogados por presentar un escrito que utilizaba IA y que incluía autoridad legal fabricada para respaldar la posición de su cliente. Esta investigación legal fue el resultado de «alucinaciones de IA», o instancias en las que la IA generativa produce resultados plausibles pero que contienen materiales legales falsificados, como citas, nombres de casos y referencias que, a primera vista, parecen apoyar una posición legal deseada, pero que en realidad no existen.
Cuando se utiliza IA en la investigación y redacción legal, un abogado debe siempre verificar individualmente cada cita por su precisión, ya que los resultados de las alucinaciones de IA parecen reputables a pesar de carecer de fundamento en la ley.
Consecuencias legales
En diciembre de 2025, un tribunal de Illinois impuso sanciones de casi $50,000 contra el bufete y $10,000 contra el abogado en relación con la presentación de una moción posterior al juicio que incluía alucinaciones de IA. La parte adversa informó al tribunal que múltiples citas en las que se basó el bufete/abogado para respaldar la posición de su cliente correspondían a casos inexistentes del Tribunal Supremo de Illinois, generados incorrectamente por Chat GPT, lo que llevó a la parte adversa a presentar una extensa moción de sanciones.
Opinión del tribunal
En una opinión contundente, el tribunal caracterizó la conducta del bufete/abogado como un «grave fracaso», enfatizando la obligación de un abogado de presentar autoridad legal veraz y precisa ante el tribunal. El tribunal razonó que “el enfoque del tribunal aquí no es el uso indebido de la inteligencia artificial para realizar investigaciones y redacción legal poco confiables. Es la inexcusable presentación de autoridad falsa y argumentos fácticos ante el tribunal, las posteriores tergiversaciones sobre la extensión de la conducta inapropiada y la falta de asumir responsabilidad de forma inmediata por los errores una vez descubiertos.”
Obligaciones éticas
La Regla 1.1 de las Reglas de Conducta Profesional Modelo de Illinois, que tiene una regla equivalente en todos los estados, afirma que los abogados “deben” proporcionar “representación competente”, lo que requiere “el conocimiento legal, habilidad, exhaustividad y preparación razonablemente necesarios para la representación.” El comentario a la Regla 1.1 exige que los abogados se mantengan al tanto de los cambios en la ley y en la práctica legal, “incluyendo los beneficios y riesgos asociados con la tecnología relevante.”
Medidas correctivas
Finalmente, el bufete/abogado reconoció esta situación como una “grave falta de profesionalismo.” Además, el bufete implementó nuevas “medidas a nivel de firma para reeducar a sus abogados” sobre su política de IA y “estableció medidas preventivas.”
Conclusiones y recomendaciones
- Verificación humana obligatoria de todas las citas y autoridad legal generadas o sugeridas por la IA;
- Implementación de políticas internas claras para cada bufete/abogado sobre los usos aceptables de la IA, incluyendo, entre otros, la identificación de las tareas que deben permanecer bajo el control directo de un abogado;
- Capacitación y educación continuas relacionadas con el uso de la IA en un paisaje legal que cambia rápidamente;
- Documentación de los pasos de verificación para demostrar el cumplimiento de las obligaciones éticas.
En última instancia, los abogados deben mantener altos estándares de integridad profesional y responsabilidad. Por supuesto, presentar un escrito legal con citas de casos falsas infringe los deberes profesionales de precisión, sinceridad y competencia de un abogado. La sanción contra el bufete/abogado en este caso de Illinois no excluye el uso de la IA en la investigación y redacción legal; en cambio, indica que los tribunales están mirando más de cerca las citas de casos por posibles alucinaciones de IA y que la penalización por presentar autoridad legal falsa ante el tribunal puede ser costosa tanto para el bufete como para el abogado. Como tal, aunque la IA es una herramienta muy útil y puede desempeñar un papel valioso en la investigación y redacción legal, no exime a un abogado de sus deberes éticos y fiduciarios.
