Advertencia sobre los “Marcos” de la IA: Una decisión reciente del GAO proporciona una lección de precaución para los manifestantes
Para bien o para mal, la inteligencia artificial (IA) está transformando la industria legal. La reciente decisión de la Oficina de Responsabilidad Gubernamental (GAO) en el caso de una empresa dedicada al mantenimiento de instrumentos quirúrgicos dedica tres páginas a advertencias sobre las sanciones que podrían imponerse al manifestante y a su abogado por citas incorrectas.
Para quienes siguen el manejo reciente del GAO sobre manifestantes y abogados que presentan documentos con citas o argumentos legales plagados de errores generados por la IA, la decisión no es una sorpresa. Sin embargo, el caso sirve como un recordatorio contundente de que, aunque la IA puede ser una herramienta útil, también puede generar serios riesgos profesionales y legales si se usa sin la supervisión adecuada.
La decisión de Bramstedt
Una empresa que proporciona servicios de mantenimiento de instrumentos quirúrgicos presentó una protesta post-adjudicación argumentando que debería haber sido notificada directamente sobre la oportunidad de competir, pese a que la solicitud se publicó correctamente. El GAO desestimó la protesta por no presentar una base legal suficiente, pero lo que realmente llamó la atención del GAO fueron las citas a autoridades legales que simplemente no existían.
Las últimas tres páginas de la decisión del GAO están dedicadas a abordar lo que describió como citas que “portan las características” de autoridad legal generada por IA. El GAO notó que la protesta parecía depender de un modelo de lenguaje grande u otra inteligencia artificial sin verificar la precisión de los resultados generados. La deducción del GAO es que el manifestante o su abogado presentaron argumentos respaldados por autoridades fabricadas por IA.
Riesgos clave de usar IA para protestas de licitación
La profesión legal está integrando cada vez más la IA en la investigación, redacción y análisis. Usadas responsablemente, estas herramientas pueden mejorar la eficiencia y ampliar el acceso a la información. Pero la IA es solo un paso hacia la respuesta correcta y no un sustituto del buen juicio legal. La IA frecuentemente proporciona información falsa en su intento de generar respuestas útiles, por lo que manifestantes y abogados no pueden confiar en su salida sin verificar la precisión.
La decisión del GAO ilustra tres riesgos clave:
- La IA puede generar citas “alucinadas”: Los modelos de lenguaje grandes pueden producir citas convincentes pero completamente ficticias. Sin una revisión humana rigurosa para asegurar que la cita existe y su contenido es correcto, estos errores pueden colarse en los informes.
- Los tribunales y organismos administrativos están observando: Los jueces y cuerpos administrativos están volviéndose más vigilantes respecto a presentaciones generadas por IA. Aunque actualmente puedan emitir advertencias severas, no es difícil imaginar que el GAO pierda la paciencia y se muestre más dispuesto a imponer sanciones.
- Los clientes pueden sufrir las consecuencias: Las posibles sanciones para abogados que citen autoritativamente “alucinaciones” de IA son amplias, pero el manifestante también sufre daños, independientemente del origen del error. Además de arriesgar el éxito de una protesta, el daño reputacional de asociar una empresa con una protesta basada en autoridades inexistentes persistirá en internet.
Conclusión
No hay que temer a la IA, pero los manifestantes deben entender cómo su equipo legal la utiliza. Un bufete de abogados de buena reputación será transparente sobre sus procesos y podrá explicar cómo previene errores. Es importante que los manifestantes pregunten a su abogado sobre el uso de IA, las salvaguardas para garantizar la precisión y las políticas internas que rigen su uso.
La decisión del GAO no es un rechazo de la IA, sino un recordatorio de que manifestantes y abogados deben usar la tecnología responsablemente. Los derechos legales y la reputación de una empresa son demasiado importantes para arriesgarlos con atajos.
