Construyendo una gobernanza flexible para datos biológicos que alimentan sistemas de IA
En un foro de políticas, se discute la necesidad de una gobernanza ampliada, pero personalizada y flexible, para los datos biológicos utilizados en el desarrollo de poderosos modelos de inteligencia artificial (IA).
Avances en sistemas de IA
Los sistemas de IA que avanzan rápidamente, entrenados con datos biológicos, han permitido a los investigadores diseñar nuevas moléculas, predecir la estructura y función de proteínas, y explorar vastos y complejos conjuntos de datos biológicos en busca de nuevos conocimientos que podrían ampliar significativamente nuestra comprensión de la naturaleza y la salud humana. Sin embargo, estas mismas herramientas también podrían ser mal utilizadas con propósitos peligrosos, como el diseño de patógenos nocivos o la generación de secuencias genéticas que evaden controles de seguridad.
Retos en la gobernanza actual
A pesar de estos riesgos ampliamente reconocidos, la gobernanza actual es severamente deficiente, y los modelos cada vez más poderosos a menudo se lanzan sin evaluación de seguridad. Se argumenta que podría lograrse una gobernanza de datos biológicos que mitigue los riesgos potenciales de los sistemas de IA biológica sin obstaculizar su potencial de investigación. Así como los investigadores aceptan límites en el acceso a información personal en conjuntos de datos genéticos para proteger la privacidad sin frenar la investigación, marcos similares podrían restringir solo una clase estrecha de datos de patógenos especialmente sensibles, mientras que la mayoría de los datos científicos permanecen disponibles abiertamente.
Implicaciones de una gobernanza adecuada
Estos controles específicos dificultarían que actores maliciosos obtuvieran los conjuntos de datos raros y costosos necesarios para entrenar modelos peligrosos, sin obstaculizar significativamente la investigación legítima, especialmente si se combinan con entornos de investigación digital seguros. Se insiste en que esta supervisión debe permanecer limitada, dirigida y flexible, para que los marcos de gobernanza puedan adaptarse a los avances tecnológicos y científicos.
Además, para prevenir abusos o un control burocrático excesivo, la comunidad investigadora debe tener la capacidad de apelar clasificaciones de datos, y las agencias reguladoras deben prometer garantizar procesos de revisión rápidos y transparentes para que las medidas de seguridad necesarias no se conviertan en obstáculos para los procesos científicos legítimos.
Conclusiones
Formalizar un sistema de acceso a datos permitiría a los investigadores examinar y desarrollar estos controles, ofreciendo claridad a científicos y empresas en un entorno que actualmente es algo impredecible. Iniciar este trabajo también permitirá a científicos y gobiernos aprender más sobre la naturaleza del riesgo de IA y revisar los controles de acceso a datos a la luz de evidencia tangible, en lugar de conjeturas.
