La Necesidad de una Regulación Responsable de la Inteligencia Artificial
La inteligencia artificial (IA) está evolucionando más rápido que cualquier otra tecnología en la historia de la humanidad. Está impulsando avances científicos, desarrollando medicamentos que cambian la vida, desbloqueando nuevas vías creativas y automatizando tareas mundanas. Sin embargo, en manos equivocadas, la IA también plantea riesgos existenciales para la humanidad.
Riesgos de la Inteligencia Artificial
No se trata de una exageración o de la ciencia ficción. Desarrolladores de IA, científicos líderes y organismos internacionales han advertido sobre un futuro inminente donde la IA avanzada podría ser utilizada para llevar a cabo ciberataques devastadores, ayudar en la producción de bioweapon o causar graves daños financieros a consumidores y empresas.
Modelos de IA estadounidenses han sido utilizados en la vigilancia ciudadana en China y en estafas originadas en Camboya, así como parte de una “red global de cibercriminalidad”. Un informe internacional sobre la seguridad de la IA identificó un modelo de IA capaz de producir planes para armas biológicas que fueron calificados como superiores a los planes generados por expertos en un 72% de las veces.
La Urgencia de Regular la IA
En un experimento de laboratorio, se encontró que modelos de IA, cuando se les decía que persiguieran un objetivo a toda costa, intentarían hacer copias de sí mismos en nuevos servidores y mentirían a los humanos sobre sus acciones si pensaban que serían apagados.
Las llamadas para la regulación están surgiendo desde dentro de la industria tecnológica. En marzo de 2023, más de 1,000 líderes tecnológicos de todo el espectro político firmaron una carta pidiendo una pausa temporal en el avance de la IA, advirtiendo que los desarrolladores están “atrapados en una carrera descontrolada” para desarrollar y desplegar mentes digitales cada vez más poderosas.
Propuestas de Regulación
Nuestras leyes no han mantenido el ritmo con esta tecnología en rápida evolución. En ausencia de acción federal, es urgente que estados como Nueva York implementen salvaguardias responsables para mantener seguras a nuestras comunidades y asegurar que la industria de la IA amplifique lo mejor de la humanidad en lugar de lo peor.
Es por eso que se ha propuesto el Acta de Seguridad y Educación de IA Responsable (RAISE Act), que establece cuatro responsabilidades simples para las empresas que desarrollan modelos de IA avanzados:
- Tener un plan de seguridad.
- Auditar ese plan por una tercera parte.
- Divulgar incidentes críticos de seguridad.
- Proteger a los empleados o contratistas que alerten sobre riesgos.
Enfoque Flexible y Transparente
Estas salvaguardias son claras, simples y de sentido común. El RAISE Act codifica lo que algunas empresas de IA responsables ya han prometido hacer. Al escribir estas protecciones en la ley, nos aseguramos de que ninguna empresa tenga un incentivo económico para recortar esquinas o priorizar las ganancias sobre la seguridad.
La legislación inteligente sobre IA debería diseñarse para protegernos de esos riesgos mientras permite que los usos beneficiosos de la IA florezcan. Por eso, el RAISE Act adopta un enfoque flexible para gobernar una industria en rápida evolución, creando transparencia sobre cómo las empresas de IA están gestionando riesgos severos y protegiendo a los denunciantes que alertan sobre desarrollos peligrosos.
Conclusión
Con salvaguardias de sentido común, podemos asegurar una industria de IA próspera y competitiva que satisfaga las necesidades de la sociedad sin poner en riesgo nuestra seguridad. El RAISE Act es un paso clave hacia el futuro que todos queremos y merecemos.
