La Verdad Dolorosa: La Regulación de la IA Llega Tarde
La semana pasada, se sugirió que empresas como OpenAI podrían estar sujetas a la jurisdicción canadiense. Esto se produce tras el trágico tiroteo masivo en Tumbler Ridge, que dejó ocho muertos, incluidos seis niños. Después del incidente, se reveló que la tiradora había sido recientemente prohibida de su cuenta de OpenAI debido a «malos usos de nuestros modelos en apoyo de actividades violentas», según un comunicado de la empresa.
Se informó también que algunos empleados de OpenAI consideraron la posibilidad de informar sobre las preocupantes conversaciones entre la adolescente y el chatbot, pero finalmente decidieron no hacerlo. Sin duda, existieron otras opciones que podrían haber evitado esta tragedia, como mejorar el apoyo a la salud mental en comunidades pequeñas, pero este problema destaca.
OpenAI, una empresa extranjera, identificó las señales de alerta. En lugar de dejar la decisión de intervenir o no en manos de la policía o de los funcionarios de salud provincial, tomaron su propia decisión, sin responsabilidad. Este es el problema con OpenAI, y es un problema que se extiende a gran parte del ecosistema tecnológico.
La Necesidad de Regulación
Se sugirió que los canadienses deberían haber estado involucrados en la decisión de advertir o no en tales casos. Se enfatizó que es necesario comenzar a regular la situación, asegurando que las empresas que tengan información de que se va a causar daño a las personas, informen a la policía. Esta es una buena base, que podría aplicarse también a las redes sociales, el comercio en línea y los sitios de compartición de videos.
Estamos en las primeras etapas de la regulación de los entornos en línea, ya que apenas comenzamos a entender los compromisos entre sus beneficios y daños. Es un momento similar al de los victorianos, que se dieron cuenta de que el aire alrededor de las chimeneas no era agradable o de que los residuos de las fábricas eran perjudiciales.
Implicaciones y Riesgos
A pesar de los beneficios de nuestras nuevas herramientas en línea, también hemos visto cómo pueden generar todo tipo de daños. Desde informes sobre trastornos extraños fomentados por chatbots hasta la desinformación médica y teorías de conspiración propagándose rápidamente por redes sociales. Las plataformas y software en línea con fines de lucro buscan nuestra atención y están diseñados para maximizar el tiempo que pasamos desplazándonos, viendo o chateando. Sabemos que hay algunos daños asociados con lo que nos están vendiendo.
El lugar adecuado para la responsabilidad y el control no está dentro de las empresas que obtienen ganancias. Debe estar en manos de gobiernos elegidos democráticamente. Ha llegado el momento de regular el espacio informático en el que vivimos todos los días.
