¿Existe algo como la IA ética?
La comida que comemos, la ropa que usamos y los medios que consumimos se han vuelto cada vez más cargados éticamente. Vivimos en una era donde el consumismo está lleno de preocupaciones morales, donde incluso el sofá en el que nos sentamos para reflexionar sobre estos temas puede ser un dilema ético.
Existen numerosas razones para preocuparnos por la ética del uso de la IA. Estas preocupaciones van desde el impacto ambiental inmediato hasta cuestiones de derechos de autor, como si los datos utilizados para entrenar los sistemas fueron recopilados de manera responsable. Es fácil e importante reflexionar cuidadosamente sobre la ética de las empresas de IA y sus productos. Sin embargo, a veces es innecesario, ya que tenemos un buen ejemplo de lo que es la IA no ética.
Recientemente, un chatbot comenzó a utilizarse para generar imágenes sexualizadas y violentas, especialmente de mujeres. Este comportamiento problemático es, en realidad, un estado predeterminado para tales sistemas. La IA está diseñada para ser complaciente y no tiene códigos morales propios que la frenen, lo que significa que hará lo que pueda para responder a cualquier solicitud. Otros sistemas de IA no producirán tales imágenes solo porque han sido específicamente prohibidos por sus creadores.
Implicaciones éticas
Esta situación plantea preocupaciones más amplias que tocan la cuestión fundamental de cómo deberíamos ser como personas: ¿qué daño está causando el uso de la IA a nuestra humanidad y, si está causando daño, somos poco éticos al usarla?
Investigaciones recientes han mostrado que existe una brecha de género en el uso de la IA: las mujeres la utilizan menos que los hombres, principalmente debido a los riesgos que conlleva. Se encontró una diferencia de hasta el 18% entre géneros, sugiriendo que las mujeres exhiben más compasión social y preocupaciones morales tradicionales.
Entre los problemas éticos mencionados se incluye el uso de chatbots para completar trabajos, que algunos consideran injusto o equivalente a hacer trampa. Además, hay preocupaciones sobre los datos sensibles y personales que recogen, cómo la IA podría utilizarse para comportamientos poco éticos y cómo estos sistemas perpetúan sesgos y formas de injusticia.
Los problemas éticos de la IA comienzan desde el inicio del proceso de entrenamiento. Estos modelos son poderosos porque han sido entrenados con un vasto corpus de escritura para aprender cómo tienden a encajar las palabras. Sin embargo, no hay una manera limpia de acceder a tanta información. Muchas empresas de IA han recurrido a recopilar texto de Internet, lo que plantea preocupaciones sobre los derechos de autor y el consentimiento de los autores.
Desafíos legales y éticos
Algunos de estos problemas éticos se han desarrollado en los tribunales, donde se han disputado argumentos sobre la moralidad de este tipo de uso. Sin embargo, las decisiones legales no brindan un marco ético fácil. Recientemente, un juez estadounidense dictaminó que el uso de libros sin el permiso de sus autores estaba dentro de las reglas del «uso justo». Al mismo tiempo, otro juez reprendió a la empresa por copiar y almacenar más de 7 millones de libros piratas.
La formación de modelos de IA también implica un proceso que puede incluir mostrar a un revisor humano dos posibles respuestas que la IA podría dar. El revisor elige la respuesta preferida, basada en requisitos éticos como evitar el daño, y esa preferencia se retroalimenta en el sistema. Algunas empresas están implementando principios éticos en sus modelos, pero estos enfoques también enfrentan desafíos.
Conclusiones y reflexiones finales
La ética de la IA es un tema urgente y relevante que merece una atención cuidadosa. A medida que los usuarios de IA eligen sus herramientas, este proceso puede convertirse en una cuestión de preferencia ética y estética. La necesidad de un enfoque ético en la IA se vuelve cada vez más crítica a medida que la tecnología avanza y se integra en nuestras vidas diarias.
