La ética de la IA necesita disposiciones humanas, no códigos únicos
Los esfuerzos para gobernar la inteligencia artificial (IA) se han centrado en gran medida en prevenir daños y hacer cumplir el cumplimiento, pero los expertos advierten que la ética va más allá de la regulación. En muchas situaciones cotidianas, los sistemas de IA deben navegar decisiones morales que dependen de valores individuales en lugar de mandatos legales.
Ética individual y disposiciones en el mundo digital
Este desafío se examina en un estudio que propone un modelo computacional para integrar preferencias morales personales en los sistemas de IA. La investigación argumenta que la IA ética debe tener en cuenta cómo los individuos difieren en su juicio, incluso cuando operan bajo el mismo marco legal.
Este estudio llega en medio de esfuerzos regulatorios cada vez más intensos, incluyendo la Ley de IA de la Unión Europea, que prioriza la seguridad, la responsabilidad y el cumplimiento legal. Mientras que tales marcos establecen límites no negociables para el comportamiento de la IA, los autores sostienen que la regulación por sí sola no puede abordar la diversidad ética de la toma de decisiones humanas reales. En su lugar, proponen un modelo formal que permite a los sistemas de IA adaptarse a las preferencias morales de los usuarios individuales mientras permanecen dentro de las restricciones legales y éticas.
Por qué la ética universal de la IA es insuficiente en la vida diaria
Gran parte del debate público sobre la ética de la IA se ha centrado en escenarios extremos, como armas autónomas o decisiones de vida o muerte tomadas por automóviles autónomos. Sin embargo, los autores desvían la atención hacia una realidad más silenciosa pero más omnipresente: los sistemas de IA actúan cada vez más como socios digitales en situaciones cotidianas cargadas de moral que configuran la vida diaria.
Estas situaciones incluyen decidir si priorizar productos éticos sobre alternativas más baratas, si ahorrar energía a costa del confort personal o cómo mediar la equidad en los servicios públicos. En tales contextos, las decisiones éticas rara vez son binarias o universales. Dependen de valores personales, normas sociales, experiencias vividas y el contexto situacional.
El estudio desafía la suposición de que integrar un código ético fijo en los sistemas de IA es suficiente. En cambio, posiciona la ética como algo que emerge a través de la interacción. Según los autores, los individuos no aplican simplemente principios morales abstractos; actúan en función de tendencias moldeadas por la experiencia, el entorno social y el contexto.
Modelando el comportamiento moral a través de disposiciones
El estudio discute el concepto de disposiciones morales, extraído de teorías filosóficas sobre propiedades disposicionales. Una disposición refleja cómo un individuo tiende a actuar cuando se cumplen ciertas condiciones, sin garantizar que la acción siempre ocurra. Ejemplos clásicos de disposiciones incluyen el coraje, la generosidad y la equidad.
Los autores aplican este marco a la ética en entornos digitales. En lugar de tratar las preferencias morales como reglas explícitas, las modelan como disposiciones que pueden manifestarse según el contexto. Este enfoque reconoce que las personas pueden comportarse de manera inconsistente sin perder su identidad moral.
Para operacionalizar esta idea, los investigadores proponen un método estructurado para elicitar disposiciones morales individuales utilizando cuestionarios basados en escenarios. Los participantes se presentan dilemas éticos cotidianos y deben elegir un curso de acción, justificando su elección según cuatro dimensiones evaluativas: consecuencias para los demás, consecuencias para uno mismo, alineación con normas sociales y alineación con la experiencia personal.
De cuestionarios a acción ética en sistemas de IA
La investigación presenta un modelo computacional formal que traduce las respuestas humanas en perfiles éticos legibles por máquina. Estos perfiles permiten a los sistemas de IA reconocer qué acciones se alinean mejor con las tendencias morales de un usuario en nuevas situaciones.
El modelo vincula tres elementos: una descripción del entorno, un conjunto de posibles acciones y una acción preferida que refleja la disposición del usuario en ese contexto. Cuando surge una situación similar, el sistema de IA puede comparar el nuevo contexto con los anteriores y seleccionar la acción más coherente con el perfil ético del usuario.
Es importante señalar que los autores no asumen una racionalidad o consistencia perfectas. Rechazan explícitamente las suposiciones tradicionales de la teoría de decisiones que a menudo no reflejan el comportamiento humano. En su lugar, el modelo acomoda la sensibilidad al contexto, influencias competidoras e incluso contradicciones.
Equilibrando la personalización y las salvaguardias éticas
Si bien la personalización se presenta a menudo como un bien indiscutible en el diseño de IA, los autores adoptan una postura más cautelosa. Reconocen que las preferencias personales pueden ser sesgadas, dañinas o estar en conflicto con las normas sociales.
Por esta razón, el modelo opera explícitamente dentro de límites éticos estrictos. Los requisitos legales y los derechos fundamentales siguen siendo no negociables. Las preferencias que violan estas restricciones no pueden ser implementadas, incluso si se capturan con precisión. Los autores argumentan que elicitar tales preferencias sigue siendo valioso, ya que proporciona información sobre la complejidad del razonamiento moral humano.
Este enfoque también aborda las preocupaciones de larga data sobre la alineación de valores en la IA. En lugar de asumir un conjunto único de valores humanos compartidos, el modelo acepta el pluralismo moral como una realidad. La IA ética, en esta visión, no se trata de imponer un consenso, sino de gestionar la diversidad de manera responsable.
Implicaciones para la política, el diseño y la gobernanza de IA
Para el público en general, la investigación desafía las narrativas simplistas sobre la ética de la IA. Reenmarca la ética de la IA no como un problema que debe resolverse de una vez por todas, sino como una negociación continua entre individuos, tecnología e instituciones.
Para los formuladores de políticas, destaca los límites de la regulación en la configuración del comportamiento ético. Las leyes pueden prohibir daños, pero no pueden dictar cómo los individuos priorizan la equidad, la generosidad o la responsabilidad en situaciones ambiguas. Los sistemas que ignoran esta brecha corren el riesgo de alienar a los usuarios y erosionar la confianza.
Para los desarrolladores de IA, el estudio ofrece un camino concreto hacia un diseño centrado en el ser humano. Al integrar disposiciones éticas en lugar de reglas fijas, los sistemas pueden volverse más adaptables, transparentes y respetuosos de la autonomía del usuario. La naturaleza formal del modelo también lo hace compatible con las prácticas de ingeniería de software existentes.
