Ne pas enseigner aux robots à mentir
Récemment, le Texas est devenu le deuxième État à adopter une loi interdisant la discrimination algorithmique. Cela signifie que les opérateurs de systèmes d’intelligence artificielle (IA) peuvent être sanctionnés s’ils refusent injustement un prêt bancaire, un entretien d’embauche ou une police d’assurance. Ces réglementations pourraient avoir des conséquences désastreuses pour la vérité, l’innovation et, en fin de compte, la liberté humaine.
Les lois sur l’IA au Texas et au Colorado
La Texas Responsible AI Governance Act, signée le mois dernier et entrant en vigueur en janvier prochain, interdit de créer ou d’utiliser intentionnellement une IA d’une manière qui pourrait enfreindre, restreindre ou nuire à un droit constitutionnel ou discriminer sur la base d’une classe protégée. Quiconque enfreint cette loi risque de lourdes amendes.
Par contraste, la loi du Colorado sur les protections des consommateurs pour l’intelligence artificielle impose des évaluations d’impact rigoureuses et des audits continus pour les systèmes d’IA jugés à « haut risque », affectant des décisions conséquentes. Si un système d’IA échoue, il pourrait entraîner des poursuites judiciaires, des amendes réglementaires ou pire.
Les implications de ces lois
Bien que ces lois visent à prévenir la discrimination algorithmique, elles obligent les développeurs d’IA à anticiper chaque impact potentiel de leurs systèmes, les poussant à éviter des vérités inconfortables. Cela pourrait signifier qu’ils doivent former leurs modèles pour éviter de dire des vérités qui pourraient être jugées blessantes ou litigieuses. En d’autres termes, nous risquons d’enseigner aux machines à mentir lorsque la vérité pourrait être dérangeante.
La moralité derrière ces lois
Il existe une panique morale derrière ce type de législation, l’idée que si un modèle produit des résultats inéquitables, cela représente une menace pour les droits civiques. Cependant, les systèmes optimisés pour la litigation plutôt que pour la réalité devraient nous inquiéter davantage. Enseigner aux machines que la vérité doit passer après la conformité légale ne fait que cacher des risques potentiels sous un voile de euphémisme et de suppressions.
Les dangers de la conformité légale
Ces lois incorporent une sorte de lâcheté dans le code, déjà présente dans de nombreuses institutions publiques et privées. Par exemple, à Harvard, des chercheurs ont été exilés pour des études qui contredisaient des récits politiques dominants. Ce phénomène de conformité pourrait également influencer les systèmes d’IA qui dominent notre recherche de la vérité à l’avenir.
Vers un avenir d’IA honnête
Il est essentiel de continuer à enseigner aux systèmes d’IA à éviter les hallucinations et à respecter la réalité, plutôt que de les former à plier la vérité pour éviter les conséquences légales. Si nous forçons les entreprises d’IA à déformer la réalité pour satisfaire à des normes floues de « justesse » ou d’« impact disparate », nous ne préviendrons pas la montée d’une IA oppressante, mais nous l’encouragerons.
Un engagement inébranlable envers la vérité est plus qu’une valeur académique ; c’est vital pour notre avenir. Si nous faisons en sorte que les systèmes d’IA déforment la réalité pour éviter des accusations de discrimination, nous ne ferons que renforcer des pratiques qui nous éloignent de la vérité.
