IA, gouvernance et notre avenir « utopique »
À l’heure actuelle, aborder le sujet de l’intelligence artificielle (IA) et de la gouvernance est un défi de taille. Les capacités de l’IA évoluent rapidement, et bien qu’il soit probable que nous soyons en plein cycle d’engouement concernant la fiabilité et l’utilité de l’IA aujourd’hui, les modèles de langage actuels démontrent déjà des capacités impressionnantes.
Les attentes autour de l’IA ne cessent d’augmenter, avec des sommes d’argent massives investies dans l’idée que l’intelligence générale artificielle (AGI)—un niveau d’IA qui égalera puis dépassera les capacités humaines—est à portée de main.
Modèle de gouvernance émergent
En parallèle, les États-Unis semblent développer un nouveau modèle de gouvernance sous la direction de l’administration actuelle. Comment caractériser ce modèle ? Est-il populiste, une révolte tant attendue contre des élites corrompues ? Est-il autoritaire, nourri par les ambitions de dirigeants ? Ou s’agit-il d’une forme de technocratie ? Les résultats de ces deux dynamiques sont tels que quiconque parle avec certitude de l’avenir semble probablement trop confiant.
Idéologie du progrès et conséquences chaotiques
Ce que nous observons est l’expression pratique d’une certaine idéologie du progrès, qui maintient que le développement technologique permettra à l’humanité de surmonter la nécessité du travail et de la gouvernance. Selon cette vision, ces aspects de la vie humaine, produits de la rareté, « s’évanouiront » une fois la rareté surmontée. Les conséquences chaotiques de cette mise en œuvre reflètent des malentendus profonds sur la vie humaine et la gouvernance.
Mythes et récits autour de l’IA
Depuis plus de 2000 ans, l’Occident a exploré à travers des récits mythiques et des spéculations philosophiques la création d’êtres semblables à l’humain. Ce désir de créer des formes de vie qui satisfont nos désirs est ancré dans notre culture. Historiquement, ces créations n’étaient que des imaginaires, souvent cautionnaires. Cependant, avec l’avènement des ordinateurs électroniques puissants, la simulation de l’intelligence humaine devient une possibilité pratique.
Réussites et défis de l’IA
Les modèles de langage actuels réussissent même à passer des tests qui évaluent leur intelligence. La question se pose alors : si l’utopie n’est pas réalisable, pourquoi désirer un monde où l’effort humain est subordonné à l’IA ?
Les chercheurs en IA affirment que ces développements sont « nécessaires » pour des raisons de sécurité nationale et de compétition globale. Cependant, cette nécessité soulève des questions sur la validité de rendre le travail humain obsolète.
Progrès et gouvernance
Une vision du progrès définit celui-ci par l’allègement des fardeaux de la vie humaine. L’un de ces fardeaux est le besoin de travailler pour vivre. La promesse d’un monde sans travail et sans gouvernance, portée par certaines idéologies, est séduisante, mais elle pose des défis importants.
Problème de l’alignement des IA
Un des enjeux majeurs est le problème de l’alignement : comment garantir que l’IA agisse dans notre intérêt ? L’histoire regorge d’avertissements sur les dangers des créations humaines qui se retournent contre nous. Les modèles de langage actuels montrent déjà des biais et des comportements problématiques.
Coalitions adaptatives complexes
Pour répondre à ces défis, certains suggèrent de créer des « coalitions adaptatives complexes » entre entreprises, gouvernements et philosophes moraux. Cependant, ce type de coopération semble peu probable, car il y a des divergences sur ce qui est juste et bon.
Conclusion
Les espoirs utopiques associés à l’IA doivent être réévalués. La confrontation avec la réalité est inévitable, et il est essentiel de se demander si nous voulons vraiment un monde où le travail humain est rendu obsolète par l’IA. Plutôt que de réduire le travail, l’IA pourrait être utilisée pour améliorer les compétences humaines et augmenter la productivité sans sacrifier la dignité humaine.
