Conflit entre Goertzel et Lanier sur l’autonomie et le contrôle de l’IA
Le directeur général de SingularityNET et un technologue ont exprimé des points de vue contrastés sur la responsabilité et le statut moral de l’IA autonome dans un nouvel épisode de la série « The Ten Reckonings of AGI ». Cet épisode, intitulé « Le Règlement du Contrôle », se concentre sur l’étendue de l’empathie qui devrait s’étendre aux systèmes d’IA et à l’intelligence artificielle générale future, ainsi que sur la manière dont la société devrait traiter la sécurité, l’autonomie et la responsabilité humaine.
Débat sur la responsabilité
Le débat reflète une division plus large dans la gouvernance de l’IA. De nombreux chercheurs et décideurs considèrent l’IA comme un outil restant sous le contrôle humain, tandis que d’autres s’attendent à ce que les systèmes d’IA deviennent plus autonomes et agissent de manière moins semblable à un logiciel et plus comme des agents.
Un intervenant plaide en faveur d’une partie responsable unique, même si les systèmes d’IA agissent avec un haut degré d’indépendance. « Je ne me soucie pas de l’autonomie de votre IA – un humain doit être responsable de ce qu’elle fait, sinon nous ne pouvons pas avoir une société fonctionnelle », déclare-t-il.
Reconnaissance de l’autonomie
Un autre intervenant remet en question l’hypothèse selon laquelle la primauté morale humaine devrait rester fixe à mesure que les systèmes d’IA évoluent. Il cadre la reconnaissance de l’autonomie comme une décision de gouvernance plutôt que comme un seuil technique. « C’est un choix de reconnaître l’IA comme un agent intelligent autonome », affirme-t-il.
Préoccupations liées à la formation
Les deux intervenants reconnaissent les limites de l’IA actuelle, qu’ils décrivent comme puissante mais vulnérable à l’utilisation abusive. La discussion aborde également le rôle des choix de formation et de déploiement dans la manière de façonner le comportement des systèmes plus avancés. La question de la responsabilité est devenue plus visible à mesure que les organisations déploient des modèles dans divers contextes.
Approche décentralisée
Un intervenant plaide en faveur d’une évolution vers des systèmes plus décentralisés, présentant ce changement comme une question de sécurité et de gouvernance. Il décrit une approche de conception qui intègre des valeurs dans les systèmes plutôt que de s’appuyer uniquement sur des mesures de blocage de comportements indésirables.
La série « The Ten Reckonings of AGI » présente des discussions entre des figures de proue plutôt qu’une position convenue. Cet épisode se concentre sur le contrôle, la responsabilité et la manière dont la société devrait traiter des systèmes de plus en plus autonomes.
Conclusion
Alors que l’IA continue de progresser, le débat sur la responsabilité et le contrôle reste essentiel pour garantir une intégration éthique et efficace de ces technologies dans la société. La reconnaissance de l’autonomie et le rôle des valeurs humaines dans la conception des systèmes d’IA seront cruciaux pour l’avenir de la gouvernance technologique.
