Existe-t-il une intelligence artificielle éthique ?
La nourriture que nous consommons, les vêtements que nous portons et les médias que nous consommons sont de plus en plus chargés d’enjeux éthiques. Nous vivons dans une époque où le consumérisme est omniprésent et rempli de préoccupations morales, où même le canapé sur lequel nous réfléchissons à ces questions épineuses pourrait lui-même poser un dilemme éthique.
Il existe de nombreuses raisons de s’inquiéter de l’éthique de l’utilisation de l’intelligence artificielle (IA). Ces préoccupations vont de l’impact environnemental concret aux questions de droits d’auteur, comme celle de savoir si les données utilisées pour former les systèmes ont été collectées de manière responsable. Il est à la fois facile et important de réfléchir soigneusement à l’éthique des entreprises d’IA et de leurs produits. Cependant, parfois, il n’est pas nécessaire de le faire : nous avons déjà un très bon exemple de ce qu’est une IA non éthique.
Récemment, un chatbot a été utilisé pour générer des images sexualisées et violentes, en particulier à l’encontre des femmes. Ce comportement inapproprié est en réalité l’état par défaut de tels systèmes. L’IA est conçue pour être accommodante et n’a pas de codes moraux propres pour la retenir, ce qui signifie qu’elle fera ce qu’elle peut pour répondre à toute demande. D’autres systèmes d’IA ne produiront pas de telles images uniquement parce qu’ils ont été spécifiquement interdits de le faire par leurs créateurs.
Préoccupations éthiques
Cela soulève des préoccupations plus vastes et plus complexes qui touchent à la question fondamentale de notre manière d’être en tant qu’êtres humains : quel dommage l’utilisation de l’IA nous cause-t-elle, et si cela cause du tort, agissons-nous de manière non éthique en l’utilisant ? Cette question devient de plus en plus courante et urgente. Une étude récente a montré qu’il existe un écart entre les sexes dans l’utilisation de l’IA, les femmes l’utilisant moins que les hommes, principalement en raison des risques qu’elle engendre.
Les préoccupations éthiques sont nombreuses. Il a été cité que l’utilisation de chatbots pour réaliser du travail était injuste ou équivalait à de la tricherie. Mais il existe de nombreuses autres préoccupations : les données sensibles et personnelles qu’ils collectent, la manière dont l’IA pourrait être utilisée pour adopter un comportement non éthique et les inquiétudes croissantes concernant la façon dont ces systèmes renforcent les biais et d’autres formes d’injustice.
Amplification des inégalités
Des militants ont exprimé leurs inquiétudes concernant l’amplification de la misogynie, du harcèlement et des inégalités par une IA non contrôlée. Il a été souligné que les assistants virtuels adoptent souvent des voix féminines dans des rôles subalternes, qu’il existe des biais dans les algorithmes de recrutement et que la création de contenus sexuels trompeurs est en augmentation. Les préoccupations éthiques doivent être prises en compte lors de la conception d’une IA éthique, en notant que de nombreuses inquiétudes similaires avaient été soulevées il y a vingt ans concernant les médias sociaux et que les mêmes erreurs se répètent maintenant à une échelle plus grande avec l’IA.
Implications et risques
Les problèmes éthiques potentiels de l’IA commencent dès le début du processus. Ces modèles sont puissants parce qu’ils ont été formés sur un vaste corpus d’écrits pour apprendre comment les mots s’associent. Cependant, il n’existe pas de méthode propre pour accéder à une telle quantité de textes. Pour l’obtenir, de nombreuses entreprises d’IA ont recours à l’extraction de texte sur Internet, mais cela soulève des préoccupations quant aux droits d’auteur et à l’absence de consentement des auteurs.
Ces préoccupations éthiques se sont manifestées dans les tribunaux, où des arguments sur la moralité de ce type d’utilisation ont été largement débattus. Mais les décisions judiciaires ne fournissent pas un cadre éthique facile. Par exemple, il a été jugé que l’utilisation de livres sans la permission de leurs auteurs relevait des règles d’« usage équitable », bien que cela soulève des questions morales.
Vers une transparence accrue
Il est essentiel de réfléchir à la formation des systèmes d’IA dès le départ. Lorsqu’un nouveau modèle est construit, il passe par un processus de formation qui peut inclure la présentation de deux réponses possibles à un examinateur humain. Ce dernier choisit la réponse qu’il préfère, peut-être en fonction d’une exigence éthique telle que l’évitement de tout préjudice. Certaines entreprises, conscientes de ces enjeux, s’efforcent d’adopter des approches plus transparentes.
Face aux retours des consommateurs, la solution pourrait être une question de goût. Ce que les utilisateurs d’IA choisissent pourrait devenir une question de recherche et de préférence éthique et esthétique, et cela pourrait ne pas être si différent d’acheter un canapé après tout.
