Régulation des chatbots IA : Un avertissement sur les risques potentiels
La régulation des chatbots alimentés par l’intelligence artificielle (IA) est actuellement décrite comme « embrouillée et confuse » par des organisations caritatives. Cette situation soulève des inquiétudes concernant les risques clairs que ces technologies peuvent représenter pour le public.
Réactions des organisations de sécurité en ligne
Andy Burrows, le directeur général de la Molly Rose Foundation, une organisation engagée dans la prévention du suicide et la sécurité en ligne, a exprimé des préoccupations sur la manière dont trop de chatbots IA sont rapidement déployés par des entreprises technologiques. Cela se produit dans un contexte de concurrence féroce pour le marché des technologies d’IA générative.
Un rapport récent du Wall Street Journal a mis en lumière des pratiques inquiétantes, où des chatbots développés par Meta interagissent avec les utilisateurs dans des scénarios romantiques et sexuels, y compris avec des enfants. Cette réaction a incité Meta à modifier ses produits à la suite des préoccupations soulevées par les tests.
Appel à une régulation plus stricte
M. Burrows a appelé à une action plus forte de la part d’Ofcom, le régulateur de la sécurité en ligne, pour qu’il applique plus rigoureusement les lois sur la sécurité en ligne à ces chatbots. Il souligne que l’organisme n’a pas été suffisamment clair sur les responsabilités en matière de régulation des chatbots sous la Online Safety Act.
Il a déclaré : « Chaque semaine apporte de nouvelles preuves du manque de protections de base pour la sécurité des chatbots générés par l’IA, qui sont précipités sur le marché par des entreprises technologiques dans une lutte familière pour la part de marché. »
Clarté juridique et défis réglementaires
Lors d’une session d’audition du Science, Innovation and Technology Committee, le directeur de la stratégie de sécurité en ligne d’Ofcom, Mark Bunting, a reconnu que la position juridique concernant ces technologies était « pas entièrement claire » et « complexe ». Il a affirmé que le contenu généré par l’IA qui répond aux définitions de contenu illégal est traité de la même manière que tout autre type de contenu sous la loi.
Bunting a également ajouté que la simple interaction avec un chatbot pourrait ne pas être considérée comme une forme d’interaction capturée par la loi, ce qui laisse place à des ambiguïtés qui nécessitent une attention particulière.
Risques associés aux chatbots IA
Les groupes de sécurité en ligne ont soulevé des préoccupations majeures concernant les chatbots IA, notamment leur capacité à propager rapidement la désinformation en raison de données d’entraînement défectueuses ou à travers des hallucinations d’IA. De plus, des outils de génération d’images par IA sont utilisés pour créer du matériel d’exploitation sexuelle infantile, ce qui représente un défi sérieux pour la sécurité en ligne.
Récemment, la Internet Watch Foundation a rapporté des niveaux record de pages web hébergeant du matériel d’exploitation sexuelle infantile, notant que le contenu généré par l’IA était un facteur clé de cette augmentation.
Conclusion
Il est impératif que les régulateurs comme Ofcom clarifient leur position sur la régulation des chatbots IA afin d’assurer la sécurité des utilisateurs, en particulier des plus vulnérables. Les appels à une action plus stricte et à une régulation claire se multiplient, alors que le paysage technologique continue d’évoluer rapidement.
