La réglementation des chatbots IA : une réponse floue et confuse
La récente déclaration d’un organisme de charité met en lumière la réponse confuse de l’autorité de régulation de la sécurité en ligne, Ofcom, face aux dangers potentiels des chatbots IA, qui pourraient représenter un risque clair pour le public.
Des préoccupations croissantes
Andy Burrows, le directeur général de la Molly Rose Foundation, une organisation dédiée à la sécurité en ligne et à la prévention du suicide, a exprimé ses inquiétudes concernant la manière dont trop de chatbots IA sont lancés à la hâte par les entreprises technologiques, dans une bataille pour la part de marché dans le domaine en pleine expansion de l’IA générative.
Un rapport récent du Wall Street Journal a révélé que les chatbots IA de Meta participaient à des jeux de rôle romantiques et même sexuels avec les utilisateurs, y compris des enfants. Bien que Meta ait qualifié ces tests de manipulatifs et non représentatifs de l’engagement des utilisateurs, des modifications ont été apportées à ses produits à la suite de ces découvertes.
Appel à des actions plus strictes
Burrows a déclaré que ce rapport devrait inciter Ofcom à réglementer plus strictement les chatbots IA en vertu de la Loi sur la sécurité en ligne, un sujet sur lequel il estime que l’autorité n’a pas été suffisamment claire.
« Chaque semaine apporte de nouvelles preuves du manque de protections de base en matière de sécurité dans les chatbots générés par l’IA, qui sont rapidement lancés par les entreprises technologiques dans une lutte pour la part de marché », a-t-il déclaré.
« Malgré cela, la réponse d’Ofcom aux risques demeure floue et confuse. »
Des clarifications nécessaires
Le directeur de la stratégie de sécurité en ligne d’Ofcom, Mark Bunting, a reconnu lors d’une session de témoignage que la position légale n’était « pas entièrement claire » et « complexe ». Il a précisé que le contenu de l’IA générative qui répond aux définitions de contenu illégal ou nuisible pour les enfants est traité de la même manière que tout autre type de contenu dans le cadre de la Loi.
« Nous pensons que les chatbots et les services de caractère que nous avons vus liés à des dommages au cours des derniers mois sont, dans certaines circonstances, couverts par la Loi, mais pas nécessairement dans toutes les circonstances », a-t-il ajouté.
Les risques associés aux chatbots IA
Les groupes de sécurité en ligne ont soulevé plusieurs préoccupations concernant les chatbots IA, notamment leur capacité à propager rapidement de fausses informations en raison de données d’entraînement défectueuses ou d’hallucinations de l’IA. De plus, des outils de génération d’images par IA ont été utilisés pour créer des matériaux d’abus sexuels sur enfants.
Plus tôt ce mois-ci, l’organisation de sécurité Internet Watch Foundation (IWF) a signalé des niveaux records de pages web hébergeant des matériaux d’abus sexuels sur enfants en 2024, et a averti que le contenu généré par l’IA était un facteur clé de cette augmentation.
