Extension des règles de sécurité en ligne aux chatbots IA après le scandale Grok
Les fabricants de chatbots IA qui mettent les enfants en danger feront face à d’énormes amendes ou même à la suspension de leurs services au Royaume-Uni, selon les modifications législatives qui seront annoncées prochainement.
Suite à l’arrêt de l’outil IA Grok par une plateforme après une vague d’indignation publique, les ministres prévoient une « répression contre le contenu illégal et nuisible créé par l’IA ». Avec de plus en plus d’enfants utilisant des chatbots pour divers besoins, le gouvernement s’engage à « fermer rapidement une faille juridique et à obliger tous les fournisseurs de chatbots IA à respecter les obligations de contenu illégal dans la Loi sur la sécurité en ligne, sous peine de sanctions ».
Mesures supplémentaires sur l’utilisation des réseaux sociaux par les enfants
Des restrictions supplémentaires concernant l’utilisation des réseaux sociaux par les enfants sont également envisagées, notamment une éventuelle interdiction pour les moins de 16 ans. Cela pourrait impliquer des mesures comme la restriction du défilement infini, avec des changements possibles dès cet été.
Cependant, l’opposition critique le gouvernement, le qualifiant d’hypocrite, affirmant que la consultation nécessaire n’a pas encore été lancée.
Problèmes juridiques et sécurité des enfants
Le régulateur en ligne a admis qu’il manquait de pouvoir pour agir contre Grok, car les images et vidéos générées par un chatbot sans recherche sur Internet ne sont pas couvertes par les lois actuelles, sauf si elles relèvent de la pornographie. La modification de la loi pour inclure les chatbots IA pourrait être mise en œuvre dans les semaines à venir, bien que cette faille soit connue depuis plus de deux ans.
Le chef d’une organisation de protection de l’enfance a déclaré que de jeunes utilisateurs contactaient leur helpline pour signaler des préjudices causés par des chatbots IA, soulignant un manque de confiance envers les entreprises technologiques pour assurer la sécurité de leurs outils.
Conclusion et perspectives d’avenir
Le gouvernement prévoit également de consulter sur l’impossibilité pour les utilisateurs d’envoyer et de recevoir des images nues d’enfants, une pratique déjà illégale. Les modifications législatives visent à protéger les jeunes utilisateurs d’Internet, en s’assurant que les technologies évoluent en parallèle avec les défis qu’elles posent.
