Problème de contenu obscène de Grok AI : X reconnaît son erreur, supprime 600 comptes et assure sa conformité
La plateforme de microblogging a reconnu son erreur et supprimé environ 3 500 contenus, ainsi que plus de 600 comptes, après que le ministère des Technologies de l’information a soulevé des préoccupations concernant le contenu obscène lié au chatbot Grok, soutenu par Elon Musk. X a assuré aux autorités qu’elle respecterait les lois en vigueur.
Mesures prises
Cette action survient alors que Grok fait face à une pression croissante des gouvernements du monde entier, alors que les régulateurs intensifient leur examen du moteur d’IA génératif en matière de modération de contenu, de sécurité des données et d’images sexuelles explicites non consensuelles. Selon des sources gouvernementales, X a accepté son erreur et promis de se conformer aux lois. En conséquence, elle a bloqué environ 3 500 contenus et supprimé plus de 600 comptes. X a également assuré qu’à l’avenir, elle ne permettrait pas d’images obscènes.
Réaction des autorités
Le ministère des Technologies de l’information avait précédemment demandé à X de retirer immédiatement tout contenu vulgaire, obscène et illégal généré par Grok, sous peine de sanctions. L’instruction stipule que la société doit soumettre un rapport détaillé sur les mesures prises concernant l’application Grok, y compris les actions contre le contenu offensant et les utilisateurs.
Le ministère a également souligné que Grok AI est utilisé de manière abusive pour créer de faux comptes hébergeant des images ou vidéos obscènes de femmes. Cette conduite reflète un échec sérieux des mécanismes de protection de la plateforme et constitue un abus flagrant des technologies d’intelligence artificielle.
Conformité et implications futures
Le gouvernement a averti que le respect de la loi sur les technologies de l’information n’est pas optionnel et que tout manquement entraînerait la perte d’exemptions de responsabilité. X a été invitée à appliquer strictement ses conditions de service et à prendre des mesures dissuasives contre les utilisateurs violant les règles.
En réponse à la pression mondiale, notamment au Royaume-Uni et dans l’UE, la situation a suscité des critiques et une demande d’action concernant l’utilisation de Grok. Les autorités ont clairement indiqué que des mesures seraient prises si la plateforme ne respectait pas les normes de sécurité en ligne.
Conclusion
Cette affaire souligne l’importance de la conformité des plateformes aux lois locales et la nécessité d’une modération efficace des contenus, surtout dans le contexte de l’IA générative. Les actions récentes de la plateforme pourraient être perçues comme un premier pas vers une meilleure gestion des contenus inappropriés, mais des efforts continus seront nécessaires pour garantir la sécurité des utilisateurs.
