Controverse autour de Grok AI
La plateforme de médias sociaux a reconnu des lacunes dans ses normes de modération de contenu, selon des sources gouvernementales. L’entreprise a informé le gouvernement qu’elle agira en conformité avec toutes les lois et réglementations applicables en matière d’Internet. Dans le cadre de mesures correctives, la plateforme a déjà bloqué 3 500 contenus et supprimé plus de 600 comptes.
De plus, elle a assuré aux autorités qu’elle ne permettra plus de contenu obscène sur sa plateforme à l’avenir. Ce problème a été soulevé après des préoccupations concernant la circulation de contenu obscène et sexuellement explicite, y compris du matériel prétendument généré ou amplifié par son outil d’intelligence artificielle, Grok.
Action du Ministère
Le Ministère des Technologies de l’Information a envoyé un avis au responsable de la conformité de la plateforme et a demandé un rapport détaillé sur les actions entreprises pour garantir la conformité à la réglementation dans les 72 heures. Cela comprend la prévention de l’hébergement, de la génération, de la publication, de la transmission, du partage ou du téléchargement de contenu obscène, nu, indécent et sexuellement explicite.
Dans sa lettre, le ministère a ordonné à la plateforme de s’abstenir strictement de permettre tout contenu jugé « obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile, ou autrement interdit par la loi ». Le non-respect de ces obligations de diligence pourrait entraîner la perte de l’exemption de responsabilité en vertu de la loi sur l’Internet.
Critiques et Réactions
Un membre du parlement a critiqué la plateforme pour restreindre la génération d’images problématiques et sexualisées uniquement aux utilisateurs payants, plutôt que de l’arrêter complètement. Cette décision a été perçue comme permettant l’utilisation non autorisée d’images de femmes et d’enfants, mettant en danger leur sécurité.
Le pays a été le premier à suspendre complètement l’accès à Grok, en raison des inquiétudes croissantes concernant l’utilisation abusive de l’IA pour créer des images sexualisées sans consentement.
