Ce que l’interdiction de Grok en Indonésie et en Malaisie enseigne aux petits États sur la gouvernance des plateformes d’IA
Les restrictions temporaires, imposées en un week-end, ont été mises en place après que les régulateurs ont découvert que la plateforme était utilisée pour générer des images deepfake non consensuelles de femmes et d’enfants.
Notamment, l’Indonésie et la Malaisie sont des pays à majorité musulmane avec des lois anti-pornographie existantes, ce qui leur a donné un cadre légal supplémentaire pour une action rapide.
Ces pays sont devenus les premiers à bloquer l’accès à Grok, le chatbot IA intégré à une plateforme de médias sociaux. La rapidité de cette action offre d’importantes leçons pour les décideurs politiques dans la région Asie-Pacifique, en particulier ceux des petits États qui cherchent à gouverner des plateformes d’IA développées et opérées au-delà de leurs frontières.
Ce que les régulateurs ont fait
Le ministère des Communications et des Affaires numériques d’Indonésie a imposé un blocage temporaire, suivi par la Commission des communications et des multimédias de Malaisie. Le ministre des Communications indonésien a justifié la décision en termes de droits de l’homme, déclarant que les deepfakes sexuels non consensuels représentent « une violation grave des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique. »
Le régulateur malaisien a cité un « mauvais usage répété » de Grok pour générer des images obscènes et sexuellement explicites, y compris des contenus impliquant des mineurs. Les avis adressés à la société mère de la plateforme, demandant des garanties plus strictes, ont été jugés insuffisants par les régulateurs.
Les deux pays ont imposé des restrictions temporaires tout en poursuivant les processus juridiques et réglementaires, l’accès restant bloqué jusqu’à ce que des garanties efficaces soient démontrées.
Pourquoi cela importe pour les petits États insulaires
Pour les petits États insulaires, cette situation expose un défi structurel en matière de gouvernance numérique. La question qui se pose est : quelles options ont les petits États lorsque les plateformes échouent à mettre en œuvre des garanties adéquates ?
La réponse réside dans la réévaluation de la manière dont les petits États abordent la gouvernance des plateformes d’IA. Voici cinq considérations politiques pour les régulateurs de petits États :
Mécanismes de coordination régionale
Les actions rapides de l’Indonésie et de la Malaisie montrent qu’une coordination similaire pourrait être bénéfique pour d’autres petits États. Des coalitions de petits États pourraient porter un poids réglementaire que les nations individuelles ne peuvent pas générer seules.
Préparation du cadre légal
Les deux pays avaient des instruments juridiques existants qui ont permis une action rapide. Les petits États doivent évaluer si leurs structures juridiques actuelles peuvent répondre avec la même rapidité aux dommages générés par l’IA.
Infrastructure numérique publique comme couche de gouvernance
Les pays construisant des infrastructures numériques nationales ont l’opportunité d’incorporer des garanties d’IA au niveau de la plateforme.
Participation à l’établissement de normes internationales
Les petits États devraient participer activement aux forums pour s’assurer que leurs perspectives influencent les cadres émergents.
Conscience publique comme infrastructure réglementaire
Une gouvernance efficace de l’IA nécessite des citoyens informés des capacités et des risques des IA génératives. Des programmes d’alphabétisation numérique peuvent créer un public conscient qui soutient les actions réglementaires.
Conclusion
Le directeur général de la supervision de l’espace numérique a noté que Grok « manque de garanties efficaces pour empêcher les utilisateurs de créer et de distribuer du contenu pornographique. » Cette situation démontre que des États de taille intermédiaire peuvent agir de manière décisive lorsque les plateformes échouent à protéger leurs citoyens. La question pour les petits États est de savoir comment construire les coalitions, les cadres juridiques et la capacité institutionnelle nécessaires pour faire de même.
