La Corée du Sud pourrait regretter d’être la première à adopter une nouvelle loi sur l’IA
Le 22 janvier, la Corée du Sud a introduit sa Loi de base sur l’IA, qu’elle prétend être « le premier corpus législatif complet au monde pour réguler l’intelligence artificielle ». Le gouvernement affirme que cette législation aidera le pays à devenir un leader dans la course mondiale à l’IA en établissant une « base de confiance » tout en protégeant les intérêts des citoyens.
Une loi exhaustive avec des exigences strictes
La nouvelle loi — la Loi de base sur le développement de l’intelligence artificielle et l’établissement d’une fondation de confiance — se compose de six chapitres avec 43 articles, stipulant des exigences de conformité strictes pour les entreprises nationales et étrangères. La loi définit de manière vague une catégorie d’applications « à fort impact », telles que celles liées à la sécurité nucléaire, à l’approvisionnement en eau potable, aux transports, aux soins de santé et à l’évaluation du crédit financier, en stipulant que la supervision humaine est obligatoire pour ces applications.
Les entreprises doivent également informer à l’avance les utilisateurs des produits et services utilisant cette « IA à fort impact » pour répondre à une exigence d’« explicabilité ». De plus, un « plan de protection des utilisateurs » doit être en place.
Pour contrer la désinformation et les images générées par IA, la loi impose également une exigence de « transparence », appelant à des filigranes clairs ou à un étiquetage audible lorsque les sorties de l’IA sont « difficiles à distinguer de la réalité ». Même pour les jeux et les animations, des étiquettes doivent être placées dans les métadonnées. Des amendes administratives pouvant atteindre 30 millions de wons (environ 20 400 $) peuvent être imposées pour des infractions à ces exigences d’étiquetage, après une période de grâce d’un an.
Inquiétudes des startups
Bien que le gouvernement affirme que la nouvelle loi a été adoptée après « de nombreuses consultations », l’Alliance des startups de Corée du Sud a exprimé sa frustration face à l’ambiguïté du langage de la loi. Selon une enquête, 98 % des 101 startups locales d’IA n’ont pas de systèmes en place pour se conformer à la loi, et près de la moitié d’entre elles admettent ne pas être familières avec ses détails.
Le ministère de la Science et des TIC sera responsable de confirmer si un système est considéré comme une IA à fort impact, et le processus d’examen prendra 30 jours, avec une extension possible de 30 jours supplémentaires, ce qui entraînera inévitablement des retards incertains pour certains nouveaux services.
Les risques d’une régulation prématurée
La Corée du Sud a traditionnellement pris l’initiative de légiférer et de réguler, mais une telle approche peut conduire à des conséquences imprévues. Par exemple, dans le passé, des lois visant à protéger les citoyens ont souvent été critiquées pour leur excès. Une loi de 2009 imposant un système d’enregistrement de vrais noms en ligne a été déclarée inconstitutionnelle après avoir entraîné des violations de données massives.
Récemment, des lois sur la protection des données ont été révisées pour alléger les sanctions pénales, reconnaissant que penaliser les victimes de cyberattaques n’encourageait pas les meilleures pratiques en matière de cybersécurité.
Conclusion
Bien que la Corée du Sud soit bien positionnée dans le secteur de l’IA, des réglementations trop agressives pourraient entraîner des conséquences indésirables. L’histoire du pays montre que le fait d’être le premier à réguler peut aussi signifier être le premier à échouer à prédire toutes les conséquences inattendues d’une intervention législative. Il est donc essentiel d’équilibrer innovation et protection dans ce domaine en pleine évolution.
