LA VÉRITÉ DOULOUREUSE : UN BILAN DES RÉGLEMENTATIONS SUR L’IA EN ATTENTE
La semaine dernière, des responsables politiques ont commencé à suggérer que certaines entreprises, notamment celles du secteur de l’IA, devraient être soumises à la juridiction nationale. Cette discussion a émergé à la suite d’un tragique incident ayant causé la mort de plusieurs personnes.
Il a été révélé que l’auteur de ce drame avait récemment été banni de son compte auprès d’une entreprise d’IA après que celle-ci ait identifié des « abus de ses modèles en faveur d’activités violentes ». Des employés de cette entreprise avaient envisagé de signaler les conversations inquiétantes entre la jeune fille et le chatbot, mais ont finalement décidé de ne pas le faire.
Il est clair qu’il aurait été possible d’éviter cette tragédie. L’amélioration du soutien en santé mentale dans les petites communautés devrait être une priorité gouvernementale. Cependant, ce cas en particulier soulève des questions importantes concernant la responsabilité des entreprises d’IA.
Les enjeux de la responsabilité
Les entreprises, comme celle mentionnée, ont vu des signaux d’alerte mais ont choisi d’agir sans consulter les autorités compétentes telles que la police ou les responsables de la santé provinciale. Cela soulève la question de la responsabilité et du pouvoir décisionnel qui devrait être entre les mains des gouvernements élus.
Il a été proposé de rendre légalement obligatoire pour ces entreprises de signaler toute information susceptible de nuire aux individus. C’est un bon point de départ qui pourrait également s’appliquer aux réseaux sociaux et aux sites de commerce en ligne.
Les défis de la réglementation
À l’échelle mondiale, on observe une augmentation des limites d’âge pour les services de médias sociaux et des réglementations sur certains types de contenu. Cependant, nous sommes encore au début de la réglementation des environnements en ligne, car nous commençons juste à comprendre les compromis entre les avantages et les inconvénients.
Les outils en ligne que nous utilisons offrent de nombreux bénéfices, mais ils peuvent également causer divers types de dommages, allant des troubles mentaux induits par les chatbots à la propagation de fausses informations à travers les médias sociaux.
Conclusion
Il est crucial de reconnaître que la responsabilité et le contrôle ne devraient pas être entre les mains des entreprises qui tirent profit de ces technologies, mais plutôt des gouvernements démocratiquement élus. Il est grand temps de réglementer l’espace numérique dans lequel nous vivons chaque jour.
