Les programmes d’IA en pleine expansion à Philadelphie font face à des interrogations sur la gouvernance et l’implication du public
Philadelphie avance dans l’utilisation de l’IA dans ses services municipaux, mais certains résidents s’inquiètent du fait que ce déploiement s’est largement déroulé à l’abri des regards du public.
Auditions sur la réglementation de l’IA
Le Conseil municipal a tenu la première grande audition sur la réglementation de l’IA en octobre dernier. Des représentants de l’administration ont présenté une stratégie générale, mais n’ont pas fourni de détails sur l’utilisation concrète de la technologie.
Les préoccupations concernant l’utilisation de la technologie par la ville résident dans le fait qu’elle est perçue comme une « boîte noire ». Des responsables ont indiqué qu’un cadre serait établi pour guider l’utilisation de l’IA par les employés du secteur public d’ici la fin de l’hiver 2025 ou le début du printemps 2026. Cependant, il n’est pas clair où en est la progression de ce projet.
Une fois ce cadre mis en place, des opportunités de formation et un comité de gouvernance de l’IA interservices seront créés pour examiner et mettre à jour les futures politiques en matière d’IA.
Préoccupations concernant la gestion des données
Une autre préoccupation récurrente concernant le déploiement de l’IA est la manière dont les données sont collectées, utilisées en interne et partagées avec des tiers. Les résidents souhaitent s’assurer que l’humain reste impliqué dans le processus.
Au cœur de ces préoccupations, il y a des questions sur qui contrôle les données. Les citoyens s’interrogent sur la responsabilité et l’équité en matière de budget, car les données utilisées pour former certains algorithmes peuvent contenir des biais conduisant à des résultats préjudiciables.
Historique et initiatives en cours
Au fil des ans, plusieurs agences de la ville ont expérimenté l’utilisation de l’IA dans des espaces publics, comme l’initiative SmartCityPHL, qui a déployé des outils d’IA pour identifier les nids de poule. D’autres projets, comme l’utilisation de capteurs intelligents sur les lampadaires, ont également été testés.
Sous l’administration actuelle, des initiatives comme l’adoption de l’IA par les autorités de transport pour délivrer des contraventions ont continué. Les préoccupations concernant l’utilisation de l’IA par le département de police et par les agences d’immigration n’ont pas été abordées de manière satisfaisante lors des auditions.
Conclusion
Les enjeux entourant l’IA à Philadelphie soulèvent des questions essentielles sur la transparence, la responsabilité et l’équité. Les résidents veulent s’assurer que les décisions prises par l’IA reflètent des valeurs éthiques et que les humains restent au centre de ces processus technologiques.
