Les législateurs de l’État de New York ont adopté un projet de loi visant à empêcher les modèles d’IA d’OpenAI, Google et Anthropic de contribuer à des scénarios de catastrophe. Si elle est signée, la loi exigerait que les plus grands laboratoires d’IA publient des rapports de sécurité détaillés sur leurs modèles d’IA de pointe.
Priya Dharshini Kalyanasundaram, responsable de programme technique à Dallas, utilise son expérience en gestion des fournisseurs et en conformité pour promouvoir des innovations en matière de sécurité alimentées par l’IA. Son projet majeur consiste en un système de vision par ordinateur qui aide à rendre les sols des entrepôts plus sûrs en surveillant la posture et l’utilisation des équipements.
L’IA agentique, qui fonctionne avec un haut degré d’autonomie, présente des risques de sécurité croissants en raison de son interaction sans supervision humaine. Les organisations doivent renforcer leurs contrôles de sécurité pour suivre le rythme de l’innovation en matière d’IA.
L’intelligence artificielle (IA) dans le secteur de la santé nécessite une gouvernance, une gestion des risques et une conformité rigoureuses. Cela est essentiel pour garantir la sécurité des patients et l’intégrité des données.
Les plateformes d’orchestration de conteneurs qui alimentent les services d’IA d’aujourd’hui gèrent des propriétés intellectuelles sensibles et des données personnelles. Il est essentiel que les responsables de la sécurité et de la conformité soient stratégiques dans la sécurisation des services d’inférence ML et LLM dans ces environnements.
L’intelligence artificielle générative (GenAI) transforme les industries en offrant des capacités allant de la création de texte semblable à celui des humains à la génération d’images et de vidéos réalistes. Cependant, l’adoption croissante de GenAI nécessite des mesures de gouvernance et de cybersécurité robustes pour équilibrer l’innovation et la protection des systèmes.
Les équipes de sécurité peuvent rester pertinentes grâce aux compétences en intelligence artificielle et en se concentrant sur les avantages de la diversité. Vasu Jakkal, vice-présidente de la sécurité chez Microsoft, souligne l’importance de la gouvernance pour s’assurer que ces agents d’IA servent l’humanité comme prévu.
L’Organisation mondiale de la santé (OMS) a annoncé un effort historique pour créer le premier cadre de gouvernance mondial harmonisé pour l’intelligence artificielle (IA) dans le secteur de la santé. L’initiative vise à garantir que les technologies de l’IA sont sûres, éthiques et accessibles, en particulier dans les pays à revenu faible et intermédiaire.
Récemment, j’ai eu un débat engageant avec mon équipe sur les niveaux de sécurité de l’intelligence artificielle (ASL). Chaque ASL marque un niveau différent de capacité et de risque de l’IA, allant de l’ASL-1, où des modèles plus petits avec un risque minimal existent, à l’ASL-4, où les choses deviennent spéculatives.
Un autre législateur de Californie souhaite que l’État soit à la pointe de la réglementation de l’intelligence artificielle, en dévoilant la loi « No Robo Bosses ». Ce projet de loi vise à réglementer l’utilisation des systèmes de décision automatisés dans l’emploi, limitant strictement les outils pilotés par l’IA lors de l’embauche, de la promotion, de la discipline et du licenciement des travailleurs.