Der Senat von Pennsylvania hat fast einstimmig einen Gesetzentwurf verabschiedet, der darauf abzielt, KI-Chatbots für Kinder und Jugendliche zu regulieren. Der Vorschlag sieht vor, dass Betreiber von Chatbot-Diensten Maßnahmen ergreifen müssen, um sicherzustellen, dass ihre Produkte keine Selbstschädigung oder Gewalt fördern.
Der globale Markt für KI-Governance-Plattformen wird bis 2035 voraussichtlich 78,9 Milliarden USD erreichen und dabei eine CAGR von 34,1 % aufweisen. Das Wachstum wird durch die zunehmende Komplexität von KI-Einsätzen und die steigende regulatorische Aufsicht vorangetrieben.
Die Abgeordneten des Europäischen Parlaments haben Vorschläge zur Vereinfachung der Regeln für künstliche Intelligenz angenommen und fordern ein Verbot von „Nudifier“-Apps. Zudem wurden klare Fristen für die Anforderungen an Hochrisiko-KI-Systeme festgelegt, um Vorhersehbarkeit und Rechtssicherheit zu gewährleisten.
Kore.ai hat die Agent Management Platform (AMP) vorgestellt, eine Software-Schicht zur Verwaltung und Überwachung von KI-Agenten in großen Organisationen. AMP soll Unternehmen dabei helfen, die Sichtbarkeit und Kontrolle über den Betrieb von KI-Agenten zu verbessern und eine einheitliche Steuerung über verschiedene Bereitstellungen hinweg zu gewährleisten.
Der National Council of Insurance Legislators (NCOIL) erwägt eine Resolution, die die bundesstaatliche Regulierung von künstlicher Intelligenz in der Versicherungsbranche ablehnt und stattdessen jedem Bundesstaat die Verantwortung überlässt. Die Resolution betont die Notwendigkeit, dass die Gesetzgeber auf staatlicher Ebene politische Maßnahmen entwickeln, um Verbraucher zu schützen, während gleichzeitig Innovationen gefördert werden.
In dem Artikel wird betont, dass die Governance von KI nicht auf Modelle, sondern auf den Zugang zu Daten und Systemen fokussiert werden sollte. Der Autor warnt davor, dass viele Sicherheitsprogramme die Realität von KI-Integrationen und deren potenzielle Risiken nicht richtig erfassen.
Eine Arbeitsgruppe von Verbraucherschützern und Technologiegruppen hat einen Vorschlag zur Neufassung der KI-Vorschriften in Colorado veröffentlicht, was eine erneute öffentliche Debatte über die Regulierung dieser schnell wachsenden Technologie auslöste. Der Vorschlag sieht vor, dass Gerichte über die Haftung zwischen Entwicklern von KI-Tools und den Organisationen entscheiden, die diese Tools nutzen, insbesondere bei diskriminierenden Entscheidungen.
SailPoint, Inc. hat die Einführung von SailPoint Shadow AI Remediation angekündigt, einer innovativen Lösung zur Entdeckung, Überwachung und Sicherung der Nutzung unautorisierter KI-Tools, auch bekannt als „Shadow AI“. Diese Lösung bietet Unternehmen Echtzeit-Transparenz über die Nutzung solcher Tools und ermöglicht proaktive Maßnahmen zur Risikominderung und Einhaltung von Sicherheitsstandards.
In diesem Experiment wurde ein hybrides neuronales Netzwerk mit einem differenzierbaren Regel-Lernmodul erweitert, das während des Trainings automatisch IF-THEN-Betrugsregeln extrahiert. Das Modell entdeckte unabhängig V14, ein Merkmal, das lange bekannt ist und stark mit Betrug korreliert, ohne darauf hingewiesen zu werden.
Künstliche Intelligenz ist längst keine Experiment mehr und ist in Unternehmensplattformen wie Microsoft Copilot und Zoom AI Companion integriert. In einem exklusiven Interview erklärt Devin Redmond, CEO von Theta Lake, die Herausforderungen und die Notwendigkeit einer effektiven KI-Governance für CIOs.