Am 25. November 2024 stellte das Sofiaer Bezirksgericht in Bulgarien eine Anfrage an den CJEU zu den Bestimmungen über automatisierte Entscheidungsfindung (ADM) im Rahmen des AI-Gesetzes. Der Fall betrifft die Frage der Transparenz und Fairness von ADM-Systemen in Bezug auf die automatisierte Berechnung von Gebühren durch ein Telekommunikationsunternehmen.
In den letzten zwei Jahren hat die EU schnell auf die Herausforderungen der Künstlichen Intelligenz reagiert und das erste risikobasierte Regulierungsgesetz für KI entwickelt. Der EU AI Act, der am 1. August 2024 in Kraft trat, zielt darauf ab, das Vertrauen in KI zu stärken und die Gesellschaft vor potenziellen Gefahren zu schützen.
Künstliche Intelligenz (KI) entwickelt sich rasant weiter und wird zunehmend in Unternehmen eingesetzt. Aus diesem Grund führt Europa den KI-Gesetzesentwurf ein, der einen einheitlichen rechtlichen Rahmen schafft, dem Unternehmen in Europa entsprechen müssen.
Das transformative Potenzial von KI ist unbestritten. Eine kürzlich durchgeführte Umfrage unter globalen KI- und Datenführern ergab, dass 98,4 % angaben, dass ihre Organisationen ihre Investitionen in KI erhöhen.
Die Integration von KI in das digitale Marketing bietet enormes Potenzial für Unternehmen und Verbraucher. Es ist jedoch entscheidend, dass Unternehmen verantwortungsvolle KI-Praktiken übernehmen, die ethische Grenzen respektieren und das Vertrauen der Verbraucher fördern.
Die Direktorin des AI Office, Lucilla Sioli, erklärte, dass der AI Act Teil des digitalen Pakets der Kommission sein wird, für das bis Ende des Jahres eine Folgenabschätzung angekündigt wurde. Es bleibt jedoch unklar, ob dies bedeutet, dass der AI Act erneut eröffnet wird.
Das Responsible AI Institute (RAI Institute) unternimmt mutige Schritte, um die Zukunft der verantwortungsvollen KI-Adoption neu zu gestalten und zu beschleunigen. In Reaktion auf schnelle regulatorische Veränderungen und den Anstieg agentischer KI erweitert das RAI Institute seine Aktivitäten über die politische Interessenvertretung hinaus, um KI-gesteuerte Werkzeuge und neue Programme zur Verifizierung und Benchmarking von KI einzuführen.
Ein effektives Managementsystem für KI erfordert ein tiefes Verständnis dafür, wie die Governance eines Unternehmens in der Praxis funktioniert. Die Erfahrungen mit dem Robodebt-Programm in Australien zeigen, wie wichtig es ist, technische Kontrollen mit einer umfassenden organisatorischen Aufsicht zu verbinden.
In diesem Artikel werde ich erläutern, wie man die vier grundlegenden Komponenten eines KI-Systems – Modelle, Datensätze, Schnittstellen und Agenten – abbildet, um eine effektive Governance zu gewährleisten. Ich verwende ein einfaches, aber leistungsstarkes „Karten“-System, das wesentliche Informationen festhält, die für die Governance jeder Komponente und deren Beziehungen von Bedeutung sind.
Der Artikel behandelt die Bedeutung der Erstellung eines AI-Systeminventars zur effektiven Governance von KI-Systemen. Es wird betont, dass ein klares Verständnis der vorhandenen KI-Landschaft der erste Schritt zur Umsetzung eines AI Management Systems (AIMS) ist.