Agentic AI erhält ein Regelwerk: Menschen bleiben in der Verantwortung
Während Unternehmen für künstliche Intelligenz (KI) weiterhin leidenschaftlich die Vorteile von AI-Agenten bewerben, die bestimmte Arbeitsabläufe automatisieren können, hat die Regierung Singapurs ein neues Regelwerk veröffentlicht. Dieses zielt darauf ab, die Risiken im Zusammenhang mit der Einführung von agentic AI zu mindern und eine verantwortungsvolle Entwicklung dieser Technologie sicherzustellen. Das Regelwerk berücksichtigt die Risiken dieser Technologie und deren Auswirkungen auf den Arbeitsplatz.
Das neue Regelwerk
Das Regelwerk baut auf einem früheren Modell von 2019 auf, das Prinzipien wie Transparenz, Fairness und Menschlichkeit in den Mittelpunkt stellte. Es diskutiert die Risiken von KI, insbesondere agentic AI, sowie den Fortschritt in Richtung künstlicher allgemeiner Intelligenz (AGI). Experten heben potenzielle gesellschaftliche und wirtschaftliche Veränderungen hervor, die sich aus diesen Entwicklungen ergeben könnten.
Anwendungsbeispiele
Einige Länder setzen bereits KI in ihren Regierungsdiensten ein. Ein virtuelles Assistenzsystem hat seit seiner Einführung Millionen von Anfragen bearbeitet und viele davon ohne menschliches Eingreifen erfolgreich gelöst. Dies unterstreicht das Potenzial von AI-Agenten, die Effizienz zu steigern.
Wesentliche Anforderungen an menschliche Aufsicht
Das Regelwerk betont, dass menschliche Aufsicht ein entscheidendes Element bleibt. Die Verantwortung für die Implementierung von AI-Agenten liegt weiter bei den Menschen. Organisationen müssen klare Verantwortlichkeiten definieren und technische Prozesse sowie Kontrollen für den gesamten Lebenszyklus der AI-Implementierung einrichten.
Risikoabschätzung und Sicherheitsmaßnahmen
Organisationen werden aufgefordert, geeignete Anwendungsfälle für Agenten sorgfältig zu prüfen und agentenspezifische Risiken zu berücksichtigen. Sicherheitsaspekte wie Datenlecks und Softwareanfälligkeiten müssen besonders adressiert werden.
Begrenzung der Fähigkeiten von Agenten
Für Organisationen, die agentic AI einsetzen, ist es entscheidend, die Befugnisse der Agenten zu begrenzen. Dazu gehören Richtlinien, die den Agenten nur Zugriff auf die minimal erforderlichen Werkzeuge und Daten gewähren. Zudem müssen Überwachungsmechanismen implementiert werden, um das Verhalten der Agenten zu kontrollieren.
Fazit
Die Einführung von agentic AI bietet Chancen und Herausforderungen. Obwohl die Technologie Effizienzsteigerungen ermöglicht, ist es essenziell, dass Organisationen die Risiken erkennen und angemessene Überwachungs- und Kontrollmaßnahmen ergreifen. Nur mit menschlicher Aufsicht können die Vorteile dieser Technologie verantwortungsvoll genutzt werden.
