AI-Unternehmen behaupten, dass bestehende Regeln agentisches AI regulieren können
AI-Unternehmen, einschließlich Meta und OpenAI, setzen zunehmend auf agentisches AI, das als die nächste Evolution von generativem AI angesehen wird. Diese Technologien ermöglichen es AI-Agenten, Aufgaben autonom auszuführen. In Anbetracht der fortschreitenden Innovation argumentieren Entwickler, dass bestehende Sicherheitsprozesse sowie staatliche und bundesstaatliche Regeln Unternehmen und Verbraucher beim Einsatz dieser Technologien schützen können.
Die Rolle von Meta
Der Social-Media-Riese Meta gehört zu den vielen AI-Unternehmen, die agentische AI-Funktionen einführen. Agentisches AI besteht aus mehreren AI-Agenten, die autonom Aufgaben erfüllen können. Trotz der ständigen Evolution von AI-Tools können bestehende Verbraucherschutzgesetze, Verträge und branchenspezifische Vorschriften zusammen mit den eigenen Sicherheits- und Schutzmaßnahmen eines Unternehmens als technische Leitplanken für neue Fähigkeiten wie agentisches AI dienen.
Erica Finkle, die AI-Politikdirektorin von Meta, betont die Notwendigkeit, die bestehende Gesetzgebung im Kontext der neuen Technologien anzuwenden und deren Potenzial optimal zu nutzen.
Regulierung und Risikoabschätzung
A.J. Bhadelia, ein führender Experte für AI-Öffentlichkeitsarbeit bei Cohere, unterstützt Finkles Argumentation. Er hebt hervor, dass es entscheidend ist, zu bewerten, wo bestehende Gesetze auf Produkte wie AI-Agenten anwendbar sind und wo möglicherweise Lücken bestehen, die durch zusätzliche Gesetze und Vorschriften geschlossen werden müssen. Die Regierung unter Präsident Donald Trump entwickelt derzeit einen Aktionsplan, um die US-Politik zu AI zu steuern.
Bhadelia weist darauf hin, dass nicht alle agentischen AI-Anwendungen das gleiche Risiko tragen. Beispielsweise birgt die Entwicklung eines AI-Agenten für den Einsatz innerhalb eines Unternehmens ein anderes Risiko als ein Agent, der für Verbraucher gedacht ist.
Standards und menschliche Kontrolle
Es besteht ein dringender Bedarf, eine standardisierte Terminologie auf architektonischer Ebene für die Kommunikation zwischen AI-Agenten zu etablieren. Verschiedene Anbieter entwickeln spezifische AI-Agenten, die darauf spezialisiert sind, Aufgaben in einzelnen Sektoren wie Gesundheitswesen oder Energie zu erfüllen. Eine offene und interoperable AI-Infrastruktur sowie eine standardisierte Terminologie sind entscheidend für die Erreichung von Multi-Agent-Interaktionen.
Die Sicherheit erfordert, dass menschliche Kontrolle auf allen Ebenen des agentischen Workflows implementiert und aufrechterhalten wird. Avijit Ghosh, ein Forscher bei Hugging Face, argumentiert, dass AI-Unternehmen keine vollständig autonomen agentischen AI entwickeln sollten, um Risiken wie den Verlust menschlicher Kontrolle, missbräuchliche Verwendung und den Verlust von Datenschutz zu vermeiden.
Schlussfolgerung
Die Entwicklung von agentischem AI erfordert sowohl Transparenz als auch Offenheit in Bezug auf das Training von AI-Agenten. Dies könnte den politischen Entscheidungsträgern helfen, relevante und effektive Regeln für diese Technologie zu erstellen. Es ist unerlässlich, dass die Öffentlichkeit und die Zivilgesellschaft in der Lage sind, auf die Veränderungen im Bereich der AI zu reagieren und sich entsprechend zu positionieren.
