Über sichere Modelle hinaus: Warum die KI-Governance unsichere Ökosysteme angehen muss
Die Diskussion über künstliche Intelligenz (KI) hat in den letzten Jahren an Fahrt gewonnen. Während das Augenmerk oft auf der Sicherheit von KI-Modellen selbst liegt, ist es entscheidend, die Kontexte zu betrachten, in denen diese Modelle eingesetzt werden. Ein sicheres Werkzeug kann in den falschen Händen gefährlich werden, und ebenso kann ein gut ausgerichtetes KI-Modell Schaden anrichten, wenn es in missalignierten, opaken oder vorbereiteten Systemen eingesetzt wird.
Die Risiken unsicherer Bereitstellung
Die Risiken, die von der Bereitstellung von KI ausgehen, sind nicht theoretisch. Zum Beispiel haben Empfehlungssysteme auf sozialen Medien, die technisch ausgereift sind, oft dazu beigetragen, Polarisation und Fehlinformationen zu verstärken. Der Schaden liegt nicht in der Logik des Algorithmus, sondern in den Anreizen der Plattform, die Aufmerksamkeit um jeden Preis zu priorisieren.
Ein weiteres Beispiel sind KI-Tools, die bei der Personalbeschaffung verwendet werden und trotz technischer Standards Rassendiskriminierung und Geschlechterdiskriminierung aufweisen. Ein System bewertete Kandidaten niedriger, weil sie Frauenhochschulen besucht hatten, nicht aufgrund eines technischen Fehlers, sondern weil es Vorurteile aus früheren Einstellungsentscheidungen geerbt hatte.
Von sicheren Modellen zu sicheren Ökosystemen
Trotz der offensichtlichen Risiken unsicherer Bereitstellungssysteme konzentriert sich der vorherrschende Ansatz der KI-Governance stark auf Prä-Deployment-Interventionen. Diese Interventionen sind darauf ausgerichtet, sicherzustellen, dass das Modell selbst technisch einwandfrei ist. Governance-Initiativen, wie der EU KI-Akt, legen zwar wichtige Grundlagen, konzentrieren sich jedoch hauptsächlich auf die Eigenschaften von KI-Modellen und vernachlässigen die Umgebungen, in denen sie bereitgestellt werden.
Die Governance muss daher fragen: Wo wird dieses System eingesetzt, von wem, zu welchem Zweck und mit welcher Art von Aufsicht? Wir müssen über die Modellprüfungen vor der Bereitstellung hinausgehen und einen robusten Rahmen entwickeln, der die Sicherheit des Bereitstellungssystems in den Mittelpunkt der Risikobewertung stellt.
Ein kontextbewusstes Risikobewertungsrahmen
Um den Fokus über die modellzentrierte Governance hinaus zu verschieben, sind vier kritische Merkmale von Bereitstellungssystemen zu beachten, die die Risiken von KI in der Praxis verstärken oder mildern können:
- Anreiz-Ausrichtung: Die Governance muss berücksichtigen, ob Institutionen, die KI-Systeme bereitstellen, das öffentliche Wohl über kurzfristige Ziele wie Gewinnmaximierung oder Effizienzpriorisierung stellen.
- Kontextuelle Bereitschaft: Nicht alle Bereitstellungssysteme sind gleich gut ausgestattet, um die Risiken von KI zu managen. Faktoren wie rechtliche Schutzmechanismen und die technische Infrastruktur spielen eine entscheidende Rolle.
- Institutionelle Verantwortung und Machttransparenz: Institutionen, die KI-Systeme bereitstellen, sollten so strukturiert sein, dass sie verantwortlich, anfechtbar und gerecht sind.
- Adaptive Aufsicht und emergente Risiken: KI-Systeme interagieren mit dynamischen sozialen Umfeldern und können Effekte hervorrufen, die zum Zeitpunkt der Bereitstellung nicht vorhersehbar waren.
Fazit
Zusammenfassend lässt sich sagen, dass wir nicht nur sichere Modelle benötigen, sondern auch sichere Bereitstellungssysteme. Wenn KI zunehmend in Gesellschaften integriert wird, liegen die Risiken nicht nur im schadhafter Code, sondern auch in den blinden Flecken der Governance. Wir müssen die Governance-Perspektive erweitern, um die Sicherheit des Bereitstellungssystems systematisch zu berücksichtigen.
