Transparenz und Erklärbarkeit im Kontext von KI
Der Begriff Transparenz hat mehrere Bedeutungen. Im Zusammenhang mit diesem Prinzip liegt der Fokus zunächst darauf, offenzulegen, wann KI verwendet wird – sei es bei einer Vorhersage, Empfehlung oder Entscheidung oder wenn der Nutzer direkt mit einem KI-gesteuerten Agenten, wie einem Chatbot, interagiert. Die Offenlegung sollte im Verhältnis zur Bedeutung der Interaktion erfolgen.
Die wachsende Verbreitung von KI-Anwendungen kann die Wünschbarkeit, Effektivität oder Machbarkeit der Offenlegung in einigen Fällen beeinflussen.
Bedeutung der Transparenz
Transparenz bedeutet ferner, dass Menschen verstehen können, wie ein KI-System entwickelt, trainiert, betrieben und im relevanten Anwendungsbereich eingesetzt wird. Dies ermöglicht es den Verbrauchern, informiertere Entscheidungen zu treffen.
Ein weiterer Aspekt der Transparenz bezieht sich auf die Fähigkeit, bedeutungsvolle Informationen bereitzustellen und Klarheit darüber zu schaffen, welche Informationen bereitgestellt werden und warum. Transparenz erstreckt sich jedoch im Allgemeinen nicht auf die Offenlegung des Quellcodes oder anderer proprietärer Codes oder die Weitergabe proprietärer Datensätze, da diese möglicherweise zu technisch komplex sind, um nützlich oder machbar zu sein, um ein Ergebnis zu verstehen. Quellcodes und Datensätze können auch dem geistigen Eigentum, einschließlich Geschäftsgeheimnissen, unterliegen.
Öffentliche Diskussion und Akzeptanz
Ein zusätzlicher Aspekt der Transparenz betrifft die Förderung einer öffentlichen, multi-stakeholder Diskussion und die Schaffung dedizierter Einheiten, um das allgemeine Bewusstsein und Verständnis für KI-Systeme zu fördern und die Akzeptanz und das Vertrauen zu erhöhen.
Erklärbarkeit von KI-Systemen
Die Erklärbarkeit bedeutet, dass Personen, die von den Ergebnissen eines KI-Systems betroffen sind, verstehen können, wie diese Ergebnisse zustande gekommen sind. Dies beinhaltet die Bereitstellung von leicht verständlichen Informationen für die von einem KI-System betroffenen Personen, die es diesen ermöglichen, die Ergebnisse anzufechten. Dies sollte praktisch die Faktoren und die Logik umfassen, die zu einem Ergebnis geführt haben.
Die Erklärbarkeit kann je nach Kontext unterschiedlich erreicht werden, etwa durch die Bedeutung der Ergebnisse. Beispielsweise kann die Anforderung an die Erklärbarkeit für einige Arten von KI-Systemen die Genauigkeit und Leistung des Systems negativ beeinflussen, da sie möglicherweise erfordert, die Lösungsvariablen auf eine Menge zu reduzieren, die groß genug ist, damit Menschen sie verstehen können. Dies könnte in komplexen, hochdimensionalen Problematiken suboptimal sein.
Herausforderungen bei der Erklärbarkeit
Die Erklärbarkeit kann auch die Komplexität und Kosten erhöhen, was potenziell KI-Akteure, die KMUs sind, in eine unverhältnismäßige Benachteiligung bringen kann.
Daher sollten KI-Akteure, wenn sie eine Erklärung für ein Ergebnis geben, in klaren und einfachen Worten und, wo angemessen, im Kontext die Hauptfaktoren einer Entscheidung, die bestimmenden Faktoren, die Daten, die Logik oder den Algorithmus hinter dem spezifischen Ergebnis darlegen oder erklären, warum ähnliche Umstände unterschiedliche Ergebnisse erzeugt haben. Dies sollte so geschehen, dass die Einzelnen die Ergebnisse verstehen und anfechten können, während die Datenschutzpflichten respektiert werden, falls relevant.
