KI-Erklärbarkeit: Ein praktischer Leitfaden zum Aufbau von Vertrauen und Verständnis

german

Hier sind die wichtigsten Fragen, getrennt durch ‚

Als Technologiejournalistin, die sich auf KI-Governance spezialisiert hat, habe ich Dokumentationen zur KI-Erklärbarkeit geprüft und Fragen identifiziert, die Legal-Tech-Experten, Compliance-Beauftragte und Policy-Analysten stellen sollten.

KI-Erklärbarkeit und -Transparenz verstehen

Was ist der Unterschied zwischen KI-Erklärbarkeit und KI-Transparenz, und warum sollten wir uns in der Praxis auf die Erklärbarkeit konzentrieren?

• Erklärbarkeit ist der Grad, in dem Menschen die Begründung und die Prozesse eines KI-Systems verstehen können, um Nachhaltigkeit, Sicherheit, Fairness und Verantwortlichkeit zu gewährleisten.
• Transparenz kann sich zwar auf die Interpretierbarkeit eines KI-Systems („Öffnen der Black Box“) *und* den Nachweis beziehen, dass die KI-Design- und Entwicklungsprozesse nachhaltig, sicher, fair und von verantwortungsvoll verwalteten Daten getrieben sind.
• Umsetzbare Erkenntnisse: Während Transparenz von entscheidender Bedeutung ist, bietet Erklärbarkeit praktische Anleitungen zur Operationalisierung von Transparenz, wodurch sie direkt für Governance-Bemühungen relevant ist.

Einhaltung von Vorschriften

Was ist der britische Algorithmic Transparency Recording Standard (ATRS) und wie kann er helfen, Vorschriften einzuhalten?

• Der ATRS hilft öffentlichen Stellen, Informationen über algorithmische Werkzeuge zu veröffentlichen, die in Entscheidungsprozessen verwendet werden, die die Öffentlichkeit betreffen.

Ethische Erwägungen

Gibt es Kompromisse zwischen Sicherheit und Erklärbarkeit, und wie gleichen wir sie aus, insbesondere wenn wir mit digitalen Daten von Kindern arbeiten?

• Sicherheit vs. Erklärbarkeit: Hochriskante Kontexte können dazu anregen, die Funktionsweise von KI zu verschleiern, um Ausbeutung zu verhindern, was möglicherweise Bedenken hinsichtlich Voreingenommenheit, Fairness und Verantwortlichkeit aufwirft. Der Ausgleich dieser Aspekte ist für den Aufbau verantwortungsvoller KI-Systeme unerlässlich.
• Kindzentrierte KI: Wenn Erklärbarkeit Kinder einbezieht, ist es wichtig, ihre spezifischen Bedürfnisse und Fähigkeiten zu berücksichtigen, z. B. die Schulung von Implementierern, die Einbeziehung von Kindern während des gesamten Projektlebenszyklus und die Einhaltung des Age Appropriate Design Code des britischen ICO.

Prozess- und ergebnisbasierte Erklärungen

Was sind prozessbasierte und ergebnisbasierte Erklärungen, und wie sollten wir an jede herangehen?

• Ergebnisbasierte Erklärungen umfassen das „Was“ und „Warum“ hinter den Modellausgaben. Sie sollten zugänglich und leicht verständlich sein. Dies umfasst auch die Erläuterung gegenüber den betroffenen Interessengruppen, ob, wie und warum das KI-gestützte menschliche Urteil gefällt wurde.
• Prozessbasierte Erklärungen zeigen, dass während des gesamten Designs und der Verwendung eines KI-Systems eine gute Governance und bewährte Verfahren befolgt wurden. Dies sollte den Nachweis beinhalten, dass während des gesamten Projektlebenszyklus Erwägungen der Nachhaltigkeit, Sicherheit, Fairness und des verantwortungsvollen Datenmanagements berücksichtigt wurden.

Maximen für ethische KI

Welche Schlüsselmaximen sollten unseren Ansatz zur KI-Erklärbarkeit leiten?

• Seien Sie transparent: Machen Sie die Verwendung von KI offensichtlich und erklären Sie Entscheidungen Einzelpersonen auf sinnvolle Weise, in Übereinstimmung mit Artikel 5 Absatz 1 der britischen DSGVO.
• Seien Sie rechenschaftspflichtig: Stellen Sie die Aufsicht sicher, seien Sie internen und externen Stellen gegenüber rechenschaftspflichtig und übernehmen Sie die Verantwortung für die Einhaltung der Vorschriften.
• Berücksichtigen Sie den Kontext: Es gibt keinen Einheitsansatz, dies gilt für Modell- und Erklärungsauswahl, Governance-Struktur und Stakeholder.
• Denken Sie über die Auswirkungen nach: Verstehen Sie potenzielle Schäden oder Beeinträchtigungen des Wohlbefindens durch algorithmische Entscheidungen.

Aufbau von erklärbaren KI-Systemen

Welche übergreifenden Überlegungen sollten die Entwicklung von angemessen erklärbaren KI-Systemen leiten?

• Kontext, potenzielle Auswirkungen und domänenspezifische Bedürfnisse: Verstehen Sie die Art der Anwendung, domänenspezifische Erwartungen und vorhandene Technologien.
• Nutzen Sie standardmäßige interpretierbare Techniken: Passen Sie die Techniken an Domänenrisiken, Datenressourcen und die Eignung der Aufgabe an.
• Überlegungen bei der Verwendung von „Black Box“-KI-Systemen: Wägen Sie die potenziellen Auswirkungen sorgfältig ab, ziehen Sie zusätzliche Interpretierbarkeitstools in Betracht und erstellen Sie einen Aktionsplan zur Optimierung der Erklärbarkeit.
• Interpretierbarkeit und menschliches Verständnis: Berücksichtigen Sie die Fähigkeiten und Einschränkungen der menschlichen Kognition und betonen Sie Einfachheit und Zugänglichkeit.

Arten von Erklärungen

Welche verschiedenen Arten von Erklärungen muss eine Organisation geben, damit Entscheidungen SSAFE – D (nachhaltig, sicher, rechenschaftspflichtig, fair, erklärbar und mit guter Datenverwaltung) sind?

• Begründung: Klärung des „Warum“
  • Überlegungen für kindzentrierte KI: Die Erklärung der Modellwahl, der inneren Funktionsweise und der statistischen Ergebnisse sollte altersgerecht erfolgen.
• Verantwortung: Bereitstellung von Details darüber, „Wer“ in jedem Schritt des Designs und der Bereitstellung des KI-Modells rechenschaftspflichtig ist.
  • Überlegungen für kindzentrierte KI: Sollte das Kind mit einem KI-System interagieren (z. B. Spielzeug, Chatbot, Online-System), sollte es das „Recht auf Erklärung auf altersgerechtem Niveau und inklusive Weise“ haben.
• Daten: Hervorhebung, „Welche“ Arten von Daten über sie gespeichert werden, welche anderen Datenquellen in einer bestimmten KI-Entscheidung verwendet werden und welche Daten zum Trainieren und Testen des KI-Modells verwendet werden.
  • Überlegungen für kindzentrierte KI: Die Datenagentur von Kindern muss gefördert und in den Vordergrund gestellt werden, einschliesslich transparenter Berichterstattung.
• Fairness: Erläuterung der Maßnahmen, die ergriffen wurden, um unvoreingenommene und gerechte KI-Entscheidungen zu gewährleisten,
  • Überlegungen für kindzentrierte KI: Ist explizit über formale Definition(en) von Fairness, während gleichzeitig marginalisierte Kinder aktiv unterstützt werden können und oder nicht benachteiligt werden.
• Sicherheit: Bereitstellung der Schritte, Maßnahmen und Begründungen zur Gewährleistung der Maximierung von Robustheit, Leistung, Zuverlässigkeit und Sicherheit von KI-gestützten Entscheidungen.
  • Überlegungen für kindzentrierte KI: Sollte einen Mechanismus zur kontinuierlichen Überwachung und Bewertung der Sicherheit während des gesamten Lebenszyklus des KI-Modells haben. Kindzentrisch
• Auswirkungen: Konzentriert sich auf Überlegungen, wie sich das System auf Menschen oder die breitere Gesellschaft auswirken kann – und ob es von Nutzen sein kann.
  • Überlegungen für kindzentrierte KI: Es ist wichtig, die möglichen Auswirkungen zu berücksichtigen, die sich auswirken könnten; Sicherheit, psychische Gesundheit/Wohlbefinden, zukünftige Wege sind zu berücksichtigen.

Erklärbarkeits-Sicherheitsmanagement

Wie können wir all diese Informationen praktisch in erklärbare KI-Systeme implementieren?

• Es gibt festgelegte Aufgaben, die Ihnen helfen, Ergebnisse bereitzustellen, zu entwerfen und Klarheit darüber zu schaffen. Diese Aufgabe unterstützt auch bei der Bereitstellung und Gestaltung ordnungsgemäß transparenter und erklärbarer KI-Systeme, die Folgendes umfassen (Design, Entwicklung/Beschaffung, Implementierung).

Top-Aufgaben für das Erklärbarkeits-Sicherheitsmanagement für KI

In welcher Weise kann mein Unternehmen gut etablierte KI-Modelle sicherstellen, die angemessen erklärt werden können?

• Aufgabe 1 Wählen Sie Prioritätserklärungen aus (Domäne und Auswirkungen auf Einzelpersonen sind der Schlüssel zur Priorisierung)
  • Überlegungen für kindzentrierte KI: Wenn Kinder, Kinder oder persönliche Daten davon in ein KI-System aufgenommen werden, ist zusätzliche Sorgfalt erforderlich. Die Projektplanung muss eine erhöhte Transparenz aufweisen, um die Teilnahme von Kindern zu erklären.
• Aufgabe 2: Stellen Sie sicher, dass Daten vorverarbeitet und erfasst werden (in einer Weise, die es ermöglicht, Gründe zu erklären)
• Überlegungen für kindzentrierte KI: Stellen Sie sicher und pflegen Sie alle Richtlinien zur Handhabung, Verwendung, Einwilligung usw., die mit der (UNICEF-Richtlinie) / ICO übereinstimmen.
• Aufgabe 3: Aufbau eines Systems, das in der Lage ist, relevante Informationen zu extrahieren.
  • Überlegungen für kindzentrierte KI: Dass das Modell, das Sie verwenden möchten, gerechtfertigt ist – oder ob es eine mögliche Methode gibt, um sicherzustellen, dass ein ethisches Modell dennoch Ergebnisse für ein Ergebnis ohne zusätzliche Sicherheitsbedenken liefern könnte.
• Aufgabe 4: Stellen Sie sicher, dass alle extrahierten Begründungen in Ergebnisse oder eine Zusammenfassung zur Verwendung übersetzt werden
  • Überlegungen für kindzentrierte KI: Die Erklärung für die Entscheidung sollte in einfachen Worten erklärt werden, um ein angemessenes Verständnis zu gewährleisten.
• Aufgabe 5: Vorbereitung der Implementierer vor der Bereitstellung eines Systems.
  • Überlegungen für kindzentrierte KI: Sollte sich mit allen Personen austauschen, die möglicherweise für den Umgang mit Kinderdaten verantwortlich sind, um sicherzustellen, dass diese übereinstimmen und dass das Personal die Sensibilität versteht.
• Aufgabe 6: Berücksichtigt alle Aspekte des Modells für die ordnungsgemäß präsentierten Daten.
  • Überlegungen für kindzentrierte KI: Eine kurze Zusammenfassung sollte verfasst werden, um alle Facetten oder die Bereitstellung einer Erklärung/des verwendeten Modells ordnungsgemäß zu vermitteln und zu unterstützen.

Was ist ein EAM: Erklärbarkeits-Sicherheitsmanagement

Diese Vorlagen helfen bei der Erledigung von 6 Aufgaben, wenn sie implementiert werden. Sollte in einer Checkliste enthalten sein

• Überprüfen Sie die Checkliste und stellen Sie sicher, dass Sie Folgendes bereitstellen können: Transparent von Ende zu Ende, Berücksichtigung und Auswirkungen werden im Sektor berücksichtigt, Potenzial wird bei der Erläuterung der Tiefe berücksichtigt.

Daten in Modellen

Bei der Betrachtung von Datenpunkten/Eingaben für Daten sollte die Gruppe oder das Modell:

• Sicherheitsziele festlegen, Modellierung, die zu Ergebnissen führt, Bewertungen implementieren und die Auswirkungen auf die Stakeholder berücksichtigen.

german

Was ist KI-Erklärbarkeit?

KI-Erklärbarkeit ist das Ausmaß, in dem KI-Systeme und Governance-Praktiken es einer Person ermöglichen, die *Gründe* für das Verhalten eines Systems zu verstehen. Sie umfasst auch die Demonstration der Prozesse hinter seinem Design, seiner Entwicklung und seinem Einsatz, um Nachhaltigkeit, Sicherheit, Fairness und Verantwortlichkeit in allen Kontexten zu gewährleisten.

Kernaspekte der KI-Erklärbarkeit

Erklärbarkeit beinhaltet *Kommunizierbarkeit*, was klare und zugängliche Erklärungen erfordert. Die Tiefe und der Inhalt der Erklärungen hängen vom soziokulturellen Kontext ab, in dem sie gegeben werden, und von der Zielgruppe, die sie empfängt. KI-Erklärbarkeit befasst sich mit:

• Ergebnissen algorithmischer Modelle (für automatisierte Entscheidungen oder als Input für menschliche Entscheidungsfindung).
• Prozessen, durch die ein Modell und sein umfassendes System/Schnittstelle entworfen, entwickelt, eingesetzt und außer Betrieb genommen werden.

KI-Erklärbarkeit vs. KI-Transparenz

Obwohl verwandt, konzentriert sich die Erklärbarkeit auf die *praktische Anwendung* von Erklärungen über KI-gestützte Ergebnisse und die dahinter stehenden Prozesse. KI-Transparenz bezieht sich auf beides:

1. Interpretierbarkeit eines Systems (Verständnis, wie und warum ein Modell in einem bestimmten Kontext funktioniert hat).
2. Demonstration, dass die Prozesse und die Entscheidungsfindung hinter KI-Systemen nachhaltig, sicher und fair sind.

Letztendlich *erfordert* die Entwicklung einer Erklärung ein gewisses Maß an Transparenz.

Praktische Umsetzung

Die Implementierung von KI-Erklärbarkeit bedeutet, sich direkt auf die Praktiken der *ergebnisorientierten* und *prozessorientierten* Erklärung zu konzentrieren.

Wichtige Überlegungen für Implementierer

• **Kontext ist entscheidend:** Die Tiefe, Breite und der Inhalt der Erklärungen müssen je nach soziokulturellem Kontext und Publikum variieren.
• **Sicherheits- vs. Erklärbarkeit-Kompromisse:** Sicherheitsmaßnahmen zum Schutz von Algorithmen und Daten können einen Konflikt mit der Erklärbarkeit verursachen und das Risiko von Verzerrungen erzeugen, was möglicherweise zu unbeabsichtigten Folgen führt.
• **Kindeszentrierte Überlegungen:** Zusätzliche Bedenken wie langfristige Auswirkungen auf die ganzheitliche Entwicklung sowie Datenexfiltration.

Welche sind die Haupttypen von Erklärungen?

Da KI zunehmend kritische Entscheidungsprozesse durchdringt, reicht es nicht mehr aus, einfach ein gut funktionierendes Modell zu haben. Interessengruppen und Aufsichtsbehörden fordern Transparenz und treiben so die Notwendigkeit voran, KI-Systeme erklärbar zu machen. Dieser Abschnitt befasst sich mit den wichtigsten Arten von Erklärungen, die für den Aufbau von Vertrauen und die Gewährleistung der Compliance entscheidend sind.

Die Art der erforderlichen Erklärung hängt vom Kontext, dem soziokulturellen Kontext und dem Publikum ab, dem sie angeboten werden. Es gibt zwar keinen „Einheitsansatz“ für die Erklärung von KI/ML-gestützten Entscheidungen, aber diese sechs gängigen Erklärungstypen sollen Ihrem KI-Projektteam helfen, prägnante und klare Erklärungen zu erstellen. Jeder bezieht sich auf ein SSAFE-D-Prinzip (Sustainability, Safety, Accountability, Fairness, Explainability, and Data Stewardship – Nachhaltigkeit, Sicherheit, Verantwortlichkeit, Fairness, Erklärbarkeit und Datenverwaltung):

• Rationale Erklärung: Behandelt das „Warum“ hinter einer KI-Entscheidung.
• Verantwortungserklärung: Klärt, wer während des gesamten Lebenszyklus des KI-Modells rechenschaftspflichtig ist, und bietet einen Ansprechpartner für die menschliche Überprüfung.
• Datenerklärung: Beschreibt die verwendeten Daten, ihre Quellen und wie sie verwaltet wurden, um eine Entscheidung zu treffen.
• Fairness-Erklärung: Beschreibt die Maßnahmen, die ergriffen wurden, um unvoreingenommene und gerechte KI-Entscheidungen zu gewährleisten.
• Sicherheitserklärung: Beschreibt die Maßnahmen, die ergriffen wurden, um die Leistung, Zuverlässigkeit, Sicherheit und Robustheit der KI-Ergebnisse zu maximieren.
• Auswirkungserklärung: Erläutert, was über die potenziellen Auswirkungen eines KI-Entscheidungsunterstützungssystems auf Einzelpersonen und die Gesellschaft berücksichtigt wurde.

Diese Erklärungen lassen sich weiter in zwei Haupttypen unterteilen:

Prozessbasierte Erklärungen

Diese Erklärungen demonstrieren die Good-Governance-Prozesse und Best Practices, die während des gesamten Designs und der Bereitstellung des KI-Systems befolgt wurden. Sie zeigen, wie Nachhaltigkeit, Sicherheit, Fairness und verantwortungsvolle Datenverwaltung während des gesamten Projektlebenszyklus berücksichtigt wurden.

Wenn Sie beispielsweise Fairness und Sicherheit erklären möchten, beinhaltet Ihre Erklärung den Nachweis, dass Sie angemessene Maßnahmen für die Produktion und Bereitstellung des Systems ergriffen haben, um sicherzustellen, dass das Ergebnis fair und sicher ist.

Ergebnisbasierte Erklärungen

Diese Erklärungen konzentrieren sich auf die Begründung hinter Modellausgaben und grenzen kontextbezogene und relationale Faktoren ab. Sie sollten in einer einfachen Sprache kommuniziert werden, die für betroffene Interessengruppen zugänglich ist.

Es ist auch wichtig, erklärbare KI für Kinder zu berücksichtigen. Bei der Berücksichtigung der Kinderrechte im Zusammenhang mit KI-Systemen geht es darum, sicherzustellen, dass Kinder verstehen, wie KI-Systeme sie beeinflussen, sowie altersgerechte Sprache zu verwenden.

Denken Sie daran, dass die Bereitstellung von sowohl prozessbasierten als auch ergebnisbasierten Erklärungen für die Förderung von Vertrauen, den Nachweis von Verantwortlichkeit und letztendlich die Gewährleistung der verantwortungsvollen Bereitstellung von KI-Systemen von entscheidender Bedeutung ist.

german

Welche Überlegungen sollten beim Aufbau von angemessen erklärbaren KI-Systemen berücksichtigt werden?

Da KI-Systeme immer stärker in kritische Entscheidungsprozesse integriert werden, insbesondere in Sektoren wie Legal-Tech, Compliance und Governance, ist das Verständnis und die Erklärung ihrer Begründung von größter Bedeutung. Entscheidend dafür ist, dass KI-Projekte nachhaltig, fair, sicher, rechenschaftspflichtig sind und die Datenqualität und -integrität gewahrt bleibt. Dies erfordert die Betonung der Kommunizierbarkeit und die Bereitstellung klarer und zugänglicher Erklärungen, die auf den soziokulturellen Kontext und das Publikum zugeschnitten sind.

Lassen Sie uns die wichtigsten Überlegungen aufschlüsseln:

Transparenz und Rechenschaftspflicht

Transparenz der Ergebnisse und Prozesse ist grundlegend. Eine Dokumentation, die detailliert beschreibt, wie ein KI-System entworfen, entwickelt und eingesetzt wurde, hilft, Maßnahmen und Entscheidungen während des gesamten Projektlebenszyklus zu rechtfertigen. Dies steht in direktem Zusammenhang mit Artikel 5 Absatz 1 der britischen DSGVO, der vorschreibt, dass personenbezogene Daten „rechtmäßig, nach Treu und Glauben und in einer für die betroffene Person nachvollziehbaren Weise verarbeitet“ werden müssen. Die Projektteams müssen alle Aspekte dieses Prinzips erfüllen.

• KI-Nutzung offenlegen: Informieren Sie Einzelpersonen proaktiv im Voraus über die Verwendung von KI bei Entscheidungen, die sie betreffen. Seien Sie offen darüber, warum, wann und wie KI eingesetzt wird.
• Entscheidungen sinnvoll erklären: Geben Sie eine kohärente und wahrheitsgemäße Erklärung ab, die angemessen präsentiert und zum richtigen Zeitpunkt geliefert wird.

Rechenschaftspflicht beinhaltet die Gewährleistung einer angemessenen Aufsicht und die Verantwortlichkeit gegenüber internen und externen Interessengruppen, einschließlich Aufsichtsbehörden und betroffenen Personen. Dies umfasst die Übernahme der Verantwortung für die Einhaltung der Datenschutzgrundsätze und den Nachweis dieser Einhaltung durch geeignete technische und organisatorische Maßnahmen; Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen.

• Verantwortlichkeit zuweisen: Identifizieren und weisen Sie innerhalb der Organisation die Verantwortung für die Verwaltung und Überwachung der „Erklärbarkeit“-Anforderungen von KI-Systemen zu, einschließlich eines menschlichen Ansprechpartners für Klarstellungen oder die Anfechtung von Entscheidungen.
• Begründen und Nachweisen: Berücksichtigen und dokumentieren Sie aktiv begründete Entscheidungen über die Gestaltung und den Einsatz von angemessen erklärbaren KI-Modellen. Dokumentieren Sie diese Überlegungen und zeigen Sie, dass sie im Design und Einsatz des Modells vorhanden sind. Weisen Sie die Erklärungen nach, die Einzelpersonen gegeben wurden.

Kontext und Auswirkungen

Es gibt keinen allgemeingültigen Ansatz. Kontextuelle Überlegungen beinhalten die Berücksichtigung verschiedener zusammenhängender Elemente, die sich auf die Erklärung von KI-gestützten Entscheidungen und die Steuerung des Gesamtprozesses auswirken können. Dies sollte eine kontinuierliche Bewertung während des gesamten Projektlebenszyklus sein.

• Geeignete Modelle und Erklärungen auswählen: Wählen Sie basierend auf dem Umfeld, den potenziellen Auswirkungen und dem, was eine Person über eine Entscheidung wissen muss, ein angemessen erklärbares KI-Modell aus und priorisieren Sie relevante Erklärungsarten.
• Governance und Erklärung zuschneiden: Stellen Sie robuste Governance-Praktiken sicher, die auf die Organisation und die spezifischen Umstände und Bedürfnisse der einzelnen Stakeholder zugeschnitten sind.
• Zielgruppe identifizieren: Berücksichtigen Sie die Zielgruppe und passen Sie die Erklärungen an ihr Fachwissen und ihr Verständnis an. Welches Erklärungsniveau ist zweckmäßig, sei es für Endbenutzer, Implementierer, Auditoren oder Personen, die von der Entscheidung betroffen sind? Berücksichtigen Sie Schwachstellen und angemessene Anpassungen für diejenigen, die Erklärungen benötigen.

Die Reflexion über die Auswirkungen von KI-Systemen trägt dazu bei, zu zeigen, dass algorithmische Techniken das Wohlbefinden des Einzelnen nicht schädigen oder beeinträchtigen. Dies beinhaltet die Bewertung der ethischen Zwecke und Ziele des KI-Projekts in den Anfangsphasen sowie die erneute Prüfung und Reflexion über diese Auswirkungen während der gesamten Entwicklung, um potenzielle Schäden zu mindern.

Praktische Umsetzung & Wichtigste Überlegungen

Wenn Sie ein höheres Maß an Erklärbarkeit für Modelle und eine verbesserte Interpretierbarkeit der Ergebnisse anstreben, sollten Sie Folgendes berücksichtigen:

• Domänenspezifische Bedürfnisse: Bewerten Sie den Kontext, die potenziellen Auswirkungen und die domänenspezifischen Bedürfnisse bei der Bestimmung der Interpretierbarkeitsanforderungen. Dies beinhaltet die Berücksichtigung der Art der Anwendung, der domänenspezifischen Erwartungen, Normen und Regeln sowie der bestehenden Technologien. Wie wird sich die Lösung auf Industriestandards und andere Ratschläge der Regierung auswirken?
• Standard-Interpretierbarkeitstechniken: Verwenden Sie nach Möglichkeit Standard-Interpretierbarkeitstechniken und gleichen Sie domänenspezifische Risiken und Bedürfnisse mit verfügbaren Datenressourcen, Domänenwissen und geeigneten KI/ML-Techniken aus.
• Black-Box-KI-Systeme: Wenn Sie ‚Black-Box‘-KI-Systeme in Betracht ziehen, wägen Sie die potenziellen Auswirkungen und Risiken sorgfältig ab, untersuchen Sie Optionen für zusätzliche Interpretierbarkeitstools und formulieren Sie einen Aktionsplan zur Optimierung der Erklärbarkeit. Erstellen Sie detaillierte Berichte, um die Entscheidungsfindung des Modells zu unterstützen.
• Menschliches Verständnis: Bedenken Sie, dass die Interpretierbarkeit in Bezug auf die Fähigkeiten und Grenzen der menschlichen Kognition erfolgen muss, wobei Einfachheit und informationelle Sparsamkeit für eine zugängliche KI Vorrang haben.

Arten von Erklärungen

Der Kontext bestimmt, welche Informationen erforderlich, nützlich oder zugänglich sind, um Entscheidungen im Zusammenhang mit KI zu erklären, und daher, welche Arten von Erklärungen am besten geeignet sind. Es gibt verschiedene Erklärungsarten, die entwickelt wurden, um Ihrem KI-Projektteam beim Erstellen prägnanter und klarer Erklärungen zu helfen:

• Rationale Erklärung: Hilft den Menschen, die Gründe zu verstehen, die zu einem Entscheidungsergebnis geführt haben.
• Verantwortungserklärung: Hilft den Menschen zu verstehen, wer an der Entwicklung und dem Management des KI-Modells beteiligt ist und an wen sie sich für eine menschliche Überprüfung einer Entscheidung wenden können.
• Datenerklärung: Hilft den Menschen zu verstehen, welche Daten über sie und welche anderen Datenquellen in einer bestimmten KI-Entscheidung verwendet wurden, sowie die Daten, die zum Trainieren und Testen des KI-Modells verwendet wurden.
• Fairness-Erklärung: Hilft den Menschen zu verstehen, welche Schritte unternommen wurden, um sicherzustellen, dass KI-Entscheidungen im Allgemeinen unvoreingenommen und gerecht sind und ob sie selbst gerecht behandelt wurden.
• Sicherheitserklärung: Hilft den Menschen, die Maßnahmen zu verstehen, die vorhanden sind und die Schritte, die unternommen wurden, um die Leistung, Zuverlässigkeit, Sicherheit und Robustheit der KI-Ergebnisse zu maximieren, sowie die Begründung für die gewählte Art des KI-Systems.
• Auswirkungserklärung: Hilft den Menschen, die Überlegungen zu verstehen, die zu den Auswirkungen angestellt wurden, die das KI-Entscheidungsunterstützungssystem auf Einzelpersonen und die Gesellschaft haben kann.

german

Was bedeutet Interpretierbarkeit im Kontext von KI/ML-Systemen?

In der sich schnell entwickelnden Welt der KI und des maschinellen Lernens (ML) hat sich die Interpretierbarkeit zu einem zentralen Anliegen für Regulierungsbehörden, Compliance-Beauftragte und alle entwickelt, die diese Systeme einsetzen. Vereinfacht ausgedrückt, ist Interpretierbarkeit der Grad, in dem ein Mensch verstehen kann, wie und warum ein KI/ML-Modell in einem bestimmten Kontext eine bestimmte Vorhersage oder Entscheidung getroffen hat. Es geht um mehr als nur das Öffnen der „Black Box“; es geht darum, die Begründung des Modells für menschliche Nutzer zugänglich und verständlich zu machen.

Der Kern der Interpretierbarkeit

Interpretierbarkeit geht über abstraktes Verständnis hinaus; sie konzentriert sich auf die Fähigkeit eines Menschen, die Funktionsweise und die zugrunde liegende Logik eines KI-Systems zu verstehen. Idealerweise sollten die Beteiligten in der Lage sein, die Gründe für die Ergebnisse oder das Verhalten eines Modells zu analysieren und zu bestimmen, wie verschiedene Eingabefunktionen, Interaktionen und Parameter zu einem bestimmten Ergebnis beigetragen haben. Dies erfordert die Übersetzung komplexer mathematischer Komponenten in eine einfache, alltägliche Sprache, die Entscheidungsempfänger verstehen können.

Bedenken der Regulierungsbehörden und praktische Auswirkungen

Die Regulierungsbehörden betonen zunehmend die Interpretierbarkeit als Eckpfeiler einer verantwortungsvollen Entwicklung und des Einsatzes von KI. Das Bedürfnis nach Transparenz schafft Spannungen in risikoreichen Kontexten wie der nationalen Sicherheit, wo die Erklärung eines KI-Systems Schwachstellen aufdecken kann. Mangelnde Interpretierbarkeit wirft jedoch Bedenken auf hinsichtlich:

• Verzerrung und Fairness: Ohne zu verstehen, wie ein Modell funktioniert, ist es schwierig, diskriminierende Verzerrungen, die in den Daten oder Algorithmen enthalten sind, zu erkennen und zu mildern.
• Rechenschaftspflicht: Wenn ein KI-System einen Fehler macht oder ein unfaireres Ergebnis erzeugt, ist es wichtig, den Entscheidungsprozess zurückzuverfolgen und die verantwortlichen Parteien zu identifizieren.
• Unbeabsichtigte Folgen: Die Unfähigkeit, das Verhalten eines Modells zu interpretieren, kann zu übersehenen Risiken und unerwarteten negativen Auswirkungen führen, insbesondere auf gefährdete Bevölkerungsgruppen.

Für KI-Systeme, die Kinder betreffen, ist das Risiko besonders hoch. Vorschriften wie der britische „Age Appropriate Design Code“ betonen kindgerechte Erklärungen und transparente Datenpraktiken. Die „Policy Guidance on AI for Children“ von UNICEF fügt hinzu, dass Systeme unter Berücksichtigung der schutzbedürftigsten Kinder entwickelt werden sollten, unabhängig von ihrem Verständnis.

Praktische Werkzeuge zum Aufbau interpretierbarer Systeme

Während die Verwendung weniger komplexer Modelle wie der linearen Regression die Interpretierbarkeit verbessern kann, bieten „Black Box“-Modelle wie neuronale Netze oder Random Forests manchmal eine leistungsfähigere Performance. Die Lösung besteht darin, dann „Post-hoc“-Interpretierbarkeitstechniken einzubeziehen – Methoden, die nach dem Aufbau eines Modells angewendet werden, um es extern zu erklären. Hier sind zwei Haupttechniken, die bei solchen Modellen helfen können:

• Lokale Erklärungen: Techniken wie LIME (Local Interpretable Model-agnostic Explanations) bieten Erklärungen pro Instanz, d. h. warum das Modell diese explizite Entscheidung getroffen hat.
• Globale Erklärungen: PDP (Partial Dependence Plots) und ALE (Accumulated Local Effects Plot) bieten Einblicke in die „durchschnittliche“ Feature-Wichtigkeit, um ein Modell auf hoher Ebene global zu erklären und zu bewerten.

Der Aufbau von erklärbaren AI/ML-Systemen ist nicht einfach, aber unerlässlich. Teams müssen fundierte, transparente Entscheidungen über Modelldesign und -bereitstellung treffen und in der Lage sein, klar zu erklären, wie KI spezifische Entscheidungen beeinflusst hat.

Was bedeutet Verantwortlichkeit in der KI-Entwicklung?

Verantwortlichkeit ist entscheidend wichtig für eine nachhaltige, faire und sichere KI-Entwicklung. Es geht darum, KI-Prozesse und -Ergebnisse zu rechtfertigen und internen Stakeholdern, Aufsichtsbehörden und betroffenen Personen gegenüber rechenschaftspflichtig zu sein.

Kernkonzepte: Von Transparenz zu Erklärbarkeit

Verantwortlichkeit erfordert Transparenz, aber die beiden Begriffe sind nicht austauschbar. Transparenz umfasst Interpretierbarkeit („Öffnung der Black Box“) und den Nachweis, dass Design-/Entwicklungsprozesse nachhaltig, sicher und fair sind.

Erklärbarkeit, die praxisorientiert ist, konzentriert sich auf die Operationalisierung von Transparenz sowohl bei KI-gestützten Ergebnissen als auch bei Entwicklungsprozessen.

Regulatorische Bedenken und rechtliche Rahmenbedingungen

Die Datenschutz-Grundverordnung (DSGVO) des Vereinigten Königreichs rahmt Verantwortlichkeit als ein Kernprinzip ein und fordert die Verantwortung für die Einhaltung der Datenschutzgrundsätze. Dies umfasst die Implementierung geeigneter technischer und organisatorischer Maßnahmen.

Das Information Commissioner’s Office (ICO) des Vereinigten Königreichs und Initiativen wie der Algorithmic Transparency Recording Standard (ATRS) spiegeln die wachsende Bedeutung verantwortungsvoller KI-Praktiken wider.

Praktische Implikationen und umsetzbare Schritte

Verantwortlich zu sein bedeutet mehrere wichtige Maßnahmen für Technologie- und Rechtsteams:

• Verantwortung zuweisen: Benennen Sie innerhalb der Organisation Personen, die Erklärbarkeitsanforderungen verwalten und einen klaren Ansprechpartner für Anfragen oder Einwände gegen Entscheidungen sicherstellen.
• Rechtfertigen und belegen: Treffen und dokumentieren Sie aktiv vertretbare Entscheidungen in Bezug auf erklärbares Design und Bereitstellung. Belegen Sie diese Entscheidungen während des gesamten Projektlebenszyklus und demonstrieren Sie den Einzelnen sinnvolle Erklärungen.
• Transparenz: Projektteams sollten ehrlich darüber sein, wie und warum Sie personenbezogene Daten verwenden.
• Entscheidungen sinnvoll erklären: Stellen Sie den Stakeholdern eine kohärente Erklärung zur Verfügung, die:
  • Wahrheitsgemäß und bedeutungsvoll ist;
  • Angemessen geschrieben oder präsentiert wird; und
  • Zum richtigen Zeitpunkt geliefert wird.

Organisationen müssen ihr Engagement für die Erläuterung von Entscheidungen demonstrieren, die mit KI getroffen werden, wobei der Schwerpunkt auf Prozessen und Maßnahmen während des gesamten KI/ML-Modelllebenszyklus liegt (Design, Beschaffung/Outsourcing und Bereitstellung).

Kinderzentrierte KI: Verstärkte Verantwortung

Wenn KI-Systeme Kinder betreffen, ist Verantwortlichkeit von größter Bedeutung. Die Einhaltung des Age Appropriate Design Code des UK ICO ist von grundlegender Bedeutung. Die UNICEF-Leitlinien erfordern, dass KI-Systeme Kinder schützen und befähigen, unabhängig von ihrem Verständnis des Systems. Organisationen müssen auch Kinderrechte berücksichtigen, einschließlich der Aufsicht durch Sachverständige und unabhängiger Gremien, die sich auf ihre Rechte konzentrieren.

Letztlich ist Verantwortlichkeit in der KI eine kontinuierliche Reise, die fortlaufende Reflexion, Folgenabschätzung und die Verpflichtung zum Aufbau vertrauenswürdiger Systeme erfordert.

Welche Aspekte des Kontexts sollten bei der Erläuterung KI-gestützter Entscheidungen berücksichtigt werden?

Bei der Erläuterung KI-gestützter Entscheidungen ist die „Berücksichtigung des Kontexts“ von größter Bedeutung. Es handelt sich nicht um eine einmalige Sache, sondern um eine fortlaufende Überlegung vom Konzept bis zur Bereitstellung und sogar bei der Präsentation der Erklärung selbst.

Wichtige Aspekte der Kontextberücksichtigung:

• Modell- und Erklärungsauswahl: Wählen Sie Modelle und Erklärungen aus, die auf das jeweilige Szenario zugeschnitten sind. Dies bedeutet, dass Sie die Umgebung, die potenziellen Auswirkungen der Entscheidung und das, was die Einzelperson darüber wissen muss, bewerten. Diese Bewertung hilft Ihnen dabei:
  • Ein KI-Modell auszuwählen, das angemessen erklärbar ist.
  • Die Bereitstellung relevanter Erklärungstypen zu priorisieren.
• Governance und Anpassung der Erklärungen: Die Governance der KI-Erklärbarkeit sollte:
  • Robust sein und die besten Praktiken widerspiegeln.
  • Auf Ihr Unternehmen und die Umstände und Bedürfnisse der Stakeholder zugeschnitten sein.
• Zielgruppenidentifizierung: Erkennen Sie, dass die Zielgruppe die Art der sinnvollen und nützlichen Erklärungen beeinflusst. Folgendes sollte berücksichtigt werden:
  • Endbenutzer und Implementierer
  • Auditoren
  • Von Entscheidungen Betroffene
    • Ihr Kenntnisstand bezüglich der Entscheidung.
    • Die Bandbreite der Personen, die von Entscheidungen betroffen sind (um Wissensunterschiede zu berücksichtigen).
    • Ob Einzelpersonen angemessene Anpassungen in der Art und Weise benötigen, wie sie Erklärungen erhalten.
    • Den Erklärungsbedürfnissen der Schwächsten gerecht werden.

  Um den besonderen Schutzbedürfnissen von Kindern Rechnung zu tragen, sollten KI-Systeme von der Entwicklung bis zum Einsatz an nationale und lokale Gegebenheiten angepasst werden, um algorithmische Verzerrungen zu beseitigen, die auf Kontextblindheit beruhen. Sie sollten auch die aktive Beteiligung von Kindern in allen Phasen des Projektlebenszyklus berücksichtigen, um ihren Kontext der beabsichtigten Nutzung der Systeme zu berücksichtigen. Bei der Betrachtung potenzieller Auswirkungen sollte der Schwerpunkt auf der „aktiven Unterstützung der am stärksten marginalisierten Kinder“ liegen.

  Wie können die Auswirkungen von KI/ML-Systemen reflektiert werden?

  Da KI/ML-Systeme zunehmend als Treuhänder menschlicher Entscheidungsfindung fungieren, ist es entscheidend, über ihre Auswirkungen nachzudenken. Einzelpersonen können diese Systeme nicht direkt zur Rechenschaft ziehen, daher müssen Organisationen nachweisen, dass algorithmische Techniken das Wohlergehen nicht beeinträchtigen.

  Diese Reflexion sollte in den anfänglichen Projektphasen beginnen, indem ethische Zwecke und Ziele behandelt werden. Die Reflexion sollte jedoch nicht dort aufhören. Sie sollten diese Auswirkungen während der Entwicklungs- und Implementierungsphasen erneut prüfen und reflektieren. Dokumentieren Sie alle neu identifizierten Auswirkungen zusammen mit den implementierten Maßnahmen zur Risikominderung.

  Schlüsselaspekte der Reflexion über Auswirkungen

  Sicherstellung des individuellen Wohlergehens: Entwickeln und implementieren Sie KI/ML-Systeme, die:

  • Physische, emotionale und mentale Integrität fördern.
  • Freie und informierte Entscheidungen gewährleisten.
  • Autonomie und Ausdruck schützen.
  • Fähigkeiten zur Entfaltung und Verfolgung von Interessen unterstützen.
  • Das Privatleben unabhängig von der Technologie bewahren.
  • Fähigkeiten zur Beteiligung an sozialen Gruppen sichern.

  Sicherstellung des gesellschaftlichen Wohlergehens: Entwickeln Sie Systeme, die:

  • Menschliche Beziehungen und sozialen Zusammenhalt schützen.
  • Diversität, Partizipation und Inklusion prioritär behandeln.
  • Alle Stimmen Gehör verschaffen.
  • Alle Menschen gleich behandeln und soziale Gerechtigkeit schützen.
  • KI nutzen, um eine faire und gleiche Behandlung vor dem Gesetz zu gewährleisten.
  • Innovation nutzen, um das Wohlergehen zu stärken und voranzutreiben.
  • Weitreichendere globale und generationenübergreifende Auswirkungen antizipieren.

  Überlegungen für eine kindgerechte KI

  Die Reflexion über Auswirkungen steht in direktem Zusammenhang mit der Gewährleistung von Fairness, Nichtdiskriminierung und Datenschutz für Kinder. Dies bedeutet:

  • Marginalisierte Kinder aktiv zu unterstützen, um sicherzustellen, dass sie von KI-Systemen profitieren.
  • Sicherzustellen, dass Datensätze die Vielfalt der Daten von Kindern berücksichtigen.
  • Verantwortungsvolle Datenansätze zu implementieren, um mit Kinderdaten sorgfältig und sensibel umzugehen.
  • Den Age Appropriate Design Code einzuhalten und sicherzustellen, dass Kinderdaten nicht auf eine Weise verwendet werden, die ihr Wohlergehen negativ beeinträchtigt oder gegen etablierte Standards verstößt.

  Wie kann ein geeignetes KI/ML-System aufgebaut werden, um relevante Informationen für verschiedene Erklärungsarten zu extrahieren?

  Der Aufbau eines KI/ML-Systems, das in der Lage ist, relevante Informationen für verschiedene Erklärungsarten bereitzustellen, erfordert die sorgfältige Berücksichtigung verschiedener Faktoren, darunter Modellauswahl, Datenhandhabung und Governance-Prozesse.

  Wichtige Überlegungen zur Erklärbarkeit

  • Kontext, Auswirkung und Domäne: Bewerten Sie den spezifischen Kontext, die potenziellen Auswirkungen und die domänenspezifischen Bedürfnisse bei der Festlegung der Interpretationsanforderungen des Projekts.
  • Standardtechniken: Nutzen Sie nach Möglichkeit standardmäßige interpretierbare Techniken und wägen Sie domänenspezifische Risiken, verfügbare Daten und geeignete KI/ML-Techniken ab.
  • „Black Box“-Modelle: Wenn Sie ein „Black Box“-KI-System verwenden, wägen Sie die potenziellen Auswirkungen und damit verbundenen Risiken gründlich ab, ziehen Sie Optionen für zusätzliche Interpretationswerkzeuge in Betracht und formulieren Sie einen Aktionsplan zur Optimierung der Erklärbarkeit.
  • Menschliches Verständnis: Achten Sie sowohl auf die Fähigkeiten als auch auf die Grenzen der menschlichen Kognition, wenn Sie Interpretationsbedürfnisse berücksichtigen.

  Mehrere Aufgaben können die Entwicklung und den Einsatz transparenter und erklärbarer KI-Systeme erleichtern und zur Klärung der Ergebnisse für die Beteiligten beitragen:

  Aufgaben für das Explainability Assurance Management

  • Aufgabe 1: Prioritäre Erklärungen auswählen: Identifizieren Sie die relevantesten Erklärungsarten (Begründung, Verantwortung, Daten, Fairness, Sicherheit, Auswirkung), basierend auf der Domäne, dem Anwendungsfall und den potenziellen Auswirkungen auf Einzelpersonen.
  • Aufgabe 2: Sammeln und Vorverarbeiten: Erfassen und bereiten Sie Daten auf eine erklärungsbewusste Weise vor, wobei Sie Datenquellen, Qualität und potenzielle Verzerrungen berücksichtigen. Dies hilft beim Erstellen verschiedener Erklärungen.
  • Aufgabe 3: Systemdesign zur Informationsextraktion: Bauen Sie das System so auf, dass es relevante Informationen für eine Reihe von Erklärungsarten extrahiert und interpretierbare Modelle erstellt. Verwenden Sie die Modellauswahl und das Training, die von den Erklärungsbedürfnissen abhängen, sowie von der Wahl zwischen besser erklärbaren Modellen und „Black Box“-Systemen.
  • Aufgabe 4: Begründung übersetzen: Übersetzen Sie die Begründung des Systems und integrieren Sie sie in Ihren Entscheidungsprozess. Implementierungen der Ausgaben Ihres KI-Systems müssen erkennen, was für die Entscheidung über das Ergebnis für einen betroffenen Benutzer relevant ist.
  • Aufgabe 5: Implementierer vorbereiten: Um sicherzustellen, dass sie das KI/ML-Modell verantwortungsvoll und fair einsetzen. Die Schulung, die sie erhalten, sollte die Grundlagen des maschinellen Lernens, seine Grenzen und den Umgang mit kognitiven Verzerrungen umfassen.
  • Aufgabe 6: Erklärungen erstellen und präsentieren: Überlegen Sie, wie die Entscheidungen bereitgestellt werden sollen und wie andere Personen, basierend auf dem Kontext, erwarten, dass Sie Ihre Entscheidungen als Benutzer automatisierter KI-gestützter Technologie erklären. Seien Sie offen für zusätzliche Erklärungen und Details zu den Risiken bestimmter Aktionen oder Szenarien.

  Berücksichtigung von regulatorischen Bedenken und ethischen Überlegungen

  Bei der Entwicklung von KI-Systemen – insbesondere solchen, die mit sensiblen Daten oder hochwirksamen Entscheidungen umgehen – ist die Einhaltung der UK GDPR und anderer Vorschriften von grösster Bedeutung. So integrieren Sie Erklärbarkeit in einen Compliance-Rahmen:

  • Transparenz: Machen Sie die Verwendung von KI/ML-Entscheidungsfindung offensichtlich und erklären Sie Entscheidungen logisch.
  • Rechenschaftspflicht Sicherstellen Sie eine angemessene Aufsicht und werden Sie von internen und externen Stellen für alle KI/ML-gestützten Entscheidungen zur Rechenschaft gezogen.
  • Kontext : Es gibt keine „Einheitslösung“ – die Anpassung der Erklärungen an den Anwendungsfall und die Zielgruppe ist entscheidend.
  • Auswirkungen : Beziehen Sie aktiv die menschliche Aufsicht in Entscheidungsprozesse ein, um potenziell schädliche Auswirkungen auf einen Endbenutzer zu vermeiden.

  Standards für die Aufzeichnung von Transparenz

  Organisationen können Ressourcen wie den Algorithmic Transparency Recording Standard (ATRS) nutzen, ein Framework, das Informationen über algorithmische Tools und KI-Systeme erfasst. Dies hilft öffentlichen Stellen, Informationen über die Dienste, die sie für Entscheidungsprozesse nutzen, offen zu veröffentlichen.

  Abwägungen zwischen Sicherheit und Erklärbarkeit

  Seien Sie vorsichtig bei den Kompromissen zwischen Sicherheit und Erklärbarkeit. Während Transparenz Schwachstellen schaffen kann, wirft ein Mangel daran Bedenken hinsichtlich Voreingenommenheit, Fairness und Verantwortlichkeit auf. Es ist wichtig, diese auszugleichen.

  Wie lässt sich die Begründung für die Ergebnisse eines KI-Systems in leicht verständliche Gründe übersetzen?

  Die Übersetzung komplexer KI-Begründungen in verständliche Gründe ist eine entscheidende Herausforderung, die eine sorgfältige Berücksichtigung von Kontext, Publikum und potenziellen Auswirkungen erfordert. Im Folgenden wird erläutert, wie Technologiejournalisten empfehlen, diese Übersetzung für KI-Governance und Compliance anzugehen:

  Das Verständnis der Begründungserklärung

  Das Kernziel ist es, das „Warum“ hinter einer KI-Entscheidung in einer zugänglichen Weise zu erläutern. Dies beinhaltet:

  • Demonstration, wie sich das System verhalten hat, um die Entscheidung zu treffen.
  • Veranschaulichung, wie verschiedene Komponenten Input in Output umgewandelt haben, wobei signifikante Merkmale, Interaktionen und Parameter hervorgehoben werden.
  • Vermittlung der zugrunde liegenden Logik in leicht verständlichen Begriffen an das beabsichtigte Publikum.
  • Kontextualisierung der Ergebnisse des Systems in Bezug auf die reale Situation der betroffenen Person.

  Prozessbasierte Erklärungen verdeutlichen den Design- und Bereitstellungs-Workflow und konzentrieren sich auf Interpretierbarkeit und Erklärbarkeit, einschließlich Datenerfassung, Modellauswahl, Erklärungsextraktion und Bereitstellung. Ergebnisbasierte Erklärungen übersetzen dann die Funktionsweise des Systems, einschließlich Input/Output-Variablen und Regeln, in eine Alltagssprache, um die Rolle von Faktoren und statistischen Ergebnissen bei der Problemlösung zu verdeutlichen.

  Wichtige Maximen für die Übersetzung

  Mehrere Schlüsselprinzipien leiten den Übersetzungsprozess:

  • Seien Sie transparent: Legen Sie die KI-Nutzung proaktiv offen und erklären Sie Entscheidungen auf sinnvolle Weise.
  • Seien Sie rechenschaftspflichtig: Weisen Sie die Verantwortung für die Erklärbarkeit zu und rechtfertigen Sie Designentscheidungen. Stellen Sie sicher, dass ein menschlicher Ansprechpartner für Klärungen vorhanden ist.
  • Berücksichtigen Sie den Kontext: Passen Sie Governance und Modellerklärung an das Fachwissen, die Anfälligkeiten und die Anforderungen des Publikums für angemessene Anpassungen an.
  • Denken Sie über die Auswirkungen nach: Berücksichtigen Sie ethische Zwecke und Ziele des KI-Projekts in anfänglichen und laufenden Bewertungen.

  Navigieren in der entwickelten KIZentrierten KI

  Wenn Kinder betroffen sind, sind zusätzliche Überlegungen von größter Bedeutung:

  • Technische Erklärungen müssen in einer altersgerechten Sprache abgegeben werden.
  • Beziehen Sie Kinder in die Designphasen ein, um sie mit den Modellen und ihren Entscheidungen vertraut zu machen.
  • Stellen Sie vollständige Transparenz über die Verwendung von Kinderdaten im gesamten KI-System sicher.
  • Etablieren Sie organisatorische Rollen und Verantwortlichkeiten für die Rechenschaftspflicht, den Schutz und die Stärkung von kindlichen Nutzern.

  Praktische Strategien für die Modellberichterstattung

  Die Modellberichterstattung spielt eine zentrale Rolle bei der Übersetzung von Ergebnissen:

  • Erkennen Sie legitime Determinanten des Ergebnisses. Implementierer müssen Schlüsselfaktoren erkennen und das zu beschreibende Ergebnis bestimmen.
  • Prüfen Sie, ob die vom Modell erzeugten Korrelationen für den betrachteten Anwendungsfall sinnvoll sind.
  • Bereiten Sie Implementierer vor, indem Sie die Grundlagen des maschinellen Lernens und die Grenzen automatisierter Systeme vermitteln.

  Implementierung effektiver Kommunikation

  Die Kommunikation von Ergebnissen erfordert eine sorgfältige Planung:

  • Erstellen Sie eine kurze Zusammenfassung der KI-gestützten Entscheidungen, unterstützt durch Grafiken, Videos oder interaktive Ressourcen.
  • Gewährleisten Sie Zugänglichkeit und klare Kommunikation, um unerwartete Ergebnisse zu begrenzen.
  • Fügen Sie während des gesamten Prozesses Verweise auf relevante Richtlinien ein.

  Explainability Assurance Management (EAM) Vorlage

  Die EAM-Vorlage besteht aus spezifischen Aufgaben, die den gesamten Erklärungsprozess erleichtern sollen. Sie umfasst priorisierte Erklärungen, gesammelte vorverarbeitete Daten und ein identifiziertes System zur Extraktion relevanter Informationen für eine Reihe von Erklärungsarten.

  Risikomanagement und Herausforderungen

  Potenzielle Risiken und Belohnungen sollten berücksichtigt werden, garantieren jedoch keine vollständige und faire Transparenz für alle Anwendungsfälle. Wie der Technologiejournalist schreiben wird: „Die besten Pläne können nicht perfekt oder narrensicher sein“.

  Wie müssen sich Implementierer von KI-Systemen auf den Einsatz vorbereiten?

  Der verantwortungsvolle Einsatz von KI-Systemen erfordert eine sorgfältige Vorbereitung, insbesondere wenn Erklärbarkeit und Verantwortlichkeit von größter Bedeutung sind. Die Implementierer benötigen ein umfassendes Verständnis der Fähigkeiten und Grenzen des Systems, um dessen ethische und effektive Anwendung zu gewährleisten.

  Wichtige Vorbereitungen für den Einsatz von KI-Systemen

  Die Implementierer müssen eine angemessene Schulung erhalten, die Folgendes umfasst:

  • Grundlagen des maschinellen Lernens: Ein grundlegendes Verständnis der Funktionsweise von Algorithmen des maschinellen Lernens.
  • Einschränkungen der KI: Erkennen der Grenzen und potenziellen Fallstricke von KI und automatisierten Entscheidungsunterstützungstechnologien.
  • Risiko-Nutzen-Analyse: Kenntnis der Vorteile und Risiken, die mit dem Einsatz von KI-Systemen zur Entscheidungsunterstützung verbunden sind.
  • Management kognitiver Verzerrungen: Techniken zur Abschwächung kognitiver Verzerrungen, wie z. B. Automatisierungsbias (übermäßiges Vertrauen auf KI-Ausgaben) und Automatisierungs-Misstrauensbias (unzureichendes Vertrauen auf KI-Ausgaben).

  Explainability Assurance Management

  Ein erfolgreicher Einsatz erfordert auch ein gründliches Explainability Assurance Management, das folgende Schlüsseltätigkeiten umfasst:

  • Priorisierung von Erklärungen: Bestimmung der wichtigsten Arten von Erklärungen (Begründung, Verantwortlichkeit usw.) auf der Grundlage des Bereichs, des Anwendungsfalls und der potenziellen Auswirkungen auf Einzelpersonen.
  • Datenerhebung und -vorverarbeitung: Sicherstellung der Datenqualität, der Repräsentativität und der Beseitigung potenzieller Verzerrungen bei der Datenerhebung und -vorverarbeitung. Entscheidend ist die korrekte Datenkennzeichnung.
  • Systemdesign zur Informationsgewinnung: Aufbau des KI-Systems zur Extraktion relevanter Informationen für verschiedene Erklärungsarten, wobei die Kosten und Vorteile der Verwendung neuerer, aber möglicherweise weniger erklärbarer KI-Modelle berücksichtigt werden.
  • Übersetzung der Modellbegründung: Umwandlung der technischen Begründung der Systemergebnisse in verständliche Begriffe und Rechtfertigung der Einbeziehung statistischer Schlussfolgerungen.
  • Erstellen und Präsentieren benutzerfreundlicher Erklärungen: Entwicklung von Erklärungen, die die Zusammenarbeit zwischen Pflegekräften und Familienmitgliedern erleichtern.

  Überlegungen bei der Verwendung von Kinderdaten

  Wenn Kinderdaten oder das Wohlergehen von Kindern auf dem Spiel stehen, sind zusätzliche Überlegungen entscheidend:

  • Die Implementierer sollten in kindgerechtem Design geschult werden, was ihnen helfen wird, Schutzmaßnahmen zu implementieren, die die besonderen Anforderungen und Rechte von Kindern berücksichtigen.
  • Verständnis der Datenschutzbestimmungen, wie z. B. der Datenschutz-Grundverordnung (DSGVO) und des UK ICO Age Appropriate Design Code.
  • Die Implementierer sollten sich auch einer Hintergrundüberprüfung unterziehen (z. B. Disclosure and Barring Service – DBS, der britische Dienst zur Überprüfung von Hintergrundinformationen) und eine Schulung im Umgang und der effektiven Zusammenarbeit mit Kindern erhalten.

  Die Vorbereitung auf den Einsatz bedeutet mehr als nur die technische Einrichtung; sie bedeutet die Kultivierung eines Ökosystems der Verantwortung, Fairness und Transparenz.

  Wie sollten Erklärungen aufgebaut und präsentiert werden?
  

  Da KI-Systeme bei der Entscheidungsfindung immer weiter verbreitet sind, ist die Notwendigkeit klarer und verständlicher Erklärungen von größter Bedeutung. Aber wie bauen und liefern wir diese Erklärungen tatsächlich effektiv?

  Ergebnisorientierte vs. prozessorientierte Erklärungen

  Der erste Schritt besteht darin, zwischen ergebnisorientierten und prozessorientierten Erklärungen zu unterscheiden:

  • Ergebnisorientierte Erklärungen konzentrieren sich auf die Komponenten und die Begründung hinter den Modellausgaben. Diese Erklärungen zielen darauf ab, deutlich zu machen, warum eine bestimmte Entscheidung getroffen wurde. Sie sollten zugänglich sein und eine einfache Sprache verwenden.
  • Prozessorientierte Erklärungen demonstrieren, dass Sie über robuste Governance-Prozesse verfügen und bei der Konzeption, Entwicklung und Bereitstellung des KI-Systems branchenübliche Best Practices befolgt haben. Dies beinhaltet den Nachweis, dass Nachhaltigkeit, Sicherheit, Fairness und verantwortungsvolles Datenmanagement während des gesamten Projektlebenszyklus berücksichtigt wurden.

  Beide Arten sind entscheidend für den Aufbau von Vertrauen und die Gewährleistung von Verantwortlichkeit.

  Wichtige Maximen der KI-Erklärbarkeit

  Es gibt 4 Maximen, um Ihre KI-Erklärbarkeit zu verbessern:

  • Transparenz: Seien Sie offen über den Einsatz von KI/ML bei der Entscheidungsfindung, einschließlich wie, wann und warum sie eingesetzt wird. Erklären Sie Entscheidungen sinnvoll, wahrheitsgemäß, angemessen und rechtzeitig.
  • Rechenschaftspflicht: Benennen Sie Einzelpersonen oder Teams, die für die Überwachung der „Erklärbarkeits“-Anforderungen von KI-Systemen verantwortlich sind. Benennen Sie einen Ansprechpartner, um eine Entscheidung zu klären oder anzufechten, und treffen Sie aktiv Entscheidungen darüber, wie KI/ML-Modelle so konzipiert und eingesetzt werden können, dass sie angemessen erklärbar sind.
  • Kontext: Erkennen Sie, dass es keinen Einheitsansatz gibt. Der Kontext berücksichtigt mehrere miteinander verbundene Elemente, die sich auf die Erklärung von KI/ML-gestützten Entscheidungen und den Gesamtprozess auswirken.
  • Überdenken der Auswirkungen: Identifizieren und reduzieren Sie potenziell schädliche Auswirkungen bei der Entscheidungsfindung. Seien Sie ethisch in der Verwendung von Zwecken, um das Wohlbefinden nicht zu beeinträchtigen. Berücksichtigen Sie auch das gesellschaftliche Wohlergehen, um die menschliche Verbindung zu schützen.

  Arten von Erklärungen für SSAFE-D-Prinzipien

  Um prägnante und klare Erklärungen zu den SSAFE-D-Prinzipien (Nachhaltigkeit, Sicherheit, Verantwortlichkeit, Fairness, Erklärbarkeit und Data Stewardship) zu erstellen, sollten Sie sechs Arten von Erklärungen in Betracht ziehen:

  • Rationale Erklärung: Das „Warum“ hinter einer Entscheidung.
  • Verantwortlichkeitserklärung: „Wer“ ist für die menschliche Überprüfung zu kontaktieren. Rollen, Funktionen und Verantwortlichkeit für das KI-Modell.
  • Datenerklärung: „Was“ wird gespeichert und andere Details der verwendeten Daten. Verwendete Daten, Erhebung und Zugriff durch Dritte. Datenvorverarbeitung und Verallgemeinerbarkeit.
  • Fairness-Erklärung: Wie Bias reduziert wurde und welche Maßnahmen ergriffen wurden, um die richtigen Maßnahmen zu gewährleisten.
  • Sicherheitserklärung: Maximierung der Leistungszuverlässigkeit und dafür, dass ein gewählter KI-Systemtyp mit anderen Systemen verglichen werden kann.
  • Auswirkungserklärung: Auswirkungen, die ein Entscheidungsunterstützungssystem auf eine Einzelperson oder die Gesellschaft haben kann. Versichern Sie der Öffentlichkeit, dass es von Vorteil ist.

  Praktische Schritte zum Aufbau von Erklärungen

  Eine Vorlage für das Explainability Assurance Management für KI-Projekte konzentriert sich auf:

  • Projektplanung für den KI-Lebenszyklus
  • Datenextraktion und -vorverarbeitung
  • Modellauswahl und -training für eine Reihe von Erklärungstypen.
  • Modellberichterstattung für leicht verständliche Gründe.
  • Benutzerschulung zur Vorbereitung der Implementierer auf den Einsatz des KI-Systems

  Übergeordnete Überlegungen

  Es gibt vier Überlegungen für Teams, die Erklärbarkeit für ein breites und vielfältiges Publikum erreichen wollen:

  • Kontext, potenzielle Auswirkungen, domänenspezifische Bedürfnisse: Welche Art von Anwendung und Technologie verwenden Sie?

  • Standard-Interpretationsmethoden: Finden Sie die richtigen domänenspezifischen Risiken, Bedürfnisse und KI/LM-Techniken.

  • Black-Box-KI-Systeme: Überlegungen zur gründlichen Abwägung der Risiken potenzieller Auswirkungen/Risiken. Erwägen Sie zusätzliche Interpretationswerkzeuge und Aktionspläne zur Verbesserung der Erklärbarkeit.

  • Interpretierbarkeit und menschliches Verständnis: Konzentrieren Sie sich auf die Fähigkeiten und Einschränkungen der menschlichen Kognition, um ein interpretierbares KI-System bereitzustellen.

  Durch die Konzentration auf diese Überlegungen können Unternehmen KI-Systeme entwickeln, die sowohl effektiv als auch verständlich sind und Vertrauen und Verantwortlichkeit fördern.

  Letztendlich ist das Streben nach erklärbarer KI nicht nur eine technische Herausforderung, sondern eine grundlegend menschliche. Indem wir Transparenz, Verantwortlichkeit, Kontextbewusstsein und potenzielle Auswirkungen sorgfältig berücksichtigen, insbesondere für schutzbedürftige Bevölkerungsgruppen wie Kinder, können wir uns einer Zukunft nähern, in der KI-Systeme nicht nur leistungsstarke Werkzeuge sind, sondern auch vertrauenswürdige Partner bei der Gestaltung einer gerechteren und verständlicheren Welt. Die hier skizzierten Strategien bieten einen Fahrplan, um die Funktionsweise von KI zugänglicher zu machen und sicherzustellen, dass ihre Entscheidungen nicht im Dunkeln liegen, sondern stattdessen von Klarheit und Zweck erhellt werden.