Warum verantwortungsvolle KI jetzt wichtig ist
Mit Milliarden von Nutzern wird Künstliche Intelligenz (KI) in einer Vielzahl von Disziplinen wie Finanzen, Herstellung, Gesundheitswesen und Bildung mehr denn je eingesetzt. Diese Entwicklungen wecken das Interesse von Entwicklern und Nutzern an der Verantwortung von KI, da sowohl die potenziellen Schäden als auch die Vorteile für die Gesellschaft berücksichtigt werden müssen. Unternehmen sind gefordert, sicherzustellen, dass die Vorteile von KI die Schäden überwiegen.
Dimensionen der verantwortungsvollen KI
Diese Aspekte der Künstlichen Intelligenz definieren, wie KI entwickelt, implementiert und verwaltet werden sollte, um ethisch, fair, transparent und vorteilhaft für die Gesellschaft zu sein.
a) Fairness
Die Vermeidung von Vorurteilen und Diskriminierung ist entscheidend. Dies bedeutet, dass algorithmische Entscheidungen zu gerechten Ergebnissen führen sollten, unabhängig von Faktoren wie Rasse, Einkommen, sexueller Orientierung oder Geschlecht. Ein Beispiel hierfür ist ein Einstellungsalgorithmus, der Vorurteile gegenüber Bewerbern mit Namen hat, die mit einem bestimmten Geschlecht oder einer bestimmten Ethnie assoziiert sind.
b) Verantwortung
Wer trägt die Verantwortung für die Auswirkungen eines KI-Systems — Entwickler, Unternehmen oder Nutzer? Diese Frage erfordert Transparenz und organisatorische Prozesse, die dokumentieren und teilen, wie Modelle und Datensätze erstellt, trainiert und bewertet wurden.
Hier sind zwei Arten von Dokumentationsmodellen:
- Modulkarten: Ein Standarddokument, das den Zweck, die Leistung, die Einschränkungen und die ethischen Überlegungen eines maschinellen Lernmodells beschreibt und so Transparenz und Verantwortung fördert.
- Datakarten: Strukturierte Zusammenfassungen über verschiedene Aspekte von maschinellen Lern-Datensätzen, die von Interessengruppen im Verlauf eines Projekts für die verantwortungsvolle KI-Entwicklung benötigt werden.
Ein Beispiel für eine Datakartenvorlage:
- Zusammenfassung
- Autoren: Herausgeber, Datensatzbesitzer, Finanzierungsquellen
- Überblick über den Datensatz: Sensibilität der Daten, Version und Wartung des Datensatzes
- Beispiel von Datenpunkten
- Motivation und Absichten
- Zugriff, Speicherung und Löschung
- Herkunft: Sammlung, Kriterien für die Sammlung, Beziehung zur Quelle, Version und Wartung
- Menschliche und andere sensible Attribute
- Erweiterte Nutzung: Verwendung mit anderen Daten, Forking und Sampling, Verwendung in ML- oder KI-Systemen
- Transformationen: Zusammenfassung, Aufschlüsselung der Transformationen
- Annotationen und Kennzeichnung: Menschliche Annotatoren
- Validierungstypen: Beschreibung der menschlichen Validierer
- Stichprobenmethoden
- Bekannte Anwendungen und Benchmarks
- Begriffe: Konzepte und Definitionen, die in dieser Datakarte referenziert werden
- Reflexionen über Daten
Zusätzlich:
- Interpretierbarkeit: Dies bezieht sich auf das Verständnis von Entscheidungen des maschinellen Lernens.
- Erklärbarkeit: Menschen sollten in der Lage sein, die automatisierten Entscheidungen des Modells zu verstehen.
c) Sicherheit und Schutz
Die Sicherheit von Künstlicher Intelligenz erfordert Verfahren, um Aktionen zu vermeiden und zu managen, die Schaden verursachen können, ob absichtlich oder unbeabsichtigt. Es ist wichtig, die KI zu testen, um sicherzustellen, dass sie wie beabsichtigt funktioniert.
Um die Sicherheit von KI zu prüfen, sollten Adversarial Testing-Methoden eingesetzt werden. Dies bedeutet, aktiv zu versuchen, eine Anwendung „zu brechen“, indem Daten wie gefährlicher oder anstößiger Inhalt bereitgestellt werden.
Ein Beispiel für einen Workflow beim adversarial Testing:
- Eingaben für Tests identifizieren: Produktpolitik und Fehlermodi beschreiben.
- Testdatensätze finden oder erstellen: Bestehende Testdatensätze untersuchen und ggf. neue erstellen.
- Modelle ausgeben und annotieren: Die Ausgaben der Modelle annotieren, um sie in Fehlermodi und Schäden zu kategorisieren.
- Berichten und mindern: Die Testergebnisse in einem Bericht zusammenfassen.
d) Privatsphäre
Die Berücksichtigung der potenziellen Auswirkungen der Verwendung sensibler Daten ist essenziell. Das beinhaltet die Einhaltung gesetzlicher und regulatorischer Anforderungen sowie den Schutz der Benutzerdaten.
e) Transparenz
Die Entscheidungsprozesse der KI verständlich zu machen, ist wichtig für die Nutzer und Interessengruppen. Dies umfasst, zu erklären, wie Modelle funktionieren und warum bestimmte Ausgaben erzeugt werden.
f) Inklusivität
Vielfältige Perspektiven in das Design der Künstlichen Intelligenz einzubeziehen, ist entscheidend, um die Bedürfnisse verschiedener Bevölkerungsgruppen zu berücksichtigen und die Exklusion unterrepräsentierter Gruppen zu vermeiden.
g) Nachhaltigkeit
Die Umweltwirkungen von Künstlicher Intelligenz zu bewerten, ist wichtig, insbesondere der Energieverbrauch großer Modelle. Es sollten umweltfreundliche Praktiken gefördert werden.
h) Menschzentrierte Gestaltung
Das Wohl der Menschen zu priorisieren und sicherzustellen, dass KI die menschliche Urteilskraft ergänzt und nicht ersetzt, ist von zentraler Bedeutung.
