Verantwortlichkeit im Bereich Künstliche Intelligenz
Die Verantwortung von AI-Designern und Entwicklern erstreckt sich auf die Überlegung des Designs, der Entwicklung, der Entscheidungsprozesse und der Ergebnisse von Künstlicher Intelligenz (KI).
Menschen spielen eine wesentliche Rolle in einem scheinbar objektiven System logischer Entscheidungen. Es sind die Menschen, die Algorithmen schreiben, den Erfolg oder Misserfolg definieren und Entscheidungen über die Verwendung von Systemen treffen. Diese Entscheidungen haben direkte Auswirkungen auf die betroffenen Nutzer.
Jede Person, die an der Erstellung von KI beteiligt ist, trägt die Verantwortung dafür, die Auswirkungen des Systems auf die Welt zu berücksichtigen. Auch die Unternehmen, die in die Entwicklung investiert sind, müssen sich dieser Verantwortung bewusst sein.
Empfohlene Maßnahmen
01
Gestalten Sie die Unternehmensrichtlinien klar und zugänglich für die Design- und Entwicklungsteams von Anfang an, sodass niemand über Fragen der Verantwortung oder Rechenschaftspflicht im Unklaren ist. Als AI-Designer oder -Entwickler ist es Ihre Verantwortung, darüber informiert zu sein.
02
Verstehen Sie, wo die Verantwortung des Unternehmens oder der Software endet. Sie haben möglicherweise keinen Einfluss darauf, wie Daten oder ein Werkzeug von einem Benutzer, Kunden oder einer anderen externen Quelle verwendet werden.
03
Führen Sie detaillierte Aufzeichnungen über Ihre Designprozesse und Entscheidungsfindungen. Bestimmen Sie eine Strategie zur Dokumentation während des Design- und Entwicklungsprozesses, um Best Practices zu fördern und Iterationen zu ermöglichen.
04
Halten Sie sich an die Verhaltensrichtlinien Ihres Unternehmens. Verstehen Sie auch die nationalen und internationalen Gesetze, Vorschriften und Richtlinien, innerhalb deren Ihre KI arbeiten muss.
Zu berücksichtigende Fragen
– Wie verändert sich die Verantwortung in Abhängigkeit vom Einfluss der Nutzer auf ein KI-System?
– Wird die KI in einen menschlichen Entscheidungsprozess eingebettet, trifft sie selbstständig Entscheidungen oder ist sie eine Hybridform?
– Wie wird unser Team die Aufzeichnungen unseres Prozesses führen?
– Wie halten wir die ethischen Designentscheidungen und Überlegungen nach dem Start der KI fest?
– Können andere, die neu in unserem Projekt sind, unsere Aufzeichnungen verstehen?
Beispiel für Verantwortlichkeit
Das Team nutzt Design-Forscher, um mit echten Gästen in Hotels in Kontakt zu treten, um deren Wünsche und Bedürfnisse durch persönliche Nutzerinterviews zu verstehen. Das Team berücksichtigt auch die eigene Verantwortung, wenn das Feedback eines Hotelassistenten nicht den Bedürfnissen oder Erwartungen der Gäste entspricht. Sie haben einen Feedback-Lernzyklus implementiert, um die Präferenzen besser zu verstehen, und die Möglichkeit hervorgehoben, dass Gäste die KI jederzeit während ihres Aufenthalts deaktivieren können.
