Die ART der KI — Verantwortung, Rechenschaftspflicht, Transparenz
Künstliche Intelligenz (KI) beeinflusst zunehmend unser Leben in kleinen oder großen Weisen. Um sicherzustellen, dass Systeme menschliche Werte aufrechterhalten, sind Gestaltungsansätze erforderlich, die ethische Prinzipien integrieren und gesellschaftliche Anliegen berücksichtigen. In diesem Artikel werden die ART-Gestaltungsprinzipien (Verantwortung, Rechenschaftspflicht und Transparenz) für die Entwicklung von KI-Systemen, die sensibel für menschliche Werte sind, vorgestellt.
Es gibt ein wachsendes Bewusstsein für die Notwendigkeit eines verantwortungsvollen Ansatzes in Bezug auf Künstliche Intelligenz, um die sichere, nützliche und gerechte Nutzung von KI-Technologien zu gewährleisten. Hierbei ist es wichtig, die Auswirkungen moralischer Entscheidungen von Maschinen zu berücksichtigen und den rechtlichen Status von KI zu definieren. Mehrere Initiativen zielen darauf ab, Richtlinien und Prinzipien für die ethische und verantwortungsvolle Entwicklung und Nutzung von KI vorzuschlagen.
Entwicklung von Autonomie und maschinellem Lernen
Die Entwicklungen in der Autonomie und im maschinellen Lernen ermöglichen es KI-Systemen zunehmend, ohne direkte menschliche Kontrolle zu entscheiden und zu handeln. Größere Autonomie muss mit größerer Verantwortung einhergehen, auch wenn diese Begriffe notwendigerweise unterschiedlich sind, wenn sie auf Maschinen im Vergleich zu Menschen angewendet werden.
Die Gewährleistung, dass Systeme verantwortungsbewusst entworfen werden, trägt zu unserem Vertrauen in ihr Verhalten bei und erfordert sowohl Rechenschaftspflicht, d.h. die Fähigkeit, Entscheidungen zu erklären und zu rechtfertigen, als auch Transparenz, d.h. das Verständnis der Entscheidungsprozesse der Systeme und der verwendeten Daten. Zu diesem Zweck werden die Prinzipien von Rechenschaftspflicht, Verantwortung und Transparenz (ART) vorgeschlagen.
Die drei Säulen der ethischen KI
Die ethische KI ruht auf drei gleich wichtigen Säulen, dem ART der KI:
- Rechenschaftspflicht bezieht sich auf die Notwendigkeit, Entscheidungen und Handlungen gegenüber Partnern, Nutzern und anderen, mit denen das System interagiert, zu erklären und zu rechtfertigen. Um Rechenschaftspflicht zu gewährleisten, müssen Entscheidungen aus den verwendeten Entscheidungsalgorithmen ableitbar und erklärbar sein.
- Verantwortung bezieht sich auf die Rolle der Menschen selbst und die Fähigkeit der KI-Systeme, für Entscheidungen zu antworten und Fehler oder unerwartete Ergebnisse zu identifizieren. Mit dem Wachstum der Verantwortungskette sind Mittel erforderlich, um die Entscheidungen des KI-Systems mit der fairen Nutzung von Daten und den Handlungen der beteiligten Stakeholder zu verknüpfen.
- Transparenz bezieht sich auf die Notwendigkeit, die Mechanismen zu beschreiben, zu inspizieren und zu reproduzieren, durch die KI-Systeme Entscheidungen treffen und sich an ihre Umgebung anpassen, sowie die Governance der verwendeten Daten. Derzeit sind KI-Algorithmen im Wesentlichen Black Boxes. Regulierungsbehörden und Nutzer verlangen jedoch Erklärungen und Klarheit über die verwendeten Daten.
Verantwortungsvolle KI ist mehr als das Abhaken einiger ethischer „Kästen“ oder die Entwicklung von Zusatzfunktionen in KI-Systemen. Sie erfordert die Teilnahme und das Engagement aller Stakeholder sowie die aktive Einbeziehung der gesamten Gesellschaft. Dies bedeutet Schulung, Regulierung und Bewusstsein.
Forscher und Entwickler sollten geschult werden, um sich ihrer eigenen Verantwortung bei der Entwicklung von KI-Systemen, die direkte Auswirkungen auf die Gesellschaft haben, bewusst zu sein. Regierungen und Bürger sollten bestimmen, wie Fragen der Haftung reguliert werden sollten. Beispielsweise stellt sich die Frage, wer verantwortlich ist, wenn ein selbstfahrendes Auto einen Fußgänger verletzt. Ist es der Hersteller der Hardware, der die Sensoren gebaut hat? Der Hersteller der Software, die es dem Auto ermöglicht, einen Weg zu wählen? Die Behörden, die das Auto auf die Straße lassen? Der Besitzer, der die Entscheidungseinstellungen des Autos an ihre Präferenzen angepasst hat? Das Auto selbst, weil sein Verhalten auf seinem eigenen Lernen basiert? All diese Fragen müssen die Regulierungen informieren, die Gesellschaften in Bezug auf die verantwortungsvolle Nutzung von KI-Systemen aufstellen.
Es ist notwendig zu verstehen, wie verschiedene Menschen mit KI-Technologien arbeiten und leben, um Rahmenbedingungen für verantwortungsvolle KI zu entwickeln. KI muss nicht isoliert betrachtet werden, sondern als Teil sozio-technischer Beziehungen. Auch hier spielt Bildung eine wichtige Rolle, um sicherzustellen, dass das Wissen über das Potenzial von KI weit verbreitet ist und die Menschen sich bewusst sind, dass sie an der Gestaltung der gesellschaftlichen Entwicklung teilnehmen können. Eine neue und ehrgeizigere Form der Governance ist eine der dringendsten Anforderungen, um sicherzustellen, dass die unvermeidlichen Fortschritte der KI dem Gemeinwohl dienen. Nur dann sind Rechenschaftspflicht, Verantwortung und Transparenz möglich.
