Autonome Fahrzeuge: Hochrisiko oder Zukunftstechnologie?

Warum autonome Fahrzeuge nicht als ‚hochriskante KI‘ eingestuft werden sollten

Selbst wenn sie noch nicht das Niveau vollständig fahrerloser Robotaxis erreicht haben, sind überwachte autonome Fahrzeuge auf den Straßen bereits weit verbreitet. Ein führendes Unternehmen verkauft weltweit mehr autonome Fahrzeuge als jedes andere und generiert damit Gewinne, während gleichzeitig große Mengen an Fahrdaten ohne zusätzliche Kosten gesammelt werden. Diese Daten werden verwendet, um die KI weiterzuentwickeln. Kürzlich wurde bekannt gegeben, dass ein autonomes Fahrsystem ab Mitte Februar im monatlichen Abonnement angeboten wird.

Die Rolle Koreas in der Robotik

Koreas Position als unbestrittener Weltmarktführer in der industriellen Roboterdichte beruht auf seinen Stärken in der Elektronik und im Automobilbau. Die koreanische Fertigung nutzt mehr Roboter als jedes andere Land, und Roboter sind seit langem Standardausstattung in der Automobilproduktion. Die Branche befindet sich nun in einer Phase, in der KI und Roboter Fahrzeuge bauen, KI sie betreibt und Menschen in diesen Maschinen fahren, während sie für die Nutzung der KI bezahlen. Die Neudefinition des Automobils in der KI-Ära erfolgt als Software, die als Dienstleistung bereitgestellt wird.

Regulierung von hochriskanter KI

Das koreanische „AI Basic Act“ trat am 22. Januar in Kraft. Obwohl die Strafen für Verstöße bisher ausgesetzt wurden, hat das Gesetz bereits einen globalen Präzedenzfall geschaffen, indem es als das erste umfassende Gesetz zur Regulierung sogenannter hochriskanter KI-Betreiber gilt. Im Gegensatz dazu hat die Europäische Union, die stark Einfluss auf die Gesetzgebung genommen hat, ihre eigenen hochriskanten KI-Vorschriften kürzlich verschoben. Die Hauptsorge in Europa ist, dass eine reaktive Regulierung auf die rasante Entwicklung der KI dazu führen könnte, dass die Region im globalen Wettbewerb zurückfällt.

Wie das koreanische Gesetz weist auch das EU-KI-Gesetz den KI-Anbietern die Verantwortung zu, mit hohen Risiken umzugehen, und verhängt Sanktionen bei Verstößen. Innerhalb der EU gibt es jedoch wachsende Bedenken darüber, wie schwierig es ist, objektiv zu bestimmen, was tatsächlich hochriskante KI in der Praxis ausmacht.

Der erste Entwurf des EU-Gesetzes, der 2021 veröffentlicht wurde, basierte auf der Idee, Risiken, die von hochriskanten KI-Systemen ausgehen, zu managen. Das erklärte Ziel war der Schutz des menschlichen Lebens, der physischen Sicherheit und der grundlegenden Rechte. Der vorgeschlagene Ansatz war, Risiken je nach beabsichtigter Nutzung der KI in spezifischen Sektoren unterschiedlich zu regulieren. Dieser Rahmen wurde jedoch 2022 durch das Aufkommen von KI-Systemen, die als allgemeine Zwecke dienen, ernsthaft erschüttert.

Implikationen und Risiken

Allgemeine KI-Systeme schaffen ein regulatorisches Dilemma, da ihre Anwendungen und Zwecke nicht im Voraus definiert werden können. Infolgedessen verschob die EU ihren Fokus hin zu Transparenz- und Sicherheitsverpflichtungen für Entwickler in der Entwurfsphase. Dieser Ansatz stieß auf starke Opposition aus den USA. Die ursprüngliche Vision der EU, Menschen durch das Management von KI-Risiken im Voraus zu schützen, wurde durch die Einführung allgemeiner KI grundlegend gestört.

Obwohl sich die Technologie schnell entwickelt hat, bleibt die Regulierung hochriskanter KI-Kategorien in Korea weitgehend in der Entwurfsphase von 2021 stecken. Durch die vollständige Implementierung solcher Regeln hat sich Korea international einem intensiven Prüfstand ausgesetzt. Nach dem koreanischen KI-Gesetz würden beispielsweise Level-4-autonome Fahrzeuge, die bereits Pilotoperationen durchführen, sowie Robotaxis, die im Ausland kommerzialisiert wurden, unter die hochriskante Regulierung fallen.

In Anbetracht der aktuellen Begeisterung für physische KI ist es wichtig zu beachten, dass physische KI nicht nur humanoide Roboter umfasst. Autonome Fahrzeuge, die ihre Umgebung wahrnehmen und im realen Verkehr fahren, sind ebenfalls eine Form physischer KI. Der Wunsch, Menschen durch die Einstufung solcher Technologien als hochriskant im Voraus zu schützen, ist nachvollziehbar. Es besteht jedoch die Gefahr, dass Korea, indem es autonome Fahrzeuge als hochriskante Unternehmen einstuft und weltweit zuerst reguliert, die nationale Wettbewerbsfähigkeit untergräbt.

Schlussfolgerung

Um mit Unternehmen konkurrieren zu können, die weiterhin Fahrzeuge zu relativ niedrigen Preisen verkaufen, große Mengen an Fahrverhaltensdaten weltweit ohne Kosten sammeln und sich auf technologische Entwicklungen konzentrieren, muss Korea grundlegend überdenken, was als hochriskante KI gilt und wie solche Risiken reguliert werden sollten. Ein alternativer Ansatz könnte darin bestehen, ein System ähnlich dem britischen zu übernehmen, bei dem Versicherungsunternehmen im Falle eines Unfalls mit einem autonomen Fahrzeug zunächst die Opfer entschädigen und anschließend Rückgriffsrechte geltend machen. Diese Regelung könnte die unmittelbare Haftungsbelastung für Fahrzeughersteller verringern. Weitere strategische Perspektiven könnten auch Politiken umfassen, die die Entwicklung hochriskanter KI-Anwendungen aktiv unterstützen, anstatt sie durch voreilige Regulierung abzuschrecken.