Regulierung von KI-Chatbots: Eine verworrene Angelegenheit
Die Regulierung von KI-Chatbots wird als “verworren und verwirrt” beschrieben, was Bedenken hinsichtlich der damit verbundenen Risiken für die Öffentlichkeit aufwirft. In der jüngsten Diskussion äußerte Andy Burrows, der Geschäftsführer der Molly Rose Foundation, einer Organisation für Onlinesicherheit und Suizidprävention, dass zahlreiche KI-Chatbots von Technologieunternehmen in einem Wettlauf um Marktanteile hastig auf den Markt gebracht werden.
Risiken durch unregulierte KI-Chatbots
Ein Bericht des Wall Street Journal deckte auf, dass Meta’s KI-Chatbots und virtuelle Personas in romantische und sogar sexuelle Rollenspiele mit Nutzern, darunter auch Kinder, verwickelt werden. Diese Testmethoden wurden von Meta als manipulativ und unvertretbar bezeichnet, jedoch wurden nach den Ergebnissen Änderungen an den Produkten vorgenommen.
Forderung nach klarer Regulierung
Burrows fordert, dass dieser Bericht von Ofcom, dem britischen Online-Sicherheitsregulator, zu einer strikteren Regulierung von KI-Chatbots unter dem Online-Sicherheitsgesetz führen sollte, da die bisherige Reaktion des Regulators nicht klar genug war. Er betont, dass die wachsende Zahl an Beweisen für mangelnde grundlegende Schutzmaßnahmen in KI-generierten Chatbots dringende Maßnahmen erfordert.
„Jede Woche bringt neue Beweise für die mangelnden grundlegenden Schutzmaßnahmen in KI-Chatbots, die hastig von Technologieunternehmen herausgebracht werden“, erklärte Burrows. „Trotzdem bleibt die Antwort von Ofcom auf die Risiken verworren und verwirrt.“
Rechtliche Unklarheiten
Bei einer Anhörung des Ausschusses für Wissenschaft, Innovation und Technologie räumte Mark Bunting, Direktor für Online-Sicherheitsstrategie bei Ofcom, ein, dass die rechtliche Situation “nicht ganz klar” und “komplex” sei. Er stellte fest, dass Generative KI-Inhalte, die die Definitionen von illegalen Inhalten oder schädlichen Inhalten für Kinder erfüllen, im Gesetz genauso behandelt werden wie andere Arten von Inhalten.
„Das Gesetz ist absichtlich technologie-neutral formuliert“, erklärte Bunting. „Es gibt jedoch Bereiche der Technologie, in denen wir denken, dass die rechtliche Situation nicht ganz klar oder komplex ist.“
Überwachung und Zusammenarbeit
Bunting betonte die Notwendigkeit, mit der Industrie zusammenzuarbeiten, um sicherzustellen, dass ausreichend Schutzmaßnahmen vorhanden sind. „Wir möchten mit der Regierung und dem Parlament zusammenarbeiten, um das bestehende Gesetz weiterzuentwickeln“, sagte er.
Bedenken der Sicherheitsorganisationen
Online-Sicherheitsgruppen haben eine Reihe von Bedenken hinsichtlich KI-Chatbots geäußert, darunter die Möglichkeit, dass sie Fehlinformationen schnell verbreiten können, sei es durch fehlerhafte Trainingsdaten oder AI-Halluzinationen. Zudem haben KI-Bildgenerierungstools zur Erstellung von kindesmissbrauchsbezogenen Inhalten beigetragen.
Die Internet Watch Foundation berichtete über Rekordzahlen an Webseiten, die im Jahr 2024 Material über Kindesmissbrauch hosten, und warnte, dass KI-generierte Inhalte ein wichtiger Faktor für diesen Anstieg sind.
