Hongkonger Unternehmen müssen sich für sichere KI-Praktiken einsetzen

Die Notwendigkeit sicherer KI-Praktiken für Unternehmen in Hongkong

Mit der rasanten Entwicklung von künstlicher Intelligenz (KI) setzen immer mehr Organisationen diese Technologie ein, um Betriebsabläufe zu optimieren, die Qualität zu verbessern und die Wettbewerbsfähigkeit zu steigern.

Allerdings birgt KI auch Sicherheitsrisiken, insbesondere in Bezug auf den Schutz persönlicher Daten, die nicht ignoriert werden dürfen. Organisationen, die KI-Systeme entwickeln oder verwenden, sammeln, nutzen und verarbeiten häufig persönliche Daten, was zu Risiken wie übermäßiger Datenbeschaffung, unbefugter Nutzung und Datenschutzverletzungen führt.

Internationale Initiativen zur KI-Sicherheit

Die Bedeutung der KI-Sicherheit ist ein wiederkehrendes Thema in internationalen Erklärungen und Beschlüssen, die in den letzten Jahren verabschiedet wurden. Im Jahr 2023 unterzeichneten 28 Länder, darunter China und die Vereinigten Staaten, die Bletchley-Erklärung auf dem KI-Sicherheitsgipfel im Vereinigten Königreich. Diese Erklärung betonte, dass der Missbrauch fortschrittlicher KI-Modelle zu katastrophalen Schäden führen könnte und dass es dringend notwendig ist, diese Risiken anzugehen.

Im Jahr 2024 verabschiedete die Vereinten Nationen eine internationale Resolution zur KI, die sichere, geschützte und vertrauenswürdige KI-Systeme fördert. Auf dem KI-Aktionsgipfel in Paris im Februar unterzeichneten mehr als 60 Länder, einschließlich China, eine Erklärung, die betont, dass die Nutzung der Vorteile von KI für wirtschaftliches und gesellschaftliches Wachstum von der Verbesserung der KI-Sicherheit und des Vertrauens abhängt.

Chinas Ansatz zur KI-Entwicklung und -Sicherheit

Im Hinblick auf technologische und industrielle Innovation hat China sowohl die Entwicklung als auch die Sicherheit betont. Im Jahr 2023 startete das chinesische Festland die Globale KI-Governance-Initiative, die Prinzipien wie einen menschenzentrierten Ansatz und die Entwicklung von KI zum Wohle der Gesellschaft vorschlägt. Im April dieses Jahres bemerkte Präsident Xi Jinping während einer Sitzung des Politbüros, dass KI zwar beispiellose Entwicklungsmöglichkeiten bietet, aber auch Risiken und Herausforderungen mit sich bringt, die noch nie zuvor gesehen wurden.

Risiken und Herausforderungen durch KI

Diese Risiken sind so beispiellos wie real. Vor etwa zwei Jahren verbot Samsung seinen Mitarbeitern die Nutzung von ChatGPT, nachdem Bedenken hinsichtlich der Weitergabe sensibler interner Informationen auf solchen Plattformen aufkamen. Dieser Schritt wurde Berichten zufolge durch einen versehentlichen Leak sensibler interner Quellcodes eines Ingenieurs ausgelöst. Der Vorfall verdeutlicht die Bedeutung des Schutzes von Geschäftsgeheimnissen im Technologiezeitalter.

Zur gleichen Zeit berichtete ChatGPT von einem bedeutenden Datenleck. Sensible Daten, darunter die Überschriften der Gespräche der Nutzer mit dem Chatbot, Nutzernamen, E-Mail-Adressen und sogar Teile ihrer Kreditkartennummern, wurden geleakt.

Verwendung von KI in Unternehmen

Da KI-gestützte Chatbots an Reife und Beliebtheit gewinnen, finden sie ihren Weg in die Arbeitsplätze, wobei Mitarbeiter sie zur Erstellung von Protokollen, Zusammenfassungen von Präsentationen, zur Erstellung von Werbematerialien oder sogar zur Erstellung oder Modifizierung interner Quellcodes nutzen. Organisationen müssen jedoch erkennen, dass diese Nutzung von KI, auch wenn sie hilft, Arbeitsabläufe zu automatisieren und die Produktivität zu steigern, auch Risiken birgt, wie die Weitergabe vertraulicher Informationen oder persönlicher Daten von Kunden, übermäßige Datenbeschaffung oder unsachgemäße Nutzung von Kundendaten sowie die Produktion ungenauer oder voreingenommener Daten.

Organisationen sollten beachten, dass je nach Algorithmus des KI-Tools und der Zugänglichkeit des Servers hochgeladene Daten in eine große offene Datenbank gelangen und ohne Wissen der Mitarbeiter zur Schulung des zugrunde liegenden Modells verwendet werden können. Die Daten können auch in Antworten auf Anfragen von einem Mitbewerber oder einem unbeteiligten Kunden wiedergegeben werden.

Compliance-Überprüfungen und Empfehlungen

Angesichts der Datenschutz- und Sicherheitsrisiken, die KI mit sich bringt, führte mein Büro im Februar Compliance-Checks bei 60 Organisationen aus verschiedenen Sektoren durch und veröffentlichte Anfang Mai einen Bericht. Diese Überprüfungen wurden durchgeführt, um festzustellen, ob diese Organisationen die relevanten Anforderungen des Gesetzes über den Datenschutz bei der Sammlung, Nutzung und Verarbeitung persönlicher Daten während der Nutzung von KI einhielten und ob eine angemessene Governance vorhanden war.

Basierend auf den Ergebnissen verwendeten 80 Prozent der untersuchten Organisationen KI in ihren täglichen Abläufen. Unter diesen Organisationen sammelten und/oder verwendeten die Hälfte persönliche Daten über KI-Systeme. Allerdings hatten nicht alle eine KI-bezogene Richtlinie formuliert. Nur etwa 63 Prozent der Organisationen, die persönliche Daten über KI-Systeme sammelten und/oder verwendeten, hatten solche Richtlinien in Kraft. Hier gibt es eindeutig Spielraum für Verbesserungen.

Die Bedeutung einer KI-bezogenen Richtlinie kann nicht genug betont werden. Organisationen wird empfohlen, interne KI-Richtlinien zu formulieren, um ein Gleichgewicht zwischen geschäftlicher Effizienz und dem Schutz der Datenschutzrechte zu finden. Zu diesem Zweck veröffentlichte mein Büro im März die „Checkliste für Richtlinien zur Nutzung von generativer KI durch Mitarbeiter“, um Organisationen dabei zu helfen, die richtigen Richtlinien zu entwickeln und dabei den städtischen Vorschriften zur KI zu entsprechen.

Die Richtlinien, die in Form einer Checkliste präsentiert werden, empfehlen, dass die interne KI-Politik einer Organisation Informationen über die zulässige Nutzung generativer KI, den Schutz der Privatsphäre persönlicher Daten, die rechtmäßige und ethische Nutzung, die Verhinderung von Voreingenommenheit, die Datensicherheit und die Konsequenzen von Verstößen umfasst.

Organisationen sind dafür verantwortlich, sicherzustellen, dass die Entwicklung oder Nutzung von KI nicht nur für das Geschäft von Vorteil ist, sondern auch rechtmäßig und sicher. Während sie KI nutzen, um ihren Wettbewerbsvorteil zu schärfen, sollten Organisationen nicht zulassen, dass die Technologie außer Kontrolle gerät oder zu ihrem neuen Meister wird.