Null-Vertrauen-Datenverwaltung zum Schutz von KI-Modellen
Organisationen müssen ihrem Vertrauen in Daten weniger Aufmerksamkeit schenken, da ein großer Teil dieser Daten von KI erzeugt wird, so neue Forschungsergebnisse.
Mit der zunehmenden Nutzung generativer KI durch Unternehmen wächst das Risiko, dass zukünftige große Sprachmodelle (LLMs) auf Ausgaben früherer Modelle trainiert werden, was die Gefahr eines sogenannten Modell-Kollapses erhöht.
Empfehlungen zur Risikominderung
Um dies zu vermeiden, empfehlen Experten, dass Unternehmen Änderungen vornehmen, um das Risiko unbestätigter Daten zu managen. Dazu gehört die Ernennung eines KI-Governance-Leiters, der eng mit den Daten- und Analyse-Teams zusammenarbeitet. Zudem sollte die Zusammenarbeit zwischen den Abteilungen durch funktionsübergreifende Gruppen verbessert werden, die Vertreter aus den Bereichen Cybersecurity, Daten und Analytik umfassen. Bestehende Sicherheits- und Datenmanagementrichtlinien sollten aktualisiert werden, um die Risiken durch KI-generierte Daten zu berücksichtigen.
Prognose für die Zukunft
Es wird prognostiziert, dass bis 2028 50 % der Organisationen eine Null-Vertrauens-Haltung für die Datenverwaltung aufgrund der Flut unbestätigter KI-generierter Daten annehmen müssen.
„Organisationen können Daten nicht mehr implizit vertrauen oder davon ausgehen, dass sie von Menschen erzeugt wurden“, so ein verantwortlicher Experte in einer Stellungnahme. „Da KI-generierte Daten allgegenwärtig und von menschlich erzeugten Daten nicht zu unterscheiden sind, ist eine Null-Vertrauens-Haltung mit Authentifizierungs- und Verifizierungsmaßnahmen unerlässlich, um geschäftliche und finanzielle Ergebnisse zu schützen.“
Herausforderungen durch unterschiedliche Ansätze
Die Situation wird zusätzlich kompliziert, da es unterschiedliche Ansätze von Regierungen hinsichtlich der KI geben wird. „Die Anforderungen können je nach Region erheblich variieren, wobei einige Jurisdiktionen strengere Kontrollen für KI-generierte Inhalte durchsetzen möchten, während andere einen flexibleren Ansatz verfolgen“, so der Experte.
Ein anschauliches Beispiel für die Probleme der Datenverwaltung durch KI war der Fall, als ein Unternehmen einen Teil einer Regierungsvertragsgebühr zurückerstatten musste, nachdem KI-generierte Fehler, einschließlich nicht existierender rechtlicher Zitationen, in einem Abschlussbericht enthalten waren.
