Forschung warnt vor 7,5 % der Open-Source-KI-Systeme für potenzielle kriminelle Nutzung
Forschende warnen, dass eine wachsende Anzahl von Open-Source-KI-Modellen außerhalb der Sicherheitskontrollen großer Technologieplattformen eingesetzt wird, was eine weitgehend unsichtbare Schicht potenziellen kriminellen Missbrauchs schafft.
Analyse der Forschungsergebnisse
Die Ergebnisse, die von Cybersecurity-Firmen präsentiert wurden, basieren auf einer Analyse öffentlich zugänglicher Bereitstellungen von Open-Source-großen Sprachmodellen über einen Zeitraum von 293 Tagen. Die Forschenden stellten fest, dass viele der beobachteten Systeme auf internetexponierten Computern mit begrenzten oder keinen Sicherheitsvorkehrungen betrieben wurden, was sie anfällig für Missbrauch durch Hacker und andere böswillige Akteure macht.
Selbstgehostete KI-Modelle können umfunktioniert werden, um Phishing-Inhalte zu generieren, Spam-Operationen zu automatisieren, Desinformationskampagnen zu unterstützen und andere illegale Aktivitäten zu fördern. Im Gegensatz zu kommerziellen KI-Plattformen, die unter zentralisierten Regeln und Überwachung arbeiten, ermöglichen Open-Source-Modelle den Betreibern, Systemanweisungen zu ändern und Sicherheitsvorkehrungen vollständig zu entfernen.
Ergebnisse der Analyse
Die Analyse ergab, dass während Tausende von Open-Source-Sprachmodellvarianten existieren, ein großer Teil der internetzugänglichen Bereitstellungen auf bekannten Modellen basierte. In Hunderten von Fällen identifizierten die Forschenden Konfigurationen, bei denen Sicherheitskontrollen ausdrücklich deaktiviert wurden.
Die Forschenden konnten Systemanweisungen in etwa einem Viertel der untersuchten Bereitstellungen einsehen. Davon wurden etwa 7,5 % als potenziell schädlich eingestuft, einschließlich Betrug, Belästigung und Datendiebstahl.
Geografisch operierten etwa 30 % der exponierten Systeme aus einem Land, während etwa 20 % in einem anderen ansässig waren, was die globale Natur des Problems unterstreicht.
Implikationen und Risiken
Fachleute für KI-Governance betonen, dass die Ergebnisse die Grenzen der plattformbasierten Sicherheitsmaßnahmen aufzeigen. Die Verantwortung für das Risikomanagement wird geteilt, sobald Modelle veröffentlicht werden, einschließlich der Verpflichtungen der Entwickler, vorhersehbare Schäden zu dokumentieren und Mitigationsleitlinien bereitzustellen.
Technologieunternehmen haben erklärt, dass Open-Source-Modelle eine wichtige Rolle bei der Innovation spielen, jedoch die Notwendigkeit für Sicherheitsvorkehrungen anerkennen, um Missbrauch zu verhindern. Die Ergebnisse weisen auf eine wachsende Herausforderung für Regulierungsbehörden hin, da der Einsatz von KI über zentralisierte Plattformen hinaus in dezentralisierte, selbstgehostete Umgebungen expandiert, die schwieriger zu überwachen und zu kontrollieren sind.
