OpenAI’s Sam Altman warnt vor steigenden Cyberrisiken durch KI-Agenten
Der CEO von OpenAI warnte, dass KI-Agenten schnell als zweischneidige Technologie aufkommen. Während die Systeme immer autonomer agieren, stellen sie auch wachsende Bedrohungen dar, da ihre Größe und Sophistication sie für Hacker attraktiver machen.
Verbesserung der Modelle
Altman stellte fest, dass sich Modelle im vergangenen Jahr rapide verbessert haben und inzwischen „gut genug in der Computersicherheit sind, um kritische Schwachstellen zu finden.“
Diese Erkenntnis folgte einer Studie der Stanford University, die zeigte, dass ein KI-Agent die meisten menschlichen Hacker übertraf.
Die Stanford-Studie
Die Studie hob sowohl das Potenzial als auch die aktuellen Einschränkungen von KI-gestützten Cybersicherheitsagenten hervor. Sechs KI-Agenten und zehn menschliche Tester wurden während einer 16-stündigen Schwachstellenbewertung eines Netzwerks mit 8.000 Geräten getestet. Der ARTEMIS-KI-Agent übertraf neun von zehn menschlichen Hackern und belegte insgesamt den zweiten Platz.
ARTEMIS entdeckte neun Schwachstellen und reichte 82 Prozent seiner Ergebnisse als gültige Berichte ein. Die Forscher beschrieben die Leistung als „technische Sophistication“, die mit den besten menschlichen Teilnehmern vergleichbar ist, während sie nur 18 Dollar pro Stunde kostete, im Vergleich zu 60 Dollar für professionelle Penetrationstester.
Der Erfolg des KI-Agenten beruhte auf seiner Fähigkeit, „Unter-Agenten“ zu generieren, die Schwachstellen im Hintergrund untersuchten, während er weiterhin nach zusätzlichen Bedrohungen suchte – eine parallele Verarbeitungsfähigkeit, die menschliche Tester nicht replizieren können.
Wachsende Bedrohungen
Die Veröffentlichung der Studie fiel zeitlich mit Berichten zusammen, dass Hacker aus verschiedenen Ländern zunehmend große Sprachmodelle nutzen, um Cyberangriffe zu verfeinern.
In diesem sich entwickelnden Bedrohungsszenario hat OpenAI eine neue Position geschaffen, den Leiter der Vorbereitung. „Dies ist eine kritische Rolle zu einem wichtigen Zeitpunkt“, sagte Altman. „Modelle verbessern sich schnell und sind jetzt in der Lage, viele großartige Dinge zu tun, stellen jedoch auch einige echte Herausforderungen dar.“
Einschränkungen der KI-Agenten
Die Studie fand jedoch auch heraus, dass ARTEMIS einige Schwachstellen, die von menschlichen Teilnehmern identifiziert wurden, verpasste und Hinweise benötigte, um andere zu finden. Außerdem fehlte es KI-Agenten von Unternehmen an „Cybersicherheitsexpertise in ihrem Design.“ Diese Modelle übertrafen nur zwei der menschlichen Tester, während Agenten von etablierten Unternehmen entweder abgelehnt hatten, Schwachstellen zu suchen, oder beim Auffordern ins Stocken gerieten. Dies deutet darauf hin, dass, obwohl die Technologie vielversprechend ist, eine erhebliche Lücke besteht, bevor sie die Fähigkeiten von Elite-Menschenexperten erreichen kann.
Der Weg nach vorne
Die wachsenden Fähigkeiten von KI-Agenten repräsentieren sowohl Chancen als auch Verantwortung für die Tech-Branche. Die Schaffung der Rolle des Leiters der Vorbereitung und die Forschungsergebnisse von Stanford unterstreichen, dass die Branche die doppelte Natur dieser leistungsstarken Werkzeuge erkennt.
Während KI-Agenten fortschrittlich genug werden, um Schwachstellen aufzudecken, die ausgenutzt werden könnten, müssen Organisationen robuste Rahmenbedingungen für eine verantwortungsvolle Bereitstellung entwickeln. Die unterdurchschnittliche Leistung allgemeiner KI-Systeme im Vergleich zu spezialisierten wie ARTEMIS zeigt die Notwendigkeit für sicherheitsorientierte KI-Lösungen.
In Zukunft muss der Technologiesektor Optimismus mit Vorsicht abwägen, um seine Betriebsweise rund um KI zu gestalten. Berichte deuten darauf hin, dass KI-Agenten zunehmend von böswilligen Akteuren genutzt werden, um Angriffe im Jahr 2026 zu skalieren, was proaktive Sicherheitsmaßnahmen unerlässlich macht.
