„Governance ist eine unersetzliche Rolle“: Warum Vielfalt und Fachwissen im Sektor Sicherheitskräfte im Zeitalter der agentischen KI relevant halten
In einer sich schnell verändernden Bedrohungslandschaft müssen Sicherheitsteams ihre Relevanz durch KI-Fähigkeiten und ein verstärktes Augenmerk auf die Vorteile der Vielfalt aufrechterhalten. Auch wenn Organisationen zunehmend autonome KI-Sicherheitsagenten einsetzen, um den Herausforderungen der neuen Technologien zu begegnen.
Die Rolle von Governance
Eine der zentralen Aussagen ist, dass Governance eine entscheidende Rolle in der Sicherheitslandschaft der Zukunft spielen wird. Es ist von größter Bedeutung, dass diese KI-Agenten ihre Aufgaben erfüllen und der Menschheit dienen, wie es vorgesehen ist. Die Verantwortung der Sicherheitskräfte wird darin bestehen, sicherzustellen, dass die von ihnen entwickelten Systeme in der Lage sind, die Sicherheitsbedrohungen zu bewältigen.
Die Bedeutung von Vielfalt
Die Sicherheitsprofis müssen sich der Vielfalt der Angreifer bewusst sein, die aus allen möglichen Hintergründen kommen. Jakkal betont, dass die inhumanen, innovativen und kreativen Denkweisen der Menschen auch in einer von KI dominierten Welt wertvoll bleiben. Kognitive Vielfalt wird als ebenso wichtig erachtet, um den Herausforderungen in der Cybersicherheit gerecht zu werden.
KIs und ihre Herausforderungen
Die Einführung von KI wird die Art und Weise verändern, wie Cyber-Profis arbeiten. Jakkal hebt hervor, dass Künstliche Intelligenz nicht nur eine „nice-to-have“ Fähigkeit ist, sondern eine Notwendigkeit für das Überleben in der neuen Welt. Die Unternehmen müssen sich darauf einstellen, dass Angriffe zunehmen und die Verteidigungssysteme angepasst werden müssen.
„Im letzten Jahr hatten wir 4.000 Passwortangriffe pro Sekunde. In diesem Jahr sind es bereits 7.000“, erklärt Jakkal. Dies verdeutlicht die Dringlichkeit, mit der sich Sicherheitsorganisationen mit den neuen Technologien und ihren Herausforderungen auseinandersetzen müssen.
Identitätsmanagement und Sicherheitsüberlegungen
Die Identitätskontrollen sind entscheidend, um zu definieren, auf welche Daten die Agenten Zugriff haben und mit welchen Benutzern sie interagieren können. Jakkal warnt vor den Risiken, die mit der Interaktion von KI-Agenten mit internen Benutzern verbunden sind, da 20% der Datenverletzungen heute von Insidern verursacht werden.
„Identität wird ein kritisches Element der KI während ihres gesamten Lebenszyklus sein“, so Jakkal. „KI-Agenten müssen Identitäten haben und verstehen, wie wir sie verifizieren und den Zugriff auf das Minimum beschränken können.“
Die Zukunft der künstlichen Intelligenz in der Cybersicherheit
Microsoft hat bereits KI-Agenten für Sicherheitszwecke im Rahmen seines Security Copilot-Angebots eingesetzt. In den nächsten zwei Jahren wird sich die KI von einem Niveau der Autonomie, das lediglich repetitive Aufgaben automatisiert, zu einem Niveau entwickeln, auf dem sie in der Lage ist, eigenständig Ziele zu setzen und komplexere Ergebnisse zu erzielen.
„Morgen wird es autonomer sein, in der Lage sein, eigene Unterziele zu erstellen und möglicherweise die Modelle selbst zu ändern, um seine Ziele zu erreichen“, schließt Jakkal.
