Agentische KI: Herausforderungen und Bedrohungen im Cybersecurity-Bereich

RSAC Rückblick: Agentic AI, Governance-Lücken und Insider-Bedrohungen

Die RSAC Konferenz hat in diesem Jahr erneut die zentrale Rolle von Künstlicher Intelligenz (KI) in der Cybersicherheit hervorgehoben. Mit nahezu 44.000 Teilnehmern, 730 Rednern und 650 Ausstellern war die Veranstaltung ein bedeutendes Forum für Diskussionen über die Herausforderungen und Chancen, die KI mit sich bringt.

Vollständige KI-Adoption in der Cybersicherheit

Die Konferenz zeigte, dass viele Organisationen bereits in die aggressive Implementierung von generativer KI übergegangen sind. Laut einer Umfrage der Cloud Security Alliance (CSA) planen 90% der Organisationen, KI für Sicherheitszwecke einzusetzen. Dies führt zu einer Verbesserung der Fähigkeiten von IT- und Sicherheitsteams, während sie gleichzeitig Freiraum für wertvollere Aufgaben schaffen.

Auf der anderen Seite nutzen auch Cyberkriminelle diese Technologien, was zu einem Wettlauf zwischen guten und bösen Akteuren führt. Ein Beispiel ist die Bedrohung durch KI-unterstützte Malware, die als eines der größten Risiken für Unternehmen angesehen wird.

Governance-Lücken in Unternehmen

Ein häufiges Problem, das auf der Konferenz angesprochen wurde, sind die Lücken in der Governance von KI-Anwendungen. Oft konzentrieren sich Governance-Ausschüsse zu stark auf Datenschutz und Sicherheitsfragen, während andere wichtige Aspekte wie rechtliche Haftung und Lizenzrisiken vernachlässigt werden. Dies führt dazu, dass Organisationen KI-Tools genehmigen, ohne vollständige Risikoanalysen durchzuführen.

Um dieser Herausforderung zu begegnen, müssen Unternehmen von einer kurzfristigen Nutzung hin zu einer strategischen Planung von KI-Anwendungen übergehen, die sich an den übergeordneten Zielen der Organisation orientiert.

Proliferation von Insider-Bedrohungen

Insider-Bedrohungen sind ein altes Problem der Cybersicherheit. Auf der Konferenz wurde über aktuelle Scams berichtet, bei denen US-Technologiefirmen in die Falle gelockt wurden, Nordkoreanische Cyber-Operative als entfernte IT-Mitarbeiter einzustellen. Dies verdeutlicht die Notwendigkeit einer engeren Zusammenarbeit zwischen HR, Rechtsabteilung und Sicherheitsteams zur Identifizierung gefälschter Bewerbungsunterlagen.

Es besteht jedoch ein Mangel an fortlaufenden Gesprächen über diese aufkommenden Bedrohungen. Oft konzentrieren sich die Teams eher auf Compliance-Anforderungen als auf proaktive Maßnahmen zur Verhinderung solcher Vorfälle.

Fazit

Die RSAC Konferenz hat einmal mehr die aktuellen Herausforderungen und Trends in der Cybersicherheit deutlich gemacht. Insbesondere die Themen KI und Insider-Bedrohungen stehen im Mittelpunkt der Diskussionen. Es ist klar, dass proaktive Verantwortlichkeit und Governance notwendig sind, um die negativen Auswirkungen von KI und ungewollten Insidern zu minimieren.

Die Zukunft der Cybersicherheit wird stark von der Fähigkeit abhängen, diese Herausforderungen erfolgreich zu bewältigen und neue Strategien zur Integration von KI in Sicherheitsstrategien zu entwickeln.

More Insights

EU AI-Gesetz und Australiens Sicherheitsrahmen: Ein globaler Überblick

Laut dem DJ Piper Technology’s Legal Edge-Blog müssen globale Unternehmen, die künstliche Intelligenz einsetzen, die internationalen KI-Vorschriften verstehen. Die Europäische Union und Australien...

Quebecs KI-Politik für Hochschulen und Cégeps

Die Regierung von Quebec hat eine neue KI-Richtlinie für Universitäten und CÉGEPs veröffentlicht, um die Nutzung von generativer KI im Hochschulbereich zu regeln. Die Richtlinien betonen die...

Deutschland setzt AI Act um: Neue Regelungen für KI-Compliance

Die bestehenden Regulierungsbehörden werden die Verantwortung für die Überwachung der Einhaltung des EU-AI-Gesetzes durch deutsche Unternehmen übernehmen, wobei der Bundesnetzagentur (BNetzA) eine...

Weltführer und KI-Pioniere fordern verbindliche globale AI-Schutzmaßnahmen bis 2026

Weltführer und KI-Pioniere fordern die UN auf, bis 2026 verbindliche globale Sicherheitsvorkehrungen für KI zu schaffen. Diese Initiative zielt darauf ab, die Risiken und Herausforderungen, die mit...

Künstliche Intelligenz im Zeitalter des Zero Trust: Governance neu denken

Im Jahr 2025 sehen wir, wie KI von einem bloßen Schlagwort zu einer praktischen Anwendung in verschiedenen Bereichen wird. Effektive Governance in einer Zero-Trust-Wirtschaft ist entscheidend, um...

Neue AI-Strategie: Technisches Sekretariat statt Regulator

Der bevorstehende Governance-Rahmen für künstliche Intelligenz könnte ein "technisches Sekretariat" umfassen, das die KI-Politik zwischen den Regierungsbehörden koordiniert. Dies stellt einen Wechsel...

KI-Sicherheit als Motor für Innovation in Schwellenländern

Die Diskussion über KI-Sicherheit und -Schutz wird oft als Hindernis für Innovationen wahrgenommen, insbesondere in Ländern der Global Majority. Die bevorstehende AI Impact Summit in Indien im Februar...

AI-Governance in ASEAN: Auf dem Weg zu einem einheitlichen Ansatz?

Wenn es um KI geht, legisliert Europa, während Amerika auf marktorientierte Innovation setzt und China zentral steuert. ASEAN hingegen setzt auf einen konsensorientierten Ansatz, der eine freiwillige...