Künstliche Intelligenz wird schnell zu einem wesentlichen Bestandteil unseres täglichen Lebens und transformiert die Welt, in der wir leben. Mit der raschen und umfassenden Einführung von KI wird sie zu einer zentralen Herausforderung in Bezug auf Governance und Nachhaltigkeit, die materielle Risiken für Unternehmen mit sich bringt.
Eine globale Studie über das Vertrauen in Künstliche Intelligenz (KI) zeigt, dass mehr als die Hälfte der Menschen weltweit nicht bereit ist, KI zu vertrauen, was eine zugrunde liegende Spannung zwischen den offensichtlichen Vorteilen und den wahrgenommenen Risiken widerspiegelt. Trotz der Tatsache, dass 66 % der Menschen KI regelmäßig nutzen, bleibt das Vertrauen in KI-Systeme mit nur 46 % eine kritische Herausforderung.
Die Diskussion über KI-Sicherheit und -Schutz wird oft als Hindernis für Innovationen wahrgenommen, insbesondere in Ländern der Global Majority. Die bevorstehende AI Impact Summit in Indien im Februar 2026 bietet eine Gelegenheit, diese Spannungen zu adressieren und eine Strategie zu entwickeln, die Sicherheit und Innovation miteinander in Einklang bringt.
Im Juni haben 14 ukrainische IT-Unternehmen eine Selbstregulierungsorganisation gegründet, um ethische Ansätze für die Implementierung von künstlicher Intelligenz in der Ukraine zu unterstützen. Diese Unternehmen verpflichteten sich zur Entwicklung innovativer Produkte im Einklang mit den Prinzipien einer sicheren Nutzung von KI.
Verantwortliche KI bedeutet, KI auf ethische, transparente und gesellschaftlich sowie interessengerechte Weise über den gesamten Lebenszyklus hinweg zu entwickeln und einzusetzen. Die Prinzipien sind bedeutungslos ohne praktische Umsetzung, weshalb es an der Zeit ist, Governance-Strukturen zu schaffen, die sicherstellen, dass diese Prinzipien nicht nur theoretisch sind.
KI-Piloten werden ohne Vertrauen nicht skalierbar sein. Halluzinationen bleiben der größte Schwachpunkt, selbst fortschrittliche Modelle raten zuversichtlich, wenn sie unsicher sind.
Algorithmen entscheiden, wer im Gazastreifen lebt und stirbt, während KI-gestützte Überwachung Journalisten in Serbien verfolgt. Angesichts der tiefen geopolitischen Spaltungen ist die Frage, wer diese Technologie kontrolliert und wie sie geregelt wird, zu einer dringenden Priorität geworden.
Die Einführung von KI im Marketing und in der Werbung nimmt rasant zu, da über die Hälfte der Vermarkter bereits GenAI für kreative Inhalte und Zielgruppenansprache nutzen. Trotz der wachsenden Nutzung sind die Sicherheitsvorkehrungen unzureichend, da mehr als 70 % der Vermarkter bereits auf KI-bezogene Vorfälle gestoßen sind, während weniger als 35 % planen, in die Governance von KI zu investieren.
Versicherungsunternehmen integrieren zunehmend KI in ihre Prozesse, was zu einer schnelleren Datenverarbeitung und verbesserter Interaktion mit den Versicherungsnehmern führt. Doch diese technologischen Vorteile bringen auch regulatorische Herausforderungen mit sich, die Transparenz, Fairness und die Vermeidung von Diskriminierung erfordern.
KI-gestützte Überwachung verspricht in einigen Kontexten echte operationale Vorteile, erfordert jedoch eine sorgfältige Governance, um legitime Sicherheitsgewinne zu bewahren, ohne die Bürgerrechte zu untergraben oder Diskriminierung zu verfestigen. Die Herausforderung besteht darin, sicherzustellen, dass diese Systeme nicht so tief verwurzelt werden, dass eine Rücknahme politisch und technisch viel schwieriger wird.