Fokus auf Ethik, Governance und Nachhaltigkeit in der KI
Mit dem bevorstehenden AI Appreciation Day reflektieren Branchenführer über die wachsenden Auswirkungen der künstlichen Intelligenz (KI) in Australien und weltweit. Dabei wird sowohl das transformative Potenzial der Technologie als auch die dringenden Herausforderungen der Governance, Ethik und Nachhaltigkeit betont.
Verbreitung der KI-Anwendungen
Die Anwendung von KI hat sich in verschiedenen Sektoren verbreitet, darunter Einzelhandel, Finanzen, Cybersicherheit und Personalwesen. Die Country Managerin ANZ bei Adyen hebt hervor, dass KI vom Novum zur Notwendigkeit im Einzelhandel übergeht, mit einem Anstieg von 45% bei KI-gestütztem Einkaufen im vergangenen Jahr. Sie erklärt: „Ob es darum geht, den Australiern beim Planen von Mahlzeiten zu helfen oder ein Outfit zusammenzustellen, KI wird schnell zum bevorzugten Einkaufsbegleiter.“
Risiken der KI und Cyberkriminalität
Mit dem Wachstum der KI steigt auch die Komplexität der damit verbundenen Risiken. Der Director Systems Engineering APJ bei Illumio warnt: „KI wird zunehmend von Bedrohungsakteuren genutzt, um ihre Angriffe zu verstärken. Die heutigen Bedrohungen sind vielfältiger und zugänglicher, sodass selbst unerfahrene Cyberkriminelle hochwirksame Angriffe durchführen können.“ Ein Beispiel ist ein Vorfall, bei dem ein Finanzmitarbeiter einer multinationalen Bank in Hongkong durch einen Zoom Deepfake dazu verleitet wurde, 25 Millionen USD zu überweisen. Dennoch betont er, dass KI auch zur Verbesserung der Verteidigung eingesetzt wird: Werkzeuge wie KI-gestützte Cloud-Überwachung helfen Organisationen, Verstöße in Echtzeit zu erkennen und einzudämmen.
Wachstum von KI-gesteuerten Sicherheitslösungen
Cybsecurity ist nicht der einzige Bereich, der sowohl Chancen als auch Herausforderungen gegenübersteht. George Moawad, Country Manager Oceania bei Genetec, berichtet, dass über 40% der Sicherheitsentscheider nun KI-gesteuerte Lösungen priorisieren. Er betont jedoch die wachsenden Anforderungen an Transparenz, Governance und Ethik. „Diese Fähigkeit wirft auch Bedenken hinsichtlich der Überwachung und des möglichen Missbrauchs auf“, fügt er hinzu und plädiert für die Einrichtung von Aufsichtskommissionen und klaren Protokollen, um den verantwortungsvollen Einsatz von KI sicherzustellen.
Die Notwendigkeit starker Governance
Der Fokus auf Governance ist ein gemeinsames Thema in den Kommentaren der Experten. Vini Cardoso, Chief Technology Officer von Cloudera Australien und Neuseeland, betont, dass „starke Governance und strategische Führung“ entscheidend sind, da agentische KI – KI, die autonom Ziele verfolgt – an Bedeutung gewinnt. Er weist auf neue Forschungsergebnisse und einen Wandel in den Einstellungen der Branche hin und erklärt: „KI muss auf sicheren, gut regierten Datenfundamenten basieren. Ohne dies können wir die Modelle nicht vertrauen, geschweige denn sie sicher skalieren.“
Gesellschaftliche Verantwortung und Umweltauswirkungen
Angesichts dieser Herausforderungen plädieren Branchenexperten auch für einen breiteren, sozial verantwortlichen Dialog über KI. Simon Wistow, Co-Founder von Fastly, hebt die Umweltauswirkungen der KI-Innovation hervor. „Gen AI ist nicht einfach ein magischer Cloud-Dienst, der Poesie und Code ausspuckt; es sind Millionen von GPUs, die Vektoren verarbeiten und ernsthafte Energie verbrauchen“, beobachtet er und betont die Notwendigkeit von Effizienz und Transparenz in der KI-Entwicklung.
Eine Umfrage von Fastly zeigt, dass 45% der Befragten energieeffiziente Modelle priorisieren würden, wenn die Kosten für die Nutzung von KI an den Energieverbrauch gebunden wären.
Erfolgsfaktoren für die KI-Implementierung
Matthew Hardman, APAC Chief Technology Officer bei Hitachi Vantara, hebt die grundlegende Anforderung von hochwertigen Daten und effektivem Projektmanagement für eine erfolgreiche KI-Implementierung hervor. „KI benötigt hochwertige, umfassende Daten, um genaue Ergebnisse zu liefern“, erklärt Hardman und fügt hinzu, dass die Integration von KI in veraltete oder hybride Infrastrukturen sorgfältige Planung erfordert. In Übereinstimmung damit sieht David Lloyd, Chief AI Officer bei Dayforce, eine einzigartige Gelegenheit für das Personalwesen, eine strategische Führungsrolle zu übernehmen – die Einführung von KI auf eine ethische und menschenzentrierte Weise zu leiten.
Fazit
Die Botschaft der Branche ist klar: Damit KI ihr Versprechen einlösen kann, müssen Unternehmen über technische Innovationen hinausblicken und Governance, ethische Nutzung, Nachhaltigkeit und Empowerment des Menschen proaktiv priorisieren. Während Organisationen weiterhin KI in allen Aspekten ihres Betriebs einsetzen, fordern Branchenführer einen verantwortungsvollen und ausgewogenen Ansatz, damit die Vorteile von KI sicher und inklusiv für Unternehmen, Mitarbeiter und die Gesellschaft insgesamt realisiert werden können.
