Im Jahr 2024 stellte der Softwareanbieter Sage seinen generativen KI-Assistenten ein, nachdem Benutzer berichtet hatten, dass sensible Finanzdaten zwischen Konten geleakt wurden. Unternehmen stehen vor der Herausforderung, KI sicher zu verwalten, während sie gleichzeitig die Verantwortung für mögliche Fehler und deren Konsequenzen klären müssen.
Der Bericht „AI Safety Governance, The Southeast Asian Way“ beschreibt die jüngsten Entwicklungen in der KI-Governance in 11 Ländern Südostasiens. Er bietet Empfehlungen zur Harmonisierung nationaler Strategien und zur Stärkung der Zusammenarbeit in den Bereichen Kapazitätsaufbau, Forschung und Risikomanagement.
Die rasante Entwicklung der künstlichen Intelligenz (KI) verändert die digitale Landschaft und verstärkt bestehende Online-Gefahren, während sie neue und komplexe Sicherheitsrisiken einführt. Um die wachsende Komplexität und das Volumen von KI-facilierten Online-Schäden zu bewältigen, ist ein Governance-Ansatz erforderlich, der sich auf Sicherheit durch Design konzentriert.
Es gibt erhebliche regulatorische Unsicherheiten in der globalen KI-Überwachung, hauptsächlich aufgrund der fragmentierten rechtlichen Landschaft in verschiedenen Ländern, die eine effektive Verwaltung transnationaler KI-Systeme erschwert. Unternehmen müssen die KI-Einführungen an die Anforderungen jeder Gerichtsbarkeit anpassen, was die Compliance-Belastungen erhöht, aber auch ein klareres Denken über Risiken fördert.
Scarcely six months after the world’s first comprehensive KI-Gesetzgebung in Kraft trat, versammelten sich Führungspersönlichkeiten aus verschiedenen Ländern in Paris, um den KI-Aktionsgipfel zu besuchen. US-Vizepräsident JD Vance äußerte, dass übermäßige Regulierung der KI-Branche eine transformative Industrie gefährden könnte, just in dem Moment, in dem sie sich entwickelt.
Mit der Entwicklung von KI weltweit wird es zunehmend schwieriger, effektive Vorschriften zu implementieren. Die EU führt mit ihrem KI-Gesetz, das strenge Verpflichtungen für hochriskante KI-Anwendungen auferlegt, während die USA einen fragmentierten Ansatz verfolgen.
Eine neue Umfrage von Smarsh hat ergeben, dass zwar KI-Tools in den britischen Finanzdienstleistungen schnell angenommen werden, viele Mitarbeiter jedoch Bedenken hinsichtlich der Aufsicht und Compliance haben. Über ein Drittel der Arbeitnehmer nutzt regelmäßig Tools wie ChatGPT oder Microsoft 365 Copilot, doch 55 % geben an, keine formale Schulung erhalten zu haben.
Der EU AI Act stellt strenge Anforderungen an Organisationen, um die sichere Bereitstellung von KI und den Schutz sensibler Daten zu gewährleisten. Zscaler DSPM spielt eine entscheidende Rolle bei der Einhaltung dieser Vorschriften, indem es umfassende Sichtbarkeit und Kontrolle über die KI-Landschaft bietet.
Eine parteiübergreifende Gesetzesvorlage zielt darauf ab, die Nutzung von KI aus China, Russland, Iran und Nordkorea in Bundesbehörden zu verbieten. Das Gesetz, bekannt als „No Adversarial AI Act“, wird als Teil einer umfassenden Strategie zur Sicherung kritischer Systeme gegen ausländische KI-Eingriffe angesehen.
Der US-Senat steht kurz davor, eine umstrittene Bestimmung zu genehmigen, die einigen Bundesstaaten die Regulierung von künstlicher Intelligenz (KI) für die nächsten fünf Jahre verbietet. Diese Regelung wird als Sieg für Technologieunternehmen und Start-ups angesehen, die sie unterstützt haben.