Überprüfung der fünf Haupt-Risiken von KI (Teil II von II)
Hier sind die fünf primären Risiko-Bereiche, wenn ein Unternehmen KI in einer unterstützenden oder assistierenden Rolle anstelle eines algorithmusbasierten Anwendungsfalls verwendet.
1. Datenschutz und Cybersicherheit
Interne KI-Anwendungsfälle können Chatbots, die Erstellung von Dokumenten, E-Mails und anderen Ergebnissen (z. B. Präsentationen) umfassen. Soweit Mitarbeiter sensible Daten (z. B. vertrauliche, persönliche oder regulierte Daten) in KI-Tools von Anbietern einpflegen, können diese Daten ohne angemessene Kontrollen gespeichert, übertragen oder offengelegt werden.
Wenn beispielsweise privilegiertes Material hochgeladen wird, kann die Offenlegung und Verarbeitung solcher Informationen zu einer Gefährdung des Privilegs führen. Außerdem kann die Eingabe von Daten in ein KI-Tool und die grenzüberschreitende Übertragung gegen geltende Datenschutzbestimmungen verstoßen.
2. Risiken von Drittanbietern
Unternehmen müssen genau verstehen, wie Mitarbeiter auf KI-Tools zugreifen und diese nutzen, da viele Tools informell beschafft werden können. Wenn ein Unternehmen KI-Dienste von Drittanbietern kauft, muss die Compliance die Risiken identifizieren und durch Verfahren sowie vertragliche Bestimmungen mindern.
Die Risiken können hier breit gefächert sein, da Mitarbeiter möglicherweise KI-Tools verwenden, die allgemein verfügbar sind, ohne Genehmigung der IT-Abteilung oder des Compliance-Teams. Die Nutzung von Daten und Verarbeitungsverfahren durch Drittanbieter kann möglicherweise nicht offengelegt werden, was das Risiko unbeabsichtigter Verstöße gegen Datenschutzrichtlinien erhöht.
3. Fehlinformationen und geistiges Eigentum
Fehlinformationen stellen ein großes Risiko dar, insbesondere im juristischen Bereich. Anwälte, die sich auf KI für die rechtliche Recherche verlassen, müssen sicherstellen, dass KI-generierte Materialien keine hohen Fehlerquoten aufweisen. Unternehmen müssen vermeiden, sich auf ungenaue Informationen zu stützen, die Haftungsfragen wie Verleumdung oder mögliche Verletzungen des geistigen Eigentums verursachen können.
Wenn es um ungenaue Informationen geht, ist KI oft dafür verantwortlich, schädliche und verleumderische Inhalte zu erzeugen und zu verbreiten. Unternehmen müssen Inhaltsprüfungsprotokolle einrichten, um sich vor ungenauen Ansprüchen oder Fehlinformationen zu schützen.
4. Risiken am Arbeitsplatz
HR-Profis integrieren schnell KI-Tools, um in zahlreichen Beschäftigungsfunktionen zu helfen, z. B. bei der Überwachung von Mitarbeitern oder bei KI-generierten Bewertungen. Solche Anwendungsfälle müssen offengelegt, überprüft und gemindert werden, um rechtliche Probleme zu vermeiden.
5. KI-Regulierungen
Bundes-, Landes- und lokale Vorschriften zu KI wachsen schnell. Während auf Bundesebene Argumente für einen regulativen Leichtbau vorgebracht werden, erlassen die Landes- und lokalen Regierungen umfassende KI-Regelwerke. Unternehmen müssen diese Entwicklungen überwachen, um ihre Compliance-Programme kontinuierlich zu aktualisieren.
