Die Steuerung der internen Nutzung von Künstlicher Intelligenz – Wichtige Überlegungen
Viele Studien zeigen, dass mehr als 70 % der Unternehmen Künstliche Intelligenz (KI) intern nutzen. Dies kann die Entwicklung eines autonomen Tools oder eines Kundenservice-Chatbots bedeuten, um Effizienz in einem bestimmten Arbeitsablauf zu schaffen. In anderen Fällen handelt es sich um allgemeinere Anwendungen durch Mitarbeiter, die weit verbreitete KI-Tools verwenden.
Die Bedrohung etablierter gesetzlicher Rechte
Die Nutzung von KI-Tools erfordert häufig, dass Informationen vom Benutzer an einen Dritten zur Verarbeitung übermittelt werden, wobei das Ergebnis an den Benutzer zurückgegeben wird. Diese Übertragung von Daten außerhalb einer Organisation kann im Widerspruch zu bewährten Praktiken zum Schutz vertraulicher Informationen sowie zu gesetzlichen Anforderungen stehen.
Zum Beispiel erfordert die Patentierung einer Technologie, dass die Idee zuvor nicht öffentlich offengelegt wurde. Die Übertragung vertraulicher Informationen an ein externes KI-Tool könnte daher die Patentierbarkeit einer Idee gefährden. Um die Möglichkeit einer Patentierung zu schützen, muss die bereitgestellte Information sorgfältig kontrolliert werden, insbesondere bei Suchassistenten und Notiztools, die zunehmend zur Effizienzsteigerung eingesetzt werden.
Ähnliche Probleme ergeben sich, wenn es um die Wahrung des Anwaltsgeheimnisses geht. Der vertrauliche Umgang mit Informationen zwischen einer Person oder einem Unternehmen und ihrem Rechtsbeistand ist ein fundamentales Prinzip des Rechts, das jedoch nur so lange besteht, wie die Informationen nicht mit anderen Parteien geteilt werden. Der Einsatz von KI-Notiztools könnte das Privileg des Anwaltsgeheimnisses gefährden, was Bedenken hinsichtlich der Entdeckbarkeit in Rechtsstreitigkeiten aufwirft.
Die Bedrohung persönlicher Informationen und Sicherheitsvorkehrungen
Es gibt wachsende Bedenken hinsichtlich von Sicherheitsanfälligkeiten, die auftreten, wenn ungetestete Technologien in bestehende IT-Ökosysteme eingeführt werden. Ohne starke Sicherheitsvorkehrungen könnten unbefugte Dritte Zugriff auf Systeme erhalten, die mit dem öffentlich zugänglichen Internet verbunden sind.
Es wird auch befürchtet, dass die Bereitstellung bestimmter Informationen, wie persönliche Daten, gegen Gesetze verstoßen kann, die die Nutzung und Offenlegung solcher Informationen regeln. Die Gesetzgeber arbeiten daran, die Auswirkungen dieser leistungsstarken Tools auf Einzelpersonen zu regeln, und es ist zu erwarten, dass die Vorschriften zur Nutzung persönlicher Informationen mit KI-Tools in naher Zukunft auf Bundes- und Landesebene erweitert werden.
Die Notwendigkeit von Transparenz und menschlicher Aufsicht
Während sich die regulatorischen Rahmenbedingungen für KI weiterentwickeln, ist ein gemeinsames Element in den politischen Diskussionen die Bedeutung von Transparenz. Unternehmen sollten darauf achten, die Offenlegungspflichten im Zusammenhang mit der Nutzung von KI-Systemen zu erfüllen und geeignete Hinweise für Benutzer zu entwickeln.
Es gibt auch Berichte über Unternehmen, die „halluzinierte“ Berichte für Kunden erstellen, bei denen zugrunde liegende Zitationen oder Daten nicht auf realen Informationen basieren. Diese Halluzinationen entstehen häufig durch die Nutzung von öffentlich verfügbaren KI-Tools, deren Modelle darauf ausgelegt sind, Antworten zu generieren, die wie die richtige Antwort aussehen. Um rechtliche Risiken zu vermeiden, sollten Unternehmen sicherstellen, dass eine angemessene menschliche Aufsicht vorhanden ist, wenn KI-Tools zur Generierung von Ergebnissen eingesetzt werden.
Die Notwendigkeit von Verantwortlichkeit und Governance auf Vorstandsebene
Obwohl KI viele spannende Möglichkeiten bietet, müssen ihre Risiken sorgfältig verwaltet werden. Dies bedeutet, dass Direktoren und Führungskräfte traditionelle Governance-Praktiken anpassen müssen, um eine angemessene Aufsicht über die Nutzung von KI zu gewährleisten.
Unternehmen sollten eine geeignete KI-Governance-Politik verabschieden, die einen fortlaufenden Rahmen für die Überwachung dieser sich schnell entwickelnden Technologie bietet. Direktoren und Führungskräfte sollten ein angemessenes Verständnis der Technologie haben, die den verwendeten oder in Betracht gezogenen KI-Tools zugrunde liegt, und sicherstellen, dass sie die relevanten rechtlichen Rahmenbedingungen einhalten.
Zusammenfassend lässt sich sagen, dass KI-Tools den Nutzern die Möglichkeit bieten, erhebliche Effizienzen zu realisieren. Es wird jedoch darauf hingewiesen, dass die Anwendung dieser neuen und sich schnell entwickelnden Tools mit Risiken verbunden ist, die durch geeignete Governance-Ansätze gemanagt werden können.
