Werden Compliance-Regeln die Art und Weise verändern, wie Unternehmen Generative KI kaufen?
Der Einkauf von KI-Lösungen durch Unternehmen hat sich von einem technologieorientierten Ansatz zu einem compliance-orientierten Ansatz gewandelt. Unter dem EU AI Act drohen Unternehmen bei Verstößen Geldstrafen von bis zu 35 Millionen Euro oder 7% des Jahresumsatzes. Die unterschiedliche Umsetzung der Regeln in den einzelnen Regionen führt zu anhaltender Komplexität für globale Unternehmen.
Regeln mit Fristen zwingen zu schnellen Veränderungen
Der AI Act trat am 1. August 2024 in Kraft und wird bis zum 2. August 2026 vollständig aktiv. Verstöße gegen diese Regeln können Unternehmen zwingen, KI-Systeme vom Markt zu nehmen, was nicht konforme Lösungen unbrauchbar macht.
Die Mitgliedstaaten der EU befinden sich in unterschiedlichen Phasen der Umsetzung des Gesetzes, während die globalen KI-Regeln stark variieren. Die Durchsetzung zeigt bereits ernsthafte Ergebnisse: Die französische CNIL verhängte Geldstrafen in Höhe von 325 Millionen Euro gegen Google und 150 Millionen Euro gegen Shein wegen Verstößen gegen die Cookie-Zustimmung.
Urheberrechtsfälle beschleunigen die Nachfrage nach sicheren Lösungen
Hohe Urheberrechtsverhandlungen ändern die Art und Weise, wie Käufer Anbieter auswählen. Anthropic einigte sich auf einen vorgeschlagenen Vergleich in Höhe von 1,5 Milliarden Dollar, der etwa 500.000 Werke abdeckt, sowie die Vernichtung rechtswidrig beschaffter Dateien.
Thomson Reuters gewann ein teilweises Urteil gegen Ross Intelligence, wobei das Gericht feststellte, dass Ross 2.243 Westlaw-Headnotes unrechtmäßig verwendet hatte und Thomson Reuters‘ Markt geschädigt hat. Einige Gerichte entschieden jedoch zugunsten von KI-Unternehmen, wie im Fall Bartz gegen Anthropic, wo das Gericht entschied, dass die Verwendung gekaufter Druckwerke für das KI-Training „hochgradig transformativ“ und somit als faire Nutzung zu betrachten ist.
Unternehmenskäufer stellen nun Compliance an erste Stelle
Diese rechtlichen Entwicklungen verändern das Kaufverhalten. Faktoren wie Sicherheit und Kosten gewinnen an Bedeutung gegenüber der allgemeinen Genauigkeit und Zuverlässigkeit. Ein Marktführer bemerkte: „Für die meisten Aufgaben erzielen alle Modelle mittlerweile ausreichend gute Ergebnisse, sodass die Preisgestaltung viel wichtiger geworden ist.“
Unternehmen, die KI-Systeme verwenden, sollten vertragliche Zusicherungen aushandeln, dass der Entwickler des KI-Systems umfassende Überprüfungen der Trainingsdaten durchgeführt und die Abhängigkeit von fragwürdigen Datensätzen beseitigt hat. Organisationen suchen zudem nach Entschädigungen von KI-Anbietern für potenzielle IP-Verletzungen, Datenschutzverletzungen und Verletzungen der Vertraulichkeit.
Compliance-Startups erhalten massive Investitionen
Unternehmen für KI-Compliance sichern sich große Finanzierungen, was die Nachfrage von Unternehmen nach Risikominderung widerspiegelt. Delve hat 32 Millionen Dollar bei einer Bewertung von 300 Millionen Dollar gesammelt, angeführt von Insight Partners, was einen Anstieg von etwa 10x im Vergleich zur vorherigen Finanzierungsrunde darstellt.
Das Unternehmen hat schnell gewachsen und bedient über 500 Unternehmen in zahlreichen Compliance-Rahmenbedingungen, um Kunden in wenigen Tagen compliant zu machen und schneller Verträge abzuschließen. Zango hat 4,8 Millionen Dollar angehoben, angeführt von Nexus Venture Partners, für seine KI-gesteuerte Governance-, Risiko- und Compliance-Plattform.
Frühzeitige Akteure gewinnen Marktanteile
Praktische Compliance bleibt trotz der Regeln schwierig. KI-Modelle können vertrauliche Informationen aus Trainingsdaten lernen und reproduzieren, was dazu führen kann, dass Ausgaben vertrauliche Informationen enthalten.
Unternehmen bewegen sich von „bauen“ zu „kaufen“ und zeigen einen deutlichen Trend hin zum Kauf von Drittanbieteranwendungen im letzten Jahr, da Unternehmen feststellen, dass intern entwickelte Tools in einem so dynamischen Bereich schwer zu warten sind. Anstatt Compliance einfach als Häkchen abzuhaken, schafft der Übergang zu einem risikobasierten Einkauf völlig neue Marktsegmente für KI, in denen die rechtliche Sicherheit eines Startups einen Bewertungsaufschlag von 10x gegenüber reiner Technologiekompetenz erzielen kann.
