Mit dem Inkrafttreten des AI-Gesetzes (Verordnung 2024/1689) im August 2024 wurde ein wegweisender Rahmen für KI geschaffen. Die europäischen Richtlinien bieten wichtige Hinweise zur Definition eines „KI-Systems“ und klären, welche Elemente zur Einstufung als KI unter EU-Recht erforderlich sind.
Das AI Office wird bald nach externen Auftragnehmern suchen, um technische Unterstützung bei der Überwachung der Einhaltung der Vorschriften zu leisten, insbesondere bei der Bewertung von Risiken, die von KI-Modellen ausgehen. Die Ausschreibung in Höhe von 9.080.000 Euro ist in sechs Lose unterteilt, die spezifische systemische Risiken ansprechen.
Die Europäische Union hat als erste weltweit umfassende Vorschriften für künstliche Intelligenz – das AI-Gesetz – eingeführt. Dieses Gesetz zielt darauf ab, die Risiken im Zusammenhang mit der Nutzung von KI zu verringern und gleichzeitig deren potenzielle Vorteile für die Wirtschaft und die Gesellschaft zu fördern.
Die EU AI-Verordnung versucht, soziotechnische Systeme mit rechtlichen Kategorien zu regulieren, die nicht für neuronale Netzwerke oder adaptive Feedbackschleifen geschaffen wurden. Die Herausforderung besteht darin, hohe ethische Ideale in umsetzbare, technische und rechtlich durchsetzbare Mechanismen zu übersetzen.
Priya Dharshini Kalyanasundaram nutzt ihre Erfahrung im Lieferantenmanagement und in der Compliance, um KI-gestützte Sicherheitsinnovationen voranzutreiben. Sie betont, dass Sicherheit nicht nur eine Kennzahl ist, sondern das Wohl von echten Menschen im Mittelpunkt stehen muss.
Die EU-KI-Verordnung könnte Bürger schützen, jedoch äußern Experten der Lebenswissenschaften Bedenken hinsichtlich der Herausforderungen, die sie für Unternehmen darstellen könnte. Während KI weiterhin den Arzneimittelentwicklungsprozess durchdringt, haben große Akteure wie Eli Lilly und Sanofi die Technologie in ihre Entwicklungsabläufe integriert.
Laut einer neuen Studie zeigen nordamerikanische Unternehmen eine größere Zurückhaltung bei der Integration von KI in ihre Compliance-Prozesse im Vergleich zu ihren EMEA-Gegenstücken. Während 56,3 % der nordamerikanischen Befragten keine Pläne haben, KI in den kommenden Jahren zu integrieren, planen 71,4 % der EMEA-Befragten dies.
Mit dem Inkrafttreten des EU-Gesetzes über künstliche Intelligenz sind Personalabteilungen nun gefordert, ihre verschiedenen KI-Anwendungen zu überprüfen, um die Vorschriften einzuhalten. Der Einsatz von KI in der Beschäftigung wird als „hochriskant“ eingestuft und unterliegt damit rechtlichen Vorgaben, insbesondere wenn er die Gesundheit, Sicherheit oder Beschäftigung einer Person beeinflussen kann.
Experten prognostizieren, dass der Lebenswissenschaftssektor beim Übergang zum EU AI Act auf Herausforderungen stoßen wird. Während AI weiterhin den Arzneimittelforschungsprozess durchdringt, haben große Akteure diese Technologie in ihre Entwicklungswege integriert.
Das EU AI-Gesetz stellt eine bedeutende Regulierung dar, die die Governance von künstlicher Intelligenz in der Finanzdienstleistungsbranche neu gestaltet. Es fordert erhebliche Änderungen und eine robuste Reaktion der Finanzinstitute, um sowohl die Einhaltung als auch Innovation sicherzustellen.