Künstliche Intelligenz (KI) revolutioniert das Gesundheitswesen und bietet sowohl Chancen als auch Risiken. Ohne robuste Rahmenbedingungen für Governance, Risikomanagement und Compliance können diese Fortschritte zu ethischen Dilemmata und Gefahren für Patienten führen.
Finanzdienstleistungsunternehmen stehen zwischen sich schnell entwickelnden KI-Vorschriften, die je nach Rechtsordnung stark variieren, was Compliance-Albträume verursacht, die Innovationen ersticken können. Während der EU-AI-Act bei Nichteinhaltung Geldstrafen von bis zu 35 Millionen Euro verhängt, verfolgt die US-Politik einen wachstumsorientierten Ansatz.
Unternehmen müssen sich zunehmend mit der Governance von KI-Systemen befassen, um sicherzustellen, dass diese sicher und ethisch sind. Viele Organisationen zeigen jedoch eine Diskrepanz zwischen ihren Investitionen in KI-Technologie und der tatsächlichen Umsetzung von Governance-Maßnahmen.
Laut einer neuen Studie zeigen nordamerikanische Unternehmen eine größere Zurückhaltung bei der Integration von KI in ihre Compliance-Prozesse im Vergleich zu ihren EMEA-Gegenstücken. Während 56,3 % der nordamerikanischen Befragten keine Pläne haben, KI in den kommenden Jahren zu integrieren, planen 71,4 % der EMEA-Befragten dies.
Der Handelsminister Howard Lutnick kündigte am Dienstag Pläne zur „Reform“ des AI Safety Institute an, das in ein neues Gremium namens Center for AI Standards and Innovation umbenannt wird. Diese Namensänderung signalisiert einen Wechsel vom Begriff „Sicherheit“ hin zu einem Wunsch nach schnellerer Entwicklung der Technologie.
Das EU AI-Gesetz formt schnell die regulatorische Landschaft für die Entwicklung und den Einsatz von KI, sowohl innerhalb Europas als auch weltweit. Es wird als das weltweit erste umfassende KI-Regulationsgesetz angesehen und hat bedeutende Auswirkungen auf Unternehmen, die in der EU tätig sind.
Unternehmen stehen vor der Herausforderung, Generative AI-Projekte von Experimenten in die Produktion zu überführen, während viele weiterhin im Pilotmodus feststecken. Um GenAI erfolgreich zu skalieren, müssen Unternehmen die Datenverwaltung als strategische Priorität betrachten.
In den letzten Monaten hat die Arbeitsagentur von Nevada eine neue künstliche Intelligenz eingesetzt, um Anträge vorab zu prüfen, was den Genehmigungsprozess um das 30-Fache beschleunigt hat. Laut Timothy Galluzi, dem Chief Information Officer des Bundesstaates, hat das Tool eine Genauigkeit von 99,99 % erreicht, wobei zwei Analysten letztendlich über die Genehmigung oder Ablehnung jedes Antrags entscheiden.
Im vergangenen Jahr ist eine neue Klasse von Künstlicher Intelligenz (KI) Werkzeugen, bekannt als autonome Agenten, entstanden. Diese Agenten bringen neue Möglichkeiten in der Automatisierung mit sich, können jedoch auch bestehende Probleme im Zusammenhang mit KI, wie Vorurteile und Diskriminierung, verstärken.
Der EU AI Act ist der weltweit erste umfassende Rechtsrahmen, der speziell künstliche Intelligenz regelt. Er legt Richtlinien für die Entwicklung, den Marktzugang und die Nutzung von KI-Systemen fest und zielt darauf ab, Innovation und Investitionen in KI-Technologien zu fördern, während er Gesundheit, Sicherheit und Umwelt schützt.