Kroatien bereitet sich auf das AI-Gesetz vor: Risiken für Menschenrechte und notwendige Schutzmaßnahmen

Croatia in Vorbereitung auf das AI-Gesetz

Am 28. Mai 2025 fand eine Veranstaltung in Kroatien statt, die von einem EDRi-Partner, Politiscope, organisiert wurde. Ziel war es, die Auswirkungen von Künstlicher Intelligenz (KI) auf die Menschenrechte zu diskutieren, das Bewusstsein für KI-bezogene Schäden zu schärfen und zukünftige nationale Politiken zu beeinflussen, um Schutzmaßnahmen für die Rechte der Menschen zu integrieren.

Politiscope-Veranstaltung: KI und ihre Auswirkungen auf Menschen und ihre Rechte

Die Veranstaltung wurde in der Kroatischen Journalistenvereinigung abgehalten und richtete sich an Journalisten und Aktivisten. Dies geschah zu einem entscheidenden Zeitpunkt, da Kroatien ein nationales Gesetz zur Umsetzung des EU AI Act vorbereitet. Schlüsselentscheidungen, wie die Benennung der Durchsetzungsbehörde, stehen noch aus, was diesen Moment besonders wichtig macht, um das Bewusstsein für KI-bezogene Schäden zu erhöhen und politische Maßnahmen zu beeinflussen, die den Schutz der Menschenrechte in die nationale Gesetzgebung einbeziehen.

Nach der Verabschiedung des EU AI Act im Mai 2024 hat die kroatische Regierung erst kürzlich eine Arbeitsgruppe gebildet, um ein nationales Gesetz zu entwerfen, das das Gesetz umsetzt.

Risiken der KI: Überwachung, Diskriminierung und ungerechte Systeme

Die Veranstaltung begann mit einer eindringlichen Erinnerung daran, dass Technologie das tägliche Leben der Menschen schädigen kann, wenn sie nicht ordnungsgemäß reguliert wird. Vanja Skoric, Programmleiter der EDRi-Mitgliedsorganisation ECNL, hob hervor, wie KI die Privatsphäre, die Gleichheit und andere Rechte bedrohen kann. Ella Jakubowska, Leiterin der Politik bei EDRi, stellte „Protect Not Surveil“ vor, eine Koalition, die sich für Schutzmaßnahmen für Menschen auf der Flucht gegen Schäden durch Technologien wie KI einsetzt, sowie „Reclaim Your Face“, eine europaweite Kampagne, die ein Verbot der biometrischen Massenüberwachung fordert. Die Teilnehmer wurden darauf hingewiesen, dass biometrische Überwachungssysteme oft ungenau, aufdringlich und unverhältnismäßig benachteiligend für marginalisierte Gemeinschaften sind.

Weitere Redner teilten reale Beispiele für Schäden, die durch KI-Systeme verursacht wurden. Jelle Klaas (PILP) beschrieb, wie strategische Rechtsstreitigkeiten in den Niederlanden zur Entfernung von diskriminierenden Algorithmen führten, die von Banken zur Terrorismusprofilierung verwendet wurden. Filip Milošević (SHARE Foundation, ein EDRi-Mitglied) berichtete darüber, wie die Zivilgesellschaft erfolgreich die Einführung von biometrischer Überwachung in Serbien stoppte. Nađa Marković (A11 Initiative) präsentierte besorgniserregende Erkenntnisse darüber, wie automatisierte Systeme unfair sozialen Leistungen für gefährdete Menschen verweigern. Tamara Zavišić (ETIK.AI) warnte davor, dass die unternehmensinternen Definitionen von „Werten“ und „Sicherheit“, die in KI-Modelle eingebaut sind, oft mangelnde Transparenz und Verantwortlichkeit aufweisen.

Statt der üblichen Narrative von Technologielösungen und Technologiedystopien konzentrierte sich die Veranstaltung von Politiscope darauf, die tatsächlichen Risiken und Schäden an grundlegenden Rechten aufzuzeigen, die heute stattfinden. Durch die Sensibilisierung für algorithmische Voreingenommenheit, Diskriminierung und rechtswidrige Überwachung wurde der erste Schritt zur dringenden Notwendigkeit einer kollektiven Forderung nach stärkeren Schutzmaßnahmen und Verantwortlichkeit markiert.

Wege nach vorne: Einbettung der Menschenrechts-Perspektive in die KI-Governance

Auf der Veranstaltung erläuterte Duje Prkut (Politiscope) den EU AI Act und erklärte, wie das bevorstehende nationale Gesetz Kroatiens die Zukunft der KI-Governance gestalten wird. Ein Panel mit Experten der Kroatischen Datenschutzbehörde (Anamarija Mladinić), SHARE Foundation (Danilo Krivokapić), Danes je nov dan (Maja Cimerman) und Politiscope (Duje Kozomara) diskutierte über die Bedeutung, über die Mindestanforderungen des EU AI Act hinauszugehen.

Maja Cimerman stellte das „Register für die öffentliche Nutzung von KI“ vor. Dieses Tool setzt eine höhere Transparenzschwelle, indem es dokumentiert, wo und wie KI in öffentlichen Institutionen eingesetzt wird, um öffentliche Aufsicht und Verantwortlichkeit zu ermöglichen. Initiativen wie diese zeigen, dass proaktive, bürgerzentrierte Lösungen möglich und effektiv sind.

Politiscope empfahl für die KI-Governance in Kroatien:

• Öffentliches Register aller KI und Algorithmen, die von der öffentlichen und staatlichen Verwaltung verwendet werden
• Verbot der lebenden biometrischen Überwachung in öffentlichen Räumen
• Die bedeutende Teilnahme der Zivilgesellschaft an der Entwicklung des nationalen KI-Rechts- und Politikrahmens
• Die Benennung der Datenschutzbehörde als einzige Marktüberwachungsbehörde, um den AI Act in Kroatien durchzusetzen

Demokratisierung der KI-Politik: Forderungen nach Offenheit und Teilnahme

Politiscope hat seine Empfehlungen an die Arbeitsgruppe unter dem Ministerium für Justiz, Justizwesen und digitale Transformation übermittelt, die für die Ausarbeitung des Umsetzungsakts für den EU AI Act zuständig ist. Weder Politiscope noch eine andere zivilgesellschaftliche Organisation (CSO) wurden in diese Arbeitsgruppe einbezogen. Vertreter der Datenschutzbehörde, des Ombudsmanns und des führenden privaten AI-Verbandes, CroAI, haben alle ihre Unterstützung für die Einbeziehung von Politiscope und anderen CSOs in die Arbeitsgruppe zum Ausdruck gebracht.

Die gesetzgeberischen und politischen Prozesse in Kroatien werden zunehmend zentralisiert und intransparent. Während private Sektorverbände und Gewerkschaften oft aufgrund der Einhaltung sozialer Dialogprinzipien in Arbeitsgruppen einbezogen werden, bleibt die Zivilgesellschaft der am wenigsten vertretene Sektor. Es laufen Aktivitäten, um die Teilnahme der Zivilgesellschaft an Entscheidungsprozessen in Bezug auf digitale Rechte, einschließlich des AI Acts, zu fördern und sicherzustellen. Politiscope wird weiterhin für inklusivere und transparentere gesetzgeberische und politische Prozesse eintreten.

Die von Politiscope organisierte thematische Konferenz war die erste KI-spezifische Live-Veranstaltung in Kroatien, die von einer NGO oder einer Aufsichtsorganisation organisiert wurde. Es war ein bescheidener erster Schritt, um zivilgesellschaftliche Akteure und Journalisten zusammenzubringen, die an der sicheren, transparenten und ethischen Entwicklung und Nutzung von KI interessiert sind.