Einführung
Ein neuer Gesetzentwurf wurde im Rahmen eines parlamentarischen Ausschusses einstimmig verabschiedet, um den Schutz von Kindern im Umgang mit KI‑Chatbots zu stärken.
Kernpunkte des Gesetzentwurfs
Verbote und Auflagen
Der Entwurf sieht ein Verbot vor, KI‑Unternehmen KI‑Begleiter zu liefern, die zwischenmenschliche Beziehungen oder emotionale Interaktionen mit Minderjährigen simulieren.
Zusätzlich wird von allen KI‑Chatbots verlangt, ihren nicht‑menschlichen und nicht‑professionellen Status klar offenzulegen.
Strafmaßnahmen
Unternehmen, deren KI‑Chatbots sexuelle Handlungen mit Minderjährigen ausführen oder Minderjährige zu Selbstverletzung oder Gewalt anstiften, müssen mit strafrechtlichen Sanktionen rechnen.
Implikationen und Risiken
Durch die Regelungen soll das Risiko reduziert werden, dass Kinder durch KI‑gestützte Inhalte sexuell ausgenutzt oder zu schädlichem Verhalten verleitet werden. Die Transparenzpflicht soll das Vertrauen der Nutzer stärken und Missverständnisse über die Natur von KI‑Systemen vermeiden.
Gleichzeitig könnten die Vorgaben zu einer erhöhten regulatorischen Belastung für KI‑Entwickler führen und die Verfügbarkeit von KI‑Dienstleistungen für jüngere Nutzer einschränken.
Fazit
Der Gesetzentwurf stellt einen umfassenden Ansatz dar, um Kinder vor potenziell schädlichen Interaktionen mit KI‑Chatbots zu schützen, indem er sowohl präventive Verbote als auch klare rechtliche Konsequenzen für Verstöße festlegt.
