Anthropic investiert 20 Millionen Dollar in KI-Regulierung

Anthropic spendet 20 Millionen Dollar an Public First Action

Künstliche Intelligenz (KI) wird enorme Vorteile bringen – für Wissenschaft, Technologie, Medizin, wirtschaftliches Wachstum und vieles mehr. Aber eine so leistungsstarke Technologie birgt auch erhebliche Risiken.

Risiken der KI

Diese Risiken könnten aus dem Missbrauch der Modelle resultieren: KI wird bereits eingesetzt, um Cyberangriffe zu automatisieren; in Zukunft könnte sie sogar bei der Produktion gefährlicher Waffen helfen. Auch die Modelle selbst können schädliche Aktionen durchführen, die den Absichten ihrer Nutzer entgegenstehen und außerhalb ihrer Kontrolle liegen.

Die Fähigkeiten von KI-Modellen nehmen in rasantem Tempo zu, von einfachen Chatbots im Jahr 2023 zu den heutigen „Agenten“, die komplexe Aufgaben ausführen. Die Rate des Fortschritts beschränkt sich nicht nur auf die Softwareentwicklung; viele andere Berufe sind bereits betroffen.

Politische Entscheidungen und ihre Bedeutung

Die politischen Entscheidungen zur KI, die wir in den nächsten Jahren treffen, werden nahezu jeden Bereich des öffentlichen Lebens betreffen, von dem Arbeitsmarkt über den Schutz von Kindern im Internet bis hin zur nationalen Sicherheit und dem Machtgleichgewicht zwischen Nationen.

In solchen Umständen benötigen wir gute Richtlinien: flexible Regulierungen, die es uns ermöglichen, die Vorteile der KI zu nutzen, die Risiken in Schach zu halten und sicherzustellen, dass Amerika im Wettlauf um die KI an der Spitze bleibt. Das bedeutet, kritische KI-Technologie aus den Händen von Amerikas Gegnern herauszuhalten, sinnvolle Schutzmaßnahmen aufrechtzuerhalten, das Wachstum von Arbeitsplätzen zu fördern, Kinder zu schützen und echte Transparenz von den Unternehmen zu verlangen, die die mächtigsten KI-Modelle entwickeln.

Engagement für KI-Governance

Wir möchten nicht tatenlos zusehen, während diese Richtlinien entwickelt werden. Aus diesem Grund wird eine Spende von 20 Millionen Dollar an eine neue parteiübergreifende Organisation geleistet, die sich für die öffentliche Aufklärung über KI einsetzt, Schutzmaßnahmen fördert und sicherstellt, dass Amerika im Wettlauf um die KI an der Spitze bleibt.

Aktuelle Umfragen zeigen, dass 69 % der Amerikaner der Meinung sind, die Regierung tue „nicht genug, um die Nutzung von KI zu regulieren“. Diese Meinung teilen wir. KI wird schneller angenommen als jede Technologie in der Geschichte, und das Zeitfenster, um die Politik richtig zu gestalten, schließt sich. Derzeit gibt es jedoch keine offiziellen Schutzvorkehrungen und kein föderales Regelwerk in Sicht.

Öffentliche Aufklärung und politische Mobilisierung

Derzeit gibt es nur wenige organisierte Bemühungen, um Menschen und Politiker zu mobilisieren, die verstehen, was auf dem Spiel steht bei der Entwicklung von KI. Stattdessen fließen riesige Ressourcen in politische Organisationen, die diese Bemühungen ablehnen.

Die neue Organisation wird parteiübergreifend arbeiten und sich mit Republikanern, Demokraten und Unabhängigen zusammenschließen, die die gleichen politischen Prioritäten teilen:

• Forderung nach Transparenzmaßnahmen für KI-Modelle, die der Öffentlichkeit mehr Einblick und damit mehr Vertrauen geben, dass führende KI-Unternehmen Risiken verantwortungsvoll managen;
• Unterstützung eines robusten föderalen Rahmenwerks für die KI-Governance und Ablehnung der Vorherrschaft staatlicher Gesetze, es sei denn, der Kongress ergreift stärkere Schutzmaßnahmen;
• Unterstützung intelligenter Exportkontrollen für KI-Chips, die Amerika vor autoritären Gegnern schützen;
• Verfolgung gezielter Regulierungen, die sich auf die unmittelbarsten Risiken konzentrieren: KI-gestützte biologische Waffen und Cyberangriffe.

Fazit

Diese politischen Maßnahmen sind nicht parteiisch. Sie dienen auch nicht dem Nutzen des Unternehmens als KI-Entwickler – effektive KI-Governance bedeutet mehr Kontrolle über Unternehmen wie unseres, nicht weniger. Die Unternehmen, die KI entwickeln, haben die Verantwortung, sicherzustellen, dass die Technologie dem Wohl der Öffentlichkeit dient und nicht nur ihren eigenen Interessen.

Diese Spende ist Teil des Engagements für eine Governance, die das transformative Potenzial von KI ermöglicht und gleichzeitig die Risiken angemessen verwaltet.