Aufstieg und Fall von Claude: Einblicke in die AI-Governance

Banned but Irreplaceable: Claude used to destroy Iran’s defense +4 Critical Moves

Vielen Dank, dass Sie AI Governance, Ethics & Leadership lesen! Wenn Ihnen der Beitrag gefallen hat, scheuen Sie sich nicht, ihn zu liken, einen Kommentar hinzuzufügen oder ihn zu teilen!

Während die öffentliche Diskussion sich auf die Deinstallations-Trends von ChatGPT und die steigende Akzeptanz von Claude konzentriert, entfaltet sich eine viel bedeutendere Geschichte im Stillen. Am 27. Februar wurde Claude aufgrund von Bedenken hinsichtlich der Lieferkette von der Verwendung durch den Bund ausgeschlossen. Stunden später berichteten Quellen, dass es dennoch in den Arbeitsabläufen der Geheimdienste im Zusammenhang mit den Iran-Schlägen verwendet wurde.

Keine parlamentarische Debatte. Keine öffentliche Erklärung. Nur die Notwendigkeit der Operation, die die festgelegten politischen Grenzen überschreitet.

Das Muster der KI-Governance

Dies ist das Muster, das sich in der KI-Governance herausbildet: Rahmenbedingungen, die für die Optik in Friedenszeiten geschaffen wurden, und Ausnahmen, die sofort geschaffen werden, sobald Geschwindigkeit, Fähigkeit oder strategischer Vorteil auf dem Spiel stehen. Die Bürger erwarten zunehmend ethische Leitplanken; Institutionen priorisieren zunehmend operative Flexibilität. Die Rückmeldungen, die wir gegenüber Konsum-KI-Werkzeugen sehen, sind teilweise das Ergebnis der öffentlichen Wahrnehmung dieser Lücke.

Wenn ich zurückzoom, erkenne ich, dass die Spannung nicht auf Regierungen beschränkt ist. Ich sehe das gleiche Muster täglich in Unternehmen. Die Sprache von „Prinzipien“, „Werten“ und „Verantwortung“ gilt, bis der operative Druck ankommt. Dann ändert sich die Kalkulation.

Jahr für Jahr mit Rekordgewinnen enden mit Massenentlassungen. Menschen, die einst als „Familie“ bezeichnet wurden, werden als Posten behandelt. Ethische Verpflichtungen lösen sich im Moment auf, wenn Effizienz, Geschwindigkeit oder die Erwartungen der Aktionäre es verlangen.

Wöchentliche Entwicklungen in der KI-Governance

Diese Woche liegt der Exploitation vs Accountability Index bei 56, ein Rückgang von 68 in der letzten Woche.

1. Claude wurde für die Verwendung durch den Bund gesperrt, dann in den Iran-Schlägen verwendet

Ein Präsidialerlass bezeichnete Anthropic als Risiko für die Lieferkette und ordnete an, dass die Bundesbehörden die Nutzung von Claude einstellen; Berichte wiesen darauf hin, dass das US-Zentralkommando Claude für die Informationsbewertung, Zielidentifikation und simulierte Kampfszenarien während der Angriffe auf den Iran verwendete.

2. OpenAI sichert sich Pentagon-Deal und stimmt Verbot von inländischer Überwachung zu

OpenAI hat eine Vereinbarung getroffen, Modelle in klassifizierten DoD-Netzwerken einzusetzen und die Bedingungen überarbeitet, um massenhafte inländische Überwachung und bestimmte Verwendungen durch Geheimdienste ausdrücklich zu verbieten.

3. Block kündigt ~4.000 Stellen aufgrund von KI-Umstrukturierungen

Block kündigte Entlassungen von etwa 4.000 Mitarbeitern an, was fast 40% der Belegschaft ausmacht, da die Führung einen Wechsel zu kleineren, KI-gestützten Teams priorisiert.

4. Massachusetts setzt ChatGPT in der Exekutive ein

Die Gouverneurin kündigte die schrittweise Einführung eines ChatGPT-gestützten Assistenten für die ~40.000 Mitarbeiter der Exekutive des Staates an, mit angegebenen Sicherheitsvorkehrungen für Datenschutz und einer sicheren Bereitstellungsumgebung.

5. OpenAI und Microsoft schließen sich einer globalen KI-Sicherheitskoalition an

OpenAI und Microsoft haben finanzielle Unterstützung und technische Unterstützung für das Alignment-Projekt des UK AI Security Institute zugesagt und sich einer internationalen Koalition angeschlossen, die sich auf KI-Ausrichtung und Sicherheitsforschung konzentriert.

Schlussfolgerung

Der stille Moment, als Claude als Risiko für die Lieferkette eingestuft und für die Verwendung durch den Bund gesperrt wurde (nur um Stunden später für Zielsetzungen und Planungen in den Iran-Schlägen verwendet zu werden), war ein Schnappschuss davon, wo die echte KI-Governance lebt. Wo Regierungen und Labore theoretisch dasselbe wollen (Sicherheit, Ausrichtung, rote Linien), jedoch nur, wenn es nicht mit dem Gewinn des nächsten Krieges in Konflikt gerät.

Die Öffentlichkeit beginnt zu bemerken, dass die Lücken zur Norm und nicht zur Ausnahme werden.