AI-Risiken steuern: Antrhopics Sicherheitsorientierter Ansatz

Welche Maßnahmen setzt Anthropic für die Risikosteuerung bei der Entwicklung und dem Einsatz von KI ein?

Die Risikosteuerungsstrategie von Anthropic basiert auf einem abgestuften System, das als AI Safety Level (ASL) Standards bezeichnet wird. Diese Standards sind von zentraler Bedeutung für die Bewertung und Minderung der Risiken, die mit immer leistungsfähigeren KI-Modellen verbunden sind. Der Ansatz umfasst eine Kombination aus technischen, betrieblichen und politischen Maßnahmen, um eine verantwortungsvolle KI-Entwicklung und -Einsatz zu gewährleisten.

Kernkomponenten der KI-Risikosteuerung von Anthropic

• AI Safety Level Standards (ASL Standards): Diese Standards werden in Deployment- und Security Standards unterteilt. Deployment Standards konzentrieren sich auf die sichere Nutzung durch interne und externe Benutzer, während Security Standards darauf abzielen, KI-Modelle vor unbefugtem Zugriff oder Diebstahl zu schützen. Alle aktuellen Modelle müssen mindestens ASL-2 erfüllen.
• Capability Thresholds: Dies sind vordefinierte KI-Fähigkeitsstufen, die, wenn sie erreicht werden, die Notwendigkeit höherer ASL-Standards auslösen. Sie bedeuten eine deutliche Risikoerhöhung, die verbesserte Schutzmaßnahmen erfordert. Spezifische Capability Thresholds umfassen Bedenken in Bezug auf chemische, biologische, radiologische und nukleare (CBRN) Waffen sowie autonome KI-Forschung und -Entwicklung (KI F&E).
• Required Safeguards: Dies sind die spezifischen Sicherheitsmaßnahmen, die für jeden Capability Threshold erforderlich sind, um Risiken auf ein akzeptables Maß zu reduzieren. Sie stellen die praktische Umsetzung der ASL-Standards dar.
• Capability Assessment: Beinhaltet vorläufige und umfassende Tests, um festzustellen, ob die Fähigkeiten eines Modells die festgelegten Capability Thresholds überschreiten. Wenn Schwellenwerte überschritten werden, werden Modelle auf ASL-3 Required Safeguards hochgestuft.
• Safeguards Assessment: Bewertet, ob die implementierten Maßnahmen die ASL-3 Required Safeguards erfüllen. Dies umfasst Red-Teaming, Threat Modeling und die Einrichtung robuster Sicherheitsrahmen.
• Follow-up Capability Assessment: Wird in Verbindung mit der Hochstufung eines Modells auf ASL-3 Required Safeguards durchgeführt, um sicherzustellen, dass keine weiteren Schutzmaßnahmen erforderlich sind.

Praktische Werkzeuge und Prozesse

Um festzustellen, ob der ASL-2 Standard weiterhin angemessen ist, führt Anthropic routinemäßig Überprüfungen an neuen und bestehenden Modellen durch, beginnend mit einer vorläufigen Bewertung. Zu den wichtigsten Aspekten dieses Prozesses gehören:

• Messung der Leistung bei automatisierten Tests
• Verfolgung der kumulativen Feinabstimmung seit der letzten umfassenden Bewertung.

Wenn diese Überprüfungen bestanden werden, sind keine weiteren Tests erforderlich. Wenn ein umfassenderer Testzyklus erforderlich ist, führt das Unternehmen eine umfangreichere Bewertung durch, um sicherzustellen, dass die Risiken unterhalb des Schwellenwerts bleiben.

Governance und Transparenz

Anthropic’s Engagement für verantwortungsvolle KI erstreckt sich auf interne Prozesse und externe Transparenz. Zu den wichtigsten Maßnahmen gehören:

• Responsible Scaling Officer: Ein bestellter Mitarbeiter, der für die Sicherstellung der effektiven Gestaltung und Umsetzung der Responsible Scaling Policy verantwortlich ist.
• Interne Sicherheitsverfahren: Entwicklung von Verfahren für Incidentszenarien, wie z. B. das Anhalten des Trainings oder die Reaktion auf Sicherheitsverletzungen.
• Transparenz: Öffentliche Freigabe wichtiger Informationen in Bezug auf die Modellevaluierung und den Einsatz, einschließlich Zusammenfassungen von Capability und Safeguards Reports.
• Expertenmeinung: Aktive Einholung von Beiträgen von externen Experten in relevanten Bereichen, um Fähigkeits- und Schutzmaßnahmenbewertungen zu informieren.
• Aufsicht durch den Verwaltungsrat: Änderungen an der Responsible Scaling Policy werden vom CEO und dem Responsible Scaling Officer vorgeschlagen und vom Verwaltungsrat in Absprache mit dem Long-Term Benefit Trust genehmigt.

Regulatorische und politische Implikationen

Anthropic beabsichtigt, dass seine Responsible Scaling Policy als Grundlage für branchenübliche Best Practices dient und möglicherweise als Prototyp für zukünftige KI-Regulierungen dient. Die Policy ist proportional, iterativ und exportierbar konzipiert, wodurch Innovation mit strengen Sicherheitsmaßnahmen in Einklang gebracht wird.

german

Welche Sicherheitsstandards werden für das Trainieren und Bereitstellen der KI-Modelle von Anthropic implementiert?

Anthropic verfolgt einen risikobasierten Ansatz für KI-Sicherheit und verwendet dabei AI Safety Level (ASL) Standards. Diese Standards bestehen aus technischen und betrieblichen Maßnahmen, die darauf abzielen, das sichere Trainieren und die sichere Bereitstellung von Frontier-KI-Modellen zu gewährleisten.

ASL Standards: Bereitstellung und Sicherheit

Derzeit sind die ASL-Definitionen in zwei Kategorien unterteilt:

• Bereitstellungsstandards: Diese Standards umfassen Maßnahmen, die ergriffen werden, um sicherzustellen, dass KI-Modelle sicher verwendet werden, indem technische, betriebliche und politische Kontrollen aufeinander abgestimmt werden, um potenziellen katastrophalen Missbrauch sowohl durch externe Benutzer (d. h. Anthropic-Benutzer und -Kunden) als auch durch interne Benutzer (d. h. Anthropic-Mitarbeiter) zu verhindern.
• Sicherheitsstandards: Diese Standards umfassen technische, betriebliche und politische Maßnahmen zum Schutz von KI-Modellen vor unbefugtem Zugriff, Diebstahl oder Gefährdung interner Systeme durch böswillige Akteure.

Alle Anthropic-Modelle müssen die ASL-2 Bereitstellungs- und Sicherheitsstandards erfüllen, die Folgendes umfassen:

• Veröffentlichung von Modellkarten, die die Fähigkeiten, Einschränkungen, Bewertungen und beabsichtigten Anwendungsfälle des Modells beschreiben.
• Durchsetzung einer Nutzungsrichtlinie, die katastrophale und stark schädliche Anwendungsfälle einschränkt, wie z. B. die Generierung von Inhalten, die ernsthafte Risiken für die Menschheit bergen oder Einzelpersonen direkten Schaden zufügen.
• Verwendung von Unschädlichkeitstraining, wie z. B. Constitutional AI, und automatisierte Erkennungsmechanismen, um Modelle zu trainieren, Anfragen abzulehnen, die zur Verursachung von Schaden beitragen.
• Bereitstellung von Kanälen zur Meldung von Sicherheitslücken und einer Bug Bounty für universelles Jailbreaking für Benutzer.
• Einhaltung robuster Sicherheitsüberprüfungen von Anbietern und Zulieferern, physische Sicherheitsmaßnahmen, Nutzung von Secure-by-Design-Prinzipien und Implementierung standardmäßiger Sicherheitsinfrastruktur, Überwachungssoftware, Zugriffsverwaltungstools und Festplattenverschlüsselung.

Auslösung höherer Standards: Fähigkeitsschwellen und erforderliche Schutzmaßnahmen

Mit zunehmender Leistungsfähigkeit von KI-Modellen verwendet Anthropic ein System von Fähigkeitsschwellen und erforderlichen Schutzmaßnahmen, um zu bestimmen, wann Sicherheitsmaßnahmen verstärkt werden müssen. Eine Fähigkeitsschwelle zeigt an, wann eine Verbesserung des Schutzes erforderlich ist, und löst einen Wechsel von einem ASL-N-Standard zu einem ASL-N+1-Standard oder sogar höher aus. Die erforderlichen Schutzmaßnahmen legen dann fest, welche ASL-Standards erfüllt werden müssen. Die spezifischen Bedürfnisse verschiedener KI-Modelle sind unterschiedlich, daher ist es nicht immer notwendig, sowohl die Bereitstellungs- als auch die Sicherheitsstandards gleichzeitig zu verbessern.

Bewertung der Modellfähigkeiten

Anthropic führt strenge Bewertungen durch, um festzustellen, ob die Fähigkeiten eine Modell die festgelegten Fähigkeitsschwellen überschreiten. Dies beinhaltet:

• Vorläufige Bewertungen: Diese Bewertungen werden durchgeführt, um festzustellen, ob eine umfassendere Bewertung erforderlich ist, und vergleichen die Modelle auf der Grundlage von Automatisierten Tests in risikorelevanten Bereichen und den Auswirkungen von Fine-Tuning-Methoden.
• Umfassende Tests: Wenn vorläufige Bewertungen darauf hindeuten, dass sich das Modell einer roten Linie nähert, wird durch diese Tests bewertet, ob das Modell wahrscheinlich keine relevanten Fähigkeitsschwellenwerte erreicht, solange es keine überraschenden Fortschritte bei allgemein zugänglichen Nachbearbeitungsverbesserungen gibt. Diese Tests müssen Kriterien wie Threat Model Mapping, Durchführung empirischer Bewertungen, Demonstration begrenzter Elicitation-Ergebnisse und Forecasting erfüllen.

Wenn umfassende Tests ergeben, dass ein Modell wahrscheinlich eine Fähigkeitsschwelle überschreiten wird, wird Anthropic so handeln, als ob die Schwelle überschritten wurde, auf ASL-3 Erforderliche Schutzmaßnahmen hochstufen und eine Folgebewertung durchführen, um den Bedarf an ASL-4 Standards zu beurteilen.

Gewährleistung angemessener Schutzmaßnahmen: ASL-3 Anforderungen

Um die ASL-3 Erforderlichen Schutzmaßnahmen zu erfüllen, führt Anthropic eine Schutzmaßnahmenbewertung durch, um:

• Bewerten, ob die implementierten Maßnahmen robust gegen anhaltende Versuche sind, gefährliche Fähigkeiten zu missbrauchen, indem Threat Modeling durchgeführt, Defense-in-Depth eingeführt, Red-Teaming durchgeführt, eine schnelle Behebung eingerichtet und eine Überwachung eingerichtet wird.
• Sicherstellen, dass die Modelle hochgradig vor den meisten Angreifern geschützt sind, die versuchen, Modellgewichte zu stehlen, indem Governance Best Practices angewendet, Sicherheitsrahmen eingesetzt, Audits durchgeführt und sichergestellt wird, dass die Maßnahmen in Umgebungen von Drittanbietern eingesetzt werden können.

Wenn die ASL-3 Erforderlichen Schutzmaßnahmen nicht sofort implementiert werden können, werden vorläufige Risikominderungsmaßnahmen erzwungen.

Governance und Transparenz

Um die effektive Umsetzung dieser Richtlinie im gesamten Unternehmen zu erleichtern, hat sich Anthropic zu mehreren internen Governance-Maßnahmen verpflichtet:

• Aufrechterhaltung der Position des Responsible Scaling Officer, um die effektive Gestaltung und Umsetzung der Richtlinie zu überwachen.
• Einrichtung von Prozessen zum Empfang anonymer Benachrichtigungen, über die die Mitarbeiter von Anthropic den Responsible Scaling Officer über potenzielle Fälle von Nichteinhaltung informieren können.
• Entwicklung interner Sicherheitsverfahren für Vorfallszenarien.

Um den öffentlichen Dialog über die Regulierung von Frontier-KI-Modellrisiken voranzutreiben und die Prüfung der Maßnahmen von Anthropic zu ermöglichen, wird sich das Unternehmen zu Folgendem verpflichten:

• Öffentliche Freigabe von Schlüsselmaterialien, wobei sensible Informationen entfernt werden, die sich auf die Bewertung und Bereitstellung von KI-Modellen beziehen.
• Einholung von Beiträgen von externen Experten in relevanten Bereichen.

Wie werden Fähigkeitsschwellenwerte verwendet, um den Bedarf an verstärkten Schutzmaßnahmen zu bestimmen?

Im Zentrum der KI-Risikokontrolle steht das Konzept der „Fähigkeitsschwellenwerte“. Diese Schwellenwerte fungieren als entscheidende Auslöser, die signalisieren, wann die Fähigkeiten eines KI-Modells einen Punkt erreicht haben, an dem die bestehenden Schutzmaßnahmen nicht mehr ausreichen und verbessert werden müssen. Stellen Sie sich das wie eine rote Linie bei einem Motor vor – sobald sie überschritten ist, sind robustere Schutzmaßnahmen unerlässlich.

Konkret zeigt ein Fähigkeitsschwellenwert Folgendes an:

• Eine deutliche Erhöhung des Risikos, wenn das Modell unter den aktuellen Schutzmaßnahmen verbleibt.
• Ein entsprechender Bedarf, die Schutzmaßnahmen auf einen höheren KI-Sicherheitslevel (ASL) Standard aufzurüsten.

In der Praxis löst das Überschreiten eines Fähigkeitsschwellenwerts einen Übergang von einem ASL-N-Standard zu einem ASL-N+1-Standard aus (oder in einigen Fällen direkt zu einem noch höheren Level). Die angemessene Reaktion (z. B. die Implementierung von ASL-3-Schutzmaßnahmen) wird bestimmt durch:

• Fähigkeitsbewertung: Modelle werden routinemäßig getestet, um festzustellen, wie nahe sie daran sind, vordefinierte Fähigkeitsschwellenwerte zu überschreiten. Vorläufige Bewertungen bestimmen, wann umfassendere Tests erforderlich sind.
• Bedrohungsmodellierung: Abbildung der wahrscheinlichsten Fälle.
• Ermittlung und Bewertung: Der Nachweis, dass Forscher bei ausreichend Ressourcen, um auf realistische Angreifer zu extrapolieren, keine nützlichen Ergebnisse aus dem Modell für die relevanten Aufgaben ableiten können.
• Entsprechende erforderliche Schutzmaßnahmen: Abhängig vom überschrittenen Schwellenwert legen spezifische erforderliche Schutzmaßnahmen fest, welche ASL-Standards erfüllt werden müssen. Es ist möglicherweise nicht immer erforderlich, sowohl die Bereitstellungs- als auch die Sicherheitsstandards aufzurüsten.

Die Identifizierung und Anwendung dieser Fähigkeitsschwellenwerte sind ein Eckpfeiler des risikoadäquaten Risikomanagements in der KI-Entwicklung. Durch die genaue Überwachung der Modellfähigkeiten und die Reaktion mit angemessenen verbesserten Schutzmaßnahmen zielen Entwickler darauf ab, Innovation mit Sicherheit in Einklang zu bringen und sicherzustellen, dass KI der Gesellschaft zugute kommt, ohne unannehmbare Schäden zu verursachen.

Welche vorgeschriebenen Sicherheitsvorkehrungen sind mit verschiedenen Fähigkeitsschwellenwerten verbunden?

Da sich KI-Modelle über die ASL-2-Grundlinie hinaus entwickeln, erkennt die Branche, dass höhere Fähigkeitsschwellenwerte stärkere Sicherheitsvorkehrungen erforderlich machen. Ein Fähigkeitsschwellenwert fungiert als Auslöser und signalisiert die Notwendigkeit, den Schutz auf einen höheren KI-Sicherheitslevel (ASL)-Standard anzuheben.

Wichtige Erkenntnisse:

• Die vorgeschriebenen Sicherheitsvorkehrungen sind darauf ausgelegt, Risiken auf ein akzeptables Maß zu reduzieren, was ein Gleichgewicht zwischen den Vorteilen der Entwicklung von Frontier-Modellen und potenziellen Gefahren darstellt.
• Anthropic befürwortet die umfassende Einführung dieser Standards in der gesamten Branche und betont die Bedeutung von Investitionen in Forschung und Entwicklung für eine robuste Implementierung.

ABC-Waffen

Entwicklungsmöglichkeiten für chemische, biologische, radiologische und nukleare (ABC-) Waffen lösen unterschiedliche Sicherheitsvorkehrungen aus:

• ABC-3: Die Fähigkeit, Personen mit grundlegenden MINT-Kenntnissen erheblich bei der Erstellung/Beschaffung und dem Einsatz von ABC-Waffen zu unterstützen. Dieser Auslöser erfordert sowohl einen ASL-3-Bereitstellungsstandard als auch einen ASL-3-Sicherheitsstandard, der vor Missbrauch und Model-Weight-Diebstahl durch nichtstaatliche Akteure schützt.
• ABC-4: Die Fähigkeit, die ABC-Entwicklungskapazitäten mäßig ausgestatteter staatlicher Programme substanziell zu verbessern. Es wird erwartet, dass dieser Schwellenwert ASL-4-Bereitstellungs- und Sicherheitsstandards erfordert; weitere Details werden in einem zukünftigen Update veröffentlicht.

Autonome KI-Forschung und -Entwicklung

Autonome KI-Forschungs- und Entwicklungskapazitäten lösen ebenfalls spezifische Sicherheitsvorkehrungen aus:

• KI F&E-4: Die Fähigkeit, die Arbeit eines Remote-Forschers der Einstiegsklasse bei Anthropic vollständig zu automatisieren. Erfordert den ASL-3-Sicherheitsstandard und einen bejahenden Fall, der unmittelbare Risiken durch Modelle, die fehlgeleitete Ziele verfolgen, identifiziert und mindert.
• KI F&E-5: Die Fähigkeit, eine dramatische Beschleunigung der effektiven Skalierungsanforderungen zu verursachen, erfordert mindestens den ASL-4-Sicherheitsstandard (potenziell höher) zusammen mit einem bejahenden Fall.

Der potenzielle Model-Autonomie-Checkpoint, um autonom eine breite Palette von 2-8-stündigen Software-Engineering-Aufgaben auszuführen, löst die ASL-3-Sicherheitsimplementierung aus.

Überlegungen zu Cyberoperationen:

Die Fähigkeit, hochentwickelte destruktive Cyberangriffe erheblich zu verbessern oder zu automatisieren, wird als eine Fähigkeit erkannt, die eine umfassende Untersuchung erfordert. Dies umfasst die Einbeziehung von Cybersicherheitsexperten, um das Potenzial von Frontier-Modellen zur Verbesserung und Minderung von Cyberbedrohungen zu bewerten, sowie die Berücksichtigung abgestufter Zugriffskontrollen oder schrittweiser Bereitstellungen.

Wie Anthropic die Fähigkeiten seiner KI-Modelle bewertet

Anthropic setzt einen mehrschichtigen Ansatz ein, um die Fähigkeiten seiner KI-Modelle zu bewerten und so eine verantwortungsvolle Skalierung zu gewährleisten, die sich an potenziellen Risiken orientiert. Ihr Rahmenwerk basiert auf den AI Safety Level Standards (ASL Standards), wobei zunehmende Modellfähigkeiten stärkere Schutzmaßnahmen erfordern. Das Unternehmen testet regelmäßig Modelle, um festzustellen, ob sie weit genug unterhalb bestimmter Fähigkeitsschwellenwerte liegen, sodass der ASL-2-Standard weiterhin angemessen ist.

Fähigkeitsschwellenwerte

Fähigkeitsschwellenwerte fungieren als Auslöser, die anzeigen, wann bestehende Schutzmaßnahmen auf einen höheren ASL-Standard aufgerüstet werden müssen. Diese Schwellenwerte sind vorab festgelegte Fähigkeitsniveaus, die, wenn sie erreicht werden, einen erheblichen Anstieg des Risikos signalisieren und verstärkte Schutzmaßnahmen erforderlich machen. Der Ansatz von Anthropic zielt speziell auf katastrophale Risiken ab, wie z. B. solche im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen (CBRN) Waffen sowie autonomer KI-Forschung und -Entwicklung (KI F&E).

Bewertungsverfahren

Anthropic verwendet einen stufenweisen Bewertungsprozess:

• Vorläufige Bewertungen: Diese ersten Bewertungen bestimmen, ob ein Modell eine eingehendere Analyse („umfassende Bewertung“) erfordert. Dies wird ausgelöst, wenn das Modell „deutlich leistungsfähiger“ ist, was wie folgt definiert wird: 1. deutlich leistungsfähiger in automatisierten Tests in risikorelevanten Bereichen (definiert als 4x oder mehr in Effective Compute) oder 2. Ansammlung von sechs Monaten an Finetuning und anderen Methoden zur Herausarbeitung von Fähigkeiten. Darüber hinaus kann der Responsible Scaling Officer nach eigenem Ermessen festlegen, dass eine umfassende Bewertung gerechtfertigt ist.
• Umfassende Bewertungen: Für Modelle, die die Kriterien der vorläufigen Bewertung überschreiten, wird in einer umfassenden Bewertung die Wahrscheinlichkeit des Erreichens von Fähigkeitsschwellenwerten beurteilt. Dieser Prozess umfasst:
  • Bedrohungsmodell-Mapping: Erstellung eines überzeugenden Arguments dafür, dass wir die wahrscheinlichsten und folgenschwersten Bedrohungsmodelle abgebildet haben.
  • Bewertungen: Entwicklung und Durchführung empirischer Tests, die stichhaltige Beweise dafür liefern, dass das Modell nicht über die erforderlichen Fähigkeiten verfügt.
  • Herausarbeitung: Nachweis, dass Forscher bei ausreichenden Ressourcen, um auf realistische Angreifer zu extrapolieren, dem Modell nicht genügend nützliche Ergebnisse für die relevanten Aufgaben entlocken können.
  • Vorhersagen: Erstellung informeller Vorhersagen über die Wahrscheinlichkeit, dass weitere Schulungen und Herausarbeitungen die Testergebnisse zwischen dem Zeitpunkt der Tests und der nächsten erwarteten Runde umfassender Tests verbessern werden.

Entscheidungsfindung

Im Anschluss an die umfassende Bewertung dokumentiert ein Capability Report die Ergebnisse und argumentiert, ob das Modell ausreichend unterhalb der Fähigkeitsschwellenwerte bleibt: Der Bericht wird an den CEO und den Responsible Scaling Officer eskaliert, die (1) die endgültige Entscheidung darüber treffen, ob wir ausreichend nachgewiesen haben, dass es unwahrscheinlich ist, dass wir den Fähigkeitsschwellenwert erreichen, und (2) alle einsatzbezogenen Fragen entscheiden. Wie in den Abschnitten 7.1.4 und 7.2.2 dargelegt, werden wir im Allgemeinen sowohl internes als auch externes Experten-Feedback zu dem Bericht sowie zu den Schlussfolgerungen des CEO und des RSO einholen, um zukünftige Verfeinerungen unserer Methodik zu ermöglichen.

Wenn das Modell als überschritten eines Schwellenwerts erachtet wird, führt Anthropic ein Upgrade auf ASL-3 Required Safeguards durch und führt eine Follow-up-Fähigkeitsbewertung durch, um sicherzustellen, dass keine ASL-4-Standards erforderlich sind.

Transparenz und Governance

Anthropic betont die Transparenz, indem es wichtige Materialien im Zusammenhang mit der Bewertung und dem Einsatz seiner Modelle öffentlich zugänglich macht, nachdem sensible Informationen entfernt wurden. Das Unternehmen verpflichtet sich außerdem zu internen Governance-Maßnahmen, darunter die Aufrechterhaltung eines Responsible Scaling Officer, die Einrichtung anonymer Meldekanäle für potenzielle Nichteinhaltung und die Entwicklung interner Sicherheitsverfahren für die Reaktion auf Vorfälle.

german

Welche Prozesse sind für die Bewertung der Wirksamkeit implementierter Schutzmaßnahmen von wesentlicher Bedeutung?

Die Bewertung der Wirksamkeit implementierter Schutzmaßnahmen ist ein vielschichtiger Prozess, der eine rigorose Beurteilung und kontinuierliche Verbesserung umfasst. Hier ist die Aufschlüsselung:

Bewertung der Schutzmaßnahmen

Diese Bewertung ist entscheidend, um festzustellen, ob die implementierten Maßnahmen die ASL-3-Anforderungen an Schutzmaßnahmen erfüllen. Ein Schutzmaßnahmenbericht dokumentiert die Implementierung dieser Schutzmaßnahmen gründlich.

• ASL-3-Evaluierung des Bereitstellungsstandards: Beurteilung der Robustheit gegen anhaltende Missbrauchsversuche. Dies beinhaltet:
• Bedrohungsmodellierung: Kritische Abbildung potenzieller katastrophaler Missbrauchsvektoren.
• Defense in Depth: Aufbau mehrschichtiger Schutzmaßnahmen, um Missbrauch zu verhindern. Einsatz von Techniken zur Schadensabwehr.
• Red-Teaming: Demonstration, dass realistische Bedrohungsakteure nicht konsistent Reaktionen hervorrufen können, die ihre Fähigkeit erhöhen, katastrophalen Schaden zu verursachen.
• Schnelle Behebung: Schnelle Identifizierung und Behebung von Systemkompromittierungen.
• Überwachung: Kontinuierliche Überprüfung der Systemleistung anhand akzeptierter Risikobereiche. Überwachung der Reaktionen auf Jailbreak-Belohnungen, Durchführung historischer Analysen und Hintergrundüberwachung.
• Vertrauenswürdige Benutzer: Festlegung von Kriterien für die Weitergabe von Modellen mit reduzierten Schutzmaßnahmen an vertrauenswürdige Benutzer durch eine Kombination aus Benutzerüberprüfung, sicheren Zugriffskontrollen, Überwachung, Protokollaufbewahrung und Vorfallreaktionsprotokollen.
• Drittanbieterumgebungen: Dokumentation, wie alle Modelle diese Kriterien erfüllen, auch in Drittanbieterbereitstellungen mit abweichenden Schutzmaßnahmen.
• ASL-3-Evaluierung des Sicherheitsstandards: Ermittelt, ob die Maßnahmen hochgradig gegen den Diebstahl von Modellgewichten geschützt sind. Dies beinhaltet:
• Bedrohungsmodellierung: Verwendung von Frameworks wie MITRE ATT&CK zur Abbildung von Bedrohungen, Assets und Angriffsvektoren.
• Ausrichtung an Sicherheitsframeworks: Verwendung von branchenüblichen Sicherheitsframeworks für identifizierte Risiken.
  • Aufbau starker Perimeter und Zugriffskontrollen, um den Schutz vor unbefugtem Zugriff zu gewährleisten. Dies umfasst eine Kombination aus physischer Sicherheit, Verschlüsselung, Cloud-Sicherheit, Infrastrukturrichtlinien, Zugriffsverwaltung sowie Minimierung und Überwachung des Gewichtungszugriffs.
  • Sicherung der Glieder in der Kette von Systemen und Software, die zur Entwicklung von Modellen verwendet werden, um das Einschleusen kompromittierter Komponenten zu verhindern und sicherzustellen, dass nur vertrauenswürdiger Code und Hardware verwendet werden. Dies umfasst eine Kombination aus Softwareinventur, Lieferkettensicherheit, Artefaktintegrität, binärer Autorisierung, Hardwarebeschaffung und sicherem Forschungsentwicklungszyklus.
  • Proaktive Identifizierung und Eindämmung von Bedrohungen durch kontinuierliche und effektive Überwachung, Prüfung auf Schwachstellen und das Auslegen von Fallen für potenzielle Angreifer. Dies umfasst eine Kombination aus Endpoint-Patching, Produktsicherheitstests, Protokollverwaltung, Asset-Überwachung und Intruder-Deception-Techniken.
  • Investition ausreichender Ressourcen in die Sicherheit. Die Erfüllung dieses Sicherheitsstandards erfordert, dass etwa 5-10 % der Mitarbeiter der Sicherheit und sicherheitsnahen Tätigkeiten gewidmet sind.
  • Soweit angebracht, Ausrichtung auf bestehende Richtlinien zur Sicherung von Modellgewichten.
• Audits: Auditierung des Designs und der Implementierung des Sicherheitsprogramms, Austauschen der Erkenntnisse mit dem Management. Dies umfasst eine unabhängige Validierung der Ergebnisse der Bedrohungsmodellierung und Risikobewertung, ein stichprobenbasiertes Audit der operativen Wirksamkeit der definierten Kontrollen und regelmäßige, breit angelegte und unabhängige Tests mit erfahrenen Red-Teamern, die in der Branche bekannt sind und in Wettbewerben Anerkennung gefunden haben.
• Drittanbieterumgebungen: Dokumentation, wie alle Modelle diese Kriterien erfüllen, auch in Drittanbieterbereitstellungen mit abweichenden Schutzmaßnahmen.

Entscheidungsprozess für Schutzmaßnahmen

Der Prozess zur Feststellung, ob die ASL-3-Anforderungen an Schutzmaßnahmen erfüllt wurden, umfasst:

1. Erstellung eines Maßnahmenberichts für jede erforderliche Schutzmaßnahme. Darlegung eines positiven Falls für deren Erfüllung.
2. Eskalation des/der Maßnahmenberichte(s) an den CEO und den Responsible Scaling Officer.
3. Einholung von internem und externem Expertenfeedback zum Bericht.
4. Weitergabe der Entscheidung, des Schutzmaßnahmenberichts und des internen und externen Feedbacks an den Verwaltungsrat und den Long-Term Benefit Trust.
5. Mindestens jährliche Überprüfung und erneute Genehmigung der ASL-3-Anforderungen an Schutzmaßnahmen.

Bewertung der Follow-up-Fähigkeiten

Parallel zur Erweiterung eines Modells auf die erforderlichen Sicherheitsvorkehrungen wird die Richtlinie aktualisiert, um alle zusätzlichen Fähigkeitsschwellenwerte aufzunehmen, und es wird eine Follow-up-Fähigkeitsbewertung durchgeführt.

Governance und Transparenz

Die interne Governance umfasst den Responsible Scaling Officer, der für die Gestaltung und Implementierung der Richtlinie verantwortlich ist. Die externe Evaluierung umfasst die Zusammenarbeit mit externen Experten in relevanten Bereichen bei der Entwicklung und Durchführung von Fähigkeits- und Schutzmaßnahmenbewertungen. Das Unternehmen strebt auch eine Überprüfung der Verfahrenskonformität an und plant, eine relevante US-Regierungsstelle zu benachrichtigen, wenn ein Modell stärkere Schutzmaßnahmen als den ASL-2-Standard erfordert.

Wie wird das Vorgehen zur Bestimmung geeigneter Bereitstellungsstrategien und Skalierungsergebnisse für Anthropic-Modelle festgelegt?

Anthropic verwendet einen strukturierten, mehrstufigen Prozess, um geeignete Bereitstellungsstrategien und Skalierungsergebnisse für seine KI-Modelle zu bestimmen. Dieser Prozess wird durch die Responsible Scaling Policy (RSP) und ihre Abhängigkeit von den AI Safety Level (ASL) Standards geleitet. Das oberste Ziel ist es, katastrophale Schäden zu verhindern und Risiken auf ein akzeptables Maß zu reduzieren, wobei Innovation mit robusten Schutzmaßnahmen in Einklang gebracht wird.

Fähigkeitsbewertung

Der erste Schritt beinhaltet eine Fähigkeitsbewertung (Capability Assessment), die bestimmt, wie nahe die Fähigkeiten eines Modells an den festgelegten Fähigkeitsschwellen (Capability Thresholds) liegen. Diese Schwellenwerte signalisieren, wann die potenziellen Risiken eines Modells verbesserte Schutzmaßnahmen erforderlich machen (z. B. der Übergang von ASL-2 zu ASL-3). Der Bewertungsprozess umfasst:

• Vorläufige Bewertung (Preliminary Assessment): Eine schnelle Prüfung, um festzustellen, ob das Modell „deutlich leistungsfähiger“ ist als frühere Modelle. Die Metriken hier sind automatisierte Tests in „risikorelevanten Bereichen“ (Verbesserung gemessen als 4x in Effective Compute) oder die Anhäufung von Verbesserungen nach dem Training, die mit sechs Monaten kontinuierlicher Verfeinerungen vergleichbar sind.
• Umfassende Bewertung (Comprehensive Assessment): Erforderlich, wenn ein Modell die Schwelle „deutlich leistungsfähiger“ überschreitet. Diese Bewertung testet rigoros das Potenzial, Fähigkeitsschwellen zu erreichen, und betrachtet Kombinationen von Akteuren, Angriffswegen und was erforderlich wäre, um Schaden zu verursachen. Dies beinhaltet:
• Bedrohungsmodellierung (Threat model mapping) zur Identifizierung wahrscheinlicher, folgenschwerer Bedrohungsmodelle.
• Empirische Tests, um zu zeigen, dass das Modell keine mit Risiken verbundenen Fähigkeiten besitzt.
• Elicitation-Übungen, um festzustellen, ob Forscher nützliche Ergebnisse erzielen können, selbst ohne Sicherheitsmechanismen.
• Prognosen, wie weiteres Training die Testergebnisse verbessern kann.
• Fähigkeitsbericht (Capability Report): Ein detailliertes Dokument, das die Ergebnisse der Bewertung zusammenfasst, um zu belegen, dass die Fähigkeitsschwelle ausreichend weit entfernt ist, und um Bereitstellungsempfehlungen zu geben. Dieses Dokument geht zusammen mit internem und externem Feedback an den CEO und den Responsible Scaling Officer von Anthropic zur endgültigen Entscheidung.

Wenn die umfassende Bewertung zeigt, dass ein Modell ausreichend unterhalb einer Fähigkeitsschwelle liegt, kann es die Bereitstellung fortsetzen, indem es den ASL-2 Standard erfüllt. Wenn die Bewertung jedoch darauf hindeutet, dass das Modell möglicherweise eine Schwelle überschritten hat, wird ein Upgrade auf ASL-3 Erforderliche Sicherheitsvorkehrungen (Required Safeguards) zusammen mit einer anschließenden Fähigkeitsbewertung ausgelöst, um festzustellen, ob der ASL-4 Standard erforderlich ist.

Sicherheitsvorkehrungsbewertung

Wenn ein Modell eine Fähigkeitsschwelle überschreitet, wird eine Sicherheitsvorkehrungsbewertung (Safeguards Assessment) eingeleitet, um sicherzustellen, dass angemessene Risikominderung erfolgt, indem überprüft wird, ob die implementierten Maßnahmen die ASL-3 Erforderlichen Sicherheitsvorkehrungen erfüllen. Dieser Prozess umfasst die Erstellung eines Sicherheitsvorkehrungsberichts (Safeguards Report), um nachzuweisen, dass das Modell die Kriterien der Schwellenwertstandards erfüllt:

• Die Erfüllung der ASL-3 Bereitstellungsstandards erfordert „Defense in depth“ unter Verwendung von Schichten, um Angriffe abzufangen, Red-Teaming, schnelle Behebung und vertrauenswürdige Benutzer mit alternativen Sicherheitskontrollen.
• Die Erfüllung der ASL-3 Sicherheitsstandards gewährleistet den Schutz des Modellgewichts (model weight protection) mit einem Framework, das auf Sicherheitskontrollen, Bedrohungsmodellierung unter Verwendung des MITRE ATT&CK Framework sowie Perimeter- und Zugriffskontrollen ausgerichtet ist.

Wenn Schwachstellen gefunden werden, wird die Modellbereitstellung eingeschränkt. Andernfalls kann die Bereitstellung fortgesetzt werden.

Bereitstellungs- und Skalierungsergebnisse

Letztendlich kann Anthropic mit der Bereitstellung und weiteren Skalierung fortfahren, wenn:

• Die Fähigkeiten des Modells weit von den bestehenden Fähigkeitsschwellen entfernt sind, so dass sein aktueller ASL-2 angemessen ist.
• Das Modell Fähigkeitsschwellen überschritten hat, aber die ASL-3 Erforderlichen Sicherheitsvorkehrungen erfüllt.

Wenn ein Modell ASL-3 Sicherheitsvorkehrungen benötigt, diese aber nicht zeitnah implementiert werden können, schreibt die Richtlinie unverzügliche Maßnahmen zur Reduzierung des Interimsrisikos vor, bis die angemessenen Maßnahmen getroffen sind. Stärkere Beschränkungen, wie z. B. die Stilllegung von Modellen oder das Löschen von Modellgewichten, können auferlegt werden, wenn eine Interimsrisikominderung nicht plausibel ist. Darüber hinaus werden Pretraining-Aktivitäten überwacht, um das Training von Modellen zu stoppen, die sich den Fähigkeiten von Modellen nähern oder diese überschreiten, die derzeit auf ASL-3 Standardebene geprüft werden, bis angemessene Sicherheitsvorkehrungen implementiert sind.

Governance und Transparenz

Governance-Maßnahmen werden unternehmensintern implementiert, um die vollständige Einhaltung der Responsible Scaling Policy sicherzustellen. Es wird externer Input eingeholt, und wichtige Informationen im Zusammenhang mit der Prüfung jedes Modells werden häufig öffentlich geteilt, wobei sensible Details entfernt werden.

Welche Protokolle sind vorhanden, um Szenarien zu bewältigen, in denen erforderliche Sicherheitsvorkehrungen nicht sofort umgesetzt werden können?

Wenn ein Modell einen Punkt erreicht, an dem ASL-3-erforderliche Sicherheitsvorkehrungen als notwendig erachtet werden, diese Sicherheitsvorkehrungen jedoch nicht sofort getroffen werden können, verpflichtet sich Anthropic zu einem abgestuften Ansatz zur Risikominderung. Ziel ist es, das vorläufige Risiko auf ein akzeptables Niveau zu reduzieren, bis die vollständigen ASL-3-Sicherheitsvorkehrungen in Betrieb sind:

Interim Massnahmen

Der CEO und der Responsible Scaling Officer (RSO) können Interimsmassnahmen genehmigen, die das gleiche Mass an Sicherheit wie der ASL-3-Standard bieten, aber schneller oder einfacher zu implementieren sind. Dazu gehören:

• Blockieren von Modellantworten.
• Herabstufung auf ein weniger leistungsfähiges Modell in bestimmten Bereichen.
• Erhöhung der Sensibilität automatisierter Überwachungssysteme.
• Speicherung von Modellgewichten in einem dedizierten, isolierten Netzwerk, das den ASL-3-Sicherheitsstandard erfüllt.

Jeder solcher Plan wird dem Verwaltungsrat von Anthropic und dem Long-Term Benefit Trust mitgeteilt.

Stärkere Beschränkungen

Wenn Interimsmassnahmen nicht ausreichen, um das Risiko angemessen zu mindern, wird Anthropic strengere Beschränkungen einführen, wie z. B.:

• Ausserbetriebnahme des Modells und Ersetzen durch ein Modell, das unterhalb der Fähigkeitsschwelle liegt. Sobald die Anforderungen des ASL-3-Bereitstellungsstandards erfüllt sind, kann das Modell erneut bereitgestellt werden.
• Löschen von Modellgewichten im Sicherheitskontext. Anthropic ist der Ansicht, dass es mit dem Einsatz von vorläufigen Bereitstellungs- und Sicherheitsschutzmassnahmen selten notwendig sein sollte, strengere Beschränkungen zu ergreifen.

Überwachung des Vortrainings

Anthropic wird keine Modelle mit vergleichbaren oder grösseren Fähigkeiten als das Modell, das den ASL-3-Sicherheitsstandard erfordert, trainieren, operationalisiert als 1x oder mehr in Effective Compute, bis der ASL-3-Sicherheitsstandard implementiert ist. Wenn die Fähigkeiten des Vortrainingsmodells vergleichbar oder grösser sind, wird das Training pausiert, bis ausreichende Sicherheitsvorkehrungen getroffen sind.

german

Welche internen Governance-Strukturen unterstützen die Responsible Scaling Policy?

Um die Responsible Scaling Policy (RSP) effektiv in der gesamten Organisation umzusetzen, verpflichtet sich Anthropic zur Aufrechterhaltung mehrerer wichtiger interner Governance-Maßnahmen. Diese Strukturen sind darauf ausgelegt, Compliance, Transparenz und Rechenschaftspflicht bei der Entwicklung und dem Einsatz von KI-Modellen sicherzustellen.

Wichtige Governance-Elemente

• Responsible Scaling Officer (RSO): Ein designierter Mitarbeiter ist für die Reduzierung katastrophaler Risiken im Zusammenhang mit KI-Modellen verantwortlich. Zu den Aufgaben des RSO gehören die Vorschlag von Policy-Aktualisierungen, die Genehmigung von Modelltrainings- und Einsatzentscheidungen auf der Grundlage von Fähigkeits- und Schutzmaßnahmenbewertungen, die Überprüfung wichtiger Verträge auf Policy-Konformität, die Überwachung der Policy-Implementierung, die Bearbeitung von Berichten über Nichteinhaltung, die Benachrichtigung des Board of Directors über wesentliche Nichteinhaltung und die Interpretation der Policy.

• Incident Readiness: Interne Sicherheitsverfahren werden für Incidentszenarien entwickelt, wie z. B. das Anhalten des Trainings beim Erreichen von Fähigkeitsschwellenwerten, die Reaktion auf Sicherheitsvorfälle mit Modellgewichten und die Behebung schwerwiegender Jailbreaks oder Schwachstellen in eingesetzten Modellen. Es werden Übungen durchgeführt, um die Bereitschaft für diese Szenarien sicherzustellen.

• Interne Transparenz: Zusammenfassungen von Fähigkeitsberichten und Schutzmaßnahmenberichten werden mit Mitarbeitern mit regulärer Sicherheitsfreigabe geteilt, wobei hochsensible Informationen geschwärzt werden. Eine minimal geschwärzte Version wird mit einer Untergruppe von Mitarbeitern geteilt, um relevante technische Sicherheitsüberlegungen an die Oberfläche zu bringen.

• Interne Überprüfung: Feedback wird von internen Teams zu Fähigkeits- und Schutzmaßnahmenberichten eingeholt, um Methoden zu verfeinern und Schwächen zu identifizieren.

• Verfahren bei Nichteinhaltung: Ein Verfahren wird für Anthropic-Mitarbeiter aufrechterhalten, um potenzielle Fälle von Nichteinhaltung der RSP anonym zu melden. Die Policy zur Meldung von Nichteinhaltung schützt Melder vor Vergeltungsmaßnahmen, legt einen Mechanismus für die Eskalation von Meldungen an das Board of Directors fest und schreibt die Verfolgung, Untersuchung und Korrekturmaßnahmen für begründete Meldungen vor. Der RSO informiert das Board regelmäßig über wesentliche Fälle von Nichteinhaltung und allgemeine Trends.

• Mitarbeitervereinbarungen: Vertragliche Verpflichtungen zur Nichtverunglimpfung werden Mitarbeitern, Kandidaten oder ehemaligen Mitarbeitern nicht in einer Weise auferlegt, die sie daran hindern oder entmutigen würde, Sicherheitsbedenken in Bezug auf Anthropic öffentlich zu äußern. Vereinbarungen mit Klauseln zur Nichtverunglimpfung schließen das Aufwerfen von Sicherheitsbedenken oder die Offenlegung des Bestehens der Klausel nicht aus.

• Policy-Änderungen: Änderungen an der RSP werden vom CEO und RSO vorgeschlagen und vom Board of Directors in Absprache mit dem Long-Term Benefit Trust (LTBT) genehmigt. Die aktuelle RSP-Version ist online zugänglich, wobei Aktualisierungen vor Inkrafttreten von Änderungen zusammen mit einem Änderungsprotokoll öffentlich zugänglich gemacht werden.

Wie stellt Anthropic Transparenz sicher und sammelt externes Feedback zu seinen Praktiken im Bereich der KI-Sicherheit?

Anthropic zielt darauf ab, den öffentlichen Dialog über die KI-Regulierung voranzutreiben und sicherzustellen, dass Interessengruppen seine Maßnahmen anhand verschiedener Schlüsselmaßnahmen überprüfen können:

Öffentliche Offenlegungen

Das Unternehmen verpflichtet sich, wichtige Informationen über die Bewertung und den Einsatz seiner KI-Modelle öffentlich zugänglich zu machen. Dies schließt sensible Details aus, beinhaltet aber Zusammenfassungen von Fähigkeits- und Schutzberichten, wenn ein Modell eingesetzt wird. Diese Berichte beschreiben die getroffenen Sicherheitsmaßnahmen. Anthropic wird auch Pläne für aktuelle und zukünftige umfassende Fähigkeitsbewertungen sowie Einsatz- und Sicherheitsvorkehrungen offenlegen. Das Unternehmen beabsichtigt, regelmäßig Informationen über interne Berichte über potenzielle Nichteinhaltungsereignisse und andere Implementierungsherausforderungen zu veröffentlichen.

Expertenbeitrag

Anthropic wird während der Entwicklung von Fähigkeits- und Schutzbewertungen externes Fachwissen einholen. Dieser Konsultationsprozess kann sich auch auf die Zeit vor der endgültigen Entscheidungsfindung über diese Bewertungen erstrecken.

Benachrichtigung der US-Regierung

Die Politik schreibt vor, eine zuständige Stelle der US-Regierung zu benachrichtigen, wenn ein Modell stärkere Schutzmaßnahmen als den ASL-2-Standard erfordert.

Überprüfung der Verfahrenskonformität

Etwa jährlich beauftragt Anthropic eine Überprüfung durch Dritte, um zu beurteilen, ob sich das Unternehmen an die wichtigsten Verfahrensverpflichtungen der Richtlinie gehalten hat. Diese Überprüfungen konzentrieren sich speziell auf die Einhaltung der Anforderungen des Plans und nicht auf die Beurteilung der erzielten Ergebnisse. Anthropic führt auch intern die gleiche Art von Überprüfungen in regelmäßigeren Abständen durch.

Öffentliche Kommunikation

Anthropic betreibt eine öffentliche Seite (www.anthropic.com/rsp-updates), um einen Überblick über vergangene Fähigkeits- und Schutzberichte, RSP-bezogene Aktualisierungen und Pläne für die Zukunft zu geben. Die Seite bietet Details, um Gespräche über branchenweite Best Practices für Schutzmaßnahmen, Fähigkeitsbewertungen und Elicitation zu ermöglichen.

german

Governance und Transparenz

Anthropic’s Responsible Scaling Policy (RSP) betont sowohl interne Governance als auch externe Transparenz. Wichtige Maßnahmen sind eingerichtet, um die Umsetzung der Richtlinien sicherzustellen, die Rechenschaftspflicht zu fördern und die Zusammenarbeit zu unterstützen.

Interne Governance:

• Responsible Scaling Officer (RSO): Ein designierter Mitarbeiter überwacht die Risikoreduzierung, indem er die effektive Gestaltung und Implementierung der RSP sicherstellt. Zu den Aufgaben des RSO gehören Richtlinienaktualisierungen, Entscheidungsfreigaben, Vertragsprüfungen, Ressourcenzuweisung und Bearbeitung von Berichten über Nichteinhaltung.
• Bereitschaft: Anthropic hat interne Sicherheitsverfahren für Vorfallszenarien entwickelt, einschließlich des Pausierens des Trainings, der Reaktion auf Sicherheitsverletzungen und der Behebung von Modellschwachstellen.
• Transparenz: Zusammenfassungen von Capability Reports und Safeguards Reports werden intern geteilt, um das Bewusstsein zu fördern und technische Sicherheitsüberlegungen zu erleichtern.
• Interne Überprüfung: Feedback von internen Teams zu Capability und Safeguards Reports wird eingeholt, um Methodologien zu verfeinern und Schwächen zu identifizieren.
• Nichteinhaltung: Ein Prozess ermöglicht es Mitarbeitern, Richtlinienverstöße anonym an den RSO zu melden. Eine Richtlinie schützt Berichterstatter vor Vergeltungsmaßnahmen und legt Eskalationsmechanismen fest. Alle Berichte werden verfolgt, untersucht und mit Korrekturmaßnahmen behoben.
• Mitarbeitervereinbarungen: Vertragliche Verpflichtungen zur Nichtverunglimpfung sind so gestaltet, dass sie Mitarbeiter nicht daran hindern oder davon abhalten, Sicherheitsbedenken bezüglich Anthropic zu äußern.
• Richtlinienänderungen: Änderungen an dieser Richtlinie werden nur vom CEO und dem Responsible Scaling Officer implementiert, nachdem sie vom Board of Directors in Absprache mit dem Long-Term Benefit Trust genehmigt wurden.

Transparenz und externer Input:

• Öffentliche Offenlegungen: Wichtige Informationen zur Modellevaluation und -bereitstellung werden öffentlich zugänglich gemacht, einschließlich Zusammenfassungen von Capability und Safeguards Reports, Pläne für Bewertungen und Details zu Schutzmaßnahmen, vorbehaltlich der Schwärzung sensibler Informationen.
• Expertenbeitrag: Externe Experten werden bei Fähigkeits- und Sicherheitsbewertungen sowie bei abschließenden Entscheidungsprozessen konsultiert.
• Benachrichtigung der US-Regierung: Eine relevante US-Regierungsstelle wird benachrichtigt, wenn ein Modell mehr Schutz benötigt als ASL-2.
• Überprüfung der Verfahrenskonformität: Ungefähr jährlich und intern regelmäßiger konzentriert sich ein Dritter darauf, ob Richtlinien befolgt werden, und nicht darauf, wie Probleme gelöst wurden.