Anthropic deaktiviert Zugriff auf Fable 5 und Mythos 5 nach Anordnung der US-Regierung

• US-Regierung untersagt aus Sicherheitsgründen den Zugriff auf Fable 5 und Mythos 5 für ausländische Staatsangehörige
• Anthropic verweist auf umfangreiche Sicherheitstests und sieht keinen Nachweis für einen umfassenden Jailbreak
• Das Unternehmen befürchtet Folgen für die gesamte KI-Branche und strebt eine rasche Wiederherstellung des Zugangs an

Hintergrund für die Deaktivierung ist eine Exportkontrollanweisung der US-Regierung, die dem Unternehmen nach eigenen Angaben am Freitag zugestellt wurde.

US-Behörden ordnen Zugriffsstopp an

Nach Angaben von Anthropic beruft sich die Regierung bei ihrer Entscheidung auf nationale Sicherheitsinteressen. Die Anordnung untersagt den Zugang zu Fable 5 und Mythos 5 für sämtliche ausländischen Staatsangehörigen - unabhängig davon, ob sie sich innerhalb oder ausserhalb der Vereinigten Staaten befinden. Dies betrifft laut Unternehmen auch ausländische Mitarbeiter von Anthropic selbst.

Um die behördlichen Vorgaben einzuhalten, habe das Unternehmen den Zugang zu beiden Modellen für sämtliche Kunden deaktiviert. Andere KI-Modelle von Anthropic seien von der Massnahme nicht betroffen.

Regierung sieht mögliche Umgehung von Sicherheitsvorkehrungen

Konkrete Details zu den Sicherheitsbedenken wurden Anthropic nach eigener Darstellung nicht mitgeteilt. Das Unternehmen geht jedoch davon aus, dass die Behörden Kenntnis von einer Methode erlangt haben, mit der die Schutzmechanismen von Fable 5 teilweise umgangen werden könnten.

Anthropic erklärt, eine Demonstration dieser Technik geprüft zu haben. Dabei seien einige bereits bekannte und vergleichsweise einfache Schwachstellen genutzt worden. Nach Einschätzung des Unternehmens könnten ähnliche Ergebnisse auch mit anderen öffentlich verfügbaren KI-Modellen erzielt werden, ohne dass dafür spezielle Umgehungsmethoden erforderlich seien.

Anthropic verweist auf umfangreiche Sicherheitsprüfungen

Das Unternehmen betont, vor der Einführung von Fable 5 umfangreiche Sicherheitsmassnahmen implementiert zu haben. Nach eigenen Angaben wurden die Schutzmechanismen gemeinsam mit Behörden, externen Organisationen und internen Teams in mehreren tausend Stunden sogenannter Red-Teaming-Tests überprüft.

Diese Untersuchungen hätten gezeigt, dass die Sicherheitsvorkehrungen wirksamer seien als bei früheren Modellgenerationen. Zudem sei bislang kein sogenannter universeller Jailbreak entdeckt worden - also keine Methode, mit der sich die Schutzmassnahmen umfassend ausser Kraft setzen und zahlreiche Cyber-Funktionen freischalten lassen.

Gleichzeitig räumt Anthropic ein, dass eine vollständige Absicherung gegen sämtliche Jailbreak-Techniken derzeit branchenweit nicht möglich sei. Deshalb setze das Unternehmen bei Fable 5 auf eine mehrstufige Sicherheitsstrategie, die potenzielle Umgehungen begrenzen und gleichzeitig deren Entdeckung erleichtern solle.

Kritik an der Entscheidung der Behörden

Nach Angaben von Anthropic erhielt das Unternehmen bislang lediglich mündliche Hinweise auf einen möglichen, eng begrenzten und nicht universellen Jailbreak. Dabei gehe es im Wesentlichen darum, ein Modell anzuweisen, eine Software-Codebasis zu analysieren und mögliche Fehler zu identifizieren beziehungsweise zu beheben.

Anthropic erklärt, den entsprechenden Bericht überprüft zu haben. Nach Einschätzung des Unternehmens seien die beschriebenen Fähigkeiten auch bei anderen KI-Systemen verbreitet und würden von Sicherheitsexperten regelmässig genutzt, um IT-Systeme abzusichern. Als Beispiel nennt Anthropic dabei auch OpenAI GPT-5.5.

Anthropic sieht Risiko für die gesamte Branche

Obwohl Anthropic die behördliche Anordnung umsetzt, stellt das Unternehmen die Verhältnismässigkeit der Massnahme infrage. Aus Sicht des KI-Anbieters rechtfertige ein begrenzter potenzieller Jailbreak nicht die Rücknahme eines kommerziellen Modells, das bereits von Hunderten Millionen Menschen genutzt werde.

Anthropic argumentiert, dass ein vergleichbarer Massstab bei allen führenden KI-Anbietern faktisch die Einführung neuer Modelle verhindern könnte.

Zugleich bekräftigt das Unternehmen seine grundsätzliche Haltung, wonach staatliche Stellen die Möglichkeit haben sollten, die Veröffentlichung unsicherer KI-Modelle zu untersagen. Ein solches Vorgehen müsse jedoch auf einem transparenten, fairen und technisch nachvollziehbaren Verfahren beruhen. Die aktuelle Massnahme entspreche diesen Grundsätzen nach Auffassung des Unternehmens nicht.

Zugang soll möglichst schnell wiederhergestellt werden

Anthropic entschuldigte sich bei seinen Kunden für die Einschränkungen und erklärte, man gehe derzeit von einem Missverständnis aus. Das Unternehmen arbeite daran, den Zugriff auf Fable 5 und Mythos 5 so schnell wie möglich wieder freizugeben.

Julia Walter, Redaktion finanzen.ch