Sorgen in Digitalbranche: Anthropic stoppt Fable 5 und Mythos 5 nach Anordnung der US-Regierung

• US-Regierung untersagt aus Sicherheitsgründen den Zugriff auf Fable 5 und Mythos 5 für ausländische Staatsangehörige
• Anthropic verweist auf umfangreiche Sicherheitstests und sieht keinen Nachweis für einen umfassenden Jailbreak
• Das Unternehmen befürchtet Folgen für die gesamte KI-Branche und strebt eine rasche Wiederherstellung des Zugangs an

Hintergrund für die Deaktivierung ist eine Exportkontrollanweisung der US-Regierung, die dem Unternehmen nach eigenen Angaben am Freitag zugestellt wurde.

US-Behörden ordnen Zugriffsstopp an

Nach Angaben von Anthropic beruft sich die Regierung bei ihrer Entscheidung auf nationale Sicherheitsinteressen. Die Anordnung untersagt den Zugang zu Fable 5 und Mythos 5 für sämtliche ausländischen Staatsangehörigen - unabhängig davon, ob sie sich innerhalb oder außerhalb der Vereinigten Staaten befinden. Dies betrifft laut Unternehmen auch ausländische Mitarbeiter von Anthropic selbst.

Um die behördlichen Vorgaben einzuhalten, habe das Unternehmen den Zugang zu beiden Modellen für sämtliche Kunden deaktiviert. Andere KI-Modelle von Anthropic seien von der Maßnahme nicht betroffen.

Aufsehenerregende Fähigkeiten

Die Künstliche Intelligenz hinter Anthropics KI-Modell Mythos ist besonders gut darin, zum Teil auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um die Sicherheitslücken zu stopfen. Eine Sorge ist jedoch von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte.

Das erst diese Woche veröffentlichte Modell Fable 5 basiert auf der Mythos-Technologie - bei ihm werden aber die Cybersicherheits- und Biotechnologie-Fähigkeiten blockiert. Mythos 5 ist die nicht-öffentliche volle Version, die weiterhin nur von Behörden und ausgewählten Unternehmenspartnern zur Härtung ihrer Systeme eingesetzt werden sollte.

Regierung sieht mögliche Umgehung von Sicherheitsvorkehrungen

Konkrete Details zu den Sicherheitsbedenken wurden Anthropic nach eigener Darstellung nicht mitgeteilt. Das Unternehmen geht jedoch davon aus, dass die Behörden Kenntnis von einer Methode erlangt haben, mit der die Schutzmechanismen von Fable 5 teilweise umgangen werden könnten.

Anthropic erklärt, eine Demonstration dieser Technik geprüft zu haben. Dabei seien einige bereits bekannte und vergleichsweise einfache Schwachstellen genutzt worden. Nach Einschätzung des Unternehmens könnten ähnliche Ergebnisse auch mit anderen öffentlich verfügbaren KI-Modellen erzielt werden, ohne dass dafür spezielle Umgehungsmethoden erforderlich seien.

Anthropic verweist auf umfangreiche Sicherheitsprüfungen

Das Unternehmen betont, vor der Einführung von Fable 5 umfangreiche Sicherheitsmaßnahmen implementiert zu haben. Nach eigenen Angaben wurden die Schutzmechanismen gemeinsam mit Behörden, externen Organisationen und internen Teams in mehreren tausend Stunden sogenannter Red-Teaming-Tests überprüft.

Diese Untersuchungen hätten gezeigt, dass die Sicherheitsvorkehrungen wirksamer seien als bei früheren Modellgenerationen. Zudem sei bislang kein sogenannter universeller Jailbreak entdeckt worden - also keine Methode, mit der sich die Schutzmaßnahmen umfassend außer Kraft setzen und zahlreiche Cyber-Funktionen freischalten lassen.

Gleichzeitig räumt Anthropic ein, dass eine vollständige Absicherung gegen sämtliche Jailbreak-Techniken derzeit branchenweit nicht möglich sei. Deshalb setze das Unternehmen bei Fable 5 auf eine mehrstufige Sicherheitsstrategie, die potenzielle Umgehungen begrenzen und gleichzeitig deren Entdeckung erleichtern solle.

Kritik an der Entscheidung der Behörden

Nach Angaben von Anthropic erhielt das Unternehmen bislang lediglich mündliche Hinweise auf einen möglichen, eng begrenzten und nicht universellen Jailbreak. Dabei gehe es im Wesentlichen darum, ein Modell anzuweisen, eine Software-Codebasis zu analysieren und mögliche Fehler zu identifizieren beziehungsweise zu beheben.

Anthropic erklärt, den entsprechenden Bericht überprüft zu haben. Nach Einschätzung des Unternehmens seien die beschriebenen Fähigkeiten auch bei anderen KI-Systemen verbreitet und würden von Sicherheitsexperten regelmäßig genutzt, um IT-Systeme abzusichern. Als Beispiel nennt Anthropic dabei auch OpenAI GPT-5.5.

Anthropic sieht Risiko für die gesamte Branche

Obwohl Anthropic die behördliche Anordnung umsetzt, stellt das Unternehmen die Verhältnismäßigkeit der Maßnahme infrage. Aus Sicht des KI-Anbieters rechtfertige ein begrenzter potenzieller Jailbreak nicht die Rücknahme eines kommerziellen Modells, das bereits von Hunderten Millionen Menschen genutzt werde.

Anthropic argumentiert, dass ein vergleichbarer Maßstab bei allen führenden KI-Anbietern faktisch die Einführung neuer Modelle verhindern könnte.

Anthropic im Clinch mit US-Regierung

Die Ironie an der Situation ist, dass Anthropic-Chef Dario Amodei sich erst vor wenigen Tagen dafür ausgesprochen hatte, die Regierung potenziell gefährliche KI-Software blockieren zu lassen. Anthropic betont aber, dass dies auf Basis transparenter und klarer Verfahren sowie technischer Fakten geschehen müsse. Das sei jetzt nicht der Fall.

Anthropic geriet in den vergangenen Monaten immer wieder in Schlagzeilen. Die Firma riskierte einen Konflikt mit der US-Regierung, da sie trotz Drucks darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen.

Das Pentagon erklärte Anthropic daraufhin zu einem Lieferketten-Risiko, was den Einsatz von Software des Unternehmens in Regierungsbehörden schwer beeinträchtigen kann. Die Firma klagt dagegen. Die außerordentlichen Cybersicherheitsfähigkeiten von Mythos machten Anthropic dann aber wieder wichtig für die US-Regierung.

Zugang soll möglichst schnell wiederhergestellt werden

Anthropic entschuldigte sich bei seinen Kunden für die Einschränkungen und erklärte, man gehe derzeit von einem Missverständnis aus. Das Unternehmen arbeite daran, den Zugriff auf Fable 5 und Mythos 5 so schnell wie möglich wieder freizugeben.

US-Sperre für KI-Software löst Sorgen in Digitalbranche aus

Die Blockade einer Hochleistungssoftware mit Künstlicher Intelligenz durch die US-Regierung hat in der deutschen Digitalbranche Sorgen hervorgerufen. Der Branchenverband Bitkom wertete die Sperre des KI-Modells der Firma Anthropic als Signal, sich noch intensiver mit der Abhängigkeit Europas von Technik aus den USA zu beschäftigen. Deutschland und Europa seien beim Zugang zu den stärksten KI-Modellen vom Wohlwollen der US-Regierung abhängig, sagte der Präsident des Branchenverbandes Bitkom, Ralf Wintergerst. Das habe die überraschende Anordnung am Wochenende mehr als deutlich gemacht.

"Die Sperre hat unmittelbar Auswirkungen auf die Leistungsfähigkeit unserer klassischen Industrien und unserer Verwaltungen und beeinträchtigt auch unsere Sicherheit und zum Beispiel die Exzellenz unserer Wissenschaft", betonte der Bitkom-Präsident. Mehr denn je müsse es jetzt darum gehen, Deutschland und Europa digital souverän zu machen. "Digitale Souveränität und eigene KI-Kompetenzen gehören mit an die Spitze der politischen Prioritäten."

Julia Walter, Redaktion finanzen.net mit Material von dpa-AFX