KI-Hammer bei Anthropic: Kein Verbot für Open-Weight-Modelle

• CEO stellt klar, Anthropic habe "nie" ein Verbot von Open-Weight-Modellen gefordert
• Anthropic hat den Brief bislang nicht unterzeichnet
• Kritiker wie David Sacks werfen Anthropic vor, mit Sicherheitsargumenten die eigene Marktposition schützen zu wollen

Anthropic-Chef weist Vorwurf des Open-Weight-Verbots zurück

Anthropic-Chef Dario Amodei hat am 27. Juli 2026 in einem Blogbeitrag mit dem Titel "Our position on open-weights models" öffentlich Stellung bezogen, wie aus dem auf der Anthropic-Website veröffentlichten Text hervorgeht. Der Anlass war deutlich: In den Tagen zuvor hatte sich in Teilen der Tech-Branche der Eindruck verfestigt, Anthropic wolle Open-Weight-Modelle verbieten lassen, um die eigene Marktstellung als Anbieter geschlossener Systeme zu schützen. Amodei reagierte mit einer Formulierung, die er im Text fett hervorhob: "Anthropic hat sich nie für ein Verbot von Open-Weight-Modellen ausgesprochen." Er verwies zugleich darauf, dass Modelle ohne gefährliche Fähigkeiten ein "öfentliches Gut" seien, da sie außer den Rechenkosten für den Betrieb keine zusätzlichen Kosten verursachten und Wert für Unternehmen, Entwickler und Forscher schaffte.

Nach eigener Darstellung vertritt Amodei diese Position bereits seit Längerem. Er verwies in seinem Blogbeitrag auf seinen sechs Monate zuvor veröffentlichten Essay "The Adolescence of Technology", in dem er die von ihm befürchteten Risikoszenarien schon damals beschrieben habe. Ein pauschales Verbot der Nutzung solcher Modelle durch US-Unternehmen helfe gegen diese Risiken ohnehin nicht weiter, da böswillige Akteure in aller Regel keine legitimen amerikanischen Firmen seien, schreibt Amodei laut seinem Blogeintrag.

Der Streit um den Open-Weight-Brief von NVIDIA und Co.

Der Auslöser der Debatte lässt sich bis zum 24. Juli 2026 zurückverfolgen. An diesem Tag veröffentlichten NVIDIA, Microsoft, Meta, IBM, Dell Technologies, Palantir, Hugging Face und zunächst rund 25 weitere Unternehmen und Organisationen einen dreiseitigen Brief unter dem Titel "Open Weights and American AI Leadership". NVIDIA-Chef Jensen Huang nutzte den Anlass für seinen ersten Beitrag überhaupt auf der Plattform X und warb dort persönlich für die Initiative.

Die Zahl der Unterzeichner wuchs in den folgenden Tagen rasant: Bereits am 25. Juli zählte der Wirtschaftsdienst Forbes rund 50 Unterstützer, und laut einem Bericht von Fortune verzeichnete der Brief am 27. Juli, dem Tag von Amodeis Blogbeitrag, bereits über 130 Unterzeichner, darunter inzwischen auch OpenAI, Google und Amazon. Ausgelöst wurde die gesamte Debatte laut dem US-Sender Axios durch den Marktstart von Kimi K3, einem chinesischen Open-Weight-Modell des Unternehmens Moonshot AI, das mit einer Leistung nahe der US-Spitzenmodelle bei deutlich geringeren Kosten für Aufsehen sorgte. Der Brief fordert die US-Politik dazu auf, von "verfrühten Beschränkungen für herunterladbare KI-Modelle" abzusehen, ohne dabei China oder einzelne chinesische Anbieter namentlich zu erwähnen.

Warum Anthropic den Brief nicht unterschrieben hat

Auffällig war von Beginn an, wer bei den Unterzeichnern fehlte. Anthropic blieb nach Angaben von Fortune als eines von nur zwei namhaften Unternehmen der Branche fern, neben dem Elon-Musk-Unternehmen xAI. Diese Zurückhaltung sorgte für scharfe öffentliche Kritik: Der frühere KI-Berater des Weißen Hauses, David Sacks, schrieb auf X, die gesamte Tech-Branche außer Anthropic habe sich inzwischen für Open-Source-KI ausgesprochen, und warnte: "Sie werden nicht aufhören, bis sie Open Source lahmgelegt haben. Der Rest der Branche muss diese Leute wie ein Falke beobachten." In einem späteren Beitrag warf er Anthropic zudem vor, eine schrittweise Regulierungsstrategie zu verfolgen, die im Ergebnis einem Verbot gleichkomme, auch wenn jede einzelne Einschränkung für sich genommen moderat klinge.

Amodei selbst hatte den Begriff "Open Source" im Zusammenhang mit KI bereits zuvor öffentlich relativiert. In einem Interview mit dem Big Technology Podcast erklärte er, bei einem KI-Modell handle es sich nicht um Quellcode, sondern um eine Sammlung von Gewichtungen, in die sich nicht hineinschauen lasse, weshalb der klassische Vorteil offener Software, dass viele Entwickler gemeinsam am Code arbeiten und ihn verbessern können, bei KI-Modellen nicht in gleicher Weise greife. Zudem seien solche Modelle nicht wirklich kostenlos, da ihr Betrieb erhebliche Rechenkapazität erfordere. Diese Sichtweise bezeichnete er dem Podcast zufolge als "Ablenkungsmanöver".

Amodeis Alternative zu einem Verbot von Open-Weight-Modellen

Statt eines pauschalen Verbots unterstützt Amodei laut seinem Blogbeitrag drei gezielte politische Maßnahmen, die er und Anthropic nach eigener Aussage seit Langem vertreten. Erstens sollten leistungsfähige Chips und Chipfertigungsanlagen nicht an China verkauft werden, verbunden mit einem konsequenten Vorgehen gegen Schmuggel und Umgehungsversuche. Zweitens fordert er ein Vorgehen gegen industrielle Distillation-Operationen, bei denen ein Modell durch das gezielte Abgreifen der Ausgaben eines fortschrittlicheren Systems trainiert wird und die es China nach seiner Darstellung ermöglichen, den technologischen Rückstand gegenüber den USA trotz begrenzter Chip-Ressourcen zu verkürzen. Drittens plädiert Amodei für verpflichtende Sicherheitstests aller hinreichend leistungsfähigen Modelle, unabhängig davon, ob sie offen oder geschlossen veröffentlicht werden.

Der Distillation-Vorwurf hat für Anthropic eine konkrete Vorgeschichte. Michael Kratsios, technologiepolitischer Berater des Weißen Hauses, erklärte laut einem Bericht der BBC, man verfüge über Informationen, wonach Moonshot AI das Anthropic-Modell Fable für die Entwicklung von Kimi K3 "distilliert" habe. Zusätzlich habe Moonshot AI dabei wahrscheinlich auf Server mit NVIDIAs GB300-Grace-Blackwell-Rechenplattform zugegriffen, deren Export nach China seit 2022 beschränkt ist, wie Kratsios laut BBC weiter mitteilte. Anthropic selbst hatte bereits im Juni 2026 in einem Brief an den US-Senat, über den unter anderem Forbes berichtete, dem chinesischen KonzernAlibaba vorgeworfen, mit rund 28,8 Millionen Anfragen über schätzungsweise 25.000 gefälschte Accounts "den größten bekannten Distillation-Angriff" auf Anthropic verübt zu haben. Die BBC selbst hatte in ihrer ursprünglichen Berichterstattung zu diesem Vorwurf lediglich von "Tausenden" gefälschten Accounts gesprochen, ohne die konkrete Zahl zu nennen. US-Finanzminister Scott Bessent erklärte im Zusammenhang mit den Vorwürfen gegen Moonshot laut einem Bericht von CNBC, die Regierung habe grundsätzlich die Möglichkeit, betroffene Unternehmen zu sanktionieren, sollte sich Diebstahl geistigen Eigentums bestätigen.

Wo Amodei dem offenen Brief widerspricht

Amodei betonte in seinem Blogbeitrag, dass er weiten Teilen des Briefes durchaus zustimme. Offene Modelle würden den Zugang zur KI-Ökonomie erweitern, den Wettbewerb stärken und Kunden mehr Kontrolle geben, räumte er ein. Widerspruch äußerte er hingegen gegenüber der Behauptung, offene Modelle würden es grundsätzlich leichter machen, Schutzmechanismen zu entwickeln, oder breiter Zugang zu Fähigkeiten würde Verteidigern generell mehr nützen als Angreifern. Amodei hält es laut seinem Beitrag für ebenso wahrscheinlich, dass im Bereich Biologie das Gegenteil zutrifft: Ausreichend leistungsfähige Modelle könnten pandemiefähige Viren mit frei verfügbaren Materialien schnell waffenfähig machen, während der Aufbau einer Verteidigung dagegen selbst im besten Fall mehrere Jahre dauere.

Ein Vorfall aus der vergangenen Woche liefert allerdings ein Gegenbeispiel zu dieser Sicherheitsargumentation. Als Hugging Face nach einem Cyberangriff eigener KI-Agentensysteme von OpenAI die Attacke analysieren wollte, verweigerten die Sicherheitsmechanismen der geschlossenen Spitzenmodelle, darunter auch Anthropics Fable 5, die Bearbeitung der Angriffsdaten, wie der Leiter für maschinelles Lernen bei Hugging Face, Yacine Jernite, gegenüber CNBC erklärte. Das Unternehmen griff daraufhin auf das offene chinesische Modell GLM 5.2 von Z.ai zurück, das die Analyse ohne solche Einschränkungen durchführte und die Attacke laut Jernite rasch eindämmen half. Der Fall zeigt, dass die von Amodei angeführten Verteidigungsvorteile geschlossener Systeme in der Praxis nicht durchgängig gelten.

Paul Schütte, Redaktion finanzen.net