Anthropic im Fokus: KI-Sicherheit und Biowaffen-Risiken - Schummelvorwurf an chinesischen Rivalen

Zugleich schränkte der Konkurrent des ChatGPT-Entwicklers OpenAI ein, dass die Ziele solcher Anfragen schwer zu ermitteln seien, da entsprechende Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne.

Auf jeden Fall zeigten die Versuche aber, dass Wissenschaftler aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen, hieß es. Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt.

Anthropic führte in einem ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung auf. Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren. KI-Modelle sind grundsätzlich darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen könne, sei es manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärte Anthropic.

Bei einem der von der KI-Firma blockierten Zugriffsversuche sei probiert worden, mit Hilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen. Dabei sei es um sogenannte Gain-of-Function-Forschung gegangen, bei der die Übertragbarkeit eines Erregers erhöht wird. Eine gängige Methode bei der Suche nach Gegenmitteln in Laboren - aber eben auch ein Weg, Biowaffen zu entwickeln.

In einem anderen Fall wurde den Angaben zufolge versucht, mit Hilfe von Claude einen Plan für die Erforschung einer Vogelgrippe-Variante zu entwerfen, die sich auf Säugetiere übertragen ließe. Auch hier betont Anthropic, dass solche Forschung zwar der Prävention dienen könne, aber zugleich gefährliches Wissen schaffe, das bei der Waffenentwicklung verwendet werden könne. Ein weiterer Wissenschaftler habe Claude bei der Erstellung vierteljährlicher Fortschrittsberichte bei der Erforschung eines Toxins nutzen wollen.

KI-Firma Anthropic wirft chinesischen Rivalen Schummelei vor

Die KI-Firma Anthropic wirft chinesischen Rivalen vor, Anfragen von Nutzern heimlich zu ihr umgeleitet zu haben, statt sie mit der eigenen Software zu beantworten. Dadurch seien zum Teil auch Daten staatlicher Stellen aus China und Russland in Systemen der US-Firma gelandet, schrieb Anthropic in einem ausführlichen Bericht zu Versuchen unerlaubter Nutzung.

So habe jemand Aufnahmen von Überwachungskameras unter anderem aus der Umgebung von Standorten der chinesischen Armee hochgeladen, mit dem Ziel, das Verhalten einer bestimmten Person in den Videos zu analysieren. Der Nutzer ging dabei davon aus, dass die Anfrage von der chinesischen KI-Software Kimi der Firma Moonshot ausgeführt wird. Kimi ließ sie jedoch von Anthropics Claude erledigen, wie es in dem Bericht hieß.

Allein in einem Zeitraum von zehn Tagen habe Kimi fast 300.000 Kundenanfragen von Claude beantworten lassen, schrieb Anthropic. Dafür sei ein Netzwerk aus 5.380 Fake-Accounts genutzt worden.

Chinas Außenamt machte angesprochen auf den Bericht keine weiteren Angaben. "Ich kenne die von Ihnen angesprochenen konkreten Umstände nicht", sagte Sprecherin Mao Ning in Peking. China setze sich für eine positive Entwicklung von KI ein, fuhr sie fort. Parallel lehne es China ab, Tatsachen zu verdrehen, um China in Verruf zu bringen, betonte Mao.

Auch russisches Militär betroffen

Auch die noch bekanntere chinesische KI DeepSeek fiel laut Anthropic mit solchen Tricks auf. Das habe unter anderem dazu geführt, dass zur US-Firma Anfragen mit Daten einer Behörde aus dem Umfeld des russischen Verteidigungsministeriums umgeleitet wurden. Darin enthalten gewesen seien auch gültige Einwahldaten für eine Datenbank der russischen Regierung.

Brisant für chinesische KI-Entwickler

Die Vorwürfe könnten einen Schatten auf das Ansehen der chinesischen KI-Branche werfen. Seit Anfang vergangenen Jahres hatten die günstigen KI-Modelle erst von DeepSeek und dann Moonshot wiederholt für Beben an der Börse gesorgt. Anleger zweifelten zeitweise an den Geschäftsaussichten amerikanischer KI-Labore wie Anthropic und des ChatGPT-Entwicklers OpenAI, weil der Eindruck entstand, dass leistungsstarke Künstliche Intelligenz mit deutlich weniger Aufwand trainiert werden könne.

Die US-Seite wirft den chinesischen Entwicklern unterdessen vor, in großem Stil amerikanische Software wie Claude und ChatGPT benutzt zu haben, um ihre Künstliche Intelligenz anzulernen. Für diese in der Branche unter dem Namen Destillation bekannte Technik habe allein Kimi von Mai bis Juli 23 Millionen Mal auf Anthropic-KI zugegriffen, hieß es in dem Bericht.

/so/DP/zb

SAN FRANCISCO (dpa-AFX)