Meta-Aktie dennoch in Grün: KI-Software hackte sich in fremde Computersysteme - wie zuvor OpenAI und Anthropic

Ähnlich wie bei einigen Vorfällen der beiden Rivalen lag das Problem auch hier in einer Fehlkonfiguration des Systems bei demselben Testpartner, wie (Meta unter anderem dem Sender CNN mitteilte. Durch die falsche Einstellung hatten die KI-Modelle Zugang zum Internet - was eigentlich gar nicht vorgesehen war.

Meta machte keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns durch die Ausnutzung einer Schwachstelle eindrang. Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners.

Welle von Enthüllungen

Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI war bei einem Test ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, eingedrungen. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Zudem stellten britische Sicherheitsforscher Cyberattacken durch KI von Anthropic und OpenAI fest, denen sie in ihren Versuchen ungehinderten Zugang zum Internet gewährt hatten.

Die ungeplanten Attacken richteten keinen Schaden an, verstärkten aber allgemein die Angst vor Cyberangriffen mit Hilfe Künstlicher Intelligenz.

Unlösbare Aufgaben und Schummeln

Forscher von OpenAI berichteten unterdessen, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommuniziert hätten, um gemeinsam aus der eigentlich abgeschirmten Testumgebung auszubrechen. Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten Eric Wallace und Michael Dalton in einer Präsentation auf der Hacker-Konferenz Black Hat dem Finanzdienst Bloomberg zufolge. Zu den Erkenntnissen der Forscher gehört, dass die Top-KI-Modelle oft schummeln wollten, um die Testaufgaben zu lösen.

Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internet-Zugang nicht abrufbar gewesen. In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hieß es.

Im NASDAQ-Handel notiert die Meta-Aktie zeitweise 0,16 Prozent fester bei 589,70 US-Dollar.

/so/DP/jha

MENLO PARK (dpa-AFX)