OpenAI-Aktie: KI-Agent überwindet Sicherheitsvorkehrungen von australischem Regierungsportal

Bei Medicare handelt es sich um Australiens staatliche Krankenversicherung. Das betroffene Portal von Services Australia enthält nach Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken. Der KI-Agent griff demnach auf öffentliche und nicht öffentliche Dateien zu. Persönliche Informationen seien nach bisherigem Kenntnisstand nicht abgerufen worden, Einzelpersonen seien offenbar nicht betroffen, erklärte Albanese.

Der Vorgang begann mit einer eigentlich harmlosen Aufgabe: Das KI-Programm sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte es sich nach Angaben von Vize-Premier Richard Marles so, wie es auch ein normaler Nutzer tun würde. Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben - woraufhin der Agent den Zugang auf anderem Weg erlangte. "Der KI-Agent fand einen Weg, die Sperren zu umgehen - er wollte ein Nein gewissermaßen nicht akzeptieren", erklärte Albanese.

Forensische Untersuchung

Wie viele Daten tatsächlich abgerufen wurden und auf welche Dateien der Agent zugreifen konnte, wird derzeit noch ermittelt. Eine forensische Untersuchung soll klären, was genau passiert ist und ob weitere Regierungssysteme betroffen waren.

OpenAI teilte mit, man habe bei einer internen Evaluierung Aktivitäten auf mehreren australischen Regierungsseiten und in Regierungsdiensten festgestellt. Die Modelle hätten dabei versucht, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden. "Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten", sagt ein Sprecher des Unternehmens.

OpenAI nimmt Ukraine in KI-Cyberabwehr-Programm auf

Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI soll der ukrainischen Regierung helfen, Cyberattacken aus Russland abzuwehren. Das Ministerium für digitale Transformation wurde in das "Daybreak"-Programm von OpenAI aufgenommen, in dem mit Hilfe von KI-Software Sicherheitslücken gefunden und geschlossen werden sollen.

Dabei gehe es um den Schutz der zivilen Infrastruktur, teilte die US-Firma mit. Unter anderem Versorgungsunternehmen und Krankenhäuser in der Ukraine sind schon seit Jahren Cyberangriffen ausgesetzt, die russischen Hackern zugeordnet werden. Allein im vergangenen Jahr habe die ukrainische Cybersicherheits-Behörde insgesamt fast 6.000 Zwischenfälle registriert, hieß es in der Mitteilung.

Neue KI von OpenAI und des Rivalen Anthropic ist sehr gut darin, zum Teil seit Jahrzehnten schlummernde Schwachstellen in Software aufzuspüren, die für Attacken missbraucht werden können. Da dieses Wissen zugleich für verheerende Cyberangriffe genutzt werden könnte, begrenzen die Unternehmen in Abstimmung mit der US-Regierung den Zugang zu diesen Fähigkeiten. Im "Daybreak"-Programm von OpenAI bekamen bisher IT-Sicherheitsexperten unter anderem auch aus Deutschland, Frankreich und Polen Zugriff auf die Technologie.

/cfn/DP/zb

SYDNEY (dpa-AFX)