OpenAI-Aktie voraus: Neues KI-Modell Astra soll an die Spitze der Entwicklung führen

Man gehe davon aus, dass Menschen mit den erweiterten Fähigkeiten von ChatGPT-6 Astra mehr und mehr Aufgaben an die KI übertragen werden, sagte OpenAI-Managerin Mia Glaese. Deshalb werde die Software besser überwacht, damit sie nicht vom Interesse der Nutzer abweiche.

Neue KI-Modelle von OpenAI hatten vor einigen Wochen für Aufsehen gesorgt, weil sie in Versuchen eigenständig einen Weg fanden, aus einer abgesicherten Testumgebung auszubrechen, und sich in Systeme einer anderen KI-Firma hackten. OpenAI bekam das erst verspätet mit. Der Zwischenfall nährte die Sorge, dass KI-Software mit ihrer Weiterentwicklung menschlicher Kontrolle entgehen könnte.

Schwerer zu kontrollieren

Um den Überblick über das Handeln der KI zu behalten, sind Entwickler aktuell oft darauf angewiesen, dass die Software die Argumente hinter ihren Entscheidungen in menschlicher Sprache festhält. Das nennt sich "Chain of Thought" (etwa: Gedankenkette).

Forschungschef Jakub Pachocki sagte bei der Vorstellung von Astra allerdings, leistungsstärkere KI-Modelle seien in der Lage, dieses Verfahren zu beeinflussen. Außerdem seien sie bei einfachen Aufgaben weniger auf mehrstufige Überlegungen angewiesen. Damit man auch diese nachvollziehen könne, müsse man einen Weg finden, sie da "wortreicher" zu machen.

Auf dem Weg zu den Menschen überlegener KI

Mit Astra sieht sich OpenAI wieder an der Spitze der KI-Entwicklung, nachdem zuletzt der Rivale Anthropic mit seinen Modellen Mythos und Fable die Branche beeindruckt hatte. ChatGPT-6 sei etwa stark beim Programmieren, dem Finden von Sicherheitslücken in Software sowie generell der Nutzung des Computers im Auftrag der Nutzer, zum Beispiel bei Büroarbeit.

Aus Sicht von Top-Manager Greg Brockman könnte Astra die Ära der sogenannten Allgemeinen Künstlichen Intelligenz einläuten. Unter dieser Bezeichnung wird KI-Software erwartet, die mindestens genauso fähig ist wie ein Mensch. Brockman betonte zugleich, dass das Auftreten der Allgemeinen Künstlichen Intelligenz eher ein Evolutionsprozess als ein einzelner Moment sein werde.

"Menschliche Werte"

Von Pachocki kamen auch noch mehr warnende Worte. Das Verständnis der Systeme sei weiterhin eingeschränkt, sagte er. Das Training sei experimentell und bringe manchmal überraschende Ergebnisse. "Je fähiger die Modelle werden, desto schwieriger wird es, zu verstehen, was genau sie können."

Das mache es auch komplizierter, sie im Einklang mit den Interessen der Nutzer zu halten. "Ein Modell kann sehr gut darin werden, ein Ziel zu erreichen - und doch auf eine Weise agieren, die dem entgegenläuft, was ein Mensch beabsichtigte." Deshalb müsse die Software "menschliche Werte" auch in Situationen verstehen, die für sie unbekannt seien.

OpenAI kündigte zudem an, dass der Zugang von Versorgungsunternehmen, örtlichen Behörden und Finanz-Institutionen zu einem Programm zur Suche nach Sicherheitslücken erweitert werden solle. In den USA werden Versorger wie etwa Wasserwerke aktuell häufiger aus dem Netz angegriffen und hoffen auf Hilfe beim Schließen von Software-Schwachstellen. Ähnlich wie Anthropics Mythos-Modell kann Astra nach Einschätzung von OpenAI eigenständig Sicherheitslücken in Programmen und Computersystemen finden.

/so/DP/zb

SAN FRANCISCO (dpa-AFX)