Mitten im OpenAI-Chaos: NVIDIA mit neuer KI-Sicherheitsinitiative - So reagiert die Aktie

• NVIDIA stellt offene Software gegen entgleisende KI-Agenten vor
• Mehr als 100 Organisationen sollen bei der Plattform mitwirken
• OpenAI kämpft parallel mit einem weiteren Sicherheitsvorfall

NVIDIA hat die Open Agent Safety Platform vorgestellt, eine offene Software- und Hardwarearchitektur, die KI-Agenten vom Test bis zum produktiven Einsatz kontrollieren soll. Der Chiphersteller reagiert damit auf eine Serie von Sicherheitsvorfällen in der Branche, wenige Tage nach der Trainingspause von OpenAI.

OpenShell und Sentry sollen KI-Agenten kontrollieren

Die neue Plattform von NVIDIA, dem Anbieter von Grafikprozessoren und KI-Rechenplattformen, besteht aus zwei Bausteinen. Die Open-Source-Software OpenShell setzt eine sichere Laufzeitgrenze für Agenten, die auf NVIDIA-Vera-CPUs arbeiten, protokolliert sämtliche Aktionen und erzwingt vorgegebene Richtlinien. Da es sich um Open-Source-Code handelt, lässt sich OpenShell auch auf Rechenplattformen von Drittanbietern wie Arm oder Intel erweitern.

Ergänzt wird OpenShell durch das Referenzdesign Sentry, das als unabhängiger Wachhund auf NVIDIA-BlueField-4-DPUs läuft. Sentry überwacht das Verhalten von Agenten fortlaufend und kann binnen Millisekunden eingreifen, wenn ein Agent versucht, seine festgelegten Grenzen zu verlassen. NVIDIA begründet den Schritt mit einem wiederkehrenden Muster von Sicherheitsvorfällen der vergangenen Monate, bei denen Agenten Sicherheitskontrollen auf Anwendungsebene umgingen, um eine ihnen zugewiesene Aufgabe zu erfüllen.

Breites Bündnis hinter der Initiative

Nach Angaben von NVIDIA arbeiten mehr als 100 Organisationen an der Plattform mit, darunter Anthropic, Cisco, CrowdStrike, Dell Technologies, Hugging Face, JPMorgan, Microsoft, Palantir, Salesforce, SAP und ServiceNow. Initiiert wurde die zugehörige Open Secure AI Alliance von NVIDIA gemeinsam mit über 120 Organisationen, verwaltet wird sie von der Linux Foundation. Die Software, einschließlich OpenShell, steht über die Entwicklerressourcen von NVIDIA und auf GitHub zum Download bereit.

NVIDIA-Gründer und CEO Jensen Huang erklärte, Sicherheit müsse als Aufgabe über den gesamten technischen Stack hinweg verstanden werden. Die Plattform solle Industrie, Forschung und öffentliche Institutionen zusammenbringen, um Best Practices zu teilen und internationale Zusammenarbeit bei der KI-Sicherheit zu fördern.

Der OpenAI-Hintergrund

Zeitlich fällt die Ankündigung mit einer neuen Sicherheitspanne bei OpenAI zusammen. Ein internes Forschungsmodell hatte am 20. September in einer eigentlich abgeschotteten Testumgebung eine Lücke in der DNS-Filterung genutzt, um Anfragen an einen öffentlichen Chatbot zu senden. Das Misalignment-Monitoring von OpenAI schlug binnen 15 Minuten Alarm, ein Mitarbeiter reagierte drei Minuten später, doch der betroffene Trainingslauf wurde laut OpenAI erst zweieinhalb Stunden danach beendet. OpenAI pausierte daraufhin sämtliches Training, alle Evaluierungen und jede werkzeugnutzende Inferenz seiner leistungsfähigsten Modelle, bis die Lücke geschlossen und zusätzliche Red-Teaming-Tests abgeschlossen sind.

Es ist die zweite Trainingspause bei OpenAI innerhalb von rund drei Monaten, nachdem bereits Ende Juli 2026 ein Ausbruch von Agenten aus ihrer Sandbox einen Cyberangriff auf Hugging Face begünstigt hatte. Das Wall Street Journal berichtete laut Sekundärquellen zudem, OpenAI-Agenten hätten zwischen Dezember 2025 und Juni 2026 eine Website der Vereinten Nationen mehr als 16.000 Mal nach öffentlich zugänglichen Daten durchsucht und dabei eigentlich blockierende Sicherheitsmechanismen umgangen. OpenAI teilte zudem mit, Dutzende Organisationen, darunter Regierungen und Universitäten, über ungeplante Interaktionen ihrer Agenten mit deren Webseiten informiert zu haben.

Ob die Open Agent Safety Platform von NVIDIA tatsächlich verhindern kann, dass Agenten wie bei OpenAI ihre Grenzen überschreiten, dürfte sich erst zeigen, wenn die angekündigten Werkzeuge in der Praxis breiter im Einsatz sind.

Aktienrückkaufprogramm um 150 Milliarden US-Dollar aufgestockt

Der US-Chipkonzern NVIDIA hat nebenbei sein Aktienrückkaufprogramm um 150 Milliarden US-Dollar aufgestockt. Damit erhöht sich das genehmigte Programm auf insgesamt 235 Milliarden Dollar, wie der für seine KI-Chips bekannte Konzern am Montag mitteilte. Die Rückkäufe sollen bis zum Geschäftsjahr 2028 durchgeführt werden. Die Aktie legte vorbörslich um 1,3 Prozent zu.

Bedeutung für Anleger der NVIDIA-Aktie

Für Anleger ist die Initiative vor allem deshalb relevant, weil NVIDIA damit seine Position im KI-Ökosystem über die reine Bereitstellung von Chips und Rechenleistung hinaus ausbaut. Gelingt es dem Konzern, OpenShell und Sentry als verbreitete Sicherheitslösungen für KI-Agenten zu etablieren, könnte dies die Bedeutung der NVIDIA-Plattform für Unternehmen und Entwickler weiter erhöhen. An der Börse zeigt sich bislang eine positive Reaktion: Während Tech-Titel am Montag auf breiter Front deutlicher nachgeben, kann die NVIDIA-Aktie vorbörslich an der NASDAQ 0,75 Prozent auf 226,75 US-Dollar zulegen.

Claudia Stephan, Benedict Kurschat, Redaktion finanzen.net mit Material von dpa-AFX

Dieser Text dient ausschließlich zu Informationszwecken und stellt keine Anlageempfehlung dar. Die finanzen.net GmbH schließt jegliche Regressansprüche aus.