IT-Experte: Wir kommen dem KI-GAU näher

FRANKFURT (dpa-AFX) - Der KI-Experte Dennis-Kenji Kipker hält Warnungen führender KI-Unternehmen vor einer außer Kontrolle geratenden künstlichen Intelligenz grundsätzlich für berechtigt. Zwar seien konkrete Zeitangaben empirisch nicht belegbar, sagte der Professor vom Cyber Intelligence Institute (CII) im ZDF-"Morgenmagazin". "Was man aber definitiv sagen kann, ist, dass wir einem KI-GAU immer näher kommen."

Derzeit wird viel über die Sicherheit von KI-Systemen diskutiert. Er sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb etwa Dario Amodei, Chef des KI-Unternehmens Anthropic Amodei am Wochenende. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk.

Die Entwicklung vergleicht Kipker mit einem Kartenhaus: "Wir bauen immer höher, immer schneller das KI-Kartenhaus." Je mehr KI-Bestandteile in Systeme eingebaut würden, desto größer werde das Risiko - etwa in der Energieversorgung, in Logistik und Lieferketten, bei Finanzmarktinfrastrukturen und militärischen Waffensystemen.

Fielen KI-gesteuerte Systeme in kritischen Infrastrukturen aus, könne das "sofort Kaskadeneffekte für die Versorgungssicherheit der Bevölkerung nach sich ziehen". Zudem nutzten Cyberkriminelle die Fähigkeiten künstlicher Intelligenz zunehmend für Angriffe auf Staat und Verwaltung.

Kipker sagte auch, die EU sei lange für ihr KI-Gesetz belächelt worden, inzwischen könne sie in diesem Bereich "sogar Vorreiter geworden" sein. Als größter Binnenmarkt und großer Kunde von KI-Systemen könne die EU künftige Sicherheitsstandards prägen./mjm/DP/men