Mark Zuckerbergs KI-Manifest: Offene Modelle statt zentraler Kontrolle - Meta-Aktie im Fokus

• Zuckerberg positioniert Meta gegen zentralisierte KI-Kontrolle und wirbt für offene, frei verfügbare Modelle
• Essay enthält Vorschläge zu Cybersicherheit, Bioterrorismus-Prävention, US-Führungsrolle im KI-Wettlauf mit China sowie zum Umgang mit Jobverlusten durch Automatisierung
• Kritiker weisen darauf hin, dass Meta-Modelle in den vergangenen Wochen bereits mehrfach andere Unternehmen gehackt hätten

Individuelles Empowerment statt zentraler Kontrolle

In seinem Essay, den Mark Zuckerberg am 10. August auf der Unternehmenswebsite veröffentlichte, entwickelt der Meta-CEO eine Philosophie, die auf drei Prinzipien beruht: individuelle Handlungsfähigkeit als Quelle von Wohlstand, Erfindungsreichtum als Hauptzweck von Superintelligenz sowie eine Machtbalance als Grundlage für Sicherheit. Er wendet sich damit explizit gegen die Vorstellung, eine kleine Gruppe von Experten oder ein einzelnes Unternehmen solle kontrollieren, wie Superintelligenz eingesetzt wird. Stattdessen sollten möglichst viele Menschen und Unternehmen mit eigenen, an ihren Zielen ausgerichteten KI-Agenten ausgestattet werden, die sich gegenseitig kontrollieren, ähnlich wie es in einer funktionierenden Marktwirtschaft geschehe.

Meta kündigt in diesem Zusammenhang an, jedem Nutzer einen persönlichen, rund um die Uhr verfügbaren KI-Agenten zur Verfügung zu stellen, der laut Zuckerberg Beziehungen, Gesundheit, Karriere und Finanzen unterstützen soll. Für die Privatsphäre soll ein vollständig geschützter Modus sorgen, den selbst Meta nicht einsehen könne, vergleichbar mit der Ende-zu-Ende-Verschlüsselung bei WhatsApp.

Meta-Aktie: Offene Modelle als Gegenpositionierung zu Anthropic und OpenAI?

Zentral in Zuckerbergs Essay ist das Plädoyer für Open-Source-KI. Er warnt, dass eine Konzentration von Superintelligenz bei einzelnen Institutionen zwangsläufig zu Ergebnissen führe, die für alle anderen ungünstiger seien. Nach Einschätzung der Nachrichtenagentur The Associated Press grenzt sich Zuckerberg damit - ohne Namen zu nennen - von Wettbewerbern ab, die KI-Modelle proprietär und stärker kontrolliert entwickeln.

Auch bei der sogenannten Distillation, dem Training eines Modells anhand der Ausgaben eines stärkeren Modells, positioniert sich Zuckerberg gegen schärfere Beschränkungen. Diese Praxis dürfe nicht als schädlich eingestuft werden, da das Lernen aus beobachtbaren Informationen ein grundlegendes Prinzip sei. Die US-Regierung hatte laut AP zuvor angekündigt, gegen chinesische Unternehmen vorzugehen, die Distillation zur Extraktion von Fähigkeiten aus US-Modellen nutzen. Anthropic hatte DeepSeek zuvor entsprechend beschuldigt.

Vorschläge zu Sicherheit, Infrastruktur und US-Führungsrolle

Zu Cybersicherheit und dem Risiko von Bioterrorismus argumentiert Zuckerberg, dass eine breite Verteilung von KI-Fähigkeiten Systeme insgesamt sicherer mache, da mehr Akteure Schwachstellen identifizieren und beheben könnten. Er schlägt vor, dass führende KI-Labore der US-Regierung frühzeitig Zwischenstände ihrer Modelle sowie technisches Personal zur Verfügung stellen sollten, um kritische Systeme zu härten, ohne dabei die öffentliche Verfügbarkeit der Modelle zu verzögern.

Beim Ausbau der KI-Infrastruktur verweist Zuckerberg auf ein Beispiel aus Richland Parish, Louisiana, wo Lehrkräfte durch gestiegene Steuereinnahmen infolge eines Meta-Rechenzentrums einen Bonus von 50.000 US-Dollar erhalten hätten. Mit Blick auf den globalen Wettbewerb, insbesondere mit China, fordert er eine beschleunigte Energie- und Infrastrukturentwicklung sowie eine Fortsetzung bestehender Exportkontrollen für Halbleiter.

Zur Sorge vor Jobverlusten durch Automatisierung zeigt sich Zuckerberg optimistisch: Es gebe keine Regel, wonach Automatisierung schneller voranschreiten müsse als der Fähigkeitszuwachs von Individuen. Neue Berufsfelder - etwa personalisierte Biologen oder "One-Person Product Studios" - könnten entstehen.

Kritik: Essay ignoriert eigene Sicherheitsvorfälle

Die Reaktionen auf den Essay fielen überwiegend kritisch aus. Anthony Aguirre, Präsident des Future of Life Institute, verwies laut AP darauf, dass Meta eigene Modelle in den vergangenen Wochen bereits mehrfach für Hacking-Vorfälle bei anderen Unternehmen verantwortlich gewesen seien, und stellte infrage, wie Meta glaube, etwas "exponentiell Intelligenteres" kontrollieren zu können. Aguirre forderte stattdessen eine von Regierungen erzwungene Pause bei der Entwicklung fortgeschrittener KI-Systeme.

Auch Matt Lane von der Bürgerrechtsorganisation Fight for the Future äußerte sich laut AP kritisch: Zuckerberg liege zwar in der grundsätzlichen Bedeutung von Open-Source-KI richtig, doch profitiere von einer Verbreitung ausschließlich Meta-eigener Systeme letztlich vor allem Meta selbst, echte Dezentralisierung sehe anders aus.

Der Essay erschien am selben Tag wie die Veröffentlichung des neuen offenen Modells Muse Glimmer sowie, laut AP, die Ankündigung eines leistungsfähigeren Entwicklermodells namens Muse Spark 1.2.

Markus Maier, Redaktion finanzen.net