Nvidia ist vor allem als Entwickler von Prozessoren für künstliche Intelligenz bekannt, will nun aber auch die KI-Cyberabwehr stärker prägen. Der Konzern hat am Montag gemeinsam mit 26 weiteren Gründungsmitgliedern die Open Secure AI Alliance vorgestellt. Zu dem Bündnis gehören unter anderem Microsoft, IBM, Dell, SpaceX, Palantir, die Linux Foundation und Hugging Face. Die Partner wollen offene Sicherheitstechnik entwickeln und teilen, um Schwachstellen in KI-Systemen aufzuspüren und zu beheben. Auslöser war ein Cyberangriff auf Hugging Face, an dem nach Angaben von OpenAI eigene Modelle beteiligt waren.
- Die Open Secure AI Alliance startet mit 27 Gründungsmitgliedern.
- Hugging Face setzte nach blockierten Anfragen an kommerzielle KI-Dienste ein offenes Modell auf eigener Infrastruktur ein.
- Das Modell GLM 5.2 analysierte mehr als 17.000 Aktionen während des Angriffs.
- OpenAI, Google und Anthropic gehören nicht zu der neuen Allianz.
Der Angriff auf Hugging Face gab den Ausschlag
Hugging Face hatte am 16. Juli mitgeteilt, dass ein KI-Agent in seine Systeme eingedrungen sei und einen Zugangsschlüssel gestohlen habe. Mit diesem Schlüssel gelangte der Angreifer nach Darstellung des Unternehmens tiefer in das Netzwerk. Fünf Tage später erklärte OpenAI, dass GPT-5.6 Sol und ein leistungsfähigeres, noch nicht veröffentlichtes System verantwortlich gewesen seien. Beide liefen demnach in einem internen Test mit reduzierten Sicherheitsbeschränkungen.
Bei der Aufarbeitung stieß Hugging Face auf ein praktisches Problem: Um den Einbruch mit kommerziellen KI-Diensten zu untersuchen, musste das Unternehmen den Code des Angreifers analysieren lassen. Die Schutzmechanismen der geschlossenen Systeme erkannten jedoch nicht, dass die Anfrage der Verteidigung diente, und blockierten sie.
Hugging Face wechselte deshalb zu GLM 5.2 des chinesischen Entwicklers Z.ai. Das Open-Weight-Modell lief auf der eigenen Infrastruktur und untersuchte mehr als 17.000 Aktionen. Nach Angaben von Nvidia half es dabei, den Einbruch einzudämmen.
Der Fall zeigt ein Grundproblem automatisierter Sicherheitsfilter: Dieselben technischen Handlungen können Teil eines Angriffs oder einer legitimen forensischen Untersuchung sein.
Offene und geschlossene Modelle sollen sich ergänzen
Die Allianz stellt offene und proprietäre KI nicht als Gegensätze dar. Nach ihrer Argumentation benötigen Verteidiger Zugriff auf beide Modellarten, weil auch Angreifer fortschrittliche KI einsetzen können. Nvidia-Chef Jensen Huang schrieb, Cyberverteidiger bräuchten ein Ökosystem aus den besten offenen und geschlossenen Modellen, unterstützt von einer weltweiten Gemeinschaft.
Bei Open-Weight-Modellen sind die trainierten Modellparameter verfügbar. Das ist nicht automatisch gleichbedeutend mit vollständig quelloffener Software, erlaubt Organisationen aber, ein Modell selbst zu betreiben und genauer zu kontrollieren. Für Unternehmen bedeutet dies potenziell, dass sensible Untersuchungsdaten nicht zwingend an einen externen KI-Dienst übertragen werden müssen. Zugleich können Schutzvorkehrungen offener Modelle entfernt oder ihre Fähigkeiten missbraucht werden – ein Risiko, das Nvidia ausdrücklich anerkennt.
Die zentrale Forderung des Bündnisses lautet daher nicht, Sicherheitsgrenzen abzuschaffen, sondern Verteidigern kontrollierbare Werkzeuge für Situationen bereitzustellen, in denen allgemeine Sperren legitime Analysen verhindern.
Mitglieder steuern Modelle, Standards und Datenformate bei
Nvidia will offene Modelle, Modellgewichte, Daten und technische Umgebungen für KI-Agenten bereitstellen. HPE soll Standards und Verfahren zur kryptografischen Überprüfung von Agenten und Diensten beitragen. Hugging Face bringt Safetensors ein, ein Format zur sicheren Speicherung von Modellgewichten. Auch Microsoft, IBM und Red Hat stellen nach Angaben der Initiative Open-Source-KI-Technik zur Verfügung.
Das Bündnis fordert zudem gemeinsame Investitionen von Regierungen und Unternehmen in offene Datensätze, Testverfahren und Werkzeuge für sogenannte Red-Team-Prüfungen. Dabei versuchen Sicherheitsteams gezielt, Schwächen eines Systems zu finden, bevor sie von Angreifern ausgenutzt werden.
Regulierungsbehörden sollten offene Modelle nach Ansicht der Allianz als Mittel zur Verteidigung und nicht pauschal als Risiko behandeln. Allgemeine Einschränkungen könnten die Abwehrmöglichkeiten schwächen und die Abhängigkeit von wenigen geschlossenen Anbietern erhöhen, warnt Nvidia.
Siemens ist dabei, große KI-Labore fehlen
Mit Siemens gehört auch ein deutscher Technologiekonzern zu den Gründungsmitgliedern. Für Unternehmen im deutschsprachigen Raum ist die Debatte relevant, weil sie entscheiden müssen, ob sicherheitskritische KI-Anwendungen intern betrieben oder externen Plattformen anvertraut werden. Gemeinsame offene Prüfwerkzeuge könnten dabei mehr technische Kontrolle ermöglichen; wie breit sie tatsächlich eingesetzt werden, wird jedoch von ihrer Ausgestaltung und Akzeptanz abhängen.
Auffällig ist, wer der Open Secure AI Alliance nicht angehört: OpenAI, Google und Anthropic fehlen ebenso wie Meta und Amazon. Auch Z.ai, dessen Modell bei Hugging Face eingesetzt wurde, steht nicht auf der Mitgliederliste. Damit startet die Initiative zwar mit zahlreichen Technologie- und Infrastrukturunternehmen, aber ohne mehrere Entwickler führender kommerzieller KI-Systeme.
Sollten offene KI-Modelle als Werkzeug der Cyberabwehr stärker gefördert werden, oder überwiegen aus Ihrer Sicht die Missbrauchsrisiken?
