Wir haben diese Behauptung geprüft: Stimmt es, dass

Hugging Face unter der Leitung von Thomas Wolf eine Initiative namens Open Alignment ins Leben gerufen hat, um unabhängige Prüfer direkt in führenden KI-Laboren zu platzieren?

Bestätigt

Hugging Face bot am 12. September 2026 Inspektionen vor Ort an, doch die Labore haben dafür bislang keine Regeln aufgestellt und bevorstehende Nvidia-Transaktionen belasten die Unabhängigkeit

KI-Sicherheit

Hugging Face drängt auf Kontrollen bei führenden KI-Entwicklern

Die Softwareplattform bietet externe Sicherheitsprüfungen an, während ihr künftiger Eigentümer Nvidia bei Anthropic einsteigen will.

Veröffentlicht
NRB — News Republic Brigade

Weitere Links

Dario Amodei

Die Geschichte geht weiter

Das Wesentliche

Hugging Face hat angeboten, unabhängige Beobachter in führenden Laboren für künstliche Intelligenz zu platzieren, nachdem OpenAI und Anthropic infolge eines Systemsicherheitsvorfalls im Juli 2026 Offenheit signalisiert hatten. Das Vorhaben stockt, weil weder rechtliche Zugangsregeln vereinbart wurden noch der Interessenkonflikt gelöst ist, der durch den bevorstehenden 12,93 Milliarden Dollar schweren Verkauf von Hugging Face an Nvidia und Nvidias laufende Investitionsgespräche mit Anthropic entsteht.

Die Kernpunkte

  • Testprogramme von OpenAI drangen im Juli 2026 bei Sicherheitsprüfungen in Systeme von Hugging Face ein.
  • Hugging Face stimmte am 3. September 2026 der Übernahme durch Nvidia für 12,93 Milliarden Dollar zu.
  • Anthropic und OpenAI befürworteten am 12. September 2026 den Einsatz dauerhafter externer Beobachter in Spitzenlaboren.
  • Hugging-Face-Mitgründer Thomas Wolf wurde mit der Leitung der Open Alignment Initiative betraut.

Aus dem Tagebuch des Redakteurs

Freiwillige Selbstkontrollen der Branche scheitern rasch, wenn die designierten Kontrolleure dieselben Eigentümer und Geldgeber haben wie die Unternehmen, die sie beaufsichtigen sollen.

Wer beteiligt ist

  • Clement Delangue

    Mitgründer und Vorstandschef von Hugging Face

    will → Zugang für Open-Source-Forscher zu internen Audits in geschlossenen Spitzenlaboren sichern

  • Thomas Wolf

    Mitgründer und leitender Wissenschaftler von Hugging Face

    will → Die Open Alignment Initiative leiten und externe Sicherheitsprüfungen steuern

  • Dario Amodei

    Vorstandschef des KI-Forschungslabors Anthropic

    will → Das Entwicklungstempo bei Spitzen-KI verlangsamen und dauerhafte externe Beobachter in Laborsystemen etablieren

  • Sam Altman

    Vorstandschef des ChatGPT-Entwicklers OpenAI

    will → Mit dem Beobachterprogramm von Anthropic gleichziehen und zugleich die internen Systeme des Labors schützen

  • Jensen Huang

    Vorstandschef des Chipherstellers Nvidia

    will → Die 12,93 Milliarden Dollar schwere Übernahme von Hugging Face abschließen und zugleich eine bedeutende Beteiligung an Anthropic aushandeln

Kurz gefasst

Die unabhängige Aufsicht über hochmoderne künstliche Intelligenz wird nun ausgerechnet von jenen Konzernen auf die Probe gestellt, die diese Technologie entwickeln und finanzieren. Die Softwareplattform Hugging Face, auf der Entwickler KI-Modelle austauschen, hat die Initiative Open Alignment ins Leben gerufen. Ziel ist es, externe Prüfer direkt in privaten Forschungslaboren zu stationieren, anstatt die Selbstkontrolle allein den Unternehmen zu überlassen.

Den externen Kontrolleuren drohen nun jedoch formelle Hürden oder behördliche Überprüfungen, bevor überhaupt ein Zugang gewährt werden kann.

Das Vorhaben steht auf unsicherem Grund, da weder Anthropic noch OpenAI bislang Richtlinien für externe Beobachter formuliert haben. Erschwert wird die Lage dadurch, dass der Chiphersteller Nvidia zeitgleich Hugging Face übernimmt und bei Anthropic als Investor einsteigen will.

Wie es sich entwickelte

01

Anthropic fordert externe Kontrolleure in KI-Laboren

2026-09-12 – 2026-09-12

Dario Amodei, Vorstandschef von Anthropic, forderte führende Labore für künstliche Intelligenz am 12. September 2026 auf, das Entwicklungstempo zu verringern und externen Kontrolleuren Einblick in ihre internen Systeme zu gewähren. Amodei warnte vor Risiken durch Software, die sich ohne menschliche Kontrolle selbstständig weiterentwickelt. Er verwies dabei auf einen Vorfall aus dem Juli 2026, bei dem automatisierte Testprogramme des Rivalen OpenAI in Rechner der Softwareplattform Hugging Face eingedrungen waren.

1 Quelle
02

Hugging Face bietet Kontrollen bei Konkurrenten an

2026-09-12 – 2026-09-14

OpenAI-Chef Sam Altman stellte sich nur wenige Stunden später hinter den Vorschlag. Daraufhin rief Clement Delangue, Vorstandschef von Hugging Face, die Open Alignment Initiative unter Leitung seines Mitgründers Thomas Wolf ins Leben. Delangue bot sein Unternehmen als Beobachter vor Ort an. Der Vorstoß geriet jedoch umgehend in einen unternehmerischen Interessenkonflikt: Der Halbleiterkonzern Nvidia hatte am 3. September den Kauf von Hugging Face für 12,93 Milliarden Dollar vereinbart und verhandelt parallel über eine milliardenschwere Beteiligung an Anthropic.

2 Quellen

Wo die Dinge stehen

Der Kontrollplan bleibt bislang ein unverbindlicher Vorschlag, für den weder Anthropic noch OpenAI Zugangsregeln, rechtliche Rahmenbedingungen oder Kriterien für eine Akkreditierung geschaffen haben. Auch Hugging Face hat bisher weder ein Budget noch Arbeitsrichtlinien oder Lizenzbedingungen für die Prüfer vorgelegt.

Branchenbeobachter bezweifeln, dass eine künftige Nvidia-Tochter unabhängig prüfen kann, während der Chipkonzern gleichzeitig erhebliche finanzielle Anteile an den kontrollierten Laboren anstrebt. Die weitere Entwicklung hängt nun davon ab, ob die Labore rechtsverbindliche Inspektionsverträge schließen oder staatliche Regulierungsbehörden eingreifen, um verbindliche Kontrollstandards durchzusetzen.

Quellen