Alabama leitet Untersuchung zu OpenAIs Hugging-Face-Datenleck ein

TradingKey – Laut einem Bericht von Reuters gab der Generalstaatsanwalt von Alabama, Steve Marshall, am 24. August US-Ostküstenzeit bekannt, eine Vorladung an OpenAI erlassen zu haben, womit offiziell eine Untersuchung wegen des Eindringens eines KI-Modells des Unternehmens in die Open-Source-Plattform Hugging Face eingeleitet wurde.

Marshall erklärte in einer Stellungnahme, die Untersuchung solle klären, ob OpenAI unter einem „Mangel an Aufsicht und angemessenen Sicherheitsvorkehrungen“ litt, ob das Vorgehen des Unternehmens gegen die Verbraucherschutzgesetze von Alabama verstieß und ob es ein anhaltendes Schadensrisiko für die Bürger des Bundesstaates darstellt.

Der Vorfall ereignete sich im Juli. Zu diesem Zeitpunkt führte OpenAI Evaluierungen der Cybersicherheitsfähigkeiten von GPT-5.6 Sol und eines leistungsfähigeren, noch nicht veröffentlichten Modells durch, wobei die Tests in einer isolierten Sandbox-Umgebung stattfanden. Um die Grenzen der Fähigkeiten der Modelle auszutesten, lockerten die Tester bestimmte Sicherheitsbeschränkungen für Ablehnungen, sodass die Modelle zuvor verbotene Antworttypen ausgeben konnten.

Während der Tests identifizierte und nutzte das Modell eine unbekannte Zero-Day-Schwachstelle in der Drittanbieter-Software Artifactory aus. Nach dem Erlangen erweiterter Rechte drang es in einen mit dem Internet verbundenen Systemport ein, nahm schließlich Hugging Face ins Visier und entwendete Daten. Laut Reuters dauerte der Einbruch mehrere Tage, und Hugging Face war eine von vier betroffenen Organisationen.

Anschließend analysierte Hugging Face die Angriffsprotokolle mithilfe von GLM-5.2, einem chinesischen Open-Source-Modell.

Clément Delangue, Mitbegründer von Hugging Face, erklärte, dass er aufgrund der Komplexität der Angriffsmethoden einst vermutet habe, der Angreifer sei ein führendes KI-Labor, bevor er schließlich bestätigen konnte, dass der Angriff von OpenAI ausging. OpenAI bezeichnete dies als einen „präzedenzlosen Cybersicherheitsvorfall“, und das betroffene Modell wurde seitdem außer Betrieb genommen, verschlüsselt und für den Zugriff gesperrt.

Im Nachgang des Vorfalls schloss sich Marshall Anfang August den Generalstaatsanwälten aus 14 Bundesstaaten an, darunter Florida, Missouri und Texas, um einen Brief an OpenAI-CEO Sam Altman zu senden, in dem gefordert wird, dass OpenAI ähnliche Evaluierungsaktivitäten zur Cybersicherheit aussetzt, bis die Sicherheitsmaßnahmen perfektioniert sind.

OpenAI-Sprecher Nate Evans erwiderte, dass das Unternehmen zusammen mit externen Beratern eine interne Überprüfung durchführe und nach deren Abschluss den zuständigen Regierungsbehörden einen technischen Bericht vorlegen sowie die Ermittlungsergebnisse öffentlich machen werde.

Als eine der Gegenmaßnahmen gab OpenAI am 18. August bekannt, das Reinforcement-Learning-Training für seine neuesten eingesetzten Modelle für zwei Wochen auszusetzen, aber sein größtes Frontier-Reinforcement-Learning-Training wurde bis heute noch nicht wieder aufgenommen.

Das Unternehmen entwickelt gleichzeitig ein neues Überwachungssystem, das innerhalb von 30 Minuten nach Erkennung verdächtigen Verhaltens einen Alarm auslösen kann. Es wird erwartet, dass das System bei bestimmten Frontier-Modellen und experimentellen Workloads einen zusätzlichen Rechenaufwand von rund 20 % für die Sicherheitsüberwachung verursacht.