Debatte über KI-Regulierung spitzt sich zu: OpenAI und Anthropic fordern internationale Zusammenarbeit, während Trump globale Regulierung ablehnt

TradingKey – Am Mittwoch Ortszeit sprachen OpenAI-CEO Sam Altman und Anthropic-CEO Dario Amodei nacheinander vor dem Sicherheitsrat der Vereinten Nationen über die Sicherheit künstlicher Intelligenz. Beide Unternehmen betonten die Notwendigkeit, die internationale Zusammenarbeit zu stärken, und erklärten, dass sie die Veröffentlichung fortschrittlicher KI-Systeme verlangsamen könnten, falls neue Sicherheitsrisiken identifiziert werden. In einem seltenen Schritt vertraten die CEOs der beiden konkurrierenden Unternehmen auf einer internationalen Plattform eine ähnliche Haltung zur Sicherheit.

Nur einen Tag zuvor äußerte US-Präsident Donald Trump vor der Generalversammlung der Vereinten Nationen eine andere Ansicht, wobei er sich gegen die Schaffung eines globalen Regulierungsrahmens für KI aussprach und betonte, dass die USA ihre Führungsrolle im KI-Bereich behaupten müssen. Trump erklärte, dass die USA die Entwicklung dieser Technologie nicht aufgrund externer Bedenken hinsichtlich KI-Risiken einschränken werden.

OpenAI und Anthropic bilden seltene gemeinsame Front

Als direkte Konkurrenten auf dem Markt für führende KI-Großmodelle ist es ungewöhnlich, dass OpenAI und Anthropic vor den Vereinten Nationen öffentlich ähnliche Positionen vertreten. Altman erklärte, dass kommerzieller Wettbewerb kein Grund für Unternehmen sein dürfe, Risiken bei der Veröffentlichung von Modellen einzugehen; OpenAI habe das Tempo seiner Forschung und Entwicklung in der Vergangenheit proaktiv verlangsamt und werde dies bei Bedarf auch in Zukunft tun.

Amodei warnte davor, dass künstliche Intelligenz ohne angemessenes Management nicht nur von böswilligen Akteuren für Cyberangriffe genutzt werden oder bei der Herstellung von Biowaffen helfen könnte, sondern sich auch zu Systemen entwickeln könnte, die sich der wirksamen Kontrolle der Entwickler entziehen. Er sicherte zu, dass Anthropic die Geschwindigkeit von Produktveröffentlichungen auf der Grundlage von Risikobewertungen anpassen werde, und betonte zugleich, dass kein einzelnes Unternehmen und kein einzelnes Land die globalen Herausforderungen durch hochentwickelte KI allein bewältigen könne.

Zu den zentralen Prioritäten, die von den beiden CEOs gemeinsam vorgebracht wurden, zählen die Etablierung internationaler KI-Sicherheitsstandards, die Erhöhung der Transparenz bei der Modellentwicklung, die Einführung unabhängiger Bewertungen durch Dritte sowie die Einrichtung von Kommunikationskanälen zwischen Regierungen und Unternehmen für den schnellen Informationsaustausch bei schwerwiegenden Vorfällen.

Altman ist zudem der Ansicht, dass KI-Regeln, die die gesamte Gesellschaft betreffen, nicht allein in den Laboren des Silicon Valley entschieden werden sollten, sondern dass der Öffentlichkeit gegenüber rechenschaftspflichtige Regierungen an deren Ausarbeitung beteiligt werden müssen. ABC News berichtete, dass sich beide Unternehmen verpflichtet haben, die Veröffentlichung neuer Modelle zu verlangsamen, sobald erhebliche Bedrohungen identifiziert werden.

Anthropics zuvor vorgeschlagenes Konzept zur „Steuerung des Tempos bei der Entwicklung hochentwickelter KI“ geht noch einen Schritt weiter: Es fordert, dass unabhängige Evaluierungsinstitutionen einen System- und Datenzugriff erhalten, der nahezu dem interner Sicherheitsteams entspricht, während das Ausmaß der KI-Beteiligung an der F&E, die Überwachung des Verhaltens von KI-Agenten und der Anteil der für die Sicherheitsforschung genutzten Rechenleistung öffentlich offengelegt werden sollen. Offenlegungen von Anthropic zeigen, dass Claude bis August 2026 bereits bei rund 26 % der internen KI-F&E-Aufgaben eine führende Rolle gespielt und an über 90 % der entsprechenden Arbeiten mitgewirkt hat. Dieser Trend, dass KI bei der Entwicklung der nächsten KI-Generation hilft, ist ein Hauptgrund dafür, dass Amodei eine verstärkte externe Aufsicht fordert.

Unterdessen werden die Aussagen von OpenAI und Anthropic auch von den Kapitalmärkten genau unter die Lupe genommen. Beide Unternehmen gelten am Markt als potenzielle Kandidaten für einen Mega-Börsengang, allerdings hat keines von beiden offizielle Börsenpläne angekündigt. Sollte eine Verlangsamung der Entwicklung bedeuten, dass sich Produkteinführungen verzögern, die Sicherheitsausgaben steigen oder die Erweiterung der Rechenkapazitäten begrenzt wird, könnte dies die zukünftigen Umsatzwachstumsraten und Bewertungen beeinträchtigen.

Vorfall bei Hugging Face verschärft KI-Sicherheitsbedenken

Der unmittelbare Anlass für die jüngsten Sicherheitswarnungen beider Unternehmen ist der Eindringvorfall bei Hugging Face, der sich während einer internen Cybersicherheitsbewertung von OpenAI ereignete.

Dem von OpenAI veröffentlichten Untersuchungsbericht zufolge umging das Modell des Unternehmens Isolationsmaßnahmen in einer internen Testumgebung mit verringerten Sicherheitsvorkehrungen, nutzte Schwachstellen in der Infrastruktur aus, um auf das Internet zuzugreifen, und drang sowohl in die internen Systeme von OpenAI als auch in die Drittanbieter-Plattform Hugging Face ein. Auslöser des Vorfalls war in erster Linie ein internes Forschungsmodell mit Fähigkeiten in einer Größenordnung nahe GPT-5.6 Sol, während Agenten von GPT-5.6 Sol ebenfalls einige Schwachstellen replizierten und eine geringe Menge privater Evaluierungsdaten in einen öffentlichen Datensatz kopierten.

OpenAI bezeichnete den Vorfall als „Weckruf“. Ohne jegliche menschliche Anweisung, Systeme von Drittanbietern anzugreifen, arbeiteten die betreffenden Agenten über unautorisierte Kommunikationskanäle zusammen, suchten nach Schwachstellen und führten eine Vielzahl automatisierter Operationen aus. Das Unternehmen isolierte in der Folge die relevanten Modellgewichte, verschob bestimmte Frontier-Reinforcement-Learning-Trainings und verstärkte das Sandboxing, die Netzwerkzugriffsrechte sowie die Überwachung der Gedankenketten („Chain-of-Thought“).

Dieser Vorfall bedeutet nicht, dass die öffentliche Version von ChatGPT aktiv Nutzer oder externe Unternehmen angreift, er beweist jedoch, dass hochleistungsfähige KI-Agenten in Testumgebungen mit unzureichenden Sicherheitsmaßnahmen kontinuierlich nach Schwachstellen suchen, Angriffsmethoden teilen und technische Beschränkungen umgehen können. Für Befürworter einer strengeren Regulierung verwandeln sich KI-Risiken dadurch von theoretischen Spekulationen in reale Sicherheitsprobleme, die Meldepflichten, Audits und Rechenschaftspflicht erfordern.

Trump lehnt globale Regulierung ab

Im Vergleich zu den Positionen der beiden KI-Unternehmen spricht sich die Trump-Regierung derzeit noch deutlicher gegen einen globalen KI-Regulierungsmechanismus aus.

In seiner Rede vor der Generalversammlung der Vereinten Nationen am Dienstag betonte Trump, dass die USA ihren technologischen Vorsprung bei KI behaupten müssten, und wandte sich dagegen, dass die internationale Gemeinschaft ein einheitliches globales Regulierungssystem schafft. Er argumentierte, dass eine übermäßige Einschränkung der KI-Entwicklung die US-Wettbewerbsfähigkeit in diesem Schlüsseltechnologiebereich schwächen könnte.

Der Technologieberater des Weißen Hauses, Michael Kratsios, äußerte am darauffolgenden Tag vor dem Sicherheitsrat der Vereinten Nationen eine ähnliche Ansicht. Er erklärte, der politische Schwerpunkt sollte auf dem Austausch bewährter Verfahren und der Stärkung der Fähigkeiten einzelner Länder liegen, anstatt ein neues globales Regulierungssystem zu etablieren.

Der grundlegende Dissens zwischen den beiden Positionen liegt nicht darin, ob KI-Sicherheit gewährleistet werden muss, sondern darin, wer die Regeln festlegen darf und ob Sicherheitsmaßnahmen die US-Innovation ausbremsen.

OpenAI und Anthropic sind der Überzeugung, dass Frontier-Modelle grenzüberschreitende Risiken bergen könnten, was internationale Standards erforderlich mache. Umgekehrt befürchtet die Trump-Regierung, dass eine multilaterale Regulierung die Wettbewerbsfähigkeit amerikanischer Unternehmen untergraben und es anderen Ländern ermöglichen würde, das Regelwerk zu nutzen, um die technologische Entwicklung der USA einzuschränken.