„Big Short“-Investor Michael Burry kritisiert OpenAI und Anthropic: Ist die Verlangsamung der KI-F&E eine Sicherheitsinitiative oder ein IPO-Hype?

TradingKey – Michael Burry, das reale Vorbild hinter dem Film „The Big Short“ und ein bekannter Leerverkäufer, übte in den sozialen Medien scharfe Kritik an der von der Führung von OpenAI und Anthropic vorgeschlagenen Initiative, „die Forschung und Entwicklung im Bereich fortschrittlicher KI zu verlangsamen“. Er argumentierte, dass die Aussagen offensichtlich von Eigeninteressen geleitet seien und die wahre Absicht womöglich nicht in der Kontrolle technologischer Risiken liege, sondern vielmehr darin, die Marktpositionen der Branchenführer zu schützen und ein attraktiveres Narrativ für potenzielle Börsengänge aufzubauen.

Quelle: X

Die Kontroverse geht auf einen ausführlichen Artikel zurück, den Anthropic-CEO Dario Amodei zuvor veröffentlicht hatte. Amodei warnte davor, dass sich mit der fortschreitenden Leistungsfähigkeit der Modelle das Tempo beschleunigt, mit dem KI-Systeme an der Entwicklung der nächsten KI-Generation mitwirken, und Risiken wie Cyberangriffe, der Verlust der Modellkontrolle sowie rekursive Selbstverbesserung die derzeitigen Steuerungskapazitäten der Branche übersteigen könnten. Daher müssten Unternehmen im Bereich fortschrittlicher KI das Tempo der Leistungssteigerungen angemessen steuern, um mehr Zeit für Sicherheitsbewertungen und Regulierungsmechanismen zu gewinnen.

Amodei schlug vor, dass Anthropic unabhängige Evaluierungsteams von Drittanbietern einbindet und ihnen einen Systemzugang gewährt, der dem von Vollzeitbeschäftigten nahekommt – einschließlich Büroausstattung, interner Tools und Modellbewertungsumgebungen, die denen des Risikoteams des Unternehmens ähneln. Diese externen Organisationen sollen dafür verantwortlich sein, zu überprüfen, ob Unternehmen ihre Sicherheitszusagen einhalten, die Trainingsprozesse der Modelle genau zu prüfen und potenzielle Vorfälle zu melden. Amodei rief zudem andere führende KI-Labore dazu auf, ähnliche Maßnahmen zu ergreifen, und forderte Unternehmen sowie Regierungen auf, umfassendere Sicherheitsstandards für fortschrittliche Modelle zu etablieren.

OpenAI-CEO Sam Altman sprach sich in der Folge öffentlich für diesen Vorschlag aus. Er erklärte, dass die Gewährung eines mitarbeiternahen Zugangs für unabhängige Evaluierungsorganisationen ein lohnender Vorschlag sei und OpenAI eine entsprechende Regelung treffen werde. xAI-Gründer Elon Musk schloss sich Amodeis Einschätzung der KI-Risiken ebenfalls an.

Warum Michael Burry zweifelt

Michael Burry lieferte hierfür eine völlig andere Erklärung. Er hinterfragte zunächst, wie diese Unternehmen „künstliche Intelligenz“ definieren, und argumentierte, dass gegenwärtige große Sprachmodelle lediglich technische Systeme seien, die auf enorme Datenmengen und Rechenressourcen angewiesen sind, um Vorhersagen zu treffen – sie seien weder künstliche allgemeine Intelligenz im eigentlichen Sinne, noch würden sie sich von selbst zu einer AGI entwickeln. Aus Burrys Sicht ist die Behauptung, „die Technologie sei zu mächtig, weshalb die Entwicklung präventiv verlangsamt werden müsse“, selbst zweifelhaft, wenn bestehende LLMs nicht über die von diesen Unternehmen beschriebenen autonomen intelligenten Fähigkeiten verfügen.

Burry argumentiert weiter, dass Initiativen zur Verlangsamung von Forschung und Entwicklung Marktführern als Instrument dienen könnten, um ihre Wettbewerbsvorteile zu festigen. OpenAI und Anthropic haben bereits enorme Rechenressourcen, Talentpools, Trainingsdaten und Kapitalunterstützung angesammelt, während Open-Source-Modelle und aufstrebende KI-Unternehmen den Abstand rasch verringern. Wenn Regulierungsbehörden die Hürden für Modelltraining und Sicherheitsüberprüfungen auf Basis von Standards anheben, die von Branchenführern vorgeschlagen wurden, tragen Konkurrenten mit begrenztem Kapital und beschränkten Rechenkapazitäten höhere Compliance-Kosten, was es den etablierten Riesen noch leichter macht, ihre Dominanz zu behaupten.

Mit anderen Worten sieht Burry diese Debatte nicht als reine Diskussion über technologische Sicherheit, sondern vielmehr als kommerziellen Wettbewerb um die Festlegung von Branchenregeln. Unternehmen mit führenden Modellen betonen einerseits Risiken, während sie sich andererseits an der Gestaltung des Regulierungsrahmens beteiligen. Die daraus resultierenden Regeln könnten letztlich kapitalstarken, technologisch ausgereiften Branchengrößen zugutekommen, während Nachzügler daran gehindert werden, die bestehende Marktstruktur herauszufordern.

Auch Börsengänge stehen im Zentrum von Burrys Kritik. Er vertritt die Ansicht, dass KI-Unternehmen, die noch keine stabile Profitabilität erreicht haben, dem Kapitalmarkt die Unersetzbarkeit ihrer Technologie beweisen müssen; die Aussage „Unser Modell ist so mächtig, dass es gefährlich sein könnte“ verstärkt dabei praktischerweise die Wahrnehmung von Knappheit und Branchenführerschaft. Dieses Narrativ zieht nicht nur das Interesse des Marktes auf sich, sondern hilft Unternehmen auch dabei, im Vorfeld eines Börsengangs höhere Bewertungen aufrechtzuerhalten. Aus seiner Sicht ist die Darstellung technologischer Fähigkeiten als potenzielle Bedrohung, deren Kontrolle eine globale Koordinierung erfordert, im Grunde genommen eine ausgefeiltere Form der Vermarktung.

Zudem vermutet Burry, dass die sogenannte freiwillige Verlangsamung von Forschung und Entwicklung ein Weg sein könnte, eine vorteilhaftere Erklärung für ein natürliches Nachlassen des Branchenwachstums zu finden. Das Training von Spitzenmodellen erfordert immer größere Mengen an GPUs, Strom, Rechenzentren und Kapital, dennoch besteht weiterhin erhebliche Unsicherheit darüber, ob marginale Leistungssteigerungen der Modelle langfristig mit dem Kostenwachstum schritthalten können. Wenn sich der technologische Fortschritt verlangsamt, die Kapitalbeschaffung schwieriger wird oder Börsenpläne sich verzögern, können Unternehmen eine erzwungene Verlangsamung als proaktive Wahrnehmung von Sicherheitsverantwortung verpacken.