OpenAI stimmt sich mit Anthropic und Google DeepMind bei der KI-Sicherheit ab

TradingKey – OpenAI treibt gemeinsam mit seinen wichtigsten Konkurrenten, Anthropic und Googles (GOOGL) DeepMind, KI-Sicherheitsmaßnahmen voran und intensiviert damit die branchenweite Abstimmung als Reaktion auf Befürchtungen, dass KI wirtschaftliche Risiken und Bedrohungen für die Sicherheit bergen könnte.

Chris Lehane, Leiter der weltweiten Politikabteilung von OpenAI, erklärte am Dienstag bei einem Briefing in Washington, dass der Austausch des Unternehmens mit Anthropic und Google bereits seit mehreren Wochen anhalte. Er betonte zudem, OpenAI sei der Überzeugung, dass eine Abstimmung der drei Unternehmen in Sicherheitsfragen keine kartellrechtliche Ausnahmeregelung erfordere.

„Es ist am besten, zusammenzuarbeiten und die Sicherheit an erste Stelle zu setzen“, sagte Lehane und nannte die zivile Luftfahrtbranche als Beispiel dafür, dass die gegenseitige Unterstützung von Unternehmen zur Erhöhung der Sicherheit bereits seit Langem Tradition habe.

Die intensiveren Gespräche folgen auf einen rund 3.800 Wörter umfassenden Essay, den Anthropic-CEO Dario Amodei am vergangenen Samstag veröffentlichte. Darin forderte er eine Verlangsamung der Entwicklung fortschrittlichster KI-Systeme, um Forschern mehr Zeit zu geben, potenzielle Bedrohungen zu verstehen. Der Vorschlag erhielt in der Folge Unterstützung von OpenAI-Chef Sam Altman und SpaceX-KI-Leiter Elon Musk. Sprecher von Anthropic und Google DeepMind haben sich zu den Berichten über eine Abstimmung der drei Unternehmen bislang nicht geäußert.

Lehanes Reise nach Washington diente Treffen mit Abgeordneten. Er erklärte, dass OpenAI bereit sei, parteiübergreifende Gesetzesinitiativen zur Vermeidung potenziell katastrophaler KI-Risiken zu unterstützen, und sagte: „Was auch immer dazu beiträgt, dass es verabschiedet wird, unterstützen wir.“ Er wies darauf hin, dass der bevorzugte Weg des Unternehmens die Einrichtung eines bundesweiten Rahmens für KI-Governance beinhalte, man aber zugleich offen für entsprechende Vorschläge sei, die im Senat Gestalt annehmen.

In Bezug auf die Frage, ob eine Abstimmung bei Sicherheitsfragen rechtliche Ausnahmeregelungen erfordert, sind bereits Gesetzesinitiativen auf dem Weg: Ein Vorschlag sieht vor, KI-Unternehmen eine eng begrenzte kartellrechtliche Ausnahme zu gewähren, damit diese Informationen über Risiken eines Kontrollverlusts, Cyber- oder biologische Bedrohungen sowie Datenlecks austauschen können. Diese Bestimmung wurde in das jährliche Verteidigungsgesetz aufgenommen.