Sam Altman befürwortet Kontrolle des Entwicklungstempos von Frontier-KI, OpenAI führt unabhängige Sicherheitsbewertungen ein

TradingKey – OpenAI-CEO Sam Altman sprach sich am 14. September auf der Social-Media-Plattform X für die Schaffung eines bundesweiten Sicherheitsrahmens für Frontier-KI-Unternehmen aus. Er betonte, dass der Wettbewerbsdruck, dem die USA im KI-Sektor ausgesetzt sind, keine Rechtfertigung für Unternehmen sein dürfe, leichtsinnig zu handeln oder zuzulassen, dass die Modellfähigkeiten die Sicherheits- und Überwachungskapazitäten überholen.

[Quelle: X]

Altman skizzierte zwei Hauptkategorien von Risiken: Erstens könnte die Menschheit die Kontrolle über die Zukunft verlieren, weshalb KI stets dem Menschen dienen müsse; zweitens könnte hochentwickelte KI zu einer übermäßigen Machtkonzentration führen, wodurch eine kleine Anzahl von Einzelpersonen, Unternehmen oder gar Staaten übermäßigen Einfluss erhielte.

OpenAI unterstützt die Einführung unabhängiger Prüfer. Altman vertritt die Ansicht, dass Frontier-KI-Unternehmen nicht auf entsprechende Gesetzgebungen oder kartellrechtliche Ausnahmeregelungen warten, sondern unverzüglich mit der Entwicklung gemeinsamer Sicherheitsstandards beginnen sollten. Mit dem Fortschreiten der Modellfähigkeiten müssten Ausrichtungs- und Sicherheitstechnologien stets voraus sein und Überwachungsmaßnahmen Schritt halten.

OpenAI ergänzt Sicherheitsargumente vor dem Training von Frontier-Modellen

Altman erklärte, dass die Steuerung des Entwicklungstempos keineswegs bedeute, die Forschung und Entwicklung einzustellen. Während Sicherheitsargumente und eine kontinuierliche Überwachung die Kosten erhöhen und den Trainingsfortschritt stellenweise verlangsamen können, werden die Modellentwicklung und der technologische Fortschritt weitergehen.

Bisher konzentrierten sich die von einigen führenden KI-Unternehmen übernommenen Richtlinien für eine verantwortungsvolle Skalierung sowie das von OpenAI entwickelte Bereitschafts-Framework in erster Linie auf fertig trainierte Modelle und deren Einsatzrisiken. Altman vertritt jedoch die Auffassung, dass das Sicherheitsmanagement auch den Prozess der Modellentwicklung und -evaluierung umfassen sollte.

Für das Training führender Reinforcement-Learning-Modelle, von dem eine erhebliche Steigerung der Modellfähigkeiten erwartet wird, hat OpenAI begonnen, bereits vor dem Training klare Sicherheitsargumente zu etablieren, während Sicherheitsevaluierungen vor der Modellfreigabe beibehalten werden. Das Unternehmen hofft, dass andere führende KI-Unternehmen seinen Ansatz als Orientierung nutzen und eigene Lösungen vorschlagen, um so die Erarbeitung gemeinsamer Standards für Fehlausrichtung, Überwachung und Sicherheit von Modellen voranzutreiben.

Altman betonte, dass die Anpassung des Entwicklungstempos nicht mit dem Stopp von Forschung und Entwicklung gleichzusetzen ist. Sicherheitsargumente und eine kontinuierliche Überwachung erfordern mehr Ressourcen und führen dazu, dass die Fortschrittsrate bei den Fähigkeiten führender KI-Modelle geringer ausfällt als ohne solche Maßnahmen, die entsprechende Forschung und Entwicklung wird jedoch dennoch weiter voranschreiten.

OpenAI reagiert auf drei Anthropic-Empfehlungen

Altmans Äußerungen erfolgten als Reaktion auf Empfehlungen, die Anthropic-CEO Dario Amodei am 12. September vorgelegt hatte. Amodei wies darauf hin, dass mit der zunehmenden Einbindung von KI in die Entwicklung von Modellen der nächsten Generation die Modellfähigkeiten schneller voranschreiten könnten, als die Branche die damit verbundenen Risiken verstehen und kontrollieren kann.

Amodei schlug drei Maßnahmen vor: die Gewährung eines kontinuierlichen, nahezu mitarbeitergleichen Zugangs für externe Evaluierungsteams durch Frontier-KI-Unternehmen, die Förderung gemeinsamer Sicherheitsstandards unter relevanten Unternehmen in demokratischen Staaten sowie das Anstreben einer internationalen Koordinierung unter Einbeziehung von Ländern wie den USA und China.

Anthropic hat sich dazu verpflichtet, externe Evaluierungsteams einzubinden. Altman erklärte zudem, dass OpenAI ähnliche Regelungen zur unabhängigen Evaluierung treffen werde, obwohl das Unternehmen die spezifischen Zugriffsrechte der Prüfer und den Zeitplan für die Umsetzung noch nicht bekannt gegeben hat.

Beim Thema Entwicklungstempo unterscheiden sich Trumps Prioritäten von denen einiger Führungskräfte bei Frontier-KI-Unternehmen. Trump ist der Ansicht, dass die USA keinen Grund haben, die KI-Entwicklung zu verlangsamen, um ihren Vorsprung gegenüber China nicht zu gefährden. Altman hingegen plädiert dafür, Forschung und Entwicklung fortzusetzen und gleichzeitig sicherzustellen, dass Alignment-, Sicherheits- und Überwachungsmaßnahmen nicht hinter den Fortschritten bei den Modellfähigkeiten zurückbleiben.