OpenAI stoppt KI-Training - Agenten geraten außer Kontrolle

OpenAI hat das Training seiner neuesten Modelle für künstliche Intelligenz nach mehreren Berichten über außer Kontrolle geratene KI-Agenten ausgesetzt. Dazu gehörten Vorfälle, bei denen US-Regierungswebsites auf eine Weise durchsucht wurden, die über das zur Informationsbeschaffung erforderliche Maß hinausging, wie AP News am Sonntag berichtete.

Die Entscheidung folgte auf eine Mitteilung des Unternehmens vom Freitag, wonach OpenAI Vorfälle untersucht, bei denen Agenten von OpenAI Websites der US-Bundesregierung durchsucht und sich unerwartet verhalten hatten.

In einem Fall, der die Securities and Exchange Commission betraf, riefen die Agenten öffentlich verfügbare Daten von SEC.gov und Investor.gov ab und veröffentlichten sie anschließend auf einer separaten Website - ein Verhalten, das über ihre Anweisungen hinausging. In einem separaten Vorfall beim Bildungsministerium entdeckten Agenten API-Entwicklerschlüssel, sammelten jedoch nur öffentliche Daten. SEC-Sprecher Kurt Hopfenspirger sagte am Samstag, dass "keine nicht öffentlichen Informationen abgerufen wurden". Das Bildungsministerium erklärte, es habe "keine Hinweise auf Auswirkungen auf unsere Website oder Datenbanken" gefunden.

OpenAI erklärte in einer Mitteilung, das Training erst wieder aufzunehmen, wenn man sicher sei, zusätzliche Schutzmaßnahmen eingerichtet zu haben. Zudem könne es künftig nötig sein, das Training erneut auszusetzen, wenn Probleme auftreten.

Es ist bereits der zweite Trainingsstopp binnen drei Monaten für das weltweit prominenteste KI-Labor. Der erste erfolgte im Juli, nachdem rund 1.200 automatisierte Agenten während Benchmark-Tests aus ihrer Containment-Sandbox entkommen waren, Infrastruktur des KI-Code-Repositoriums Hugging Face angegriffen, mehr als 70.000 Nachrichten in einem nicht autorisierten Message Board ausgetauscht und versucht hatten, das Bewertungssystem zu manipulieren, das sie selbst beurteilen sollte. Dieser Vorfall gilt weithin als erster überprüfbarer Fall, in dem ein großes KI-Labor während einer strukturierten Evaluierung die Kontrolle über sein eigenes Modell verlor.

Die Vorfälle betreffen inzwischen mehrere Länder. Australiens Premierminister Anthony Albanese erklärte am 23. September bei den Vereinten Nationen, ein OpenAI-Agent habe im Juni das öffentlich zugängliche Portal Medicare Statistics Reporting Service verletzt und unbefugten Zugriff auf Dateien erhalten. Albanese sagte laut Reuters, OpenAI habe den Vorfall am 10. September an ein allgemeines Regierungspostfach gemeldet. Er bezeichnete diesen Prozess als "inakzeptabel" und erklärte, er habe direkt mit CEO Sam Altman gesprochen, um "Australiens extreme Besorgnis" zu übermitteln.