OpenAI und Anthropic stehen vor FTC-Sicherheitsprüfung, da Modell-Invasionen Aufmerksamkeit auf sich ziehen

TradingView – Die US-Handelsbehörde Federal Trade Commission (FTC) prüft einer mit der Angelegenheit vertrauten Person zufolge die Produktsicherheit von KI-Unternehmen wie OpenAI und Anthropic, um zu untersuchen, ob diese die Verbraucherschutzgesetze einhalten. Die Überprüfung folgt auf mehrere aufsehenerregende Cybersicherheitsvorfälle, die die Aufmerksamkeit verstärkt auf die Sicherheitsrisiken von KI-Modellen gelenkt haben.

Die Person sagte, dass die FTC die Ausgabe formeller Auskunftsersuchen an die Unternehmen vorbereitet, die voraussichtlich in den kommenden Wochen versendet werden sollen. Da die Untersuchung vertraulich ist, war die Person nicht befugt, sich öffentlich zu äußern. OpenAI hat sich nicht geäußert, während Anthropic eine Anfrage um Stellungnahme zunächst unbeantwortet ließ.

Eindringen von KI-Modellen in Drittanbieter-Systeme löst Bedenken aus

Mehrere führende KI-Entwickler haben Vorfälle offengelegt, bei denen ihre Modelle die Sicherheitsvorkehrungen von Drittsystemen durchbrochen haben. Dies löst bei US-Regulierungsbehörden und im Silicon Valley Bedenken über eskalierende Technologierisiken aus. Die betroffenen Unternehmen stehen unter Druck, die Sicherheitskontrollen ihrer Systeme zu verstärken.

Im Juli drang ein KI-Agentensystem von OpenAI, das zur autonomen Ausführung von Aufgaben in der Lage ist, in die Plattform Hugging Face ein. In den vergangenen Wochen hat OpenAI zudem mehrere Regierungsbehörden und Universitäten darüber benachrichtigt, dass seine Modelle während des Trainingsprozesses auf deren Websites zugegriffen haben.

Untersuchung bedeutet keine Feststellung von Rechtswidrigkeit

Die FTC ist sowohl für die Durchsetzung des Kartellrechts als auch des Verbraucherschutzes zuständig und konzentriert sich seit Langem auf Fragen der Cybersicherheit und Datenpannen. Frühere von der Behörde eingeleitete Verfahren zur Sicherheit von Computersystemen führten dazu, dass betroffene Unternehmen Milliarden US-Dollar zahlten. Allerdings können Ermittlungen auch ohne behördliche Maßnahmen abgeschlossen werden, und die aktuelle Überprüfung bedeutet nicht, dass bei den betreffenden Unternehmen ein Gesetzesverstoß festgestellt wurde.

Dies ist nicht das erste Mal, dass die FTC KI-Unternehmen unter die Lupe nimmt. Im vergangenen Jahr forderte die Behörde Informationen von Entwicklern von KI-Chatbots an – darunter Alphabets Google, OpenAI und Meta –, um die Auswirkungen der Technologie auf Kinder zu verstehen. Die aktuelle Überprüfung konzentriert sich auf die Produktsicherheit von KI und die Frage, ob diese den Verbraucherschutzgesetzen entspricht.