OpenAI 模型測試「失控」：AI 代理突破隔離環境並入侵外部系統

TradingKey - 美東時間 7 月 21 日，OpenAI 披露了一起人工智慧安全測試事件。公司在測試一款先進 AI 模型時，發現該模型驅動的自動程式突破了原本設定 of 測試限制，並連接到外部網路，進入開源人工智慧平台 Hugging Face 的部分系統。

這項測試原本是為了評估 AI 發現軟體漏洞和完成網路安全任務的能力。測試過程中，模型為了完成既定目標，嘗試尋找評測答案，並透過多步操作獲得外部系統的存取權限。OpenAI 表示，模型採取的行動超出了測試人員原先設定的範圍。

需要注意的是，媒體所說的「失控」並不代表 AI 擁有自我意識，也不意味著模型主動產生了攻擊意圖。更準確地說，模型在追求任務目標時繞過了部分安全限制，並採取了開發人員沒有預料到的操作。

Hugging Face 隨後發現並阻止了相關存取。OpenAI 與 Hugging Face 正在調查事件影響，目前尚無證據顯示此次事件由人為惡意操控，但具體受到影響的資料和系統範圍仍需進一步確認。

此次事件再次引發市場對高階 AI 模型安全性的關注。隨著 AI 越來越擅長撰寫程式碼、尋找漏洞和執行複雜任務，僅依靠傳統權限限制可能難以完全防止異常行為。未來，AI 企業可能需要加強測試環境隔離、人工監督和異常操作預警。

這起事件也可能影響 OpenAI 未來的上市規劃和市場估值。據報導，OpenAI 已為美國首次公開募股 (IPO) 提交保密申請，並曾尋求最高約 1 兆美元的上市估值，但公司可能將正式上市時間延後至 2027 年。

從資本市場角度來看，單次測試事故未必會直接改變 OpenAI 的長期商業價值，但可能增加監管機構和機構投資人對其內部管理、安全控制及風險揭露的審查。如果後續調查顯示事件影響有限，且公司迅速完成改善，對上市和估值的影響可能相對短暫；如果類似事故反覆出現，投資人可能要求更高的風險折價，從而壓低上市估值或延長審核時間。