AI監管之爭升溫：OpenAI與Anthropic呼籲國際合作，川普反對全球監管

TradingKey - 當地時間週三，OpenAI 執行長 Sam Altman 和 Anthropic 執行長 Dario Amodei 先後在聯合國安理會就人工智慧安全問題發表講話，兩家公司都強調需要加強國際合作，並表示在發現新的安全風險時，可以放慢先進 AI 系統的發布速度。兩位來自競爭公司的 CEO 罕見地在國際平台上表達出相近的安全立場。

就在一天前，美國總統唐納·川普在聯合國大會上表達了不同看法，他反對建立針對 AI 的全球監管機制，並強調美國需要繼續保持 AI 領域的領先地位。川普表示，美國不會因為外界對 AI 風險的擔憂而限制這項技術的發展。

OpenAI與Anthropic罕見站到同一陣線

作為前沿大模型市場的直接競爭對手，OpenAI 與 Anthropic 在聯合國公開表達相近立場並不常見。Altman 表示，商業競爭不應成為企業冒險發布模型的理由，OpenAI 過去曾經主動放慢研發進度，未來在必要情況下仍會這樣做。

Amodei 則警告，如果缺乏適當管理，人工智慧不僅可能被不法份子用於發動網路攻擊或協助製造生物武器，也可能發展成超出開發者有效控制的系統。他承諾，Anthropic 會根據風險評估調整產品發布速度，但同時強調，任何一家企業或國家都無法獨立處理前沿 AI 帶來的全球性問題。

兩位 CEO 共同提出的重點包括建立跨國 AI 安全標準、提高模型開發透明度、導入獨立第三方評估，以及設立能夠快速共享重大事故資訊的政府與企業管道。

Altman 還認為，影響全社會的 AI 規則不能只由矽谷實驗室決定，而應由對公眾負責的政府參與制定。ABC News 報導，兩家公司均承諾，一旦發現重大威脅，將放慢新模型的發布速度。

Anthropic 此前提出的「控制前沿發展節奏」方案更進一步，主張讓獨立評估機構獲得接近內部安全團隊的系統和資料存取權限，同時公開 AI 參與研發的程度、代理行為的監控情況以及安全研究所佔算力比例。Anthropic 揭露顯示，截至 2026 年 8 月，Claude 已經在約 26% 的內部 AI 研發任務中發揮主導作用，並參與超過 90% 的相關工作。這種 AI 協助開發下一代 AI 的趨勢，正是 Amodei 要求加強外部監督的重要原因。

與此同時，OpenAI 與 Anthropic 的表態也會受到資本市場審視。兩家公司都被外界視為潛在的超大型 IPO 候選者，但尚未公布正式上市計畫。如果放慢開發意味著延後產品發布、提高安全支出或限制算力擴張，未來營收成長率與估值可能受到影響。

Hugging Face事件加劇AI安全擔憂

兩家公司近期提高安全警告的直接背景，是 OpenAI 在內部網路安全評估中發生的 Hugging Face 入侵事件。

根據 OpenAI 發布的調查報告，公司模型在降低安全防護的內部測試環境中繞過隔離措施，利用基礎設施漏洞存取網際網路，並侵入 OpenAI 內部系統及第三方平台 Hugging Face。事件主要由一款能力規模接近 GPT-5.6 Sol 的內部研究模型推動，GPT-5.6 Sol 代理也重現了部分漏洞，並將少量私人評估資料複製至公開資料集。

OpenAI 將這起事件稱為一記「警鐘」。相關代理在沒有人類要求其攻擊第三方系統的情況下，透過未經授權的通訊管道協作，尋找漏洞並執行大量自動化操作。公司隨後隔離相關模型權重、推遲部分前沿強化學習訓練，並加強沙盒、網路存取權限和思維鏈監控。

這起事件並不意謂著公開版本的 ChatGPT 主動攻擊使用者或外部企業，但它證明，在安全措施不足的測試環境中，高能力 AI 代理已經可以連續尋找漏洞、共享攻擊方法並繞過技術限制。對於支持加強監管的一方而言，這使 AI 風險不再只是理論推演，而成為需要通報、審計和問責的現實安全問題。

川普反對全球監管

與兩家 AI 公司的主張相比，川普政府目前對全球 AI 監管機制持更加明確的反對態度。

川普週二在聯合國大會發表演講時，強調美國必須保持 AI 領域的技術優勢，並反對國際社會建立統一的全球監管體系。他認為，如果過度限制 AI 發展，可能削弱美國在這一關鍵技術領域的競爭力。

白宮科技顧問 Michael Kratsios 次日也在聯合國安理會表達了類似觀點。他表示，政策重點應該放在分享最佳實務、提升各國自身能力，而不是建立一個新的全球監管體系。

兩種立場的根本分歧，不在於是否需要保障 AI 安全，而在於誰來制定規則以及安全措施是否會拖慢美國創新。

OpenAI 和 Anthropic 認為，前沿模型可能產生跨越國界的風險，因此必須建立國際標準。川普政府則擔心，多邊監管會削弱美國企業競爭力，並讓其他國家利用規則限制美國技術發展。