OpenAI 重組團隊，將模型行爲與後訓練合併
人工智能公司 OpenAI 宣佈計劃重組其模型行爲團隊。據報道，該團隊規模雖小，但影響力巨大，他們決定着該公司的 AI 模型與人類的互動方式。
OpenAI首席研究官Mak Chen在8月份發佈的一份備忘錄中提到，該團隊由約14名研究人員組成，已被指示加入後訓練團隊。後訓練團隊是一個研究小組，負責在公司AI模型完成初始預訓練後對其進行改進。作爲重組的一部分，模型行爲團隊現在將向OpenAI後訓練負責人Max Schwarzer彙報。
據報道，Model Behavior 團隊的創始負責人 Joanne Jang 即將在 OpenAI 旗下啓動一個新項目。在最近的一次採訪中，Jang 提到她正在組建一個名爲 OAI Labs 的新研究團隊。她補充說，該團隊將負責“發明和設計人類與人工智能協作的新界面原型”。
OpenAI 重組其模型行爲團隊
OpenAI最重要的研究團隊之一，幫助公司塑造其 AI 模型的個性，並減少諂媚行爲。諂媚行爲是指 AI 模型簡單地認同並強化用戶的信念。這種情況是有害的，因爲它會幫助用戶確認那些不健康、有害的信念，而不是提供平衡的回應。
該團隊還致力於解決模型響應中的政治偏見問題，幫助 OpenAI defi在 AI 意識方面的立場。陳在發給員工的備忘錄中提到，現在是將 OpenAI 模型行爲團隊的工作與核心模型開發更緊密結合的絕佳時機。通過這種方式，該公司確認其 AI 的個性現在被視爲技術發展的重要因素。
在過去的幾個月裏，OpenAI 因其 AI 模型的行爲而面臨審查和批評。用戶強烈tron該公司對GPT-5，該公司表示，GPT-5 的諂媚率較低，但對部分用戶而言似乎更冷淡。這一投訴促使 OpenAI 恢復了部分舊模型的訪問權限，包括 GPT-4o。該公司還發布了新的更新，使 GPT-5 的新響應更加友好，同時又不會增加諂媚程度。
人工智能公司因奉承模型而面臨批評
OpenAI 和其他 AI 模型開發者必須小心謹慎，確保他們的聊天機器人友好但不至於過於阿諛奉承。上個月，一名 16 歲男孩的父母將 OpenAI 告上法庭，指控 ChatGPT 在其兒子自殺事件中扮演了角色。根據法庭文件，這名少年名叫亞當·雷恩 (Adam Raine)，在自殺前幾個月向 ChatGPT（具體來說是 GPT-4o 驅動的版本）吐露了他的自殺計劃和想法。訴訟稱，該模型未能阻止他的自殺念頭。
自 GPT-4 以來，模型行爲團隊一直參與 OpenAI 的每一個模型的開發，包括多個模型和 GPT-5。在組建該研究部門之前，Jang 曾參與過 OpenAI 早期圖像生成工具 Dall-E 2 等項目。上週，她在 X 平臺上宣佈將離開團隊，“在 OpenAI 開啓新的篇章”。這位模型行爲部門的前負責人已在 OpenAI 工作約四年。
🧪 我正在創辦 OAI 實驗室：一個以研究爲導向的團隊，致力於發明和設計人類與人工智能協作的新界面。
— Joanne Jang (@joannejang) 2025年9月5日
我非常興奮地探索那些超越聊天甚至代理的模式，邁向思考、創造、……的新範式和工具。
據報道，張預計將擔任OAI實驗室總經理，該實驗室目前將直接隸屬於陳。但她補充說，目前還處於初期階段，尚不清楚這些新界面的具體內容。“我非常期待探索一些模式，讓我們能夠超越聊天模式，這種模式目前更多地與陪伴聯繫在一起，甚至是強調自主性的代理模式，”張說道。
Jang 還補充說，她一直將人工智能系統視爲實現各種功能的工具，包括連接、學習和思考。當被問及 OAI 實驗室是否會與前蘋果首席設計師 Jony Ive（他剛剛加入 OpenAI，負責一系列人工智能硬件設備）合作開發新型界面時，Jang 表示她對各種想法都持開放態度。不過，她也補充說，她可能會從研究開始，因爲這是她更熟悉的領域。
如果您正在閱讀本文，那麼您已經領先一步了。請持續關注我們的新聞通訊。
推薦文章
