OpenAI發佈CoT監控，阻止大模型惡意行爲
來源 金色財經
金色財經報道，OpenAI發佈了最新研究，用CoT（思維鏈）監控的方式，可以阻止大模型胡說八道、隱藏真實意圖等惡意行爲，同時也是監督超級模型的有效工具之一。OpenAI使用了最新發布的前沿模型o3-mini作爲被監控對象，並以較弱的GPT-4o模型作爲監控器。測試環境爲編碼任務，要求AI在代碼庫中實現功能以通過單元測試。結果顯示，CoT監控器在檢測系統性“獎勵黑客”行爲時表現卓越，召回率高達95%，遠超僅監控行爲的60%。
免責聲明：僅供參考。 過去的表現並不預示未來的結果。
推薦文章
長期看隨著金銀比回歸，白銀價格或將回落。但中短期內，投行看好銀價突破150美元。
澳洲央行2026年內大機率會再次升息，澳元兌美元漲勢或延續。
本週末選舉結果至關重要，若高市早苗大獲全勝，日幣匯率可能再度重回160關口。
週四（2月5日）市場對軟件板塊和加密貨幣的拋售進一步加劇，並向整個市場蔓延。引發本周軟體股大拋售的美國AI明星公司Anthropic發佈擅長金融研究的新人工智能模型Claude Opus4.6，該消息發佈後，金融服務公司股價盤中應聲下跌。另外，美國勞動力市場數據疲軟令美國經濟前景受挫。美國12月職位空缺意外下降至2020年以來的最低水準；挑戰者裁員人數創下自2009年衰退最嚴重時期以來的1月最高紀錄。
週五(2月6日)亞洲交易時段，金價在隔夜以及亞市盤初暴跌後突然強勢反彈，目前金價位於4864美元/盎司附近，日內暴漲85美元。FXStreet分析師Dhwani Mehta最新撰文，對金價技術走勢進行分析，
