OpenAI查出3處Codex額度額外消耗

來源 Jinse_news
金色財經報道,OpenAI 終於查到 Codex 額度掉得快的具體原因了。負責人 Tibo Sottiaux 稱,團隊已經發現 3 處額外消耗:帶圖片的超長會話反覆壓縮上下文時效率偏低;Computer History 在部分高消耗場景裏用量過高;甚至自動生成會話標題的功能,也比預期多喫了一些額度。 Tibo 此前先稱沒有發現整體異常,又把部分受影響用戶指向 sub2api 和訂閱共享。昨天他才進一步承認,部分用戶的緩存命中率確實變差,可能導致額度消耗加快。現在調查終於定位到了 Codex 自身的幾個具體問題。 其中「上下文壓縮」是爲了讓 Codex 在超長任務裏不斷壓縮舊內容,騰出上下文繼續工作。OpenAI 官方資料也確認,Codex 會自動使用 compaction 維持長時間任務。圖片很多、連續壓縮多次時,現在這套流程存在額外浪費。Computer History 則是最近上線的功能,可以把 Mac 上選定 App 和網頁裏的操作記錄帶進 ChatGPT 和 Codex。 OpenAI 會在美國時間週日推送修復,同時給所有付費訂閱的 Codex 用量做一次完整 Reset。Tibo 稱 Reset 預計美國西海岸時間下午 2 點左右上線,對應北京時間 8 月 24 日凌晨 5 點左右。 團隊還找到了一種無關的新優化方案,稱能顯著提高效率,下週會繼續推進。
免責聲明:僅供參考。 過去的表現並不預示未來的結果。
goTop
quote