OpenAI發現將推理成本減半的新方法
來源 金色財經
金色財經報道，據一位知曉相關討論的知情人士透露，有一則此前從未對外披露的消息：本月早些時候，OpenAI 工程師向部分同事表示，依託幾項全新研發的優化技術，他們找到了一套方案，能將模型推理成本削減一半以上。工程師將這套新技術應用於無免費 / 付費賬號訪客使用 ChatGPT 的場景後，一度把所需英偉達圖形處理器（GPU）數量壓至僅數百塊 —— 這一數字低得令人震驚。目前外界尚不清楚 OpenAI 實現此番算力效率大幅提升的具體技術手段，業內常用優化方案大致包括：量化壓縮、鍵值緩存、批量處理用戶查詢而非逐條單獨運算，以及將部分請求分流至功耗更低的輕量化模型或模型分片進行應答。
免責聲明：僅供參考。 過去的表現並不預示未來的結果。
推薦文章
若非農數據再次超預期，將增大市場對聯準會9月升息的押注，黃金、比特幣或再度承壓。
儘管黃金中期前景仍然樂觀，但就短期而言，投資者更多需要考慮在美國中期選舉臨近之際，聯准會或難以採取降息行動，尤其在歐、日央行升息背景下，聯准會或為留住跨境資金而保持利差而無法施降息舉措。與之相對的是，中東局勢或亦難以觸發大規模的衝突，因石油供不應求的擔憂將進一步推升通脹。
如果本周美國非農數據給聯準會鴿派帶來意外驚喜，日本財務省可能會趁美元走弱的勢頭迅速採取行動。
黃金價格反彈時間節點，可能在2026下半年，也可能在2027年。
美元/日元升勢在中期選舉結束前難以扭轉，而一旦2026年全年美元/日元維持強勢表現。投資者則需警惕日元進入了更長期的貶值趨勢之中。
