Coinbase CEO:通過優化默認模型與路由機制控制AI成本,實現Token使用增長與支出下降並存

來源 Jinse_news
金色財經報道,Coinbase 首席執行官 Brian Armstrong 在 X 平臺發文表示,在 Coinbase 內部,團隊正在探索如何在 Token 使用量指數級增長的同時保持 AI 開支穩定,而實現方式並非通過使用限制或頻繁的成本提醒,而是依靠更優的系統設計。 他指出,Coinbase 主要從五個方面優化 AI 使用成本:首先是“更優默認模型”,允許工程師自由選擇模型,但系統默認引導至更低成本的開源權重模型(如 GLM 5.2、Kimi 2.7),同時仍鼓勵針對不同任務選擇合適模型;其次是“智能路由”,通過自動化系統根據任務類型、緩存命中率及模型價格分配最優模型,而非由人工選擇。 第三是“緩存優化”,通過提升緩存命中率顯著降低重複計算成本;第四是“精簡上下文”,在任務切換時減少無效 Token 消耗,並限制不必要的工具調用;第五是“可視化透明度”,讓工程師清晰看到自身使用情況,但不通過限制來壓制使用。 Brian Armstrong 表示,目標不是抑制 AI 使用,而是構建能夠支撐指數級增長的基礎設施。實踐結果顯示,在 Token 使用持續增長的情況下,整體 AI 支出已接近減半。
免責聲明:僅供參考。 過去的表現並不預示未來的結果。
goTop
quote