Coinbase 採用中國 AI 模型 GLM 5.2 和 Kimi 2.7 作為工程師的預設模型

Coinbase 執行長 Brian Armstrong 於上週五 (26日) 表示,該加密貨幣交易所已將中國開源 AI 模型 GLM 5.2 和 Kimi 2.7 設為內部工程師的預設大型語言模型。Armstrong 報告稱,Coinbase 通過路由優化和快取改進,將 AI 支出削減了近一半,同時代幣用量持續指數級增長。這項部署反映了美國科技公司普遍悄悄將中國開源 AI 模型整合到生產基礎設施以降低成本並擴大應用的趨勢。

Coinbase 實行三層基礎設施以削減 AI 成本

Armstrong 將成本降低歸因於三層基礎設施的改造。第一層是「智能路由」,系統預先處理提示,並根據快取命中率和模型定價自動將任務分配給最合適且最經濟的模型。第二層是「積極快取」,通過要求所有請求都具備快取意識,將 LibreChat 的快取命中率從 5% 提高到 60%。第三層是「精簡上下文」,建議在切換任務時開啟新會話並縮小檔案範圍,以減少浪費的代幣。

Armstrong 強調,這種方法並非抑制使用,而是擴大 AI 採用。他將該方法描述為實現 AI 使用可持續擴張的關鍵,並表示任何企業都可以採用此模式,讓工程師自由使用任意數量的代幣和模型,無需設定成本上限,同時將使用量與業務影響連結。

中國開源模型在多模型策略中處理常規任務

這兩個中國開源模型主要部署於常規任務場景。對於需要複雜規劃的任務,工程師仍可選擇前沿模型。在程式碼審查過程中,Coinbase 採用多模型平行策略,讓不同模型交叉驗證輸出結果以維持品質標準。

Armstrong 指出,隨著美國頂尖模型服務成本持續攀升,中國開源模型的成本效益優勢正逐漸改變全球科技公司的 AI 部署策略。

常見問題

Coinbase 於上週五 (26日) 宣布了哪些關於 AI 模型的訊息?
Coinbase 執行長 Brian Armstrong 宣布,公司已將中國開源 AI 模型 GLM 5.2 和 Kimi 2.7 設為內部工程師的預設大型語言模型。Armstrong 表示,這項變革結合路由優化和快取改進,使 AI 支出減少近一半,同時代幣用量維持指數級成長。

Coinbase 如何在營運中使用中國 AI 模型?
Coinbase 主要將 GLM 5.2 和 Kimi 2.7 部署於常規任務場景,而工程師仍可為需要複雜規劃的任務選擇前沿模型。在程式碼審查中,公司採用多模型平行策略,由不同模型交叉驗證輸出結果以維持品質標準。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆