科普
算力只要四分之一?MAI-Base-2 的 4.2 至 12.3 倍,量的是訓練不是帳單
微軟公布 MAIBase2 預訓練 FLOPs 效率高出 4.2 至 12.3 倍,本文釐清這個數字量測的是訓練階段效率,不能直接換算成推論成本與 API 帳單。
2026 年 10 月 15 日,微軟針對自家新模型 MAI-Base-2 公布一組數字:「我們的配方在預訓練 FLOPs 效率上高出 4.2 至 12.3 倍」(譯述)。媒體隨後以「算力耗用是競爭模型的 1/4」概括這項消息。對正在挑模型的團隊來說,這裡有一個必須先分清楚的問題:訓練算力、推論資源、服務帳單是三件不同的事,4.2 至 12.3 倍只涉及第一件。
這個數字實際量了什麼
FLOPs 是浮點運算次數,用來描述模型計算的工作量。微軟的估算流程是這樣:研究團隊用不同規模的模型組成一條「規模階梯」,把各模型在四項留出評測上的 BPB(bits-per-byte,每位元組位元數,越低代表模型對資料的壓縮越好)與訓練 FLOPs 做擬合,再回推自家訓練方法需要多少運算量,才能達到比較對象 DeepSeek-V4-Pro-Base 在各評測上的 BPB 表現。四項測試各自得出一個效率估值,所以結果是一段範圍,而非單一固定比例。
打個比方:這就像兩家餐廳都端出同一道菜,一家宣稱自己用的瓦斯量只有對方的幾分之一。這個數字描述的是廚房端的能源效率,跟你在店裡點這道菜要付多少錢,中間還隔著菜單定價、出餐流程、店面人事成本等一整段。微軟公布的正是「廚房端」的數字,而且是開發者自行設定的比較條件,並非獨立第三方驗證。
MoE 模型的兩種參數口徑
MAI-Base-2 是混合專家(Mixture of Experts,MoE)架構的基礎模型,總參數 2.8 兆、啟用參數 800 億。這兩個數字經常被混著讀,但它們量的是不同的東西。
MoE 模型把網路中的部分區塊設計成不同的「專家」,再由路由機制為每個輸入分配運算。總參數量描述整個模型包含多少權重;啟用參數量描述處理某個 token 時實際動用的規模。可以想成一間大醫院有很多科別的醫師(總人力),但你掛號一次只會看其中幾科(動用的人力)。醫師總數影響的是醫院規模與人事成本,你的看診時間則取決於當下動員的科別與流程。
因此,只看啟用參數 800 億,無法推算這個模型需要幾張 GPU、能達到多少延遲,或每次推論要花多少錢。實際部署還取決於專家分配、記憶體容量、跨 GPU 通訊與系統實作方式。
訓練更有效率,帳單不一定更便宜
就算訓練效率的提升是真的,它與推論成本的關係也比直覺複雜。推論的資源消耗受輸入與輸出長度、同時請求數、批次大小、記憶體、硬體利用率與服務架構影響。兩個參數量相近的模型,部署方式或流量型態不同,延遲與單次任務成本就可能差距很大。
還有一個結構性因素:省下來的訓練算力,往往會被拿去訓練更大的模型。微軟自己也說明,MAI-Base-2 的效率節省投入了更大的模型訓練。這是模型競賽的常見邏輯,效率改善很少直接轉成降價,而是轉成規模。這與微軟以 Qwen 為基底推出決策模型的策略思維類似,重點都在用相對少的資源換取特定市場位置。
團隊該怎麼驗證
微軟尚未公布 MAI-Base-2 的服務開放時程、計價方式與企業端總成本。在這些條件明朗前,4.2 至 12.3 倍只能當成一個值得追蹤的訓練方法訊號。
等服務開放後,要比較的基準是「完成同樣工作的完整成本」:固定任務集與品質門檻,量測實際推論的延遲、吞吐與總花費,而非看模型端的宣稱數字。這個原則與我們先前談過的用自有案例驗證 AI 代理判斷力是同一套思路:開發者自設的評測只能當起點,導入者要用自己代表性的工作負載重新量一次,才知道答案。
簡單收斂:算力效率的新聞,先問量的是訓練還是推論,再看比較對象與條件是誰設定的。這三個問題問完,數字能告訴你什麼、不能告訴你什麼,通常就清楚了。