API 回傳的模型名稱、看起來品質不錯的答案,都無法證明後端真的用了哪一組模型權重。Anthropic 研究團隊在 FlashProve 技術報告中示範了另一條路:用零知識證明,讓外部查核者確認某個回答確實出自事先承諾的模型。這是研究原型,Anthropic 尚未計畫部署成服務,TechCrunch 對此已有報導。
機制:權重的密碼學指紋,加上一張推論收據
整套做法可以想成餐廳的兩份文件。第一份是「菜單承諾」:服務商先把某個版本的模型權重固定下來,發布一份密碼學承諾,類似權重的指紋。第二份是「出餐收據」:針對特定提示與輸出,服務商產生一份證明。驗證者拿著承諾、提示、輸出 token 和證明四樣東西,就能核對輸出是否符合該承諾模型在指定條件下的推論,全程不必取得權重、也不必重跑模型。
零知識證明在這裡的價值是雙向的:權重和推論的中間資訊不會揭露,模型架構則不在隱藏範圍。
有幾件事它證明不了。證明通過只代表推論符合承諾,不代表回答正確、沒有偏誤或適合你的工作。承諾本身也有信任前提:誰發布承諾、權重版本如何更新,這些紀錄若不可信,證明就無法連回合約或產品標示的那個模型。
數字:能用,但離日常服務還很遠
Anthropic 的公開實測以 400B 總參數、每 token 約啟用 17B 的 Llama 4 Maverick(混合專家模型)為對象。團隊把公開的 4-bit 權重轉成整數模型,為 24 個請求的批次產生推論證明,單張 H100 約耗時 223 秒,每份證明約 18.78 MB。權重承諾的離線準備約 39 分鐘,之後各批可共用;CPU 以 24 執行緒驗證約 17 秒。
對照 vLLM 的每 GPU 時間,證明生成約慢 66 至 77 倍。不過這組比較有前提:vLLM 基準用 FP8 權重與八張 H100,精度與工作內容都不同,不能當成同條件服務基準。《The Decoder》另指出,原型每個 1,024-token 窗口只證明一個指定輸出 token,因此這些數字既不是一般服務成本,也不是完整回答的產出速度。
實務上還有一個設計課題:證明採事後批次產生,回答可能先送達、證明稍後才完成。服務若要採用,得先定義逾時怎麼辦、暫停採信的條件、通知方式與紀錄留存。
橫向看:三個研究,證明的命題各不相同
可驗證推論不是新題目,但各研究證明的範圍差很多,數字不能拿來排名。
zkCNN 讓查核者確認影像分類結果來自指定卷積神經網路,VGG16 單張證明約 88.3 秒、341 KB,驗證約 59.3 毫秒;另示範 20 張影像整體準確度的證明,那是不同的命題。2024 年的 zkLLM 測試 LLaMA-2-13B 在 2,048-token 輸入下的完整推論,證明低於 15 分鐘、200 KB。FlashProve 則是第一個在大型 MoE 模型上展示指定輸出 token 證明的案例。
一個證「單張圖的分類結果」,一個證「整段推論」,一個證「指定 token 來自 400B 模型」。命題不同,秒數與檔案大小自然不可互比。
所以呢:誰現在該關心
短期內一般使用者碰不到這套機制。它真正的潛在使用者是「宣稱用了某模型」需要被查核的場景:例如第三方聲稱程式碼經指定的資安模型掃描,查核者就需要知道證明綁定哪一版權重、哪個輸入與輸出。這與我們先前整理過的Claude 形式化驗證到底證明了什麼屬於同一類課題:證明涵蓋的範圍,和它不能代表的事,要分開讀。
對評估導入的團隊,報告給出的檢查點很具體:證明綁定的權重版本與承諾來源、證明涵蓋的 token 範圍、事後批次產生的時序設計,以及與既有推論管線的精度差異(4-bit 整數模型與 FP8 服務不是同一條件)。這些判斷方式,也和我們在Nemotron 3.5 Transcribe 導入前的驗收方法裡強調的原則一致:規格數字先問量的是什麼,再問對你的帳單與流程意味著什麼。
FlashProve 展示的是可行性:回答可以附上一張連回指定權重的收據。至於這張收據什麼時候便宜到能放進日常服務,報告裡的 66 至 77 倍,就是目前最誠實的答案。