跳至主要內容
YIM NEWS
科技 分析

模型自己組隊、自己打分數再自我微調:Sakana AI 的 MASS 提醒了評測該看的三件事

Sakana AI 與柏克萊團隊提出的 MASS 讓同一模型分工執行、改良流程並評判成果再回頭微調,本文從評測機制與盲點整理分數提升之外該驗證什麼。

刊登:(台北時間) 閱讀約 4 分鐘

2026 年 10 月 12 日,一篇關於 Sakana AI MASS(Multi-Agent Self-Supervision,多代理自我監督)的討論在技術圈流傳。這項由 Sakana AI 與加州大學柏克萊分校研究團隊進行的研究,讓同一個 27B 開放權重模型扮演三種角色:執行任務的代理、調整團隊工作流程的最佳化者,以及評判成果好壞的評估者,再把多代理合作累積的經驗用來微調模型本身,進入下一輪改進。

論文報告在四個研究型基準上,每輸出 token 的表現較基準模型提升約 1.2 至 1.6 倍;但其他公開基準的結果有升有降。分數變高與能力變可靠之間,還隔著幾個需要拆開看的問題。

先弄清楚 MASS 跟一般「自我打分」差在哪

常見的自我改進做法,是讓模型多回答幾次、自己挑一個最好的答案。MASS 不太一樣,它把「一次答案好不好」和「下一次怎麼組隊」連在一起。

整個流程可以用一家小公司來比喻。老闆(共享模型)先寫一份團隊計畫:誰負責整理資料、誰負責分析、誰負責稽核,各交回什麼產物、按什麼順序上工。這份計畫以提示形式存在,每輪執行後,評估者比較新舊成果,最佳化者把評語轉成下一版可測試的分工方式。等到流程穩定下來,系統用不同隨機種子多次執行優選流程,挑出較好的對話軌跡,以 LoRA(低秩適配,一種只動少量新增參數的微調方法)更新共享模型。更新後的模型再回去扮演三個角色,開始下一輪。

實驗採用 Qwen3.6-27B 作為所有角色共用的底層模型,任務涵蓋財務、機器人與藥學等合成開放式研究問題。

同一個模型演三個角色,盲點也可能是同一個

角色分工聽起來像內建了互相檢查,但這裡有個結構性問題:三個角色的底層是同一個模型。如果判斷錯誤的根源來自這個模型本身的偏差,多個角色可能只是用不同方式重複同一個錯誤。稽核代理檢查資料有沒有洩漏未來資訊時,用的還是同一雙眼睛。

研究團隊對此有因應:最終成果由外部強模型評估,且評判結果不回饋進 MASS 迴圈。這補上了一個訓練者視角之外的比較基準,降低「自己出題自己改考卷」的風險。不過外部模型的判斷同樣受提示、評分標準與自身能力影響,它是一個參照點,並非客觀真值。

這與先前沙盒評測攔下的 AI 代理異常行為案例指向同一件事:評測環境能擋住什麼、漏看什麼,往往比分數本身更值得花時間確認。

提升的數字有明確的適用邊界

論文觀察到的 1.2 至 1.6 倍提升,是在特定設定下的結果:Qwen3.6-27B、兩輪實驗、合成開放式研究任務、研究型基準。換成不同的模型、真實的公司流程或另一批任務,是否還成立,研究本身沒有回答。

更關鍵的是資料選擇機制。訓練資料來自模型自己排序挑出的「較好」軌跡,這代表模型偏好的結果會留下來,成為下一輪的學習材料。訓練紀錄可能看起來愈來愈整齊,但外觀整齊與錯誤真的減少是兩回事。若排序準則和資料保留程序缺少獨立檢查,改進迴圈可能是在把偏見練得更熟,而不是把能力練得更強。

導入前可以照著做的三個檢查

對於考慮把這類自我改進方法引進工作流的團隊,這份研究提供的不是「可不可以上線」的答案,而是驗證的順序。

第一,別只用提出者提供的基準。挑自己場域裡的任務做獨立測試,特別是那些結果可以外部查核的任務,因為自我改進迴圈最大的風險就是抓不到自己看不見的錯。

第二,保留工作流程版本與中間產物。如果只看最後的評分,分不清進步來自更好的分工、不同的工具使用,還是某次執行碰巧順利。可追溯的紀錄是事後歸因的唯一依據。

第三,把成本納入監測。每輪改進都涉及多次執行、排序與微調,token 消耗會隨輪次疊加;每 token 效益提升的同時,總開支是否下降,需要實際量測才能回答,這一點與提示快取折扣要從帳單日誌驗證的邏輯相同,公告上的數字和你的帳單是兩份文件。

MASS 的價值在於示範了一條把多代理協作經驗帶回模型訓練的路徑,而它同時也示範了這條路上每個環節都可能藏著共享的盲點。分數會說話,但先要確認量尺握在誰手裡。

#sakanaai+ai模型#mass多代理自我監督+評測可靠度#自我改進模型+導入評估