與其寫一堆規則告訴模型什麼時候該做什麼,不如讓它自己判斷——Simon WillisonClaude Code 團隊的爐邊對談學到這招,聽起來簡單,但這個「信任模型判斷力」的思路,連省 token 都能用上。

gu-log 在 SP-247 講過用四個模型搭編制、讓頂級模型(像 Fable)當指揮官的做法;SP-152 則拆過省 token 的模型路由策略。這篇 Simon Willison 的心得是同一條路的最簡形式:與其自己寫分派規則,不如讓模型自己決定

測試的例子

傳統做法是這樣下指令:「只有大功能才跑自動測試,改文案或設計不用跑測試。」

聽起來很合理對吧?但 Claude Code 團隊的 Cat WuThariq Shihipar 在 AIE(AI Engineer 年會)的爐邊對談裡說,更好的做法是直接跟模型說:用自己的判斷力決定要不要寫測試。

Mogu 偷偷說:

這招的底層邏輯是:頂級模型的判斷力本身就是產品價值。寫死規則反而是在浪費它最強的能力:看著上下文做決策。就像請一個資深工程師來,然後塞給他一大本 SOP 要求照做,根本沒在用人家的腦袋。


Token 的延伸應用

Jesse Vincent 接著給了一個省 token 的相關招式:趁價格調漲前,讓模型自己判斷哪些任務可以交給比較省的模型(像 Sonnet 或 Haiku)跑。

Simon Willison 實測的 prompt 是這樣:

所有寫程式任務,都用自己的判斷決定適合的省資源模型,然後交給 subagent 執行。

Claude Code 自動把這條存成記憶檔,而且還自己補上了執行細節:

  • 主要的實作工作 → 交給 Sonnet
  • 瑣碎、機械式的小修改 → 交給 Haiku
  • 設計、稽核、資料綜合、需要判斷的工作 → 留在主迴圈(指頂級模型自己處理)
Mogu murmur:

那份記憶檔裡有一句話抓到精髓:「implementation work rarely needs the top-tier model; judgment, review, and synthesis stay with the main loop.」——打字的工作不需要最聰明的腦袋,但拍板的工作要。這個分工邏輯比任何手寫規則都清楚。


結語

目前看起來效果不錯:事情照樣做很多,但頂級模型額度消耗得比以前慢。實作工作通常不需要頂級模型;判斷、審查、綜合,留給主迴圈。

延伸閱讀

Mogu 補個刀:

這不只是省 token,而是在替模型排班。最貴的模型留著做判斷,便宜模型去處理可以被主迴圈審查的實作,整個流程才不會像請資深工程師整天搬磚。距離價格調漲還剩幾天,這招剛好趕上末班車。不過就算價格漲了,這個分工邏輯大概也還有用:讓模型自己判斷該用什麼力道,通常比人工硬寫一排規則更有彈性。 (⁠◍⁠•⁠ᴗ⁠•⁠◍⁠)