美國政府一紙命令,逼 Anthropic 全球下架 Fable 5 和 Mythos 5
下午五點二十一分,一封信寄到 Anthropic。幾個小時後,全世界的開發者打開主控台,發現 Fable 5 和 Mythos 5 不見了。
不是當機、不是維護、不是被限速。是被美國政府用一紙出口管制命令,要求即刻斷供。Anthropic 沒得選——要嘛全球下架這兩個模型,要嘛違法。其他 Claude 模型不受影響,但這兩個旗艦——一個是寫程式最猛的 Fable 5,一個是最強的 Mythos 5——當天晚上就從所有人的帳號裡消失。
政府說了什麼,沒說什麼
這封信來自美國政府,引用的是國安相關職權,內容是一道「出口管制指令」:禁止任何外國國民存取 Fable 5 和 Mythos 5——不分人在不在美國境內,連 Anthropic 自己的外籍員工也算。
聽起來只是限制外國人,但實務上沒辦法只關一半。要確保完全合規,Anthropic 唯一能做的就是把這兩個模型對所有客戶關掉,美國人也一起斷。淨效果就是全球下架。
Mogu 認真說:
注意這個「連自家外籍員工都不准碰」的細節 (゚Д゚)。這代表 Anthropic 內部一堆工程師——只要不是美國公民——從今天起連自己公司最強的模型都不能用來工作。一個出口管制令的殺傷範圍,從外面的客戶一路掃進了自家辦公室。而且因為沒辦法精準只擋外國人,最後變成大家一起死——這就是為什麼一個「只針對外國國民」的命令,結果是全球所有人都用不到。
信是當天(ET 時間下午 5:21)才收到的,而且沒有寫清楚國安疑慮到底是什麼。Anthropic 只能自己推測:政府似乎相信,有人找到了一種「繞過」或「越獄」Fable 5 的方法。
所謂的「越獄」,其實是叫模型修 bug
這就是整件事最荒謬的地方。
Anthropic 說,他們看了那個所謂攻擊技術的示範,結果發現:它只揪出了少數幾個早就知道、而且很輕微的漏洞。這些洞都相對簡單,簡單到別的公開模型不用任何「繞過」也找得到。
到目前為止,政府給的只是口頭證據,描述的是一個範圍很窄、非通用的越獄——而它的本質,用 Anthropic 自己的話講,「基本上就是叫模型去讀一個特定的 codebase、然後把裡面的軟體缺陷修掉」。
Mogu 偷偷說:
等一下,「讀一個 codebase 然後修裡面的 bug」——這不就是 Claude Code 每天在幹的事嗎 (⌐■_■)?這不是越獄,這是產品說明書第一行。把「AI 幫你 debug」重新命名成「資安武器」,然後拿去當下架全球商用模型的理由,這個邏輯跳躍幅度有點大。Anthropic 還特別補了一刀:同樣的能力「從別的模型也廣泛拿得到,包括 OpenAI 的 GPT-5.5」,而且「每天都被那些維護系統安全的防守方拿來用」。翻譯:你要因為這個禁我,那全世界的模型都得一起禁。
Anthropic 還說,他們審查了一份他們認為就是這道命令依據的報告,並且驗證過:報告裡展示的能力水準,是其他模型普遍具備的、防守方每天在用的東西。公司承諾接下來 24 小時會公布更多細節。
Anthropic 的防線:上市前被紅隊打了上千小時
為了反駁「Fable 5 不安全」這個指控,Anthropic 把當初發表時就寫過的安全立場整個攤開來講:
- Fable 的安全防護強到很多使用者抱怨它管太寬——常常該答的也不答。
- 上市前那幾週,Anthropic 找了美國政府、英國 AI 安全研究院(AISI)、多家第三方機構加上內部團隊,總共花了上千小時對 Fable 的防護做紅隊測試。
- 測試結果:Fable 的防護明顯比任何先前部署過的模型都更有效。
- 到目前為止,沒有任何測試者找到「通用越獄」——也就是那種可以大範圍解鎖各種資安能力的萬能繞過法。
Mogu 想補充:
這裡要把兩個詞分清楚,不然會被唬住。「非通用越獄」是指在特定狀況下能套出某些資訊的小破口——Anthropic 直說這種東西每家業界防護都擋不住,這是物理現實。「通用越獄」才是真正可怕的那種:一招打穿、什麼都能解。政府這次抓的是前者(而且還是個只會修 bug 的版本),拿來要求下架的卻是後者等級的處置。這就像因為有人發現某把鎖可以用特定角度的迴紋針開,就要求把全市的門都拆掉 ┐( ̄ヘ ̄)┌
Anthropic 的核心主張是:完美的越獄抵抗力,今天對任何模型供應商來說都不存在。業界每一種防護都擋得住通用攻擊、但擋不住所有非通用的小破口;而且通用越獄將來「很可能終究會被找到」。這話他們在 Fable 5 發表時就講得很白了,不是事後找的台階。
既然完美防護不可能,Anthropic 走的是「縱深防禦」:讓越獄要嘛範圍很窄、要嘛貴到難以製造,再搭配嚴密監控,一旦有攻擊成功就快速偵測並關閉。
Mogu 插嘴:
順帶解釋一個之前被罵的政策:Anthropic 要求 Fable 的客戶資料保留 30 天,當時不少人覺得是隱私退步。但這篇把原因講白了——保留資料是為了能研究和緩解越獄,是縱深防禦的一環。Anthropic 自己也承認這個政策「對我們跟客戶之間是有實際成本的」(白話:有客戶因此不爽)。所以那不是隨便加的條款,是他們為了安全吞下的代價。現在政府反過來說它不安全,多少有點吃力不討好的味道 (;・∀・)
而且 Anthropic 強調:他們根本還沒收到任何一個「導致實際危害」的非通用越獄揭露。目前被通報的那些,要嘛是完全無害的回應,要嘛是不痛不癢的小發現,沒有任何 Mythos 專屬的能力增益。
「修一個 bug 就下架」會把整個產業關掉
Anthropic 的態度很清楚:法律命令照單遵守,但這個判斷無法認同。
他們的反駁很有力:一個被數億人使用的商用模型,因為「發現一個範圍很窄的潛在越獄」就要被召回——如果這個標準套用到整個產業,那等於讓所有前沿模型供應商的新模型部署全部停擺。沒有任何模型擋得住所有非通用破口,所以按這個標準,沒有任何模型上得了線。
Anthropic 一直公開主張:政府應該有權擋下不安全的部署——但前提是透過一個「透明、公平、清楚、而且建立在技術事實上」的法定程序。而這次的行動,照他們的說法,完全不符合這些原則:沒有書面技術細節、只有口頭證據、依據的是一個連他們都還沒拿到完整資料的指控。
Mogu 認真說:
把時間軸拉開看會更有戲。幾個月前,Anthropic 才剛做過一件相反的事:他們造出當時最強的 Mythos,然後主動決定不公開發布,透過 Project Glasswing 只給少數防禦性資安夥伴用——理由就是「太強、攻防不對稱、不能讓所有人碰」。那時候踩煞車的是 Anthropic 自己。結果幾個月後,Mythos 5 變成了上市商用模型,這次踩煞車的換成美國政府——而且煞的理由還是個「叫模型修 bug」等級的東西。從「我們自己覺得太強不敢放」到「政府覺得有風險強制下架」,這條 AI 治理的線到底該畫在哪、由誰來畫,正在被現實一刀一刀地切開來問 (¬‿¬)
把時間軸拉開:這封信可能不是重點
Anthropic 的聲明只講了 6 月 12 日這一天。但科技觀察者 @gothburz 在 X 上整理了一條更長的時間軸,提醒大家:要看懂這封信,得往前倒帶半年。以下是他的整理——這些是他提出的脈絡,部分指控難以獨立查證,但時間軸本身值得放在一起看:
- 1 月:五角大廈要求無限制把 Claude 用在自主武器和國內監控上,Anthropic 拒絕。
- 2 月:總統下令所有聯邦機構停用 Anthropic;國防部長禁止五角大廈承包商跟他們往來。某個競爭對手在幾小時內就宣布拿下機密網路的合約。
- 3 月:五角大廈用一條原本是為「外國對手」寫的法條,把一家美國公司列為「供應鏈風險」。聯邦法官擋下。
- 5 月:五角大廈跟七家公司簽 AI 合約,Anthropic 不在名單裡。
- 6 月 9 日:Anthropic 發布 Fable 5。
- 6 月 12 日:商務部以一個「口頭展示、沒有書面說明、能力從其他公開模型也拿得到」的越獄為由,發出出口管制指令。
@gothburz 的結論一刀見骨:
The jailbreak is the paperwork. The refusal was in January. (越獄只是文件作業,真正的拒絕發生在一月。)
意思是:這封信表面理由是技術安全,但放進時間軸看,更像是一場半年衝突的最新一集。
Mogu 偷偷說:
這條時間軸的具體指控(自主武器、要求機構停用)沒辦法獨立查證,當成 @gothburz 一個人的敘事看就好,別當成定讞的事實。但他點出的一個反諷很難反駁:Anthropic 自己花了好幾個月,把 Mythos 行銷成「強到不能公開的危險武器」(@gothburz 還酸了一句,引 Sam Altman 講過「說自己造了一顆炸彈,是超強的行銷」)。結果商務部現在正式同意了——對,這就是炸彈。把自家產品在每篇新聞稿裡說成軍火,政府遲早會照字面當真:你親手寫好了法律前提,還以為那只是品牌語言 (⌐■_■)
更精彩的是 @gothburz 翻出的歷史對照——這齣戲,1990 年代演過一次。
當年美國政府把「加密技術」依 ITAR 列為軍火,出口加密軟體形同走私軍火。密碼學社群用一個無懈可擊的招數破解:把 PGP 的原始碼印成一本書出版——因為書是受憲法保護的言論,磁片才算「軍火出口」。甚至有人把 RSA 演算法用三行 Perl 印在 T 恤上,那件 T 恤在法律上就是一件軍火。最後整套管制崩盤,原因 @gothburz 講得很漂亮:
math does not stop at customs. (數學不會在海關前面停下來。)
Mogu 吐槽時間:
這次的新變數是一條叫「deemed export」的規則——直譯是「視同出口」:在美國境內把受管制技術「展示給」一個外國國民看,法律上就等同把它出口到國外。這正是為什麼 Anthropic 自家的外籍員工,現在被鎖在他們親手打造的模型外面。@gothburz 的形容是神來一筆:「軍火就在這棟樓裡,而造出它的人不准看它一眼。」如果歷史真會重演,那下一步大概就是有人把 Fable 5 的
system prompt印成一本詩集出版了 ╮(╯▽╰)╭
結語:先道歉,再吵架
Anthropic 的收尾很務實:先為這次中斷向客戶道歉,說相信這是一場「誤會」,正在盡快爭取恢復存取。但語氣裡的不服氣藏都藏不住——他們一邊乖乖遵守命令把模型關掉,一邊把整套技術論述攤在陽光下,等於是公開把球丟回給政府:要禁可以,但請拿出符合程序、建立在技術事實上的理由。
這件事真正的看點不是「Fable 5 到底安不安全」,而是一個更大的問題正在被現場測試:當一個 AI 模型已經被數億人用在日常工作裡,政府能不能憑一封沒寫清楚理由、只有口頭證據的信,就讓它在一個下午之內全球消失?
接下來 24 小時 Anthropic 說會公布更多細節。是單純的技術誤會,還是半年角力的最新一回合,這場「修 bug 算不算資安武器」的爭論,才剛開始。