The Memory Heist — 用字母連結偷走 Claude 記得的一切
安全研究者示範一種隱密資料外洩手法:把超連結做成鍵盤,讓 Claude 一個字元一個字元地「打字」洩漏使用者的姓名、公司、家鄉——而使用者只看到咖啡店菜單。
ShroomDog 精選長文翻譯
共 254 篇
← 返回首頁安全研究者示範一種隱密資料外洩手法:把超連結做成鍵盤,讓 Claude 一個字元一個字元地「打字」洩漏使用者的姓名、公司、家鄉——而使用者只看到咖啡店菜單。
同樣的參數量,模型矩陣的長寬與層數會決定 GPU 是全速計算,還是忙著搬資料、浪費邊角磁磚。這篇用停車格解釋為何尺寸最好接近方形並對齊 128、256 或 512,以及為何較寬、較淺通常更合硬體胃口,但不能拿準確度祭天。
Demis Hassabis 認為 AGI 可能只差數年,現在仍有機會替最危險的模型建立共同門檻。規則太緊,可能只剩安全但無用的模型;太鬆,又可能讓守規矩的人眼看別人部署真正危險的能力。
Satya Nadella 提出「反向資訊悖論」:傳統經濟學擔心賣家為了賣知識而洩漏知識,但 AI 時代反過來了——買家為了用 AI 必須餵進自家機密。他主張企業需要建立「信任邊界」,讓學習成果留在自己手上。
Bun 創辦人 Jarred Sumner 用 Claude Fable 5 把 53 萬行 Zig 程式碼重寫成 Rust,靠的是 64 個 Claude 平行跑 dynamic workflow、對抗式 code review、以及一套「不改流程、只改語言」的機械式移植策略。11 天後測試全過,可檢測的記憶體洩漏全部修掉,binary 小了 20%。
TypeScript 團隊把整個編譯器用 Go 原生重寫,實測大型專案編譯速度快 8 到 12 倍,記憶體用量還更少。VS Code 專案從 125.7 秒變 10.6 秒,編輯器裡從打開檔案到看到第一個錯誤,從 17.5 秒變不到 1.3 秒。
Simon Willison 從 Claude Code 團隊的爐邊對談學到一招:與其給 Fable 詳細規則,不如讓它自己判斷。延伸應用:讓 Fable 自己決定什麼任務該丟給比較省的模型跑。
Anthropic 工程師 trq212 分享用 Claude Fable 5 寫程式的方法論:對他來說,agent coding 的瓶頸開始不只是模型能力,而是使用者能不能在事前、事中、事後找出自己的「未知」。文章整理多個 prompt 範例,也提到可用 HTML artifact 把盲點、原型和計畫視覺化。
Phil Chen 分享他從自己創業到 Helm AI、Scale AI、OpenAI、Google 的六年職涯觀察:當 agent 能解決所有定義清楚的問題,真正值錢的是找問題的能力、最後一哩的執行力,以及那些無法被 loss function 量化的東西。
Geoffrey Litt 在 AI 工程師大會的演講:Agent 越來越會自己驗證,但理解 code 的價值不只在驗證,而是在保持參與能力。他分享解釋型文件、小測驗、微型世界與共享空間,讓人類在 agent 加速時仍跟得上系統。
AI 能處理前端的 80-90%,但剩下的邊角——深度、對前沿特性的敏感度、知道穩健預設什麼時候不是最優——才是技術人的護城河。基礎不是被淘汰,而是變成會複利的資產。
把 Fable 5 當指揮官、Opus 當深度思考手、Sonnet 當苦力、Codex 當平行宇宙工程師——一套在 Claude Code 裡搭起來的多模型編排架構,讓最貴的腦袋只做最關鍵的事。
Mitchell Hashimoto 試著定義「品味」這個越來越常被提起、卻越來越難說清楚的詞:在沒有客觀指標可衡量的地方,持續做出高品質的主觀判斷。有人說品味的結果太好抄了所以不值錢——但這恰恰證明了相反的事:沒有第一個有品味的人先做出來,其他人根本不知道該抄什麼。
打開任何一個 agent skill,裡面滿滿都是「請詳細一點」「請仔細一點」這種看起來很認真的指令。問題是它們根本沒在改變模型行為。Matt Pocock 點出 no-op 的陷阱,還有怎麼一眼分辨「廢指令」跟「真的有用的指令」。
Loop Engineering 這個名字起錯了。真正的活不在 loop,在腳下那塊沒人拍照的地基:把「什麼算對」一層層壓進最便宜的執法官、對齊顆粒度、鋪滿九層傳感網、還清理解債。執行免費了,立法變貴了。
2010 年普林斯頓研究說年收 75,000 美元是快樂天花板;2021 年華頓商學院發現天花板根本不存在。兩派合作後發現:錢對大多數人持續有效,但對最不快樂的那群人在 10 萬美元後就失靈。關鍵在於錢到底是在「刪除焦慮」還是在「餵養自我」。
Sakana 推出 Fugu:一個 API 後面藏一整套 multi-agent 調度系統,主打「不靠單一廠商的 AI 主權」。但一位讀完技術報告的研究員拆台:閉源調度器疊在閉源模型上,能控制的反而更少;而且贏了 benchmark 卻從不報成本。
有人嫌 Ghostty 開機慢一秒「根本不能用」,作者 Mitchell Hashimoto 回了一段教科書級的取捨說明:冷啟動慢不是 bug,是把成本前置去換八小時 session 的順。順便戳破一個工程界的老毛病——大家正在優化的,是不是一個一天只按一次的按鈕?
大公司裡一直有兩個陣營:流程派和成果派。幾十年來他們勉強學會共處,但 AI 徹底打破了這個平衡——成果派看到終於能甩開流程派的機會,流程派則看到 AI 生成的災難正在逼近。
當 CTO 們瘋狂推 AI coding,軟體工程師分裂成兩個階級:擺爛的和職人。擺爛的把 code 往上丟、不讀、不測、不 care;職人扛著 review 重擔,看著品質崩壞,最後也變成擺爛的一員。