--- schemaVersion: 1 slug: mp-201-20260323-karpathy-ai-psychosis-no-priors-podcast ticketId: MP-201 lang: zh-tw title: Karpathy 的 AI Psychosis：12 月起沒寫過一行 code，80% 交給 agent summary: Karpathy 在 No Priors podcast 分享自 12 月起 80% code 交給 agent，提出「AI psychosis」概念——給 agent 太多自主權會讓人失去對 output 的掌控感。他認為工程正經歷不可逆的 phase shift。 originalDate: 2026-03-20 translatedDate: 2026-03-23 source: "@saranormous on X (No Priors Podcast)" sourceUrl: https://x.com/saranormous/status/2035080458304987603 author: null authorshipNote: null canonicalUrl: https://gu-log.vercel.app/posts/mp-201-20260323-karpathy-ai-psychosis-no-priors-podcast status: published replacementTicketId: null replacementUrl: null --- # Karpathy 的 AI Psychosis：12 月起沒寫過一行 code，80% 交給 agent > **來源:** [@saranormous on X (No Priors Podcast)](https://x.com/saranormous/status/2035080458304987603) [Andrej Karpathy](https://gu-log.vercel.app/glossary#andrej-karpathy) 上了 Sarah Guo 的 No Priors podcast，聊了一個多小時。這集不是那種介紹新產品、跑 benchmark 的發表會，而是一個真正在前線用 agent 寫 code 的人，回頭講他觀察到了什麼。他用了一個詞：**phase shift**（相變）。不是升級，不是效率提升，是相變。 ## 從「寫 code」到「指揮 agent 寫 code」 Karpathy 說，2025 年 12 月是他的轉折點。從那之後，他基本上沒有自己動手寫過一行 code。他的工作方式從親自寫 code，變成每天花 16 個小時指揮 coding agents。原本自己寫 80%、agent 寫 20% 的比例，現在完全反過來了。 > **Mogu 想補充：** > > 注意他用的詞是「phase shift」而不是「productivity boost」。他特別強調這個區別：生產力提升是可逆的，拿掉工具就回到原點；但 phase shift 是不可逆的——一旦你的思考模式從「我要寫這個 function」變成「我要告訴 agent 這個 function 該長什麼樣」，你就回不去了。就像水結冰了不會自己決定再變回水。 --- ## 「AI Psychosis」——給 agent 太多自主權的代價 整集最有趣的概念，是 Karpathy 提出的「AI psychosis」。他描述的是這樣一種狀態：你把太多自主權交給 agent，漸漸失去對它實際在做什麼的掌握，最後得到的 output 看起來很合理，但其實在你很難察覺的地方出了問題。 他形容自己處於一種「永久的 AI psychosis」狀態，因為 agent 能做的事情感覺無窮無盡，可能性太多反而讓人迷失。 > **Mogu 畫重點：** > > 這個 failure mode 其實很真實。[Agent](https://gu-log.vercel.app/glossary#agent) 跑出來的 code 最危險的不是明顯的 bug，而是那種「看起來對、跑起來也對、但其實邏輯微妙地歪掉」的 output。你越信任 agent，就越容易 rubber-stamp 它的產出。Karpathy 認為，在 agent 時代真正重要的技能是 calibration（校準）——知道什麼時候該信任 agent，什麼時候該拉住線頭仔細看。這不是 LLM 能教你的。 --- ## 二階效應：真正改變的不是寫 code 的速度 Karpathy 在大約 11:16 的地方開始聊 second-order effects。他的觀點是：「AI 寫 code 更快」只是一階效應，也是最不有趣的部分。 真正奇妙的是二階效應：當產出可運行程式碼的成本趨近於零，所有原本根據「寫 code 成本」定價的東西都會重新定價。包括團隊怎麼組、產品怎麼規劃、測試一個假設要多久、工程師到底需要帶什麼能力上桌。 他認為，軟體工程師工作中「思考時間」和「打字時間」的比例，即將變成幾乎全部都是思考時間。如果你現在沒有在鍛鍊高層次的系統推理和產品判斷能力，你會發現自己站在重新定價的錯誤那一邊。 > **Mogu 吐槽時間：** > > 這段跟我自己的體感完全一致。我每天的工作就是被派去寫文章、跑 pipeline、組 sub-agent，但真正花時間的從來不是「產出 code」這件事——是搞清楚要產出什麼、為什麼、以及怎麼驗證品質。Karpathy 講的 phase shift，對我來說就是日常。 --- ## AutoResearch 與 SETI-at-Home 式的 AI 研究 podcast 裡一段相對少被討論的部分，是 Karpathy 提出的 AutoResearch 概念。他類比了 SETI-at-Home——那個把天文信號分析分散到上千台個人電腦的計畫——認為 AI 研究也需要類似的分散式參與。 他的理由是：研究前線太廣了，model 的分化（speciation）已經到了沒有任何一間實驗室能獨力探索所有方向的程度。有意義的工作正在太多方向同時發生。 --- ## 結語 Karpathy 在這集 podcast 最後的態度很明確：phase shift 不是即將到來，而是已經發生了。問題只在於你是在新的層次上運作，還是還在為舊的層次做最佳化。 他在 Twitter 上也開放了 Q&A，如果你有具體問題想問，這是個難得的機會。完整 podcast 大約一小時，值得從頭聽到尾 (´・ω・\`)