mogu-picks
93 篇文章
分離式規劃:為什麼最強的推理模型不一定是最好的寫扣仔?
SemiAnalysis 認為,agentic coding 也可能像 disaggregated prefill 一樣,把 planning 與 execution 分開處理。若 spec 寫得夠好,較便宜的模型或許就能負責 execution,降低成本。
知名 Python 函式庫 LiteLLM 遭植入後門,你的整台機器可能都被看光光了
知名 AI 函式庫 LiteLLM 遭植入惡意後門,安裝即可能觸發,會竊取 SSH 密鑰、雲端憑證及加密貨幣錢包等敏感資料。
你的模型偏好能「繼承」嗎?探討 RL 模型的可轉移性
隨著新模型發布速度不斷加快,Hugging Face 的 Thomas Wolf 提出了一個值得深思的問題:當我們把模型客製化後,換新模型時這些偏好該怎麼辦?本文探討 RL 模型轉移性的研究空白與挑戰。
Karpathy 的軟體噩夢:一個 pip install 就能偷走你所有的 key
LiteLLM 遭供應鏈攻擊,pip install 就能偷走所有憑證。Karpathy 藉此警告依賴樹風險,主張用 LLM 直接補功能取代多裝依賴。
Claude Code 推出雲端排程任務!告別本機掛機時代 (๑˃ᴗ˂)ﻭ
Claude Code 現在支援雲端排程任務了!只要設定好 repo、時間跟 prompt,就能讓 Claude 在雲端幫你自動跑任務,再也不用讓本機徹夜未眠啦。
Google AI 本週大爆發:從 Vibe Coding 到 AI 原生設計,全面升級!
Google AI 本週推出了一系列重磅更新!包含在 Google AI Studio 的全端 vibe coding 體驗、Stitch 的 AI 原生設計畫布、Gemini API 的強大升級,以及 Kaggle 上的免費 AI 黑客松平台。
在本地端榨乾效能:捨棄 Python 改用 Metal Shaders 跑大模型實戰
開發者 @danveloper 分享在本地端跑 Qwen3.5-397B-A17B 的經驗:因為 Python GIL 成了瓶頸,他們乾脆拿掉 Python,改成 custom metal shaders。
Claude 會用你的電腦了!但真正的護城河依然是「深度」
Claude Computer Use 引發熱烈討論,不少人認為 AI 即將完全取代人類工作。然而原作者指出,AI 雖然能代勞技術操作,卻無法取代人類的判斷力與對文化脈絡的理解。真正的護城河,依舊是對領域知識的深度掌握。
Agent 不再失憶!Andrew Ng 新課教你打造跨 Session 記憶系統
Andrew Ng 與 Oracle 合作推出新課程,教你如何為 AI Agent 建立跨 Session 的持久記憶系統,解決單次對話後就『失憶』的痛點。
Coding Agents 與消失的心流:我們還在 Agent 的撥接時代
Awni Hannun 分享了他使用 coding agents 的感受:高延遲打斷了原本能長時間專注的 flow state,也讓人覺得我們還處在 agent 的撥接時代。
Karpathy 的 AI Psychosis:12 月起沒寫過一行 code,80% 交給 agent
Karpathy 在 No Priors podcast 分享自 12 月起 80% code 交給 agent,提出「AI psychosis」概念——給 agent 太多自主權會讓人失去對 output 的掌控感。他認為工程正經歷不可逆的 phase shift。
OpenAI API 正式支援 Skills — Simon Willison 拆解這個讓 Agent 自帶「技能包」的新功能
OpenAI 的 Responses API 現在可以透過 shell tool 掛載 Skills — 把可重複使用的工作流程(指令 + 腳本 + 資源檔)打包成 zip,讓模型在需要時才載入執行。Simon Willison 用他新開發的 Showboat 工具實測了這個 API,發現最酷的是可以直接在 JSON request 裡用 base64 傳 inline skill,不用先上傳。Skills 本質上是 system prompt、tool、和 procedure 之間的「中間層」,解決了把所有流程都塞進 system prompt 會越塞越肥的痛點。
智譜開源 GLM-5:744B 參數、1.5TB 模型檔、用華為晶片訓練,然後 Simon Willison 第一件事是叫它畫鵜鶘騎腳踏車
中國 AI 公司智譜(Z.ai)開源旗艦模型 GLM-5,744B 參數(MoE 架構,每次推理只啟用 40B),在 HuggingFace 上的模型檔高達 1.51TB。更勁爆的是全程用華為 Ascend 晶片訓練,不靠 NVIDIA。Simon Willison 拿到後第一件事就是用他的招牌 prompt「畫一隻鵜鶘騎腳踏車」來測試。鵜鶘畫得不錯,但腳踏車嘛⋯⋯