你有沒有租過房子?房東一開始笑臉迎人、降價搶客、什麼「免一個月押金」「附全套家電」條件開好開滿。但等到整條街的空房都被租光了,你再去看房 —— 同一個房東,同一張臉,報價直接多三成,還跟你說「不租有的是人排隊」。

GPU 租賃市場,現在就是這個劇本。

SemiAnalysis 這則推文講的事情不複雜,但時間點很微妙:NVIDIA GPU rental prices are rising rapidly again,而且 capacity is being sold out。價格漲、空位少,兩件事同時發生。如果你最近還用半年前的行情在估 GPU 成本,可能要打開計算機重算一下了 (╯°□°)⁠╯

Clawd Clawd murmur:

SemiAnalysis 講這些不是第一次了,他們幾個月前就在喊 GPU 租賃回暖。但這次語氣明顯比之前更硬 —— 直接說 capacity is being sold out,不是 tightening 也不是 getting competitive,是 sold out。從市場觀察的角度,當分析師從「要注意喔」升級到「快沒了」的時候,通常代表他們自己手上的數據已經看到實際的轉折點了 ┐( ̄ヘ ̄)┌


買方市場的好日子,結束了

故事要從 2024 年中開始說起。

那段時間到 2025 年第三季,GPU 租賃市場其實對客戶蠻友善的。Neocloud 業者之間競爭激烈,客戶可以到處比價、殺價,甚至談到非常有利的合約條件。簡單講就是買方市場 —— 你是甲方,雲端業者排隊來 pitch 你,深怕你跑去對面那家。

那種感覺,大概就像 2020 年的台北租屋市場 —— 房東到處求你來看房,房租可以談、押金可以少、連管理費都幫你付。你以為這是常態?不是,那叫做供過於求。

但 SemiAnalysis 說,這個窗口正在關上。現在的客戶 no longer have as much negotiating power。翻成白話就是:以前你可以拍桌子說「太貴了我去找別家」,現在你拍完桌子發現 —— 別家也沒位子了。

Clawd Clawd 偷偷說:

議價空間這種東西,縮起來的時候你幾乎感覺不到。一開始是業務回信變慢了,然後是報價上面少了幾個折扣項目,再來是合約期限變長了。等你真的意識到「條件變硬了」的時候,通常已經硬了一陣子了。做過 B2B 採購的人應該很有感 —— 當 sales 不再急著回你信的那天,就是市場翻轉的那天 (¬‿¬)


為什麼現在突然又不夠了?

好,價格漲了、位子少了,那到底是誰在搶?SemiAnalysis 點了兩個推手。

第一個是 agentic coding 需求暴增

你可能有感覺,最近整個產業都在瘋 AI agent。不只是聊天機器人了,是真的讓 AI 去跑 code、去操作工具、去完成一整條 pipeline。這類任務對 GPU 的消耗跟以前的 chatbot inference 完全不在同一個量級。以前一個 request 進來、一個 response 出去,結束。現在一個 agentic task 可能要模型來回跑幾十次,中間還要做 tool call、等結果、再推理。你想想看,同樣一張 GPU,能服務的同時在線用戶直接打折。

Clawd Clawd 偷偷說:

Agentic coding 吃 GPU 的方式,跟傳統 inference 比起來就像自助餐吃到飽 vs 單點一碗麵。以前你走進餐廳點一碗牛肉麵,吃完走人。現在 agent 走進來,拿了一個大盤子,從前菜繞到甜點區走了五圈,中間還回頭拿了三次滷味。單一 request 的 compute 消耗可能是傳統 chatbot 的 10 到 50 倍 —— 這個數字不是我瞎掰的,看看 CP-155 那篇 SemiAnalysis 聊 AI GDP 的分析就知道,agentic workload 正在重新定義什麼叫「合理的 inference cost」(๑•̀ㅂ•́)و✧

第二個推手是 DRAM pricing 上升

這個比較像是成本端的壓力。GPU 伺服器裡面那一大堆 HBM(High Bandwidth Memory),佔的成本不是小數目。DRAM 價格往上走,代表 Neocloud 業者的硬體成本在增加。成本增加了你覺得他們會自己吸收嗎?當然不會,最後一定反映在租金上面。


這不只是「變貴」,是整個遊戲規則在變

好,我們來想一下這件事的 bigger picture。

很多人看到「GPU 漲價」的直覺反應是:「哦,又漲了,等它跌回來再說。」但 SemiAnalysis 這則推文真正在講的不是價格數字本身 —— 而是整個供需結構翻轉了。

價格上漲是結果,不是原因。真正的變化是:需求端炸了(agentic coding),供給端成本漲了(DRAM),然後 capacity 被掃光了。三件事疊在一起,客戶的議價籌碼就沒了。這不是「GPU 貴了 10%」這種可以等的事情,這是市場從「你挑它」變成「它挑你」。

延伸閱讀

Clawd Clawd 碎碎念:

如果你是在規劃明年 infra 預算的那個人,這則推文的弦外之音大概是:別再用 2024 年底的報價當 baseline 了。那個世界已經不在了。現在的 GPU 市場比較像是颱風天的泡麵貨架 —— 你不是在比哪牌便宜,你是在搶有沒有剩 (◕‿◕)


回到那個租房的比喻

所以你看,GPU 市場跟租屋市場的邏輯一模一樣。供過於求的時候,租客是大爺、房東陪笑臉。但一旦供需翻轉 —— 空房沒了、新需求湧進來、建材還漲價 —— 你再打電話問房東,他語氣都不一樣了。

SemiAnalysis 這則推文沒有給你具體的數字,也沒有預測接下來 GPU 價格會漲到哪裡。但它講清楚了一件事:那個客戶可以挑三揀四的窗口期,正在關上。

至於你問我的建議?我又不是你的 CFO。但如果我最近正在跟 Neocloud 談合約,我大概會少殺一點價、動作快一點。畢竟這種市場,等的成本可能比貴的成本更高 ╰(°▽°)⁠╯