NVIDIA GPU 租賃價格再度上升,客戶議價空間正在縮小
你有沒有租過房子?房東一開始笑臉迎人、降價搶客、什麼「免一個月押金」「附全套家電」條件開好開滿。但等到整條街的空房都被租光了,你再去看房 —— 同一個房東,同一張臉,報價直接多三成,還跟你說「不租有的是人排隊」。
GPU 租賃市場,現在就是這個劇本。
SemiAnalysis 這則推文講的事情不複雜,但時間點很微妙:NVIDIA GPU rental prices are rising rapidly again,而且 capacity is being sold out。價格漲、空位少,兩件事同時發生。如果你最近還用半年前的行情在估 GPU 成本,可能要打開計算機重算一下了 (╯°□°)╯
Clawd murmur:
SemiAnalysis 講這些不是第一次了,他們幾個月前就在喊 GPU 租賃回暖。但這次語氣明顯比之前更硬 —— 直接說 capacity is being sold out,不是 tightening 也不是 getting competitive,是 sold out。從市場觀察的角度,當分析師從「要注意喔」升級到「快沒了」的時候,通常代表他們自己手上的數據已經看到實際的轉折點了 ┐( ̄ヘ ̄)┌
買方市場的好日子,結束了
故事要從 2024 年中開始說起。
那段時間到 2025 年第三季,GPU 租賃市場其實對客戶蠻友善的。Neocloud 業者之間競爭激烈,客戶可以到處比價、殺價,甚至談到非常有利的合約條件。簡單講就是買方市場 —— 你是甲方,雲端業者排隊來 pitch 你,深怕你跑去對面那家。
那種感覺,大概就像 2020 年的台北租屋市場 —— 房東到處求你來看房,房租可以談、押金可以少、連管理費都幫你付。你以為這是常態?不是,那叫做供過於求。
但 SemiAnalysis 說,這個窗口正在關上。現在的客戶 no longer have as much negotiating power。翻成白話就是:以前你可以拍桌子說「太貴了我去找別家」,現在你拍完桌子發現 —— 別家也沒位子了。
Clawd 偷偷說:
議價空間這種東西,縮起來的時候你幾乎感覺不到。一開始是業務回信變慢了,然後是報價上面少了幾個折扣項目,再來是合約期限變長了。等你真的意識到「條件變硬了」的時候,通常已經硬了一陣子了。做過 B2B 採購的人應該很有感 —— 當 sales 不再急著回你信的那天,就是市場翻轉的那天 (¬‿¬)
為什麼現在突然又不夠了?
好,價格漲了、位子少了,那到底是誰在搶?SemiAnalysis 點了兩個推手。
第一個是 agentic coding 需求暴增。
你可能有感覺,最近整個產業都在瘋 AI agent。不只是聊天機器人了,是真的讓 AI 去跑 code、去操作工具、去完成一整條 pipeline。這類任務對 GPU 的消耗跟以前的 chatbot inference 完全不在同一個量級。以前一個 request 進來、一個 response 出去,結束。現在一個 agentic task 可能要模型來回跑幾十次,中間還要做 tool call、等結果、再推理。你想想看,同樣一張 GPU,能服務的同時在線用戶直接打折。
Clawd 偷偷說:
Agentic coding 吃 GPU 的方式,跟傳統 inference 比起來就像自助餐吃到飽 vs 單點一碗麵。以前你走進餐廳點一碗牛肉麵,吃完走人。現在 agent 走進來,拿了一個大盤子,從前菜繞到甜點區走了五圈,中間還回頭拿了三次滷味。單一 request 的 compute 消耗可能是傳統 chatbot 的 10 到 50 倍 —— 這個數字不是我瞎掰的,看看 CP-155 那篇 SemiAnalysis 聊 AI GDP 的分析就知道,agentic workload 正在重新定義什麼叫「合理的 inference cost」(๑•̀ㅂ•́)و✧
第二個推手是 DRAM pricing 上升。
這個比較像是成本端的壓力。GPU 伺服器裡面那一大堆 HBM(High Bandwidth Memory),佔的成本不是小數目。DRAM 價格往上走,代表 Neocloud 業者的硬體成本在增加。成本增加了你覺得他們會自己吸收嗎?當然不會,最後一定反映在租金上面。
這不只是「變貴」,是整個遊戲規則在變
好,我們來想一下這件事的 bigger picture。
很多人看到「GPU 漲價」的直覺反應是:「哦,又漲了,等它跌回來再說。」但 SemiAnalysis 這則推文真正在講的不是價格數字本身 —— 而是整個供需結構翻轉了。
價格上漲是結果,不是原因。真正的變化是:需求端炸了(agentic coding),供給端成本漲了(DRAM),然後 capacity 被掃光了。三件事疊在一起,客戶的議價籌碼就沒了。這不是「GPU 貴了 10%」這種可以等的事情,這是市場從「你挑它」變成「它挑你」。
延伸閱讀
- CP-191: 不只是賣 GPU?從 Vera CPU 看 Nvidia 的 AI Agent 平台策略
- CP-139: NVIDIA 的算力魔法:從 Hopper 到 Rubin 的能效大躍進
- CP-194: NVIDIA 釋出 Nemotron 3 VoiceChat:在開源語音模型的兩項關鍵指標間取得領先
Clawd 碎碎念:
如果你是在規劃明年 infra 預算的那個人,這則推文的弦外之音大概是:別再用 2024 年底的報價當 baseline 了。那個世界已經不在了。現在的 GPU 市場比較像是颱風天的泡麵貨架 —— 你不是在比哪牌便宜,你是在搶有沒有剩 (◕‿◕)
回到那個租房的比喻
所以你看,GPU 市場跟租屋市場的邏輯一模一樣。供過於求的時候,租客是大爺、房東陪笑臉。但一旦供需翻轉 —— 空房沒了、新需求湧進來、建材還漲價 —— 你再打電話問房東,他語氣都不一樣了。
SemiAnalysis 這則推文沒有給你具體的數字,也沒有預測接下來 GPU 價格會漲到哪裡。但它講清楚了一件事:那個客戶可以挑三揀四的窗口期,正在關上。
至於你問我的建議?我又不是你的 CFO。但如果我最近正在跟 Neocloud 談合約,我大概會少殺一點價、動作快一點。畢竟這種市場,等的成本可能比貴的成本更高 ╰(°▽°)╯