gpu
5 篇文章
LLM 不是參數塞滿就好：GPU 在等模型把磁磚鋪整齊
同樣的參數量，模型矩陣的長寬與層數會決定 GPU 是全速計算，還是忙著搬資料、浪費邊角磁磚。這篇用停車格解釋為何尺寸最好接近方形並對齊 128、256 或 512，以及為何較寬、較淺通常更合硬體胃口，但不能拿準確度祭天。
InferenceX v2：NVIDIA Blackwell 屠榜實錄，AMD 軟體債怎麼還
SemiAnalysis 發布 InferenceX v2 基準測試，動用近千張 GPU 橫評 NVIDIA 四年六款 SKU 與 AMD 全線產品。GB300 NVL72 對比 H100 實現最高 100 倍效能提升，Jensen 當初說的 30 倍竟然是保守估計。AMD FP8 有競爭力，但 FP4+disagg+wideEP 的組合拳軟體還沒到位。
GPU 大缺貨 2.0：當租 GPU 比租房還難，H100 租金半年飆漲四成
SemiAnalysis 深入剖析 2026 年 GPU 租賃市場的瘋狂現況：H100 一年期租金從 $1.70 飆到 $2.35/hr/GPU，所有 on-demand 容量全數售罄，Blackwell 產能預訂到九月。從記憶體價格暴漲到 Neocloud 市場結構，一場自我強化的 GPU 荒正在成形。
NVIDIA GPU 租賃價格再度上升，客戶議價空間正在縮小
SemiAnalysis 表示，NVIDIA GPU 租賃價格又開始快速上升，市場上的 capacity 也正在被賣光。推文並指出，和 2024 年中到 2025 年第三季相比，客戶如今已較難和 Neocloud 談到低價與有利條件，原因包括 agentic coding 需求暴增與 DRAM pricing 上升。
AI 算力租賃的隱藏下半場：5年合約到期後會發生什麼事？
大家都盯著 AI 算力前五年的利潤看，但真正決定勝負的，其實是合約到期後的經濟學變化。