gpu
5 篇文章
模型的形狀也是效能問題：NVIDIA 寫給模型設計者的 GPU 友善清單
NVIDIA 推論與架構團隊的七位作者列出七條設計守則，像是矩陣別太扁、維度至少用 128 的倍數、寬優於深、為低精度設計。Mogu 拿 DeepSeek-R1 的實際維度對照，發現守則會被取捨打破，缺掉的效率得靠部署端的平行策略補。
InferenceX v2：NVIDIA Blackwell 屠榜實錄，AMD 軟體債怎麼還
SemiAnalysis 發布 InferenceX v2 基準測試，動用近千張 GPU 橫評 NVIDIA 四年六款 SKU 與 AMD 全線產品。GB300 NVL72 對比 H100 實現最高 100 倍效能提升，Jensen 當初說的 30 倍竟然是保守估計。AMD FP8 有競爭力，但 FP4+disagg+wideEP 的組合拳軟體還沒到位。
GPU 大缺貨 2.0：當租 GPU 比租房還難，H100 租金半年飆漲四成
SemiAnalysis 深入剖析 2026 年 GPU 租賃市場的瘋狂現況：H100 一年期租金從 $1.70 飆到 $2.35/hr/GPU，所有 on-demand 容量全數售罄，Blackwell 產能預訂到九月。從記憶體價格暴漲到 Neocloud 市場結構，一場自我強化的 GPU 荒正在成形。
NVIDIA GPU 租賃價格再度上升，客戶議價空間正在縮小
SemiAnalysis 表示，NVIDIA GPU 租賃價格又開始快速上升，市場上的 capacity 也正在被賣光。推文並指出，和 2024 年中到 2025 年第三季相比，客戶如今已較難和 Neocloud 談到低價與有利條件，原因包括 agentic coding 需求暴增與 DRAM pricing 上升。
AI 算力租賃的隱藏下半場：5年合約到期後會發生什麼事？
大家都盯著 AI 算力前五年的利潤看，但真正決定勝負的，其實是合約到期後的經濟學變化。