如何比較 GPU 租用報價
發佈於 · 更新於
選擇 GPU 租用報價前,應比較完整配額、計費時間、包含的服務及付款責任。時租只是其中一項考慮。即使 GPU 型號相同,欠缺網絡架構、交付日期較遲或需大額預付,都可能改變決定。
將每份報價放在同一基準上
報價可能以 GPU 小時、伺服器小時、節點月或叢集總價計算。記錄每個計費單位包含的 GPU 數量、貨幣、稅項及最低收費。按月計費時,採用供應商對「一個月」的實際定義。按小時計費時:
運算費用 = 已分配 GPU 數量 × 計費時數 × 每 GPU 小時費率
此公式只計算運算部分。另行收費的服務及費用應各計一次,並列明哪些項目仍未定價。固定配額即使在工作負載閒置期間,亦可能持續計費。
假設性的三年比較
以下所有費率及付款結構均為計算而虛構,並非市場基準、供應商報價、經 RackShore 可得的折扣或容量報價。配額僅作說明用途,並非買家訂單。
假設 128 個節點、每節點八個 GPU,即 1,024 個 GPU,在一個說明用的 26,280 小時租期內持續計費。此計算採用三個 365 日的年度及 36 個各 730 小時的相等計費期,不計閏日及實際曆月差異。為方便計算,假設硬件、互連網絡架構、交付、服務範圍及貨幣完全相同。實際報價必須證明這些假設成立。
計費配額為 1,024 × 26,280 = 26,910,720 GPU 小時。
| 虛構結構 | GPU 小時費率 | 三年運算總額 | 預付款假設 | 餘款假設 |
|---|---|---|---|---|
| A:全額預付 | $2.00 | $53,821,440 | 服務開始前支付 $53,821,440 | 其後毋須再付運算費用 |
| B:預付六期 | $2.20 | $59,203,584 | 服務開始前支付 $9,867,264,抵扣首六期費用 | 30 期,每期 $1,644,544 |
| C:按月付款 | $2.40 | $64,585,728 | 服務開始前毋須預付 | 36 期,每期 $1,794,048,由服務開始時起付 |
每一行均假設為不可取消的三年運算承諾。C 按月付款並不代表有權按月取消。B 的預付款已包含在其 $59,203,584 總額內;若再加一次,便會高估運算責任。並無假設任何可退還按金或安裝費。儲存、傳輸、支援、稅項及其他附加項目一律不計,因此以上並非全包服務總額。
在這個虛構情境中,A 的名義運算總額最低,但交付前承受的風險亦最大。此表並未為融資、供應商違約、退款權利或預付現金失去流動性等因素估值。這些差異需要另作現金流及風險評估;單憑名義總額較低並不足夠。
使用率改變的是經濟效益,而非合約賬單
假設有效使用率為 70%,該配額可產生 18,837,504 個有效 GPU 小時。每個有效 GPU 小時的運算成本分別約為 $2.86、$3.14 及 $3.43。在此示例中,合約運算總額維持不變。
單憑有效 GPU 小時,仍無法比較不同的 GPU 平台。應量度完成同一工作負載及質素目標所需的支出及實際時間,並計入數據載入、檢查點、中斷及重試。
分清預付款、按金及費用
每一筆前期款項,都應問清楚屬於可抵扣的運算費用、可退還按金、預留費用,還是不可退還的費用。記錄到期日、觸發開發票的條件、抵扣額的有效期、退款條件,以及交付延誤或失敗時的處理方式。將這些條款與金額並列,而不是隱藏在混合後的時租之中。
分清價格承諾與容量承諾。例如,AWS 文件指出 Savings Plans 並不預留容量。這個特定產品說明了為何必須核實實際的容量條款;它並不代表每家供應商的合約。AWS Savings Plans documentation
加入服務及合約差異
每家供應商都使用相同的比較項目:
- GPU 型號、可用記憶體、租用模式、節點數量及互連配額
- 地區、交付里程碑、驗收測試及開始計費日期
- 節點間網絡架構、拓撲、超額訂閱比率及儲存效能
- 持久儲存、快照、數據傳入及傳出收費
- 安裝設定、支援、編排、軟件授權、稅項及任何已披露的經紀費用
- 維護、中斷權利、替換安排及服務抵免流程
- 承諾總支出、開發票時間、續約、調整規模及退出條款
未經確認的項目應視為待解決問題,不要假設已包含在內,亦不要當作零成本。已確認的報價應與估算及未來容量建議分開比較。叢集租用清單提供更全面的技術需求簡介。
索取可比較的報價
向各供應商發出相同的需求,並將例外情況與各自的回覆並列。確認由誰營運基礎設施,以及由誰簽約、計費及支援服務。使用 GPU 經紀評估指南,在審視報價之外,亦檢視轉介流程。
RackShore 負責轉介買家與供應商。供應商確認報價,並負責與買家簽約、計費及提供基礎設施支援。提供你的配額、地區、時間安排及租期即可開始洽談;這並不會預留容量。
已有明確需求?
提交不具約束力的需求簡介,供應及條款由供應商確認。