重點總結
呢啲唔係同一條產品線嘅唔同價位,而係三種唔同工程取向:RTX 4090/5090 係消費旗艦(冇 ECC、冇 NVLink、驅動受限),RTX 6000 系列係工作站專業卡(有 ECC、大容量記憶體、企業驅動),只有 H100/H200/B200 先係數據中心訓練卡(HBM、極高頻寬、NVLink 互連)。揀錯嘅代價唔係慢,而係訓練跑到一半崩潰、資料損毀或授權違規。
關鍵比較
| 型號 | 架構 | 記憶體 | ECC | 頻寬 | NVLink | 香港參考價 |
|---|---|---|---|---|---|---|
| RTX 4090 | Ada | 24GB GDDR6X | 無 | 1,008 GB/s | 無 | HK$13,000 至 18,000 |
| RTX 5090 | Blackwell | 32GB GDDR7 | 無 | 1,792 GB/s | 無 | HK$18,000 至 28,000 |
| RTX 6000 Ada | Ada | 48GB GDDR6 | 有 | 960 GB/s | 無 | HK$55,000 至 75,000 |
| RTX PRO 6000 Blackwell | Blackwell | 96GB GDDR7 | 有 | 1,792 GB/s | 無 | HK$130,000 至 190,000 |
| H200 SXM | Hopper | 141GB HBM3e | 有 | 4.8 TB/s | 900 GB/s | 須整機方案 |
| B200 | Blackwell | 180 至 192GB HBM3e | 有 | 8 TB/s | 1.8 TB/s | 須整機方案 |
實務建議
- 命名陷阱:NVIDIA 由 Ada Lovelace 世代起,成條工作站產品線都取消咗 NVLink——RTX 6000 Ada(48GB)同 RTX PRO 6000 Blackwell(96GB)都冇 NVLink。最後一款支援 NVLink 嘅專業卡係上一代 Ampere 架構嘅 RTX A6000(48GB),可用 NVLink 橋接兩張卡成單一 96GB 記憶體池,雙向頻寬 112.5 GB/s。唔好將「RTX A6000」(Ampere,有 NVLink)同「RTX 6000 Ada」(Ada,冇 NVLink)混淆——兩者係唔同世代。另外要注意「RTX 6000D」係中國市場專屬嘅降規版本,冇 PRO 稱號,同全球版係唔同 SKU,採購時務必核實。
- ECC 係消費卡最大嘅短板:顯示記憶體長時間高負載會出現位元翻轉,ECC 會自動偵測同修正。冇 ECC,訓練誤差會累積,甚至令整部機重啟。消費卡做原型驗證冇問題;連續跑幾日以上嘅訓練,應該用有 ECC 嘅專業卡或數據中心卡。
- NVLink 決定多卡效率:RTX 4090/5090 同 RTX PRO 5000/6000 Blackwell 都唔支援 NVLink,GPU 之間嘅通訊只可以行 PCIe(RTX 4090 係 PCIe 4.0,較新嘅卡係 PCIe 5.0)。如果你打算用兩張卡做張量平行,實際加速會遠低於 2 倍。
- 授權合規:GeForce 系列驅動嘅 EULA 對「部署喺數據中心」設有限制。企業想喺自己機房合規地提供 GPU 算力服務,應揀 RTX PRO 系列(企業驅動、ISV 認證、支援週期較長)或數據中心系列;呢點對金融、醫療同政府項目尤其重要。
- 部署細節:600W 級顯示卡建議配 1,300W 或以上電源,並為峰值預留 30% 餘量;12VHPWR / 12V-2x6 接頭必須推到底直至咔一聲,插唔足會過熱熔毁;重卡需要支撐架,長期下垂會損壞 PCIe 插槽或 PCB。
Tip:常見誤解——「兩張 4090 = 一張 A100」唔成立,帳面算力或者接近,但冇 ECC、冇 NVLink,頻寬亦只有 A100 嘅一半左右。「記憶體越大越好」亦唔完整——同樣 48GB,GDDR7(1,344 GB/s)同 HBM(3.35 TB/s)嘅差距可以超過兩倍。