行業文章

側邊欄

RECENT ARTICLES

How Does Server RAM Differ from Ordinary Desktop RAM?
在 經過 Tan cheng / 0 評論
Key Takeaway The most fundamental difference is Registered (RDIMM) and ECC: server memory carries an extra register chip on the DIMM (Register / RCD) that buffers address and command signals, allowing a single memory channel to carry more DIMMs and reach higher capacities and frequencies; the UDIMMs used in desktops do not have this chip. The two have different PCB notch positions and physically will not fit, so buying the wrong one means a return. Key Comparison Type Full Name Use Case ECC Typical Capacity Per Module UDIMM Unbuffered DIMM... 閱讀更多
Should SMEs Choose a Tower Server or a Rack Server?
Key Takeaway No server room, placed in the office, buying only 1 to 3 units: choose Tower. Already renting a rack or with a dedicated server room, needing centralised management and expansion: choose Rack (2U is the all-purpose first choice). Hong Kong office rents are high, so the true cost of a Tower is often lower than people imagine, while the expansion and cooling limitations of 1U servers are often underestimated. Key Comparison Comparison Point Tower Server Rack Server Noise About 35 to 50 dB, can be placed in the... 閱讀更多
在 經過 Tan cheng / 0 評論
RTX 4090, RTX 6000 and Data Center GPU Compared
Key Takeaway These are not different price points on the same product line but three different engineering approaches: the RTX 4090/5090 is the consumer flagship (no ECC, no NVLink, restricted drivers), the RTX 6000 series is the workstation professional card (ECC, large memory, enterprise drivers), and only the H100/H200/B200 are data centre training cards (HBM, extremely high bandwidth, NVLink interconnect). The cost of choosing wrong is not slowness but a training run crashing halfway through, data corruption or licence violations. Key Comparison Model Architecture Memory ECC Bandwidth NVLink Hong Kong... 閱讀更多
在 經過 Tan cheng / 0 評論
AI 模型訓練需要幾多 GPU 記憶體?
重點總結分三個場景計算:推論取決於權重加 KV cache;微調取決於權重、梯度、優化器狀態同激活值;只有由零開始訓練先係叢集級需求。快速法則:全參數微調約「參數(B)× 16 至 20 GB」,LoRA 約「× 1.2」,4-bit QLoRA 約「× 0.7」。關鍵比較模型規模全參數微調(最低)LoRA(rank 16 至 64)4-bit QLoRA純推論(FP16)7B112 至 16016 至 246 至 1015 至 1813B 至 14B210 至 28028 至 4012 至 1827 至 3232B 至 34B510 至 68060 至 8024 至 3465 至 7570B 至 72B1,120 至 1,440130 至 17048 至 60140 至 155235B MoE叢集級,須多節點需要 4 至 8 張 80GB 以上需要 2 至 4 張 80GB 以上需要 4 至 8 張 80GB 以上(單位為 GB,假設權重以 FP16/BF16 儲存、優化器為 AdamW 且無 CPU offload。)實務建議訓練期間記憶體由五項佔用:權重(每個參數 2 bytes)、梯度(2 bytes)、優化器狀態(Adam 為 8 bytes)、激活值,以及 1 至 2 GB... 閱讀更多
在 經過 Tan cheng / 0 評論
企業批量購買電腦需要注意甚麼?
重點總結大量採購成功嘅八成,取決於可管理性、可維護性同保養條款,唔係單機規格表上嘅數字。統一型號、指定商用系列、鎖實保養條款同驗收流程,遠比每部慳幾百蚊重要。關鍵比較需求層級典型職位建議規格參考價(每部)基本辦公層行政、客服、前台14 吋、中階 U 系列 CPU、16GB、512GB NVMeHK$4,500 至 7,000主流商用層主管、銷售、會計14 吋、U/P 系列 CPU、16 至 32GB、1TB NVMeHK$7,000 至 11,000專業效能層設計、工程、影片剪輯15 至 16 吋、H 系列 CPU、32 至 64GB、獨立顯示卡、廣色域屏幕HK$12,000 至 22,000固定桌面層接待、倉庫、培訓室Mini PC 或一體機HK$4,000 至 8,000實務建議睇整體生命週期成本(TCO),唔係單機性價比。統一型號可以用單一映像分批部署,節省約 70% 設定時間;支援 vPro / Autopilot / Intune 嘅型號,可大幅減少上門次數。指定商用系列(ThinkPad L/T、Latitude、EliteBook、ProBook):零件供應 5 至 7 年,可加購 3 至 5 年上門保養,預載 Windows 11 Pro,二手市場殘值亦較高;消費系列零件只供應 2 至 3 年。採購文件必須寫明確實 Part Number,唔接受「或同等規格」;SSD 要指明 M.2 NVMe PCIe(4.0 或以上)——呢項最常被偷偷換成 SATA M.2;記憶體必須雙通道,單通道會拖低整體效能 20 至 30%。保養條款逐項列明:上門定送修、SLA 回應時間、意外損壞保障(ADP)、電池保養條款,以及保養由「發票日」定「製造日」起計(後者實際輸蝕兩至三個月)。驗收時用 SMART 數據揪出翻新機:讀取 SSD 嘅 Power-On Hours 同寫入量,確認接近零。配合每批抽驗 10% 或最少 3 部開箱,核對型號、SN 同 BIOS 顯示嘅 CPU/RAM/SSD 規格。Tip:常見陷阱——消費機當商用機賣、SSD 由 NVMe 降級做 SATA、單通道記憶體、混入水貨、混入翻新機、保養起始日被悄悄提前,以及送 Windows 家用版而非 Pro(無法加入網域或用 BitLocker... 閱讀更多
在 經過 Tan cheng / 0 評論