AI數據中心的瓶頸正從GPU轉向網絡
過去數年，人工智能基建的投資邏輯幾乎等同「搶GPU」。只要取得更多高階加速器，似乎便能訓練更大的模型。然而，當AI集群由數百顆GPU擴展至數萬甚至數十萬顆，真正決定運算效率的已不再只是單顆晶片性能，而是GPU之間能否高速交換數據。若網絡延遲、擁塞或封包丟失令GPU等待，即使擁有最昂貴的晶片，也可能只是把資本鎖在機櫃內閒置。
大型模型訓練不是把工作平均分配後各自完成，而是需要不同GPU反覆同步參數。All-Reduce、All-to-All等集體通訊產生大量東西向流量，任何一條鏈路出現擠塞，都可能拖慢整個任務。這與傳統雲端數據中心不同：一般應用較能容忍流量波動，但AI訓練要求低延遲、高頻寬及近乎無損傳輸，而且最慢的節點往往決定整體速度。網絡因此由配套設備，升格為AI「超級電腦」的一部分。
問題在推理階段同樣存在。新一代推理模型需要處理更長的上下文及更多並行用戶，運算、記憶體與儲存資源亦逐步分拆部署。模型權重、KV cache和中間結果要在不同伺服器之間移動，令推理成本愈來愈取決於網絡利用率。如果頻寬不足，企業增加GPU未必能按比例提高輸出，反而可能推高每個token的成本。
從晶片競賽走向整套網絡重估
這解釋了為何市場焦點由400G、800G迅速移向1.6T網絡。Arista於2026年6月推出新一代1.6T平台，單一系統頻寬達102.4Tbps；Broadcom的Tomahawk 6交換晶片亦提供102.4Tbps容量，反映交換器升級速度正追趕加速器迭代。
受惠者不只交換器廠商，還包括網絡晶片、NIC及DPU、光模組、DSP、連接器、光纖和網絡管理軟件。當速度升至800G及1.6T，電訊號可以穩定傳輸的距離縮短，光互連比例上升；但光模組數量、耗電量及故障率也隨之增加。這使矽光子、線性可插拔光學，以及把光學元件與交換晶片整合的CPO成為下一輪競爭焦點。英偉達規劃於2026年下半年推出的Spectrum-X光子交換器，最高頻寬達409.6Tbps，正是試圖突破電氣互連功耗和訊號完整性的限制。
另一條主線是InfiniBand與Ethernet之爭。InfiniBand憑低延遲和成熟的無損傳輸，在大型AI集群具先發優勢；Ethernet則擁有開放、生態廣泛和多供應商互通等好處。Ultra Ethernet Consortium已推出1.0規範，從網卡、交換器、傳輸協議到擁塞控制重新優化Ethernet，希望把傳統網絡改造成適合AI與高效能運算的架構。UEC 這意味未來未必由單一技術通吃，而可能是機櫃內採用專用高速互連、機櫃之間則由強化版Ethernet擴展規模。
不過，「networking接棒GPU」不能簡化成所有光通訊股份均會長期受惠。網絡設備仍有價格競爭，光模組亦具明顯產品周期；1.6T放量時間、良率、散熱和客戶認證都可能低於預期。CPO雖可節能，卻帶來維修困難、供應鏈重組及標準未統一等問題。真正有護城河的企業，不只是能生產更高速零件，而是能控制功耗、提高可靠性，並在交換晶片、光學硬件與網絡軟件之間形成協同。
GPU仍然是AI數據中心的核心，但核心不等於唯一瓶頸。當晶片供應逐步增加，投資回報將愈來愈取決於整個集群能否被有效利用。下一階段的AI基建競賽，不再只是誰擁有最多GPU，而是誰能讓數萬顆GPU像一台電腦般運作。資本市場對AI的估值主線，也正由單點算力擴散至連接算力的整條網絡。
義合控股投資者關係部
（芯片與算力系列之86）
