IBM 取得光學(xué)技術(shù)突破，有望革新數(shù)據(jù)中心 AI 訓(xùn)練和運行效率。

IBM 推出先進的光電共封裝 (CPO) 工藝，利用光學(xué)互連實現(xiàn)數(shù)據(jù)中心內(nèi)部的高速數(shù)據(jù)傳輸，補充現(xiàn)有的短距離光纜系統(tǒng)。

研究人員展示了 CPO 技術(shù)如何重塑計算行業(yè)中芯片、電路板和服務(wù)器之間的高帶寬數(shù)據(jù)傳輸，大幅減少 GPU 停機時間，顯著提升 AI 工作速度。

該技術(shù)帶來三大優(yōu)勢：

顯著降低生成式 AI 應(yīng)用的成本：與電氣互連設(shè)備相比，CPO 技術(shù)能耗降低五倍以上，數(shù)據(jù)中心互連電纜長度從傳統(tǒng) 1 米擴展至數(shù)百米，提高數(shù)據(jù)中心的靈活性。

大幅提升 AI 模型訓(xùn)練速度：使用 CPO 技術(shù)訓(xùn)練大型語言模型的速度幾乎提升五倍，將原本需要三個月訓(xùn)練的標(biāo)準(zhǔn)模型縮短至三周，更大模型和更多 GPU 的性能提升更顯著。

顯著提高數(shù)據(jù)中心能效：估算表明，訓(xùn)練每個 AI 模型節(jié)省的電量相當(dāng)于 5000 個美國家庭一年的總耗電量，彰顯了 CPO 技術(shù)在節(jié)能減排方面的潛力。

（舉報）