IBM稱光纖技術可以將人工智能訓練時間和能耗減少80%

作者：Paul Gillin

IBM的研究人員表示，一個重要的原因是數據中心內部仍然主要依靠銅線而不是高速的光纖。

IBM杰出工程師John Knickerbocker表示：“我們估計GPU有一半的時間是在空轉。”“這白白耗費了大量的能量。”

現在，IBM表示已經在解決這一問題上取得了重大進展。該公司今天發布了一種新的協同封裝光學工藝，將光學元件與電子芯片直接集成在一個封裝內，從而實現了數據中心設備之間的光速連接。

該公司表示，它已建立并成功測試了基于聚合物光波導的互連器件，這種由聚合物材料制成的結構靈活輕便，可引導光線沿著一條路徑前進，并限制光信號，從而在保持信號完整性的同時最大限度地減少損耗。

與電氣互連相比，該模塊可以減少80%以上的能源需求，同時將數據中心內可連接組件的電纜從目前的一米延長至數百米。

IBM表示，這樣做的結果是，人工智能大型語言模型的訓練速度可提高五倍，同時，據其估計，每訓練一個模型可節省相當于5000個美國家庭一年的耗電量。

電力需求激增

IBM半導體部門總經理兼IBM研究院混合云研究副總裁Mukesh Khare表示：“在生成式人工智能和LLM出現之前，計算需求每20個月翻一番。”“自從LLM出現后，每6個月就會翻一番。”

電力消耗及其相應的碳足跡是人工智能經常被忽略的一個后果。國際能源機構今年早些時候估計，到2026年，處理人工智能和加密貨幣工作負載的數據中心的用電量可能會翻一番。屆時，這個數字將相當于日本的總耗電量。

聚合物光波導技術被廣泛應用于電信、數據通信和傳感領域，但在數據中心內卻從來不夠經濟實用。原因包括初始成本高、介質易碎、傳統系統中銅線占主導地位以及光纖的尺寸。

它們的直徑約為250微米，是人類頭發寬度的三倍，寬約四分之一毫米。這大大超過了電子電路所需的相應空間。

Khare表示：“雖然業界在制造越來越快的芯片方面取得了重大進展，但這些芯片相互通信的速度卻沒有跟上。”“這中間存在著幾個數量級的差距。”

IBM的研究人員利用PWG技術在芯片邊緣排列高密度的光纖束，使芯片能夠直接通過聚合物光纖進行通信。這種方法讓光纖與連接器之間的公差縮小到半微米或者更小，這被認為是成功的基準。

該公司表示，其新型光學結構使芯片制造商能夠在硅光子芯片邊緣封裝六倍于現在數量的光纖。每根光纖的跨度只有幾厘米，每秒可傳輸太比特級的數據。當為每個光通道傳輸配置多個波長時，CPO技術可將芯片間的帶寬提高80倍之多。

IBM表示，其工藝已將傳統光通道的尺寸縮小了80%，測試表明還可能進一步縮小，從而將帶寬提高1200%。

共同封裝的光學模塊已可投入商業使用，并將在IBM位于魁北克布羅蒙的工廠生產。