IBM 推出光学技术革新，助力生成式 AI 训练速度提升五倍！

2024-12-10内容来源AIbase基地

IBM 在纽约约克城宣布了一项重大的光学技术突破，该技术将显著数据中心在训练和运行生成式人工（AI）模型时的效率。

IBM 的研究人员开发了一种新型的共封装光学技术（CPO），这项技术能够利用光速实现数据中心内部的连接，从而替代目前使用的铜电缆。

站长之家使用)" alt="IBM"/>

尽管光纤技术已在全球商业和通信中广泛应用，但大多数数据中心内部仍依赖于铜电缆进行短距离通讯。这导致 GPU 加速器在训练过程中常常处于闲置状态，浪费大量的时间和能源 IBM 的研究团队展示了如何将光的速度和容量引入数据中心，显著提高数据中心的通信带宽，减少 GPU 的闲置时间，从而加速 AI 模型的处理速度。

根据 IBM 发布的技术论文，该团队开发的 CPO 原型模块能够实现高速光学连接，带来五倍的电力节省，能够将数据中心内部连接电缆的长度从一米扩展到数百米。

此外，使用这种新技术，者训练大型语言模型（LLM）的速度可以比传统电缆快五倍，这意味着将一个标准 LLM 的训练时间从三个月缩短到三周。这项创新不仅能显著降低生成式 AI 的规模成本，还能提高数据中心的能源效率，节省相当于5000个美国家庭年用电量的能量。

IBM 的研究表明，CPO 技术可以将芯片间的带宽提高至气连接的80倍，充分利用了现代芯片技术的进步。IBM 的2纳米节点芯片技术可以容纳超过500亿个晶体管，CPO 技术的引入将进一步提高计算密度和效率。这项的成功原型在制造过程中经过了高湿度和极端温度的测试，确保了光学互连的可靠性和耐用性。

此次研究为数据中心的未来发展铺平了道路，IBM 将继续在半体研发方面保持领先地位，推动更高效的光学通信技术的发展，以满足日益增长的 AI 性能需求。

划重点: