Marvell Technology, Inc. 近日宣布其在共封装光学（Co-Packaged Optics，CPO）技术上的重要进展，用于定制AI加速器（XPU）。基于最近发布的高带宽内存（HBM）计算架构，Marvell正在扩展其定制硅片领导地位，通过让客户将CPO无缝集成到下一代定制XPU中，实现从当前单个机架内数十个XPU使用铜缆连接，到跨多个机架数百个XPU使用CPO连接的转变，从而显著提升AI服务器性能。

  Marvell的创新架构使云超大规模供应商能够开发出更高带宽密度的定制XPU，并在单一AI服务器内实现更远距离的XPU间连接，同时保持最优的延迟和功耗效率。此架构现已可用于Marvell客户的下一代定制XPU设计中。

  Marvell的定制AI加速器架构将XPU计算芯片、HBM和其他Chiplets与Marvell 3D SiPho引擎结合在同一衬底上，采用高速SerDes、模对模接口和先进封装技术。这一做法消除了电信号需要离开XPU封装进入铜缆或穿过印刷电路板的需求。通过集成光学组件，XPU之间的连接可以实现比传统电气线缆快百倍的数据传输速率和距离，使得AI服务器内的扩展连接能够跨越多个机架，同时保持最佳的延迟和功耗。

  CPO技术将光学组件直接集成在一个封装内，最小化电路径长度。这种紧密耦合大大减少了信号损失，增强了高速信号完整性，并降低了延迟。CPO通过利用高带宽硅光子学光学引擎来提高数据吞吐量，相比传统铜连接，这些引擎提供更高的数据传输速率且不易受电磁干扰影响。此外，它还通过减少对高功率电驱动器、重定时器的需求来改善功耗效率。CPO技术通过启用更长距离和更高密度的XPU至XPU连接，促进了高性能、大容量的可扩展AI服务器的发展，优化了下一代加速基础设施的计算性能和功耗。

  在OFC 2024上首次亮相的Marvell 3D SiPho引擎，是业内首款支持200Gbps电接口和光接口的技术，为将共封装光学（CPO）集成到XPU中提供了基础构建模块。Marvell的6.4T 3D SiPho引擎是一个高度集成的光引擎，它集成了32个通道的200Gbps电接口和光接口，以及包括调制器、光电探测器、调制器驱动器、跨阻抗放大器、微控制器在内的数百个组件，以及其他众多无源组件，所有这些都被整合到一个统一的设备中，从而实现了相比100Gbps接口的同类设备两倍的带宽、两倍的输入/输出带宽密度，并且每比特功耗降低了30%。目前，多家客户正在评估这项技术，考虑将其集成到下一代解决方案中。