结论前置：互联方案决定推理集群的实际吞吐上限

单颗推理芯片的算力指标只说明峰值能力，真正决定服务吞吐的是芯片之间如何交换数据。爱看球行业资讯栏目梳理了公开规格书与行业组织白皮书中的六类互联方案，按连接层级归类，给出适配清单。需要说明的是，本文不涉及任何未公开的流片数据，所有能力描述均以厂商公开文档为准，具体参数请以最新规格书核对。

从公开信息看，互联方案的演进主线是「更宽的通道、更低的协议开销、更统一的软件栈」。爱看球在整理过程中发现，读者最容易混淆的是板内互联与机间互联的适用边界，因此下文按层级拆分。

第一类到第三类：板内与模组级互联

板内互联解决的是同一块载板上多颗芯片的协同问题，模组级互联则把范围扩大到同一机箱内的多个模组。这两层方案的共同点是延迟敏感、带宽密度高，但对跨机箱扩展支持有限。

  • 高速串行点对点链路：公开规格书普遍将其定位为芯片间直连，适合张量并行切分后的频繁通信，优势是协议栈轻、延迟可控，短板是连接拓扑受布线长度约束。
  • 统一内存语义互联：把多颗芯片的显存组织成统一地址空间，编程模型接近单卡，适合对开发效率要求高的推理服务。爱看球提醒，这类方案的可用带宽会随节点数增加而摊薄，规模上去后需要重新评估。
  • 载板级交换互联：通过板载交换芯片构建小型全连接或胖树拓扑，适合模组内多卡协同。公开白皮书显示其扩展步长通常以模组为粒度，跨模组仍需上层网络承接。

这三类方案的适配清单可以概括为：单机推理、模型并行度不高、对首字延迟敏感的业务优先考虑板内直连；需要统一编程体验的团队可关注统一内存语义方案；模组内多卡协同则看载板交换的端口密度。

第四类到第六类：机间与集群级互联

当推理服务从单机走向集群，机间互联成为瓶颈所在。这一层的方案更关注端口速率、拓扑收敛比与拥塞控制能力，而非单纯的链路延迟。

  • 通用以太网承载：生态成熟、运维工具链完整，适合推理请求波动大、需要弹性扩缩容的场景。公开资料显示，配合拥塞控制与多路径调度，通用以太网可以承载多数在线推理流量。
  • 面向加速器的专用网络：协议开销更低、集合通信效率更高，适合大规模专家并行或长上下文推理。爱看球注意到，这类方案的选型关键在于软件栈适配度，而非纸面带宽。
  • 光互连与共封装光学：把光引擎靠近交换或计算芯片，降低电互连的功耗与距离限制。行业组织白皮书将其列为中长期方向，当前公开可查的成熟度仍以机间光模块为主，共封装形态处于早期导入阶段。

机间方案的适配清单更强调「先看软件、再看硬件」：推理框架是否原生支持该互联的集合通信库，往往比链路速率更能决定落地周期。爱看球建议读者把厂商公开的软件适配列表作为第一筛选条件。

选型对照：按业务形态而非峰值参数排序

把六类方案放在一张对照表里，会发现没有普适最优解。在线推理看重尾延迟，离线批推理看重吞吐成本，两者对互联的偏好相反。

  • 在线低延迟业务：优先板内直连与统一内存语义方案，机间网络选低收敛比拓扑。
  • 高吞吐批推理：优先专用加速器网络与通用以太网的大规模组网，容忍更高收敛比。
  • 弹性扩缩容业务：通用以太网的工具链优势明显，迁移成本更低。
  • 长上下文与专家并行：关注集合通信效率与显存统一编址能力。

爱看球行业资讯栏目会持续按时间线整理互联标准的公开进展，并在后续盘点中补充封装形态与生态适配的对照维度。读者可通过爱看球安卓、苹果 iOS、Windows 电脑版与 Mac 电脑版客户端订阅更新，便于在信息密集的芯片产业中快速定位值得持续关注的变化。