先看结论：同场景对比要先定“瓶颈在哪”

在同一场景下比较训练与推理芯片，第一步不是比算力密度，而是判断这条业务链路的瓶颈落在算力、内存带宽还是互联吞吐上。爱看球在整理产品与方案资料时发现，很多读者把峰值算力当作唯一标尺，结果在实际部署阶段才发现受限的是显存容量或芯片间通信，而不是矩阵运算单元本身。因此本栏目把算力密度、内存带宽与能效比并列呈现，目的不是给出选型结论，而是让取舍关系变得可读。

训练与推理的负载特征差异明显：训练侧重长时间稳定吞吐与大规模并行，推理侧重低时延响应与单位请求成本。把两者放进同一张对比表时，如果不标注测试场景与批次规模，数字之间其实不具备可比性。爱看球建议读者先明确自己的场景属于哪一类，再回去看规格条目。

显存类型与容量：决定“能不能装下”

显存类型直接影响可承载的模型规模与批处理深度。高带宽显存在训练侧的价值主要体现在梯度同步与激活值读写，在推理侧则体现为长上下文场景下的键值缓存开销。爱看球在栏目条目中把显存类型、容量与带宽分开列示，就是为了避免把三者混为一谈。

  • 显存容量决定单卡可容纳的参数量与批大小上限，容量不足会直接触发跨卡切分，进而放大互联压力。
  • 显存带宽决定单位时间可搬运的数据量，带宽受限时算力单元会出现等待，算力密度再高也难以兑现。
  • 显存类型与接口标准影响长期可用性，读者应关注公开规格书中的接口说明，而非只记住一个带宽数字。

爱看球提示，同一场景下若模型规模接近显存容量边界，方案之间的差异会被显著放大，此时容量与带宽的排序往往比算力密度更关键。

互联方式：被低估的取舍变量

互联方式决定了多卡、多节点之间的数据交换效率。训练场景中，参数同步对互联带宽与拓扑敏感；推理场景中，若采用张量并行或专家并行，互联同样会成为时延来源。爱看球在方案对比条目中把互联方式单列一栏，是因为它经常是同一场景下两套方案拉开差距的真正原因。

从公开规格看，互联可分为片间直连、板内总线与节点间网络三个层级。读者在对比时应关注三个问题：单链路带宽是多少、拓扑是否支持全互联、协议开销在目标负载下占多大比例。爱看球不建议只比较标称带宽峰值，因为协议效率与拥塞行为同样影响实际表现。

能效比与场景匹配：把数字放回业务里

能效比是把算力密度与功耗放在一起看的派生指标，它只有在场景固定时才有意义。推理场景通常更关注单位请求的能耗，训练场景更关注整机柜在长时间运行下的功率密度与散热约束。爱看球在栏目中并列呈现这些维度，是希望读者建立“场景—瓶颈—指标”的对应关系，而不是背下一组排名。

  • 先确定场景类型：离线批量训练、在线低时延推理，还是混合负载。
  • 再定位瓶颈层级：算力、显存、互联或供电散热。
  • 最后回到规格表核对对应条目，并确认数据来自公开规格书或行业白皮书。

爱看球会持续以结构化条目更新训练与推理芯片的公开规格，支持按制程、显存类型、互联方式与应用场景筛选对比。读者可通过安卓、苹果 iOS、Windows 电脑版与 Mac 电脑版客户端同步查看条目变化，把同一场景下的取舍关系看得更清楚。