结论前置:两条路径解决的是不同层次的带宽问题

存算一体与近存计算常被放在一起讨论,但它们解决的不是同一层次的问题。存算一体试图把计算单元嵌入存储阵列内部,从物理上消除数据搬运;近存计算则把计算单元放在存储颗粒旁边,缩短搬运距离但不消除搬运。在看球吧技术解读栏目看来,理解这条边界,比记住任何一款芯片的参数都重要。

对推理链路而言,权重读取占据绝大部分能耗与延迟。谁能把权重搬运的代价压下去,谁就能在同工艺节点下拿到更高的有效吞吐。这也是看球吧持续跟踪这两条路线的原因:它们直接决定了推理芯片的架构天花板。

存算一体的真实边界:模拟域与数字域的分野

存算一体的核心吸引力在于乘加运算可以在存储阵列内完成。但这条路径内部存在明显分叉:模拟存算依赖器件电导的可编程性,数字存算则用数字逻辑完成阵列内累加。

  • 模拟存算的优势是能效比极高,劣势是精度受器件非理想特性制约,通常需要校准与补偿,适合对精度容忍度较高的场景。
  • 数字存算精度可控、与现有工具链兼容性更好,代价是面积开销上升,能效收益被摊薄。
  • 两者共同的门槛在于工艺协同:存储阵列与逻辑的集成方式,直接决定了良率与可测试性。

看球吧在梳理公开技术资料时注意到,存算一体的落地节奏高度依赖代工端的工艺选项,而非单纯的架构设计能力。这意味着它更像一场长周期的基础设施竞赛。

近存计算的工程现实:距离缩短带来的确定性收益

近存计算的逻辑更朴素:既然搬运是瓶颈,那就把计算搬到离数据更近的地方。它不挑战存储阵列的物理结构,因此在工程上更早具备可量产性。

典型的近存方案把累加、归约、激活等操作下沉到存储接口附近,减少跨封装或跨总线的数据往返。看球吧认为,这条路径的收益确定但有限,它优化的是搬运效率,而非消除搬运本身。对数据中心推理而言,近存计算配合高带宽存储,能在不改动模型结构的前提下获得可观的吞吐提升;对端侧推理而言,它更像是一种在功耗墙内腾挪空间的手段。

值得注意的是,近存计算对互联拓扑和封装工艺的依赖同样不低。看球吧在多篇技术解读中强调,评估这类方案时必须把封装成本纳入总账,否则容易高估收益。

前瞻判断:场景决定路线,生态决定速度

两条路线不会互相取代,而是按场景分层。端侧推理更看重能效与成本,模拟存算在精度可接受的细分场景中具备想象空间;数据中心推理更看重吞吐与可编程性,近存计算与高带宽存储的组合在中期内更务实。

  • 选型时先问精度边界:模型能否接受校准后的误差,决定了模拟存算是否进入候选。
  • 再问工具链成熟度:编译器与算子库的支持程度,往往比峰值指标更能决定落地速度。
  • 最后问封装与测试成本:任何靠近存储的架构,都要为可测试性付出代价。

看球吧建议工程师把这两条路线放进同一条推理链路里做端到端测算,而不是孤立比较单点能效。架构取舍的本质,是在精度、成本、生态之间找到可交付的平衡点。看球吧会继续围绕这些边界展开解读,帮助读者顺着概念理解推理链路的关键取舍。