在WAIC 2026现场,AI算力依然是焦点。随着模型规模膨胀、MoE架构普及、Agent任务链条拉长,Token输出速度成为付费用户越来越敏感的指标。亿铸科技创始人熊大鹏在接受交流时提到,传统存算分离架构正面临数据搬运带来的功耗与利用率压力,而3D DRAM与全数字通用存算一体,可能是面向数据中心、云计算、大模型推理的重要方向。

一、传统架构的瓶颈:数据搬运代价高
熊大鹏认为,传统AI大模型芯片大多基于存算分离架构,存储与计算分开,大量数据在存储和计算单元之间来回搬运、分发。由此带来两个问题:搬运功耗高,数据堵塞导致计算有效利用率低。他提到,相当大比例的功耗来自数据搬运和分发。近存计算通过3D堆叠、HBM等方式缩短距离、扩大带宽,但计算结构仍偏传统。存算一体则以存储为中心,在存储介质内部或周边加入适当逻辑,形成计算阵列,数据从存储介质流出时同步完成计算,减少多级缓存带来的搬运开销。AI大模型的工作方式也与人脑有相似之处:知识压缩为参数,外部输入到来后找到对应知识区间,再通过推理机制给出判断。
二、优先看3D DRAM:突破容量天花板
存算一体走向云端,长期面临容量和精度两座“大山”。容量决定芯片能承载的模型规模。部分新型非易失存储和SRAM数字存算原型,单片容量多在MB级别;普通2D DRAM容量充足,但原生结构对存算一体的适配有限。亿铸科技选择3D DRAM,综合考虑容量、稳定性与性价比。3D堆叠不仅提升容量,也有助于提高存储带宽和数据吞吐。大模型Token持续生成高度依赖高速数据传输,大容量叠加高带宽,直接影响推理输出效率。3D DRAM为存算一体芯片突破MB级天花板、迈向GB甚至更高容量提供了物理基础,也更适合数据中心、云计算、大模型推理等场景。

三、全数字存算一体:精度与可靠性更稳
早期模拟存算路线对器件非理想性较敏感,温度变化、工艺偏差、噪声干扰等都可能转化为计算误差,并在多层运算中叠加,影响推理准确率。亿铸科技选择全数字存算一体,回归数字电路的确定性,减少器件非理想性带来的精度损失。数字存算精度较高、容错能力较强、便于架构集成,且较多基于传统存储器,在数据存储可靠性和制造成本上也有优势。由此,亿铸科技推出全数字3D DRAM通用存算一体芯片,希望在云端大算力场景中兼顾精度、容量与能效。

四、通用存算一体+GPU:兼顾效率与生态
熊大鹏强调,存算一体本质上是一个IP,擅长矩阵计算等特定计算,但要成为可落地产品,必须与通用计算结合。亿铸科技的方案包括自研ISA指令集、软硬件协同架构、通用存算双IP。其中,存算一体单元处理计算密集、参数固定的矩阵和线性运算,计算前无需从外部内存反复加载;通用SIMT单元处理控制逻辑复杂、不规则的计算,如激活函数、归一化、数据重排以及标量逻辑运算。这样既保留存算一体的能效和延迟优势,也保留GPU的编程模型和通用性,兼容CUDA等主流生态,并适应未来算法演进。对数据中心和云计算用户而言,这种通用存算一体路线更便于端到端AI计算任务落地。
五、能效比10倍优势:经第三方验证
在适配的矩阵计算和大模型推理负载中,据第三方验证,相关方案能效比传统架构可达到约10倍优势。这一数字并非适用于所有场景,但在参数固定、计算密集的环节,减少数据搬运确实能带来明显能效收益。对数据中心、云运营商和大模型推理服务来说,这意味着单位功耗下可能获得更高的Token输出速度,长文本输入输出、低延时应用尤其受益。当付费用户要求每秒100、200甚至300以上Token时,传统架构压力较大,通用存算一体方案则更有发挥空间。
六、三大定律与终局推演
熊大鹏提出通用存算一体三大产业定律:一是搬运代价定律,数据搬运的功耗和延迟代价可达计算本身的100倍;二是通用边界定律,专用计算单元的效率优势可能被通用计算的生态优势抹平;三是异构终局定律,难以有单一计算单元同时满足零搬运、全通用、高扩展,终局更可能是异构协同。由此看,存算一体与GPU通用计算会走向融合,传统GPGPU也会借鉴存算一体思路,两三年内二者更可能是协同关系。以PD推理为例,预填充阶段传统架构表现不错,解码阶段存算一体优势较明显。亿铸科技未来也将沿技术、产品、生态三条路线推进:技术做超异构融合,让用户开发工具、平台、编程模型保持一致;产品从云端大算力延伸到超节点、大端侧;生态以AI云运营商切入,覆盖大模型企业和垂直开发者。

在亿铸科技创始人熊大鹏看来,存算一体不应只停留在端侧,而应走向云端、走向通用、走向与GPU的深度融合。亿铸科技正试图以全数字3D DRAM通用存算一体芯片,面向数据中心、云计算、大模型推理等场景,迈出云端通用存算一体探索的一步。
(免责声明:本文为本网站出于广告目的进行转载发布,不代表本网站的观点及立场。本文所涉文、图、音视频等资料之一切权力和法律责任归材料提供方所有和承担。本网站对此咨询文字、图片等所有信息的真实性不作任何保证或承诺,亦不构成任何购买、投资等建议,据此操作者风险自担。)
评论