李雅琪 温晓君
近年来,随着数据量的日益增长,CPU运算能力不断提升,内存的访问延迟却几乎没有提升。传统架构下,存储与运算之间数据交换通路窄、能耗高的问题日益凸显,存算一体则成为现阶段实现高带宽、低功耗计算需求的一条有效途径。因此,有必要梳理存算一体技术的发展现状与挑战,以便对产业做出针对性的扶持与引导。
存算一体化成为缓解存算调用低效的有效方案
在冯·诺依曼的架构中,存储器与处理器是两个完全分离的单元,处理器根据指令从存储器中读取数据、完成运算,并存回存储器。
两者之间的数据交换通路窄以及由此引发的高能耗两大难题在存储与运算之间筑起一道“存储墙”。
存算一体化将计算机中的运算从中央处理器转入内存中进行,可大幅降低数据交换时间以及计算过程中的数据存取的能耗。其技术路线可分为片外存储与片内存储两大类。
片外存储,即基于数字芯片和存储器配合的存算一体技术,通过在存储器中植入计算芯片或者逻辑计算单元来提高读写速度。
片内存储,即数模混合的存算一体技术,通过在存储器嵌入算法权重,使得存储器具备算法的功能,实现了真正意义上的将存储和计算完全结合在一起。
人工智能热潮为存算一体化的应用带来新空间
存算一体的雏形概述早在20世纪90年代就被提出,虽一直被认为是有潜力的革命性技术,但对其应用的必要性始终缺乏论证,因此尚未在处理器与存储行业得到产业化的应用。
随着基于深度学习技术的人工智能应用热潮再次涌起,冯·诺依曼架构的“存储墙”问题也随之日益凸显。
例如,深度学习模型的每一层神经网络运算都面临着大量的存储调用,每一次的读取权重值都相当于做了一次乘加累积运算,而90%以上的运算资源恰恰都消耗在了数据搬运的过程之中。存算一体化,则尤其适用于此类数据访问密集的应用场景之中,它的引入,为人工智能芯片的产业化发展提供了有效的助力。
存算一体芯片市场广阔,国内外企业、科研院所纷纷布局
据Gartner预测,全球内存计算市场将以每年22%的速度持续增长,截至2020年底,这一市场体量有望达到130亿美元。企业方面,英特爾、博世、美光、Lam Research、应用材料、微软、亚马逊、软银都投资了NOR闪存存算一体芯片。
其中,英特尔发布的傲腾固态盘采用了片外存储技术,实现CPU与硬盘之间数据高速搬运,从而平衡高级分析和人工智能等大规模内存工作负载的性价比。
国内知存科技、新忆科技等大量初创公司进入存算一体市场,其中知存科技开发的超低功耗语音识别存算一体芯片采用片外存储技术,预计今年实现量产,与普通专用芯片相比,其算力可提高10至50倍。
科研院所方面,加州大学圣芭芭拉分校谢源教授团队致力于在新型存储器件ReRAM(阻变存储)里面实现计算的功能研究,即PRIME架构。清华大学刘勇攀教授团队和汪玉教授团队均参与了PRIME架构的研发,目前已实现在150nm工艺下流片,在阻变存储阵列里实现了计算存储一体化的神经网络,功耗降低20倍,速度提高50倍。
此外,清华大学与SK海力士联合成立智能存储计算芯片联合研究中心,未来五年,中心将致力于研发存算一体与近存储处理技术。
一是计算精度有限
现有的浮栅存储器件并不适合用于计算,且片内存储本质上是使用模拟计算,计算精度将会受到模拟计算低信噪比的影响,通常精度上限在8bit左右,而且只能做定点数计算,难以实现精准的浮点数计算。因此并不适用于需要高计算精度的人工智能训练场景,仅仅适用于嵌入式人工智能等对于能效比有着高要求而对于精确度有一定容忍的场景。
二是应用落地场景边界条件限制较多
存内计算仅适合原本就对存储需求较大的场景,而对于本身存储需求并不高的场景,为了引入内存计算而加上一块大内存反倒会增加成本,适得其反。尤其是随着内存容量的增加,内存成本往往呈指数级增长,且内存容量上限有限,性价比不理想导致内存计算无法惠及更多用户、更多场景。
目前来看,在人工智能本身仍在探寻应用场景的前提下,存算一体化的落地问题,仍需要紧密结合具体应用场景具体分析。
三是芯片开发生态亟待打造
当前,存算一体芯片的产业化尚处于起步阶段,目前仍面临产业链上游支撑不足、下游应用不匹配等诸多的困局。
例如,在芯片的设计阶段,由于存算一体芯片区别于常规的芯片设计方案,所以目前市面上没有成熟的专用EDA工具辅助设计和仿真验证;芯片流片之后,也没有成熟的工具协助测试;在芯片落地应用阶段,暂时没有专用的软件与之匹配。因此,亟需围绕存算一体打造生态。
把握技术路径转换机遇,加快存算一体技术研发
聚力发展高带宽内存、新型非易失性存储器等存算一体技术,着力突破存算一体模拟信号误差、高效模拟/数字信号转换等关键技术。需要引导高校科研院所与企业成立联合实验室,以加强存算一体芯片的原型设计、验证、流片加工等技术的工艺储备,加快存算一体芯片产业化进程,推动其在人工智能、物联网等领域的应用,打造我国的长项优势。
制定全面且长期的存算一体发展战略
在“十四五”以及中长期集成电路研发与产业化布局中,将存算一体作为重点发展方向,编制存算一体技术发展路线图。加大存算一体研发支持力度,在国家01专项(核高基重大专项)和集成电路、人工智能相关产业化专项中予以引导支持。拓展存储设计类初创企业融资渠道,对标志性成熟产品推动国家基金和社会资本跟投。强化高校科研院所、芯片设计企业、晶圆厂、生产制造企业、封装测试企业、整机企业之间联动效应,构建存算一体产业新生态。
责任编辑:赵宇然
zhaoyr@staff.ccidnet.com