存储体编译和布局协同的片上缓存设计方法

刘必慰,熊 琪,杨 茗,宋雨露

(1. 国防科技大学 计算机学院, 湖南 长沙 410073; 2. 国防科技大学 理学院, 湖南 长沙 410073; 3. 国防科技大学 军政基础教育学院, 湖南 长沙 410073)

现代微处理器和各种系统级芯片(system on chip,SoC)中都具有大容量片上缓存[1-2],它们一般由存储体编译器生成的静态随机存取存储器(static random-access memory, SRAM)存储体构成。这些单个存储体容量一般在1 Kbit～1 Mbit。多个这样的存储体,经过粘合逻辑合并和选择来形成各种大容量的Cache、Scratch Pad Memory、共享缓冲池等片上缓存结构。片上缓存的容量不断增大,其面积可达到全芯片面积的30%～45%或更高,功耗占比也随之提高,同时片上缓存往往也处于关键时序路径,决定了全芯片频率。因此进一步提高片上缓存的性能,并降低其功耗是提高芯片性能的关键。

现有的片上缓存的设计可划分为三个独立的阶段:①存储体编译与生成方面,有学者研究了SRAM存储体本身的定制优化设计[3-4],有的学者提出了高性能低功耗存储编译技术[5-6],也有学者在存储体集成上开展研究——Gupta等提出使用异构的存储体来优化片上存储子系统的总体面积[7],闫战磊等提出了超大容量存储体的定制优化技术[8];②在存储体布局方面,主要依赖于设计者人工进行,Cadence公司的mix placer工具[9]实现了自动存储体布局的功能,相比人工布局在性能和功耗上均有改进;③存储体相关粘合逻辑优化,通过现有的综合和布局布线工具实现。

然而,现有的设计流程中这三个阶段是相互割裂的。存储体编译时仅考虑存储体的功能,存储体布局时仅考虑存储体的几何尺寸,优化粘合逻辑时才考虑存储体的时序。这使得在存储体编译时不得不预留较大的时序余量,从而造成不必要的面积和功耗开销。

为了实现高性能、低功耗的片上缓存,本文提出了一种存储体编译和布局协同的设计方法,在存储体编译的同时就考虑该存储体的位置信息,从而准确地制定存储体编译的时序要求,编译出速度符合要求、功耗最优化的SRAM存储体。

1 片上缓存构成与存储体编译空间

片上缓存的一般结构如图1所示,主体是SRAM存储体组成的存储阵列;存储阵列外是粘合逻辑——包括一系列的合并、选择、寄存操作,或者总线协议转换逻辑;最后输出到外部单元或总线上。

(a) 逻辑结构(a) Logical structure

(b) 物理结构(b) Physical structure

由于存储体具有较大的尺寸,不同位置的存储体与粘合逻辑的距离各不相同。例如图1中角部的存储体与粘合逻辑的距离较远,需要预留较大的时序余量,并采用速度快的存储体。然而中心区域的存储体与粘合逻辑的距离很近,如果和角部的存储体采用相同的编译配置则会导致功耗和面积的浪费。因此,对不同位置的存储体采用不同的编译配置能够减小面积、功耗并同时提升速度。一般来说存储体的编译配置包括阈值替换、尺寸调整、长宽比变形、拆分/合并四种,如图2所示。

(a) 基本配置(a) Basic configuration

(b) 改变列多选(b) Change the MUX

(c) 拆分(c) Splitting

1.1 阈值替换

集成电路中经常采用阈值替换的方式在速度和功耗之间权衡。低阈值的晶体管速度快但功耗高;高阈值的晶体管速度慢但功耗低,在标准单元里较为常见。阈值替换的优点是,其占用的面积相同,不需要调整芯片的布局规划,可以在物理设计的任意阶段替换插入。

存储体编译的基本配置如图2(a)所示,SRAM主要包含bit cell阵列、敏感放大及输入/输出(input/output, IO)、地址译码三个部分。阈值替换一般仅对地址译码以及IO等外围电路进行阈值替换。bit cell的阈值替换会影响其噪声容限等特性,因此一般不进行阈值替换。

1.2 尺寸调整

尺寸调整也是速度和功耗之间权衡的一种常见方式。一般来说增大尺寸可以提高速度,但同时也会带来面积和功耗的增加。尺寸调整以bit cell为核心进行,根据性能要求增大bit cell的尺寸,然后根据bit cell的尺寸,调整设计译码器、IO、列多选器(multiplexer, MUX)等外围电路的尺寸。这一方法将会显著改变存储体面积,从而导致预布局规划(floorplan)的改变。

1.3 长宽比变形

存储体可以保持容量不变,但使长宽比发生改变。方法之一是改变存储体内的列多选,例如使得bit cell阵列的行数减半但列数加倍,再增加一个列多选来选择输出数据,如图2(b)所示。另一种保持容量不变的方法是改变存储体的深度与宽度,例如深度减半而宽度加倍或反过来。也有以上两种方法的组合。

总的来说,这些方法能保持存储体的容量不变、总面积基本不变,但会明显改变字线和位线的长度,使得速度和功耗都有所变化。

1.4 拆分/合并

拆分有两种方式:一种是保持深度不变、拆分位宽,这种情况下,拆分后的小存储体可以保持和原大存储体的译码电路相同,仅仅将bit cell阵列宽度缩减一半;另一种是保持位宽不变、拆分深度,如图2(c)所示,这种情况下,bit cell阵列高度将缩减一半,地址缩减1位,译码电路随之缩减。拆分后的两个小存储体都保持原有数据位宽,使得数据线增加一倍,在外部需要加多选器在多个小存储体之间选择数据,这将对逻辑设计、布线都有影响。这两种方法都会缩短字线或位线,从而提高速度。但是拆分后,各个体都需要译码电路等外围电路,且需要增加存储体间的间距,因此面积和功耗会变大。反之可以将2个(或多个)存储体合并为1个,从而减小面积和功耗,但会导致性能降低。

2 协同编译方法

本文打破原有位置无关的同构SRAM存储体编译方法,提出了一种存储体位置驱动的存储体协同编译的流程。对远离粘合逻辑的存储体通过拆分、低阈值替换、增大尺寸等方式来加快速度;对于靠近粘合逻辑的存储体通过合并、高阈值替换、减小尺寸等方式来减小面积和功耗,达到时序、功耗和面积的均衡。其具体过程如图3所示。

图3 协同编译流程Fig.3 Cooperative compilation flow

设计包含粘合逻辑和存储体两部分。首先基于对粘合逻辑进行floorplan,得到粘合逻辑的布局区域,在其中选取存储体的汇聚点,作为存储体距离计算的基准点——汇聚点一般为粘合逻辑区域的中心,或中心靠近端口的位置,同时在floorplan中将粘合逻辑区域设为已布局区域。

其次,在预布局规划中选择离汇聚点最近的未布局区域的位置作为第一个存储体布局位置。根据它相对于汇聚点的距离计算出对于布局在该位置存储体的时序要求。

然后,穷举编译可能的存储体,在包括深度、位宽、阈值、尺寸、长宽比等几个维度上穷举编译,在其中选择时序满足要求且单bit面积和单bit功耗最小的一个。

最后,根据选出的存储体的尺寸,在floorplan中标记该区域为已布局区域,并记录已布局的总容量。继续选择下一个最近位置进行存储体编译,直到已布局存储体总容量达到预期。这样就得到了所有存储体的配置和布局位置。

经过以上流程,存储体可能有拆分和合并,原有的粘合逻辑可能需要微调。重新进行寄存器传输级(register transfer level,RTL)集成、综合,并对前序步骤生成的存储体位置进行布局布线,最终完成整个设计。

下面对位置相关的存储时序计算和穷举编译的过程再进一步详细说明。

2.1 位置相关时序约束确定

存储体协同编译过程如图4所示,如果已完成存储体1和存储体2的编译与布局,可以在未布局区域找到存储体3的布局位置,那么它的时序要求可分为两项:①粘合逻辑到存储体3的建立时间要求;②存储体3到粘合逻辑的建立时间要求。可表示为以下两个不等式:

图4 存储体协同编译过程Fig.4 Cooperative memory compilation process

tqm+tgt+td+tsr+tmg

(1)

tqr+tgf+td+tsm+tmg

(2)

其中:tqm和tsm分别是存储体clock到q的延时和存储体的建立时间,二者是需要求解的目标;tgt和tgf分别是粘合逻辑上组合逻辑的延时;tqr和tsr分别是粘合逻辑上寄存器clock到q的延时和建立时间,它们可以从时序库中查表得到;tmg是预留的一定余量,以抵消实际布线时少量的绕线和串扰的影响;td是汇聚点到存储体距离造成的延时,可以采用与曼哈顿距离相关的延时模型进行计算[10];tp是电路工作的时钟周期。以上两个不等式变形即可得到存储体的时序要求:

tqm

(3)

tsm

(4)

还可以考虑使用有效时钟偏斜的设计简化约束,那样时钟树构建将更加复杂,但不影响本方法实现,因此不再做进一步的讨论。

2.2 存储体穷举编译

存储体穷举编译同时考虑深度、位宽、阈值、尺寸、长宽比等几个维度上可能的存储体实例生成,这是一个很大的搜索空间,为了在有限时间内完成搜索,需要对这些维度作出一些限制。

在宽度和深度方面,要求它们都必须是2的幂次,且总容量不超过1 Mbit,这样便于RTL代码编写和物理实现,也不会跳过那些明显优化的配置;在阈值方面,考虑高阈值、普通阈值、低阈值三种选项;在尺寸方面,一般选择较小和较大的两种bit cell尺寸,更精细的尺寸选项在实际工程中也不会带来更多优化;在多选器方面,一般也为2的幂次,且最大不超过16,因为超过16时存储器的速度会有较大程度降低。

在以上约束下,存储器的编译配置一般能缩减在30～120种之间,从而穷举编译能够在3～4个小时内完成。

3 实验与结果

针对第2节的方法,可以用一个实例来具体说明其过程并展示其效果。这是一个共有48 Mbit存储容量的片上共享缓冲池,深度为24 576,宽度为256,具有AXI总线协议接口与片上其他部件互联。

图5是采用文献[5,8]中的传统方法进行的SRAM布局。该共享缓冲内部通过96个同构的数据存储体(data memory,DMem)。表1为不同编译配置下存储体的指标,分别在最差低温(worst case low temperature,WCL)和最大漏流(max leakage,ML)两个端角下进行了分析。为了实现500 MHz的频率选择如表1中第一行的存储体配置方式,其容量为4 096×128 bit,列多选为4。其面积为4.75×4.2 μm2=19.95 μm2,关键路径延时为2.01 ns。

图5 传统方法的SRAM布局Fig.5 The SRAM layout in traditional methodology

表1 不同编译配置下存储体的指标

采用协同编译优化的方法得到如图6所示的存储体的配置和布局,选取的汇聚点是粘合逻辑中间靠上的区域。其中包含四种不同存储体来实现这一片上缓存,每种存储体的具体参数如表1所示。DMemX2H是深度相比DMem增大2倍且进行了高阈值电压(high voltage threshold,HVT)单元替换的存储体,它布局在最靠近中心标准单元的区域,在ML端角下该存储体的单位动态功耗相比原存储体有24.7%的减少,单位漏流功耗与基准设计基本相当。DMemX2是深度相比DMem增大2倍的存储体,它布局在DMemX2H的外围,它的单位动态功耗相比原DMem也有8.1%的降低。DMemR容量与DMem相同,只是深度增加了一倍、宽度降低了一半,可以减少存储体端口的布线拥塞,同时其功耗也有所降低,DMemR放置在DMemX2的更外围,用于跨越更远的距离。DMemRL是在DMemR的基础上进一步做了低阈值电压(low voltage threshold,LVT)单元替换,仅用在左下和右下两个角上,用于提高这两个关键位置的速度。

图6 协同设计的SRAM布局Fig.6 The SRAM layout in co-operative methodology

在尝试了增大尺寸的配置后发现这种配置单位功耗过大,所以在所有位置都没有选用。

基准设计和优化设计的一些关键指标的对比如表2和表3所示。在面积方面优化设计减小了8.6%,原因是采用了很多DmemX2容量的存储体,消除了存储体之间的缝隙,从而使全芯片宽度有所缩减。在关键路径延时上优化设计缩短了7.5%,这是因为在角部采用了LVT的存储体。在实例数方面,在设计的各个阶段优化设计都要明显少于基准设计,这是因为采用了DMemX2以及DMemR存储体使得多选单元都在存储体内部,减少了外部所需要的多选单元及布线,因此单元数减少了9.0%。类似的原因,布线线长也减少了8.9%。

表2 设计指标对比

表3 设计实例数对比

最后,对比基准设计和优化设计的功耗情况。功耗分析都按500 MHz的频率进行,数据路径设定为0.2的翻转率,时钟路径设定为2的翻转率,时钟门控系数为0.6。分别在WCL和ML两个端角下进行了分析,具体结果如表4所示。优化设计WCL下总功耗降低了9.0%,漏流功耗与基准设计基本相当。优化设计ML下总功耗降低了9.9%,漏流功耗降低了5.8%。

表4 功耗对比

本文的方法已应用于一款SoC芯片片上共享缓存的物理设计。SoC芯片如图7所示,其中,片上共享缓存实测达到了预期的频率,全芯片功耗符合预期。

图7 集成了优化片上缓存的SoC芯片Fig.7 SoC chip integrated optimized on-chip cache

4 结论

本文提出了一种存储体编译和布局协同的片上缓存设计方法。该方法基于存储体在芯片上的不同位置,分别采用拆分/合并、尺寸调整、阈值替换和长宽比变形等多种方法优选SRAM存储体编译实例,从而同时带来性能的提升、功耗和面积的减小。实验结果表明,该方法相比传统的设计方法能够降低约9.9%的功耗,同时缩短7.5%的关键路径延时。