AI芯片：高性能卷积计算中的数据复用

随着深度学习的飞速发展，对处理器的性能要求也变得愈来愈高，随之涌现出了不少针对神经网络加速设计的AI芯片。卷积计算是神经网络中最重要的一类计算，本文分析了高性能卷积计算中的数据复用，这是AI芯片设计中须要优化的重点之一，具体思路以下

• 数据复用的动机
• 存储-计算分离框架下，针对卷积计算的优化思路
• 针对卷积计算的硬件架构设计分析
• 已经面临的挑战和解决方向
• 神经网络中数据复用的将来

1. 高性能卷积计算中数据复用的动机

深度学习的发展过程当中，较高的计算量是制约其应用的因素之一。卷积神经网络中，主要计算为三维的卷积计算（后简称为卷积），现有的主流处理器难以高性能，高效能的完成卷积计算。相比通常的通用计算，卷积计算中存在的大量数据复用以及计算的规则性，在硬件的微架构（后简称为架构）设计和计算优化上有很大的优化空间，由此诞生了众多针对深度学习加速的AI芯片。卷积计算过程能够表示以下

for i = 1 : Ho
    for j = 1 : Wo
        for k = 1 : Co
            for l = 1 : Hf
                for m = 1 : Wf
                    for n = 1 : Ci
                        out[i,j,k] += In[i*s+l.j*s+m,n]*F[l,m,n];

其中各参数的含义以下表

数据维度	描述
Ho/Wo	输出feature map的高和宽
Co	输出的channel数目
Hf/Wf	filter的高和宽
Ci	输入的channel数目
s	卷积计算的stride

据此可推算出输入输出数据的数据复用关系，以下表

Type	Mem Refs	Ops	Ops/Memory
Filter	\(H_f W_f C_i C_o\)	\(H_o W_o C_o H_f W_f C_i\)	\(H_oW_o\)
Input	\(H_o W_o C_i s^2\)	\(H_o W_o C_o H_f W_f C_i\)	\(H_fW_fC_o/s^2\)
Output	\(H_o W_o C_o\)	\(H_o W_o C_o H_f W_f C_i\)	\(H_f W_f C_i\)

能够看出，卷积计算过程当中对Filter，Input和Output的数据均有很高的数据复用；充分利用计算过程当中的数据复用是达到高性能和高效能的关键，这主要有如下几个方面缘由

1. 利用数据复用更容易达到设计的峰值性能
2. 利用数据复用能够下降内存访问，下降功耗
3. 广义来看，卷积中规则的数据复用，能够下降处理器设计中缓存/控制逻辑的设计复杂度，提升整体的性能

根据Roofline模型很容易解释第一点缘由。Roofline模型是一种面向吞吐量的性能评价模型，它指出在理想状况下，处理器性能的理论上界。以下图（Ref. CS217_Lec6）所示，在数据复用不高的状况下，峰值性能受限于内存（Memory-bound）。

访问不一样存储的归一化能耗比（Ref. 6）能够解释第二点缘由。充分利用数据复用，使得访存多发生在RF等靠近ALU的存储上，能够极大下降功耗。

针对第三点，以AMD ZEN系列CPU为例，Die的结构以下图所示(Ref. https://en.wikichip.org/wiki/amd/microarchitectures/zen)。能够看出FPU和ALU只占CPU面积的很小一部分。大部分面积是控制逻辑的缓存。这意味着若是针对卷积计算这种规则的，具备时间和空间强相关性的，且没有分支跳转的计算设计专门的硬件，能够抛开专用处理器中复杂的控制和缓存设计，减少芯片面积，提高性能，下降功耗。

这些特性代表，卷积计算有很大的优化空间；专门针对卷积计算设计的芯片能极大的提升性能和效能 。

2. 高性能卷积的计算方法

2.1 卷积即矩阵乘法

矩阵-矩阵乘法的应用已经很是普遍，不少线性代数库充分结合了矩阵计算中的数据复用关系和处理器缓存的层次设计结构，对矩阵-矩阵乘法进行了充分的优化（GEMM，通用矩阵乘法）。\(C = AB + C\)的矩阵乘法能够表示为

for i = 1 : m
    for j = 1 : n
        for k = 1 : t
            C(i,j) = A(i,k)*B(k,j) + C(i,j)

这一形式和第1节中卷积的计算方式极其相似。实际上，针对三维的Tensor进行展开（即将卷积计算中的六层循环的内三层进行合并），很容易将卷积计算转化为矩阵乘法计算(im2col)。 其中一种展开方式以下图 （Ref. CS217_Lec9）

下图也给出了一个具体的例子(Ref. 在 Caffe 中如何计算卷积？，原始连接High Performance Convolutional Neural Networks for
Document Processing)

此时，卷积计算等价为矩阵乘法计算；而卷积计算中的数据复用关系等价为了矩阵计算中的数据复用关系。矩阵-矩阵乘的复杂度以下所示

Ex. | Mem Refs | Ops | Ops/Memory

-| - | - | -
Matrix-Matrix Mult | \(4n^2\) | \(2n^3\) | \(n/2\)

现有的处理器架构从存储和计算之间的关系上来看都是相似的，处理器计算性能的上限能够经过计算单元及其运行频率肯定。为了高性能的完成矩阵计算，即便得性能达到Roofline模型中峰值，须要对矩阵计算的三层循环进行优化。在进行分析以前，须要明确两点固有的特性

• 处理器的存储是分层设计的，越靠近计算的单元，带宽越大，容量越小
• Roofline模型和访存的带宽有关，以下图所示

若是矩阵存储在内存中（DDR）,直接按三层循环进行矩阵计算，那么每一个周期须要访问\(a,b,c\)三个数，此时性能会受限于DDR带宽。将矩阵放在片上的Cache中是一个好的选择，可是片上Cache的容量每每较小。解决这一个矛盾的方法是对大的矩阵进行分块，此时矩阵计算能够表示为

for i = 1 : MR : m  // step MR
    for j = 1 : NR : n  // step NR
        for k = 1 : KC : c  // step KC
        // block-dot product in cache
        // Csub_{NR*MR} += Asub_{MR*KC}*B_sub(KC*NR)
        // opt. mirco kernel
            for ir = 1:MR
                for jr = 1:NR
                    for kr = 1: KC
                        Csub(ir,jr) += Asub(ir,kr)*Bsub(kr,jr);

采用这一分块方式，假设矩阵存储在DDR，分块后的矩阵存储在片上Cache；完成\(MR\times NR\times NC\)次乘法计算只须要从DDR获取\(MR\times NR + NR \times NC + MR\times NC\) 个数据，合理的分块能下降对DDR的访问。
针对具备不一样存储层次的处理器以及不一样大小的矩阵计算而言，有不一样的分块方式以达到峰值性能。虽然这一方法针对矩阵计算进行了很好的优化，但对于卷积计算而言，依旧存在缺陷

• im2col计算过程当中针对Tensor进行了Reshape和Duplicate，这会增长带宽的消耗
• 转化获得的矩阵乘法和传统的矩阵计算维度相差较大，可能没法得到好的性能

因为这些缺陷存在，若是没有针对硬件架构进行特殊的设计，卷积即矩阵乘法的设计思路每每没法达到峰值性能。

2.2 卷积即卷积

采用矩阵-矩阵乘法进行卷积计算忽略了卷积自己的特性。卷积计算其实是一类很特殊的计算，以一维的离散卷积为例，函数\(f,g\)之间的卷积可表示为
\[ (f*g)[n]=\sum_{m=-\infty}^{\infty}f[m]g[n-m] \]

以有限长脉冲响应(Finite impulse response，FIR)滤波器做为离散卷积的一维特例，可表示为

\[ y[n]=\sum_{i=0}^{N}b_i \cdot x[n-i] \]

一维的脉动阵列FIR滤波器的一种实现方式，其实现结构以下图（Ref. Wikipedia），采用这种结构，每输入一个\(x[n]\)，就能计算获得一个\(y[n]\)。这种特殊的数据复用是根据卷积计算的特殊性质获得的。

在卷积神经网络中，卷积层的计算通常也存在这种数据复用关系（除kernelsize <= stide状况外）。若是能用好这一特性，再也不将卷积转化为矩阵乘法，直接计算卷积，能得到更高的性能。为了达到这一目标，和分析矩阵乘法相似，对卷积的六层循环进行分析

for i = 1 : Ho
    for j = 1 : Wo
        for k = 1 : Co
            for l = 1 : Hf
                for m = 1 : Wf
                    for n = 1 : Ci
                        out[i,j,k] += In[i*s+l.j*s+m,n]*F[l,m,n];

相似GEMM，最内层循环会被并行化，为了达到更好的性能，能够对循环顺序进行调整（Ref.9）

• 为了提升并行性，因为Co循环的各个计算之间相互独立，将其放置到最内层循环
• 因为Wf,Hf可能会很小，为了保证并行性，将Wo放到Co循环外

完成调整以后，对卷积计算进行分块（Ref. 9）

为了进一步提升访存的效率，Input/Ouput/Filter在内存中的排布方式也须要进行相应的调整，可参见参考文献9，此处再也不描述。

不管是将卷积转化为矩阵计算，或者直接计算卷积，都可以经过分块的方式相对高效的完成卷积计算；因为将卷积转化为矩阵计算有必定开销，其性能可能会受到必定影响，但矩阵计算具备更高的灵活性。

3. 高性能卷积的架构设计

3.1 GEMM加速器

显然，实现一个硬的GEMM加速器能够加速矩阵计算，进而加速卷积计算。针对GEMM的分块矩阵（即内层循环）进行硬件加速是一种简单，高效且相对灵活的选择，其优点包括

• 简单，计算单元实现GEMM的mirco kernel便可，易于集成
• 灵活，支持全部可用GEMM加速的算法（理论上）
• 编译器设计和调度有不少参考实现

相似设计包括Nvidia的Volta架构，其加速核心被称为Tensor Core；以及华为的达芬奇架构（Davinci Core），其卷积的计算核心被称为CUBE Core。

其中，Nvidia的每一个Tensor Core是一个\(4\times4\times4\) 的MAC阵列。计算\(C = AB + C\) 时，矩阵\(A,B\) 中的元素广播到4个不一样的MAC上，同时每一个四个乘法的结构累加到一块儿，以下图所示（Ref.Volta Tensor Core GPU Achieves New AI Performance Milestones）

达芬奇中的CUBE Core是一个\(16\times16\times16\)的MAC阵列（以Davinci Max为例），以下图所示（hotchips31），具备更高的数据复用关系。

Nvidia Volta架构中，Tensor Core仅仅只是一个特殊的计算单元，其地位和FP计算单元一致。

为了保证计算单元以外设计的统一性，送入计算单元的数据位宽彻底一致，和普通的FP32计算单元比，Tensor Core在算力上有很大的优点。由下表能够看出，因为数据复用和精度的下降，Tesnor Core的理论性能是FP32的8倍（同频，其中两倍受益于精度的下降）。

Ex.	DataWidth	Data Num	Ops
FP32	256	8	16
Tensor Core	256	16	128

Davinci Core进行了更多的设计，配合完成高性能的卷积计算。MTE中的img2col代表其进行了3D Tensor到Matrix的转换。(Ref. 华为在hotchips详细介绍了达芬奇架构)

前文提到“卷积即矩阵乘法的设计思路没法达到峰值性能”，但有了硬件架构的联合设计，这一结论再也不成立。譬如在Davinci Core中，在L0 Buffer进行Img2col能够下降因为im2col增长的访存带宽，合理设计的L0 BufferA/B/C也能应对卷积操做中大量的中间结果。

3.2 脉动阵列

脉动阵列的典型表明是Google TPU，Google TPU中设计的脉动阵列也是针对矩阵乘法设计（虽然有的脉动阵列也可直接计算卷积，但TPU并无采用这一类设计）。以前的文章有对Google TPU进行细致的分析（动手写一个简单版的谷歌TPU），并实现了一个小规模的基于VLIW+Vector Architecture的TPU（SimpleTPU，VLIW+向量体系结构），能够做为进一步参考。Google TPU的其计算核心为一个\(256\times 256\)的二维脉动阵列，以下图所示（Ref. 4）

另外一个相似的设计时Telsa（特斯拉）的Full self-driving(FSD) computer，其内部的Nerual Network Accelerator(NNA)也实现了一个大规模的矩阵乘法器（NNA也可能时直接采用广播的形式，而非脉动形式进行输入）。参考其专利中的说明，其具体实现和Google TPU略有差别。

根据描述，FSD NNA中的Wieght和Activation均经过DATA FORMATTER后送入到MATRIX PROCESSOR中。乘法的结果在MATRIX PROCESSOR中进行累加，计算出最终结果后依次向下移位输出。FSD中有两个NNA，其中MATRIX PROCESSOR的大小均为\(96\times 96\)，和TPU1相比，FSD的主要差别表如今

• 计算过程当中，TPU的weight保持不变，而FSD的partial sum保持不变
• TPU中的weight保持在DRAM中（片外），FSD保留在SRAM中
• 因为FSD的weight存储在片上，为了知足输入的数据排布要求，增长了在线的Weight Formatter模块
• FSD的输入宽度为96，是3的倍数，这是应为在Data Formatter时对kernel进行了展开（\(3\times 3\)的kernel中有因子3）；而TPU1的宽度为256是2的幂次，kernel的展开颇有多是时间上隐式进行的

针对TPU和FSD这种在数据流中的差别，能够分为Weight Stationary，Output Stationary和No Local Reuse等(Ref. 6)。这种针对Dataflow的分类方法也涉及到数据复用，但主要针对Register File上的复用进行分析，和本文针对计算中存在的数据复用关系进行分析有所不一样（一个典型的差异是Ref.6中归类为no local reuse的状况在本文认为是有数据复用的）。

3.3 直接卷积加速器

Eyeriss是一种直接针对卷积计算优化的加速器，和其余加速器不一样，Eyeriss针对Convolution Reuse进行了优化。按Ref.6的分类标准，是一种Row Stationary。(Ref. 7)

因为卷积神经网络计算卷积时C方向的特殊性，Convolution Reuse仅在H和W方向存在。以kernelsiz=3，stride=1为例，卷积计算中row方向的数据复用以下图(Ref. 7)

此时ifmap中的元素3被利用了三次，只须要从存储中访问一次元素3，就能完成3次计算。当扩展为二维时，有(Ref. 7)

即ifmap的row方向在不一样PE之间进行复用；而实际上ifmap的col方向的数据会暂存在PE内的RF上，col方向的数据也在RF上进行复用。

Eyeriss利用了convolution resue，同时也能够利用其余resue的手段。譬如上图中的filter在水平PE之间复用，psum在垂直的若干个PE之间复用。这意味这Eyeriss相比其余结构作到了更多的数据复用，能够进一步下降功耗。

3.4 基于变化域的卷积计算

一维卷积的计算复杂度为\(O(n^2)\)，因为时域卷积等于频域相乘，对于离散信号而言，能够经过快速傅里叶变换（Fast Fourier Transform，FFT）及其逆变换将信号在时域和频域之间变换。而FFT的计算复杂度为\(O(nlogn)\)，当\(n\)取值较大时，其计算复杂度会远低于直接计算一维卷积。

相似的，能够考虑在其余域进行二维/三维卷积的计算；针对卷积神经网络中的加速，有

• FFT based Method (Fast training of convolutional networks through FFTs)
• Winograd Method (Fast Algorithms for Convolutional Neural Networks)

但若想取得必定的加速比，这些方法对卷积核的大小和步长均有要求；这一类方法均难以适应卷积核日益小型化的发展趋势。

4. 轻量化网络带来的新的设计挑战

当大多数AI芯片中的神经网络加速器还在使用AlexNet/VGG/ResNet跑benchmark时，新的网络层出不穷。一些为了运行在嵌入式设备上而设计的轻量化网络经过压缩卷积中各个维度的计算来下降计算量，这很大程度影响了卷积计算中的数据复用关系。考虑在轻量化网络中使用的Point Wise Conv和Depth Wise Conv，以及延时受限系统中Batch=1的全链接层，有下表

Type	Ops/Memory
Point-Wise Convolution Layer	Input: \(C_o/s^2\) Filter: \(H_oW_o\) Output:\(C_i\)
Depth-Wise Convolution Layer	Input: \(H_fW_f/s^2\) Filter: \(H_oW_o\) Output:\(H_f W_f\)
Batch=1 Fully Connect Layer	Input: \(C_o\) Filter: \(1\) Output:\(C_i\)

而第三节中一些典型的基于数据复用的加速其设计中，若想达到最优性能，对数据复用的要求是

Architectures	Input1	Input2	Output
\(16\times16\times16\) Cube Core	16	16	16
\(256\times256\) Systolic Array	256	1350	256
Eyeriss V1(Theo. low bound)	168	42	42

数据复用关系的失配会让这些加速器在运行这些特定的Layer时出现严重的效率问题。譬如TPU V1在计算\(3\times3\) Depthwise Conv时效率不可能超过\(9/256=3.5\%\)。这样低的效率使得这些设计良好的网络带来的数量级的计算量降低变得毫无心义。

从根源上看，Cube Core或者Systolic Array的优化目标都是Matrix-Matrix乘法，而Batch=1得FC和Depthwise Conv更贴近于Matrix-Vector乘法，这在本质上就是不一样的。即便在软件层面的优化上，这两个运算也是分别进行优化的（GEMM和GEMV）。

而对于芯片设计而言，已经面临的挑战是如何设计一个在多变的复用关系下均能保证较高效率的神经网络加速器。完成这一目标，至少有两种不一样的设计方向

• 具备灵活互联结构的可重构加速器
• 标量+矢量+向量的异构加速器

4.1 具备灵活互联结构的可重构加速器

上述的几乎全部的讨论和设计，都能归结到下降数据带宽上。一旦数据带宽下降后，其灵活性就受到了很大的限制，这是没法计算GEMV的缘由之一。若是须要加速器可以在各类状况下有良好的表现，最直接的解决方案就是在设计上提供高的带宽和灵活性。
Eyeriss V2就采用这种思路对Eyeriss V1进行改进，以高效支持MobileNet。为了提供高带宽，Eyeriss设计了层次化2D Mesh的Noc（Ref. 8）

设计中一个PE Cluster具备12个PE，12个PE之间互相链接；PE Cluster经过一个2D Mesh进行互联。Global Buffer到PE之间具备丰富的连线，在不一样计算模式下能够以Multicast，broadcast和unicast进行数据传输，充分知足不一样计算下的数据需求。

尽管Eyeriss V2中并无提到可重构，但其Noc在计算不一样网络时有不一样的选通路径，和可重构的思想一致。通常谈到硬件可重构，通常会想到FPGA（Field－Programmable Gate Array，现场可编程大规模逻辑门阵列）。经过FPGA片上丰富的的互联结构和查找表，FPGA理论上能够用于实现各类形式的电路。

FPGA能够创造出各类可能，但FPGA设计上有不少冗余，在布局布线和加载上也会花费较多时间。究其本因，是由于FPGA采用了很底层的基本单元来构建整个电路。与FPGA这种细粒度可重构相对应的是粗粒度可重构网络，粗细度可重构不像FPGA同样能够控制每个bit的选通，而是提供了一系列基本的计算单元和互联结构。根据算法的需求，能够采用不一样的方式构建这些计算单元。譬如Plasticine中的PCU中，每一个FU由前向，反馈等多种路径，能够构建不一样的计算单元。（Ref. 11）

多个PCU之间经过交换网络和其余PCU及PMU（Memory）相连，能够配合完成不一样的操做。这些都以增长片上各个单元之间的互联性为基础。（Ref. 11）

采用可重构设计的还有清华大学微电子系设计的Thinker芯片，具体可参考A High Energy Efficient Reconfigurable Hybrid Neural Network Processor for Deep Learning Applications（Ref11）。这样的具备灵活互联结构的可重构加速器，能够支持矩阵-矩阵乘法，矩阵-向量乘法以及更多的其余计算，具备较强的灵活性。

4.2 标量+矢量+向量的异构加速器

另外一种思路是对某些运算作到极致的支持，其余的运算经过CPU或者其余的Core来计算；从华为达芬奇架构，到Google TPU2/3的设计上，都有的体现，华为的达芬奇架构可参见3.1节，Google V2/3的框图以下

Google的框图并无透露太多的细节，仅仅表面TPU中因为MXU和scalar/vector units；华为的达芬奇架构则指出了

• Vector：2048bit vector with special functions（activation functions，NMS，ROI，SORT）
• Cube：4096 FP16 MACs

虽然Vector Unit彷佛并不能计算FC Layer或者Depthwise Conv Layer，但这也表明了一种设计方向。当采用3D Matrix Unit进行矩阵计算时，随着\(N\)取值的增长，数据输入带宽随\(N^2\)增加，而MACs的数量随\(N^3\)增加，这表面针对特定的计算进行优化结果可能会更优。固然，这样的设计也有一些缺陷

• 不一样计算单元之间负载可能不均衡，致使计算出现瓶颈
• 不一样计算单元之间的数据传输，调度会变得复杂

固然，这种设计思想并不意味一个加速Core只能加速很受限的计算类型，依旧能够对单个的加速Core进行兼容设计，本节的讨论和4.1并不彻底冲突。譬如依旧有一些简单方法可让一个三维的MAC阵列（相似Cube Core）同时支持GEMM和GEMV操做，但依旧会有一些限制，因为数据复用的不一样，这两类运算始终落在Roofline模型的不一样位置。

但无论从哪一个角度去解决面临的新的挑战，暂时都没有看到一个完美的解决方案。或许咱们并不须要一个真正完美的解决方案，能解决一部分问题，创造价值就已经足够了。这里引用Cloud TPU（TPU V2/3）的一些说明

Cloud TPU适合如下工做负载

• 由矩阵计算主导的模型
• 主循环内没有自定义TensorFlow操做的模型
• 须要训练数周或数月的模型
• 有效批量很是大的大型和极大型模型

Cloud TPU不适合如下工做负载

• 须要频繁分支或逐项代数主导的现有代数程序
• 稀疏方式访问内存的工做负载可能不适用于TPU
• 须要高精度算法的工做负载

显然，Cloud TPU聚焦在大型和极大型模型的加速上，轻量化模型不在考虑范围以内；Cloud TPU甚至明确指出了暂不支持Depthwise Convolution计算。但这些都不影响Cloud TPU的应用和创造价值。

而正由于没有完美的设计，选择和取舍会变得尤其重要。

5. 神经网络中数据复用的展望

虽然在AI芯片设计过程当中，都针对算法进行了深度的优化；同时算法也针对芯片实现进行了定点化和低比特量化等工做：这些看似是一个联合优化的过程。可是归根到底，既然是选择为AI应用设计芯片，在设计过程当中，算法永远占主导地位。从长远来看，还须要把握算法的发展趋势。

站在硬件设计的角度来看，因为在计算机诞生之初就有了高性能并行计算的需求，不少设计实际上以及出现了很长时间，譬如数据并行的向量体系结构，VLIW，脉动阵列，稀疏计算都有40年以上的历史，2D Mesh互联也至少有30年。从设计上看，新的东西并非不少，架构成功的关键在因而否顺应了时代的潮流，包括算法/需求的发展和底层硬件技术的发展。

在发展过程当中算法和现有的硬件上的分歧每每是存在的，以本文讨论的卷积计算的数据复用为例，这和网络稀疏化的发展方向相悖。若是以极度稀疏化为目标，那么网络计算过程当中的数据复用会愈来愈低。

神经网络中数据复用的将来如何，彻底取决于算法的发展。

参考

1. Hardware Accelerators for Machine Learning (CS 217)
2. volta-architecture-whitepaper.pdf
3. Scalable unified architecture for Neural Network computing (Hotchips 31)
4. In-Datacenter Performance Analysis of a Tensor Processing Unit
5. ACCELERATED MATHEMATICAL ENGINE（Telsa，US20190026078）
6. V. Sze, T.-J. Yang, Y.-H. Chen, J. Emer, "Efficient Processing of Deep Neural Networks: A Tutorial and Survey," Proceedings of the IEEE, vol. 105, no. 12, pp. 2295-2329, December 2017
7. Y.-H. Chen, T. Krishna, J. Emer, V. Sze, "Eyeriss: An Energy-Efficient Reconfigurable Accelerator for Deep Convolutional Neural Networks," IEEE Journal of Solid State Circuits (JSSC), ISSCC Special Issue, Vol. 52, No. 1, pp. 127-138, January 2017.
8. Y.-H. Chen, T.-J Yang, J. Emer, V. Sze, "Eyeriss v2: A Flexible Accelerator for Emerging Deep Neural Networks on Mobile Devices," to appear in IEEE Journal on Emerging and Selected Topics in Circuits and Systems (JETCAS), June 2019.
9. Zhang J , Franchetti F , Low T M . High Performance Zero-Memory Overhead Direct Convolutions[J]. 2018.
10. 华为在hotchips详细介绍了达芬奇架构
11. Prabhakar R, Zhang Y, Koeplinger D, et al. Plasticine: A Reconfigurable Architecture For Parallel Paterns[C]// Acm/ieee International Symposium on Computer Architecture. 2017.
12. A High Energy Efficient Reconfigurable Hybrid Neural Network Processor for Deep Learning Applications[J]. IEEE Journal of Solid-State Circuits, 2018, 53(4):968-982.