当前位置: 移动技术网 > 科技>办公>CPU > 英特尔公布Nervana NNP-T深度学习训练加速器 16nm工艺、32GB HBM2

英特尔公布Nervana NNP-T深度学习训练加速器 16nm工艺、32GB HBM2

2019年08月21日  | 移动技术网科技  | 我要评论

本文经授权转载,其它媒体转载请经超能网同意。

现在深度学习已成为人工智能的重要方向,而且研究成果已经应用于日常使用中。但训练人工智能模型需要强大的算力支持,所以除了使用gpu加速训练外,很多厂商开始推出专用于深度学习训练的asic芯片。英特尔在人工智能领域投入颇多,除了fpga产品线外,也推出了nervana深度学习加速器,在今天的hot chips 31会议中,英特尔公布了旗下nervana nnp-t深度学习加速器的细节。

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

这款nervana nnp-t深度学习加速器代号为spring cast,是目前英特尔最新款的专用深度学习加速器。这款加速器被命名为nnp-t,表示其主要用于深度学习网络模型训练工作定制。随着深度学习模型越来越庞大,所以专用的训练加速器也逐渐流行起来,如nvidia也推出了tesla t4 gpu。

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

具体到加速器核心上,此次英特尔反常的使用了台积电16nm cln16ff+工艺,而实际上nervana在收购前就使用的是台积电28nm工艺制造其第一代的lake cast芯片。虽然使用的是台积电的工艺,但也是用了很多台积电的最新技术。芯片采用了4个8gb hbm2-2400内存,每针脚2.4gb/s的传输速率,都安装在一个巨大的1200平方毫米的硅基板上。同时计算核心与hbm内存通过台积电最新的cowos晶圆级封装技术进行互联。最终得到了一个60 x 60mm,具有3325 pin的bga封装。

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

在展示中称此次由于hbm2与核心是无源封装,所以为2.5d封装技术。而hbm2由于是4hi,所以整体为3d封装。实际上英特尔自家也有emib嵌入式多芯片互联桥接这种桥接技术。四个hbm2堆栈共有64条serdes通道,每个通道支持28gb/s的传输速率。

具体的核心规模上,nervana nnp-t的计算核心拥有270亿晶体管,包括24个tensor processors(tpc)。除了tpc外,芯片裸片中还有60mb的sram以及一些专用的接口,如ipmi、i2c及16条pci-e 4.0通道。

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

芯片的工作频率为1.1ghz,风冷条件下功率配置为150w到250w,可通过水冷获得更强大的性能表现。同时nervana nnp-t加速器还拥有ocp卡及pci-e两种规格,以供数据中心选择。

nervana nnp-t加速器充分利用内存模块和互联网络使得计算核心得以充分使用。计算核心支持bfloat16矩阵乘法、fp32、bf16以及其他主要操作。同时在使用上英特尔已经通过开源的ngraph库将深度学习框架连接到硬件后端的编译器。现在英特尔正在与常见的paddle paddle、pytorch及tensorflow深度学习框架进行合作。

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

由于采用了可扩展架构集ocp及pci-e规格,所以对于数据中心等场景可以方便地进行扩展。架构支持扩展到1024个节点,每个节点拥有8个nnp-t计算核心。

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

英特尔公布nervana nnp-t深度学习训练加速器 16nm工艺、32gb hbm2

英特尔表示他们将在今年年底向客户提供nnp-t的样品,主要针对以及云服务提供商,在2020年之前面向更多用户。

 

如对本文有疑问, 点击进行留言回复!!

相关文章:

验证码:
移动技术网