Cerebras Systems推出晶圆级深度学习芯片芯片面积达到46225平方毫米

long023 · 发表于 2019-8-20 20:46:56

爱科技、爱创意、爱折腾、爱极致，我们都是技术控

您需要登录才可以下载或查看，没有账号？立即注册

x

我们常见的处理器都是经过封装之后才可使用的，实际上如CPU中的核心裸片大小一般在200平方毫米以下，而GPU核心的大小也没有超过1000平方毫米的，所以在一片晶圆上可以切割出很多核心裸片。不过这并不代表无法制造超大尺寸的芯片，在今天的Hot Chip 31会议中，Cerebras Systems就推出了一款晶圆级深度学习芯片，尺寸达到了215×215平方毫米。几乎占据了一整个晶圆的大小。

图片来自于Celebras Systems推特

现在针对深度学习进行优化的芯片已经很多了，不过裸片尺寸如此巨大的也仅有这一个。Cerebras Systems称这款芯片采用了台积电16nm工艺进行制造，整个芯片拥有1.2万亿晶体管，芯片尺寸达到了46225平方毫米。而官方也称这片芯片的尺寸比当前最大的GPU核心要大56倍。

图片来自于Anandtech

而这么大的芯片主要就是用来进行深度学习训练的，而深度学习的训练是应用小变化的过程，模型的大小等因素让神经网络训练变得非常困难。对于粗粒度计算，需要告诉互联才能进行训练，规模依旧有限且成本高昂。

图片来自于Anandtech

所以Celebras Systems设计了专门为神经网络原语优化的核心，这种核心可编程、可以快速进行西数计算，而且具有高速互联能力。Celebras Systems设计了非常灵活的内核，而且可以高效的处理张量运算。

图片来自于Anandtech

在内存架构上也专门针对深度学习进行了优化。2D mesh拓扑使得核心间的互联更加高效，带宽更高、延迟更低。巨大的晶圆级芯片使得其成为一个计算集群，具有完整的片上互联架构，可以将整个神经网络映射到芯片上。甚至已经可以使用TensorFlow及PyTorch深度学习框架。

图片来自于Anandtech

跨裸片相连也是这个巨大芯片的挑战，Celebras Systems也采用了一些方式实现了裸片之间的连接。而半导体制造良率是关键，这么巨大的芯片几乎无法保证其中每一个计算核心都能够正常工作，所以设置冗余核心和冗余连接保证了整片芯片可以正常使用。同时巨大的芯片受到热膨胀的影响会更明显，所以他们也定制了连接方式。由于热密度更高，所以也采用了水冷的方式进行散热。

图片来自于Anandtech