第三代智能处理器问世,未来目标是超越人脑

第三代智能处理器问世,未来目标是超越人脑

  

6年前,Graphcore推出了专注于人工智能(AI)基于PCIe的智能处理器(IPU:Intelligent Processing Units)。从那以后,该公司一直没有放慢脚步,在2020年推出了第二代IPU。同时持续推出基于IPU的“IPU-POD”系统——最新的型号为IPU-POD128和IPU-POD256。

  

  

  

现在,Graphcore将产品推向一个新的高度,引入了两层、晶片对晶片的第三代IPU。这款名为“Bow”的处理器现在已经上市了,在性能和能效方面都比上一代有了更高的改进。该公司还宣布了一个基于下一代IPU的大型系统的计划,该系统被称为“Good”计算机。

  

  

  

全新Bow IPU使用台积电7nm工艺的一个新变体制造,可以实现晶片对晶片(WoW)封装。晶片对晶片的垂直叠加技术是一种更复杂的技术。它所提供的是一个更高的互连密度之间的模块堆叠在彼此之上。顾名思义,两个晶片被连接在一起,或者在未来,两个以上的晶片被组装成独立的硅片。Bow将第二块晶片连接到处理器晶片上,第二块晶片携带大量深沟槽电容单元,可以更平稳地向设备输送能量,从而使处理器运行更快,电压更高。

  

  

  

由于改进的功率输出,新处理器在进行主要的人工智能工作负荷时比前一代产品提升高达40%的速度,在低端应用(比如一个对象检测)提高29%,而在高端应用(诸如各种NLP和图像分类的工作负载)提升39%。Bow IPU的功率效率也提高了16%。

  

  

  

它在芯片上拥有和以前一样的近1GB的静态RAM,但现在的访问速度快了40%。它同样拥有1472个独立的处理器核,每个处理器核都能运行6个独立的程序。最后,它有同样的10个IPU链路将芯片连接在一起,提供总计每秒320G的芯片间带宽。

  

  

  

Bow IPU提供了峰值350teraflops的混合精度AI计算,这与Nvidia A100 (19.5 teraflops的峰值)相比是相当不错的。

  

  

  

与Graphcore的前几代IPU类似,Bow被封装到Bow-2000 IPU中,Bow-2000再被包装成不同尺寸的Bow pod,从Bow Pod16到最新的Bow Pod1024 (Graphcore还提供Pod32、Pod64和Pod256的尺寸。)

  

  

  

据Graphcore宣称Bow Pod-16(其零售价“略低于15万美元”)与英伟达DGX A100(零售价“略低于30万美元”)比较,Bow Pod需要14个小时来训练一个高效的图像分类模型,而Nvidia系统需要17个小时。“

  

  

  

同时对于已经习惯了Graphcore之前产品的开发者来说,升级新版本无需做出痛苦的调整。没有任何代码变更。因此,现有的所有模型,客户使用的Poplar软件环境构建的所有模型,都可以无缝地运行。

  

  

  

Graphcore为其第三代产品集合了一批重量级客户。例如太平洋西北国家实验室(PNNL),该实验室将使用这些IPU来帮助开发基于变压器和图形神经网络模型的计算化学和网络安全。Graphcore系统将能够使这些应用程序的训练和推理时间从几天减少到几个小时。这种加速技术有望帮助这些机构将机器学习工具纳入日常的研究任务中。

  

  

  

其他主要客户包括桑迪亚国家实验室、伦敦帝国理工学院、马萨诸塞大学阿默斯特分校、牛津大学、斯坦福医学院等。

  

  

  

Good计算机

  

  

  

但Graphcore并没有止步于此。从开始构建的智能处理单元后,一直在规划建立一个超级智能(ultra-intelligence)机器,能够超过人脑的能力。虽然并不确切知道实现这一宏伟目标的必要条件,但他们做出了一些预测。人类的大脑大约有860亿个神经元,以及具有数百万亿突触。相比之下,今天最大的神经网络模型有大约一万亿个参数。

  

  

  

显然还有艰巨的工作要做,才能造出一个信息容量明显超过人类大脑的机器,从而有可能开启超智能人工智能。事实上Graphcore正打算建造这样的机器。

  

  

  

“这台机器将包含超过Bow处理器一代的8192个IPU,这些IPU将进一步利用3D晶片对晶片堆叠技术,这台机器将提供‘超过10 exaflops’的浮点运算性能和4PB的内存,可访问速度超过10PB/s。这将允许托管具有数百万亿参数的人工智能模型。”

  

  

  

Good电脑是以20世纪60年代的计算机科学家杰克·古德(Jack Good)的名字命名的,他曾“谈论过超智能电脑的概念”。Graphcore预计Good电脑成本为1.2亿美元。

  

  

THE END
分享
二维码
< <上一篇
下一篇>>