性能提升40% 价格不变 Graphcore全新第三代IPU产品Bow Pod系列量产供货

风君子博客3月8日消息,IPU云端和服务器解决方案提供商Graphcore今日正式发布全新IPU系统产品——Bow系列。Bow Pod系统产品采用了全球首款3D Wafer-on-Wafer处理器——Bow IPU。Bow IPU是新一代Bow Pod AI计算机系统的核心。

值得注意的是,与上代产品相比,Bow Pod可为真实世界的AI应用提供高达40%的性能提升和16%的电源效率提升,但价格和前代相比保持不变。同时,与前一代产品100%软件兼容,用户在进行部署时无需更改现有代码。

Bow Pod比前一代性能提升40% 能效提升16%

Bow Pod旨在为各种AI应用大规模提供真实世界的性能,从用于自然语言处理的GPT和BERT到用于计算机视觉的EfficientNet和ResNet,再到图神经网络和许多其他应用。

其中,Bow-2000 IPU Machine(以下简称Bow-2000)是整个Bow Pod系列的基础组成部分。

Bow-2000 IPU Machine

Bow-2000采用了与Graphcore第二代IPU-M2000 machine同样的系统架构,但配备的是四个Bow IPU处理器,可提供1.4 PetaFLOPS的AI计算。Bow-2000可以完全向后兼容现有的IPU-POD系统,其高速、低时延的IPU结构和灵活的1U外形尺寸保持不变。

Bow Pod系列

Bow-2000可安装在戴尔、Atos、Supermicro、浪潮和联想等领先品牌的主机服务器上,从而组成Bow Pod系统。整个Bow Pod系列包括Bow Pod16(4台Bow-2000和一台主机服务器)、Bow Pod32(8台Bow-2000和一台主机服务器)、Bow Pod64以及更大的旗舰系统Bow Pod256和Bow Pod1024。

Graphcore Pods在数据中心

以旗舰产品Bow Pod256为例,其提供超过89 PetaFLOPS的AI计算,而超大规模Bow Pod1024可提供350 PetaFLOPS的AI计算,支持机器学习工程师在AI模型规模呈指数增长的情况下仍可领先一步,在机器智能领域取得新的技术突破。

Graphcore提供的数据显示,在性能方面,在与配有Bow Pod系统的Mk2 IPU-Pod系统相同的峰值功率范围内,客户发现各种AI应用的性能提升高达40%。

在CNN网络、Vision Transformer的网络以及深层次的文本到图片的网络模型训练中,Bow Pod相比前一代产品性能都有30%多的提升,EfficientNet-B4网络下性能提升可以达到39%。

同时,Bow Pod系统还可以大幅提高电源效率。经过一系列实际应用测试表明,Bow Pod的每瓦性能最高可提升16%。

对于最先进的计算机视觉模型EfficientNet,Bow Pod16性能比同类Nvidia DGX A100系统提升5倍以上,而价格只有一半,总体拥有成本优势提升高达10倍。

Bow IPU处理器黑科技:Wafer-on-Wafer创新技术

为何此次推出的全新一代IPU产品Bow Pod系列能有如此优异的性能和能效表现呢?

Graphcore大中华区总裁兼全球首席营收官卢涛揭秘表示,作为Bow-2000、Bow Pod系统的核心,Bow IPU处理器采用了全球首项3D半导体技术,从而支持Bow Pod系统实现了巨大的性能提升和更高的电源效率。

据悉,Wafer-on-Wafer 3D技术由Graphcore与台积电合作开发,并首次应用在IPU处理器上。Wafer-on-Wafer技术有潜力在硅片之间提供更高的带宽,从而优化电源效率,在晶圆级别提升Colossus架构的功率。

Bow IPU中的Wafer-on-Wafer,两个晶圆结合在一起,产生一个新的3D裸片。其中一个晶圆用于AI处理,在架构上与GC200 IPU处理器兼容,拥有1472个独立的IPU-Core tile,能够运行超过8800个线程,具有900MB的处理器内存储,而第二个晶圆拥有供电裸片。

通过在供电裸片中添加深沟槽电容器,位置在处理内核和存储旁,我们能够更高效地供电,从而实现350 TeraFLOPS的AI计算,实现40%的性能提升。

通过与台积电紧密合作,Graphcore已充分验证了整套技术,包括背面硅通孔(BTSV)和Wafer-on-Wafer(WoW)混合键合中的多项突破性技术。

此外,Graphcore中国工程副总裁、AI算法科学家金琛补充表示,这些性能数据的提升,很大程度也归功于Graphcore整个软件栈Poplar SDK的生态系统。其中,自研的图编译器PopART等软件的加持使得IPU产品在不同应用的性能上能够得到广泛和通用的提升。

目前,最新Bow Pod系统现已上市,和上一代产品相比,价格不变,目前已开始在全球范围内发货。

卢涛强调,Bow Pod系统上市的同时,针对IPU-M2000订单的老用户会推出一些优惠方案,确保这些老客户也可以获得相似的每美元性能。

据悉,Graphcore的客户已涵盖实验室、医药健康、保险、云计算、气象分析预测、分子动力学、智慧城市、互联网等诸多行业。金山云星曜产品(裸金属服务器)系列的金山云IPU服务器就搭载了Graphcore IPU(智能处理器)及Poplar软件栈。

未来计划

Graphcore方面透露,正在开发一款可以用来超越人脑处理的超级智能机器,并将于2024年交付这台全球首台超级智能计算机——Good Computer(古德计算机)。

据介绍,这款超未来的智能计算机之所以被命名为Good,一方面是Graphcore致力于打造“好”的计算机,一方面是向计算机科学家先驱Jack Good(杰克·古德)致敬。

目前Graphcore正在开发新一代IPU技术,为这款Good Computer提供超过10 Exa-Flops的AI浮点计算;最高可达4PB的存储,带宽超过10PB/秒;支持超过500万亿参数的AI模型;3D Wafer-on-Wafer逻辑栈;同时获得Poplar SDK的完全支持。

售价方面,这款Good Computer预计价格在100万美元至1.5亿美元。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注