亚马逊云科技将提供英伟达最新Blackwell平台
2024-03-24 13:22
在被誉为“AI春晚”的GTC大会上,英伟达发布了下一代芯片架构Blackwell,大秀肌肉。
随后,亚马逊云科技与英伟达宣布,NVIDIA Blackwell GPU平台即将登陆亚马逊云科技,这意味着亚马逊云科技的客户,很快就能使用新一代GPU基础设施,在云上更快、更大规模、更安全地构建和运行数万亿参数的大语言模型。
据了解,Blackwell继承了Hopper GPU架构,拥有2080亿个晶体管,是英伟达首个采用多芯片封装设计的GPU,推理能力是Hopper的30倍。英伟达创始人黄仁勋介绍,如果用Blackwell训练一个1.8万亿参数GPT模型,只需要2000个GPU,花费90天时间,以及四兆瓦的电力。
这次合作,是双方在技术领域的强强联合。
一方面,亚马逊云科技将提供配置GB200 NVL72的英伟达Blackwell平台,该平台具备配备72颗Blackwell GPU和36颗Grace CPU,通过第五代NVIDIA NVLink?互连。
另一方面,亚马逊云科技将在云中为其提供EFA网络连接、高级虚拟化的Amazon Nitro系统和Amazon EC2 UltraClusters超大规模集群等技术支持,客户能够在亚马逊云科技上扩展至数千个GB200 Superchips。
亚马逊云科技还计划提供配备基于新的英伟达B100 GPU的Amazn EC2实例,并能够在Amazon EC2 UltraClusters中进行大规模部署。
此前,亚马逊云科技已经成功推出基于英伟达H100芯片的Amazon EC2 P5实例,客户能够在云上将其P5实例扩展到超过2万个英伟达H100 GPU,后续还提供可短期使用这些实例的EC2 Capacity Blocks for ML功能,以帮助客户更好地安排云上生成式AI开发进程。
GB200芯片同时也在亚马逊云科技和英伟达共同开发的AI平台NVIDIA DGX? Cloud上可用,这是一个在亚马逊云科技上双方共同开发的AI平台,为企业开发者提供了构建和部署先进生成式AI模型所需的专用基础设施和软件。
Blackwell也加入了双方合作的Project Ceiba项目,这是一台专为英伟达自身的研究和开发而设的超级计算机,独家托管在亚马逊云科技上,它搭载了20,736颗GB200 Superchips芯片,并通过第四代EFA网络扩展,为每个Superchip提供高达800 Gbps的低延迟、高带宽网络吞吐量;
与去年11月底的re:Invent2023全球大会上披露的上一代Ceiba相比,计算性能从65exaflops提升至414 exaflops,提升了6倍多。
亚马逊云科技首席执行官Adam Selipsky表示:“我们双方的深入合作可以追溯到13年前,那时我们共同推出了世界上第一个亚马逊云科技上的GPU云实例,而今天我们为客户提供了最广泛的英伟达GPU解决方案。英伟达下一代Grace Blackwell处理器是生成式AI和GPU计算的标志性事件。”
英伟达创始人兼首席执行官黄仁勋表示:“人工智能正在以前所未有的速度推动突破,导致新的应用、商业模式和跨行业的创新。我们与亚马逊云科技的合作正在加速新的生成式AI能力的发展,并为客户提供前所未有的计算能力,以推动可能性的边界。”
-
Ao沐沐电商
4653人在用最安全S资源,100%真实手工补单,提升店铺商品人气权重,安全稳定不降权!
-
礼品网-0.7元发全国
28061人在用低至0.7元发全国,真实物流,真实礼品,真实派送,提供底单,假一罚十,超时包赔,客服在线,全年无休!
-
柚子花
36509人在用【安全补单资源】100%真实人工补单,支持多渠道进店,提升店铺商品人气权重,安全稳定不降权!
-
人气魔方
42002人在用100%真实购物花呗大号,7天打造爆款,安全高效不降权!
-
数据宝盒
34993人在用【实力平台推荐】20W真实买家资源,多渠道爆款计划。
-
壁虎看看
23780人在用快手短视频直播电商数据分析工具,多维度为商家提供直播达⼈带货数据及带货能力评估。
-
妙手ERP
3391人在用免费跨境电商ERP软件,支持Shopee、Lazada、TikTok等平台运营
-
熊猫岛礼品代发
29485人在用熊猫岛礼品代发平台,礼品件0.8元发全国,24小时实时物流监控保障所有快件的效率性时效性稳定性,网点充单一单一号真实包裹发货。批量下单,一键发货,每张快递单都真实打印发往全国,千万商家的共同选择。

