Google Cloud 率先成为首家提供 NVIDIA A100 的云服务供应商,提供客户革命性的 AI 加速性能

Sep29

以下文字资料是由(历史新知网www.lishixinzhi.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧!

NVIDIA在五月中下旬正式发表新一代AIHPC加速器NVIDIAA100GPU,而在问世的一个月后,GoogleCloud宣布将在GoogleComputeEngine提供alpha版,成为首家提供NVIDIAA100GPU的云服务供应商,将透过Accelerator-OptimizedVM(A2)执行个体家族;GoogleCloud亦是NVIDIA推出NVIDIAT4后首家宣布导入的云服务商。

GoogleA100较GoogleTeslaV100在训练与推论提升20倍以上性能,搭载NVIDIAA100的A2VM执行个体能够提供不同层级的性能,可在支援CUDA的机器寻席训练、推论、资料分析与高性能运算加速作业负载;GoogleComputeEngine可提供16个A100GPU之a2-megagpu-16g执行个体,彼此以具9.6TB/s的频宽的NVSwitch连接,可达到最高640GB的GPUVRAM与1.3TB之系统记忆体;针对作业负载较小的用户,Google亦具备较小配置的A2VM,满足不同层级的需求。

NVIDIAA100能满足各种运算密集型应用,如AI训练、推论、资料分析、科学运算、基因组学、边际影像分析、5G服务等;同时Google也宣布NVIDIAA100将扩大支援GoogleKubeesEngine、CloudAIPlatform与其它GoogleCloud服务。