将数据中心变成AI工厂:NVIDIACEO发布Hopper架构,H100GPU,全新的超级计算机和软件

 行业动态     |      2022-05-12 17:45:56    |      沥拓

VIDIA创始人兼首席执行官黄分享了一个时代愿景,即用产业规模创造智能,并将其融入现实和虚拟世界。这将创新价值万亿美元的行业,并有望解决我们这个时代的重大挑战。

在NVIDIAGTC大会主题演讲中,黄仁勋介绍了许多全新的芯片,包括HopperGPU架构、H100GPU、AI、加速计算软件和强大的数据中心级系统。

黄仁勋在一个虚拟的环境中描述了人工智能如何在各个领域全面开花,在一个虚拟的环境中,企业正在处理和完善自己的数据,构建AI软件,并逐渐成为智能制造商。

Omniverse将收集所有这些进展,加快人与AI的合作,更好地塑造和理解现实世界,成为新机器人的试验场,推动下一波AI的发展。

在这次全球最重要的AI大会上,黄仁勋与领先的开发者、科学家和研究人员分享了他的愿景。

这次会议吸引了1600多名演讲者和20多万注册参与者。演讲者来自美国运通。doordash.领英。salesforce.servicenow和visa。

黄仁勋的主题演讲以NVIDIA新公园的壮观航拍开始。整个公园,包括热闹的先进机器人项目实验室,都是在Omniverse中渲染的。

他分享了如何与广泛的生态系统合作,推动医药研发进程,从而拯救生命,甚至帮助拯救我们的地球。

黄仁勋说:科学家们预测,要有效模拟区域气候变化,需要比现在强大10亿倍的超级计算机。

diagram。

diptionautomadalalalanenedidididididididi

NVIDIA将通过我们的Earth-2(世界上第一台AI数字孪生超级计算机)来应对这一巨大挑战,并发明新的AI和计算技术,以加速10亿倍的性能飞跃。

全新芯片NVIDIAH100:全球AI基础设施的新引擎

为了推动这些宏伟目标的实现,黄仁勋介绍了全球AI基础设施的新引擎,即基于Hopper架构的NVIDIAH100。

他说,AI应用,如语音、对话、客户服务和推荐系统,正在推动数据中心设计领域的巨大变化。

人工智能数据中心需要处理大量持续的数据来训练和完善人工智能模型。原始数据进来,提取,然后智能输出——企业正在制造智能,运营大型人工智能工厂。

黄仁勋解释说,这些工厂全天候集中运营,即使质量略有提高,也能显著增加客户参与和企业利润。

H100将有助于这些工厂更快地发展。这个巨大的800亿晶体管芯片采用台积电4纳米工艺制成。

HopperH100是有史以来最大的一次性性能飞跃——其大规模训练性能是A100的9倍,大型语言模型的推理吞吐量是A100的30倍。

Apicturecontaing,dark。

descriptionaomal。

Hopper取得了许多技术突破,包括一个新的Transformerengine,它可以将这些网络的速度提高6倍,而不会失去精度。

Transformer模型的训练时间从几周缩短到几天。

在第三季度,黄仁勋宣布H100已投产,并将上市。

还发布了GraceCPU超级芯片,这是NVIDIA首款离散数据中心CPU,用于高性能计算。

这款超级芯片由两个CPU芯片组成,通过NVLink芯片互连技术,每秒900GB连接成一个144核CPU,内存带宽为每秒1个太字节。

Grace是全球AI基础设施的理想CPU。

黄仁勋还宣布推出基于HopperGPU的全新AI超级计算机-DGXH100。

NVIDIA的全新NVLink高速互连技术将应用于所有未来的NVIDIA芯片,包括CPUPU和系统级芯片。

他还宣布,NVIDIA将为客户和合作伙伴提供NVLink,帮助他们构建配套芯片。

NVLink使客户能够利用NVIDIA平台和生态系统构建半定制的芯片和系统。

全新软件-AI已经从根本上改变软件。

由于加速计算,黄仁勋说,AI领域出现了惊人的进展。

人工智能已经从根本上改变了软件功能和创建软件的方式。

黄仁勋解释说,transformers实现了自我监督和学习,不需要人类标记数据。因此,transformers在越来越多的领域发挥着作用。

Transformers实现了自我监督学习,AI的速度也大大提高。

黄仁勋表示,Transformers带来的突破包括用于语言理解的Googlebert。用于药物研发的NVIDIAMegamegamolbafold2。

他介绍了一种全新的深度学习模型,用于理解自然语言。物理学。创意设计。角色动画,甚至NVCell芯片布局。

人工智能正在各个领域‘全面开花’,包括新的结构、新的学习策略、更大的规模、更强的性能模型、新的科学领域、新的应用、新的产业等。,所有这些领域都在发展。

黄仁勋表示,NVIDIA致力于加速人工智能领域的新突破,以及人工智能和机器学习在各个行业的应用。

NVIDIAI平台正在进行重大更新,包括Triton推理服务器。NeMegatron0.9框架用于训练大型语言模型,Maxine框架用于提高音频和视频质量。

apictureconaingpern、indoor、clothing。

descriptionaomal。

该平台包含一套由NVIDIA优化和认证的端到端数据分析工具和框架NVIDIAIEnterprise2.0,现在支持所有主要数据中心和云平台。

这次我们在GTC上更新了60个SDK。300万开发者、科学家、AI研究人员和成千上万的初创企业会发现他们的NVIDIA系统变得更快。

目前,世界上一些大型企业正依赖NVIDIAI软件和SDK加速计算。

Microsofttranslator使用NVIDIATriton支持的实时翻译功能来加速全球通信。

AT&T使用NVIDIARAPIDS软件来加速其数据科学团队的工作,使其更容易处理数万亿条记录。

服务于医疗、能源、交通、零售、金融、媒体、娱乐等行业的NVIDIASDK,总价值100万亿美元。

新一轮进化拟世界的OMNiverse。

阿波罗1,半个世纪前。