加速AI时代,微软合作英伟达推出Azure ND H100 v5 VM虚拟机预览版

【KJKX科技快讯】8月8日消息,微软携手英伟达在今年3月宣布推出Azure ND H100 v5
VM虚拟机预览版。经过数月的测试和调试,今天,该虚拟机正式面向企业推出,旨在帮助企业更高效地处理生成式AI任务。

Azure ND H100 v5 VM是Azure迄今为止功能更为强大且高度可伸缩的AI虚拟机系列之一。该虚拟机支持的按需配置从8个到上千个NVIDIA
H100 GPU,并通过Quantum-2 InfiniBand网络进行互连,大幅提升了AI模型的性能。相较于上一代ND A100 v4
VM,新推出的虚拟机引入了一系列创新技术:每个虚拟机配备8块NVIDIA H100 Tensor Core GPU,利用下一代NV Switch和NV link
4.0实现高速互连;每个GPU搭载400 Gb/s NVIDIA Quantum-2 CX7
InfiniBand,在无阻塞胖树网络中,每个VM可达3.2Tb/s的性能;此外,每个VM内的8块本地GPU之间通过3.8Tb/s的带宽进行互联,采用NV
Switch和NV link
4.0技术;最后,新虚拟机还配备了第四代英特尔至强可扩展处理器,以及每个GPU带宽为64Gb/s的PCIE第5代主机到GPU互连和16信道的4800 MHz
DDR5内存。

据KJKX科技快讯了解,新的虚拟机采用了NVIDIA的Tensor Core H100 GPU和NVIDIA Quantum-2
InfiniBand网络。目前,该虚拟机预览版仅限美国东部和西部Azure企业访问。微软表示,公司正在努力在明年为其虚拟机添加数十万块新的GPU,以满足不断增长的需求。

除了Azure ND H100 v5 VM虚拟机,微软还宣布扩展其Azure
OpenAI服务,将在加拿大东部、美国东部2、日本东部和英国南部地区上线。Azure
OpenAI服务的客户数量已超过11000人,每天平均吸引100名新客户。这一显著增长证明了微软为满足企业独特需求而提供的人工智能服务的价值和可扩展性。

微软补充称,ChatGPT AI平台最强大的版本GPT-4也将适用于新的Azure
OpenAI服务区域,这进一步巩固了微软在人工智能领域的领先地位,并为全球企业提供更多高效的AI解决方案。

文章采集于互联网

相关推荐