微软正式上线最强生成式 AI 虚拟机、扩展 Azure OpenAI 服务

2023-08-10 08:51:45 来源：IT之家

IT之家 8 月 8 日消息，微软今年 3 月和英伟达合作，宣布推出 Azure ND H100 v5 VM 虚拟机预览版；经过数月的测试之后，微软今天正式推出该虚拟机，帮助企业更高效处理生成式 AI 任务。

IT之家此前报道，ND H100 v5 VM，是 Azure 迄今更强大和高度可伸缩的 AI 虚拟机系列。

(资料图片仅供参考)

该虚拟机支持的按需配置可达 8 至上千个通过 Quantum-2 InfiniBand 网络互连的 NVIDIA H100 GPU，使得 AI 模型的性能明显提高。相较上一代 ND A100 v4 VM，本次推出的虚拟机包含以下创新技术：

8 块 NVIDIA H100 Tensor Core GPU，通过下一代 NV Switch 和 NV Link 4.0 互连。

在无阻塞胖树网络中，每个 GPU 搭载 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。

每个 VM 中的 8 块本地 GPUs 之间通过 3.8Tb / s 对分割带宽的 NV Switch 和 NV Link 4.0 互联。

第四代英特尔至强可扩展处理器。

PCIE 第 5 代主机到 GPU 互连，每个 GPU 带宽为 64Gb / s。

16 信道的 4800 MHz DDR5 内存。

新的虚拟机使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络，当前仅限于美国东部和西部 Azure 企业访问。

微软补充说，公司正在努力在明年为其虚拟机添加数十万块新的 GPU。

微软正式宣布该 Azure 虚拟机之外，还宣布扩展其 Azure OpenAI 服务，在加拿大东部、美国东部 2（East United States 2）、日本东部和英国南部地区上线。

微软表示 Azure OpenAI 服务客户已经超过 11000 名，本季度平均每天吸引 100 名新客户。

这一显著的增长证明了我们的服务为渴望利用人工智能潜力满足其独特需求的企业带来的价值和可扩展性。

微软还补充说，ChatGPT AI 平台最强大的版本 GPT-4 也将适用于新的 Azure OpenAI 服务区域。