微软 Azure ND H100 v5 VM 正式上线：Azure OpenAI 服务覆盖更多地区_azure104

8月8日消息:今年三月，微软宣布与英伟达合作开发 Azure ND H100 v5 虚拟机系列。今天，微软宣布这些新的超级计算机已经可供使用，为企业提供了更快的生成式 AI 任务性能。

这些新的虚拟机采用了 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络。目前，它们已经在东部和西部美国 Azure 地区提供服务。当企业注册并使用这些新的基于 AI 的虚拟机时，可以期待以下几点：

• 超级计算 GPU：这些虚拟机配备了八个 NVIDIA Tensor Core H100 GPU，承诺比以前的一代显著提高 AI 模型的性能，为企业提供无与伦比的计算能力。

• 下一代计算处理单元（CPU）：我们意识到 CPU 对于 AI 训练和推理的性能至关重要，所以选择了第四代英特尔至强可扩展处理器作为这些虚拟机的基础，确保了最佳的处理速度。

• 低延迟网络：采用 NVIDIA Quantum-2 CX7 InfiniBand 技术，带有 400GB/s 的跨节点带宽，确保在 GPU 之间实现无缝性能，与全球最强大的超级计算机相当。

• 优化的主机到 GPU 性能：通过 PCIe Gen5 为每个 GPU 提供 64GB/s 的带宽，Azure 在 CPU 和 GPU 之间实现了显著的性能优势。

• 大规模内存和内存带宽：DDR5 内存是这些虚拟机的核心，具有更高的数据传输速度和效率，非常适合处理大型数据集的工作负载。

微软表示，在未来一年内，他们将增加数十万个这些新的 GPU 用于虚拟机。

除了新的生成式 AI Azure 虚拟机，微软还宣布扩展了 Azure OpenAI 服务。现在在加拿大东部、美国东部 2、日本东部和英国南部地区提供。该服务将帮助企业创建自己的 AI 应用程序。

微软表示，自三月份首次宣布以来，他们已经看到了企业的非常积极的反应：我们现在自豪地服务于超过 11,000 个客户，每个季度平均吸引 100 个新客户。这种显著增长证明了我们的服务为企业利用 AI 潜力解决其独特需求带来的价值和可扩展性。

微软还补充说，ChatGPT AI 平台的最强大版本 GPT-4 也将在新的 Azure OpenAI 服务地区提供。