NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs

媒体报道 NVIDIA 原文语言:英文

英伟达与微软扩大全面合作,将加速计算从Azure云端扩展至Windows PC和本地基础设施。双方在Microsoft Ignite上展示了基于Nvidia Vera Rubin NVL72系统的Azure虚拟机及Nemotron开源模型的企业级定制方案。

全文

NVIDIA 和微软将加速计算从 Azure 扩展到 Windows PC

NVIDIA 与微软扩大了面向企业的工具合作,以定制 AI 模型并在云端和本地基础设施中部署应用程序。

NVIDIA 与微软正在深化其全栈合作,助力各组织构建、定制和部署智能应用程序——从 Azure 上的下一代基础设施到工业系统和 Windows PC。

在 Microsoft Ignite 大会上,两家公司扩大了对搭载 NVIDIA Vera Rubin NVL72 系统的 Azure 虚拟机的访问权限,通过 Microsoft Foundry 增加了客户对 NVIDIA 开源模型及定制功能的获取途径,并提供了在企业生成和使用数据的边缘端运行 AI 的新选项。

微软还利用 NVIDIA 技术来加速其自身的模型和服务,包括用于后训练的 NVIDIA Dynamo 推理软件以及用于必应(Bing)搜索模型的 NVIDIA RTX PRO 6000 Blackwell GPU。

NVIDIA Vera Rubin NVL72 正在 Azure 中运行

NVIDIA Vera Rubin NVL72 系统正在 Azure 数据中心运行,为要求严苛的推理、智能体(agentic)应用程序以及大规模模型训练和推理提供专用的基础设施。

微软和 NVIDIA 还展开合作,将机密计算扩展至裸金属和机架级 AI 基础设施。这项工作将有助于在处理敏感模型和数据时对其进行保护,从而支持需要处理专有或受监管信息的组织。

NVIDIA 机密计算和证明有助于客户在释放敏感模型、数据或密钥之前验证计算环境。随着 AI 工作负载跨越更多互连的加速器,两家公司正致力于将这些保护措施扩展到整个人工智能工厂基础设施中。

为了帮助数据中心从可用电力中获得更高性能,NVIDIA 和微软还合作利用 NVIDIA MaxLPS 来提升能效。

Azure 的 Vera Rubin 预览版建立在 NVIDIA 和微软的协同设计和性能优化基础之上,这在最新的基于 NVIDIA Blackwell 的 MLPerf 结果中得到了强调。在 MLPerf Training v6.1 中,Azure 在 DeepSeek-V3 模型上利用 GB200 NVL72 系统扩展到了 10,240 个 NVIDIA GPU,这是本轮测试中的最大规模。据 Signal65 报道,在 MLPerf Inference v6.1 中,Azure 的 NVIDIA GB300 NVL72 系统在 DeepSeek-R1 交互式吞吐量方面领先于各项云端提交数据,幅度超过 10%。

帮助企业定制和部署开源模型

企业 AI 智能体需要推理复杂的任务、查找相关的公司信息并理解业务文档。NVIDIA 和微软正在扩展通过 Microsoft Foundry 提供模型和服务的范围,以帮助开发者将这些功能引入业务应用程序中。

微软无服务器的“程序化训练”(Programmed Training)产品赋予了开发者对后训练工作流的控制权,同时由 Foundry 管理底层基础设施。企业可以专注于其业务数据、评估模型响应并改进模型行为。

Foundry Managed Compute 增加了对部署自定义模型权重的支持,通过微软的管理服务将模型定制与部署连接起来。

安永(EY)在 Microsoft Foundry 中使用程序化训练来调整 NVIDIA Nemotron 开源模型,以对企业采购记录进行分类,与专有前沿模型相比,其评估数据集的准确率提升了 55%,成本降低了 15 倍。这项工作证明了企业如何为专门的业务任务定制开源模型。

Foundry Managed Compute 上扩展的 NVIDIA Nemotron 3.5 产品系列支持企业应用程序中的各种需求。Nemotron 3.5 Super 专为跨编码、研究和业务工作流运行的长期智能体而设计,而 Lightning 则支持需要快速响应和工具使用的应用程序。

互补的模型可帮助智能体利用 Nemotron Embed 和 Rerank 查找相关信息、利用 Nemotron Parse 从文档中提取结构化信息,以及利用 Nemotron Content Safety 检测有害内容。专为高吞吐量、低延迟推理而设计的 Nemotron 3.5 Bolt 以及用于语音识别的 Transcribe 也即将推出。

将 AI 带到更靠近企业数据的地方

NVIDIA 和微软正在将部署选项扩展到云端之外,帮助组织在更靠近其数据的地方运行模型和智能体,同时保持对其基础设施和运营的控制。

Foundry Local 对 Nemotron 3.5 的扩展支持将推理、编码和工具调用智能体的功能带入了 Azure Local 环境。检索模型可帮助应用程序在文本、文档图像、图表和表格中查找证据。

Azure Local 还将支持来自硬件合作伙伴的 NVIDIA RTX PRO 6000 Blackwell GPU,为企业在本地部署 AI 提供更多选择。

Azure Local 正扩展至 NVIDIA Jetson Thor 和 Jetson Orin 边缘 AI 平台,以支持机器视觉、机器人和自主运营等工业应用。包括 Cosmos 在内的 NVIDIA 物理 AI 模型也被引入了 Foundry Local。

在搭载 NVIDIA RTX Spark 的 Windows 电脑上,NVIDIA 与微软将在 Ignite 上展示本地大语言模型体验,演示开发人员如何在设备上直接运行 AI 应用程序。

对于使用云电脑(Cloud PCs)的企业,两家公司正将 Direct Stream 功能引入 GPU 加速的 Windows 365 云电脑中。这些功能支持高要求的图形应用程序,最高可提供每秒 60 帧的双 4K 视频流以及低延迟,即使在复杂的网络环境下也能实现。目前已开放限量预览注册,计划于 2027 年初推出公开预览。

将科学 AI 与 Microsoft Discovery 相连接

在科学研究方面,NVIDIA BioNemo Agent Toolkit 和 NVIDIA ALCHEMI Toolkit 正在扩展至 Microsoft Discovery 目录中,将生命科学、药物发现以及材料与化学科学的模型引入微软的智能体研究平台。

BioNeMo Agent Toolkit 帮助科学家使用自然语言在 Microsoft Discovery 中运行计算生物学工作流,并由智能体协调完成工作所需的工具和模型调用。

初期的集成使用了与华盛顿大学蛋白质设计研究所合作开发的 RFD4-Proteina 模型,以生成候选蛋白质结构和氨基酸序列,用于进一步评估和实验室验证。

加速微软的模型与服务

在扩大客户对 NVIDIA 技术访问权限的同时,微软也在其自身的 AI 开发和服务中使用了 NVIDIA 软件和加速计算。

Microsoft AI 使用 NVIDIA Dynamo 在后训练期间支持强化学习推出推理。这一计算密集型过程会生成用于改进模型的经验。

Dynamo 协调庞大 GPU 集群的推理,优化性能,并帮助管理请求、模型更新和故障恢复。该部署建立在 Microsoft AI 与 NVIDIA 的联合工程基础之上。

欢迎在 Ignite 上参观 NVIDIA,体验涵盖企业应用、机器人、加速数据处理和本地计算的演示,展出的硬件包括 NVIDIA GB300 NVL72 机架和 RTX Spark 设备。欢迎观看 NVIDIA 的会议、动手实验室和展位剧场演讲。

正文为 AI 译文。

参考来源

← 返回每日AI报告