NVIDIA 创始人兼首席执行官黄仁勋在 COMPUTEX 大会开幕前发表主题演讲,他表示:“生成式 AI 正在重塑行业,并为创新和增长带来新机遇。”
“今天,我们正处于计算领域重大转变的最前沿,”黄仁勋表示,“人工智能和加速计算的交汇将重新定义未来。”
NVIDIA 加速平台已经全面投入生产,不仅通过搭载 NVIDIA RTX 技术的 AI PC和消费级设备为游戏玩家和创作者带来全新体验,还支持企业利用 NVIDIA 全栈计算平台构建和部署的 AI 工厂。
“加速计算是计算行业的未来,”黄仁勋表示,“凭借;NVIDIA;在;AI;和加速计算领域的创新,我们正在创造更多可能,推动新一轮技术进步。”
每年更新路线图
黄仁勋分享了新半导体技术路线图,该路线图将每年更新。 他首次宣布了Rubin 平台,它将配备新 GPU、基于 Arm 的新 CPU — Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太网交换机的高级网络平台。Rubin 将作为;Blackwell 的下一代平台。
“我们公司的更新节奏是以年为单位。我们的基本理念非常简单:打造数据中心规模,以每年的节奏分步骤实现、并向客户交付产品,在各个领域实现技术突破,”黄仁勋解释道。
NVIDIA 创意团队使用;NVIDIA Inception;初创计划成员提供的;AI 工具来创作;COMPUTEX 主题演讲,该工具基于;NVIDIA NIM;和;NVIDIA 加速计算。本次演讲演示了各种 demo,重点介绍了上述创新工具以及;NVIDIA 技术带来的变革性影响。
加速计算实现可持续增长
黄仁勋在演讲开始时表示,NVIDIA 正在降低将数据转化为智能的成本。
他强调:“加速计算能够实现可持续增长。” 他同时介绍了 GPU 和 CPU 组合如何实现高达 100 倍的加速计算,同时功耗仅增加三倍,每瓦性能比单独使用 CPU 提高 25 倍。买的越多,省的越多。”;他强调了这种方法可显著节约成本和能源。
业界携手 NVIDIA 打造 AI 工厂
不少计算机制造商已经开始采用 NVIDIA GPU 和网络解决方案。永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、超微(Supermicro)、纬创(Wistron)和纬颖科技(Wiwynn)等企业正在打造基于NVIDIA技术的云、专用系统和边缘AI系统。
NVIDIA MGX;模块化参考设计平台加入了对Blackwell产品的支持,包括GB200 NVL2平台,该平台专为大语言模型推理、检索增强生成和数据处理提供卓越的性能而打造。
AMD 和英特尔均支持MGX架构,并首次计划推出基于他们自己CPU主机处理器的模块设计。任何服务器系统制造商都可以使用这些参考设计节省开发时间,并确保设计和性能的一致性。
采用Spectrum-X 的下一代网络平台
为了满足AI对高性能以太网网络平台日益增长的需求,黄仁勋宣布了每年推出新的;Spectrum-X产品的计划。
NVIDIA Spectrum-X;是全球首款专为;AI;打造的以太网网络平台,可将网络性能较传统以太网网络平台提升1.6倍。Spectrum-X;能够加快;AI;工作负载的处理、分析和执行速度,进而加快;AI;解决方案的开发和部署速度。
率先采用;Spectrum-X;的;AI;云服务提供商包括;CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global;和;Yotta等,他们的;AI;基础设施因此而获得了超强的网络性能。
NVIDIA NIM 让数百万人成为生成式;AI 开发者
现在,全球 2800 万开发者都可以借助 NVIDIA NIM;轻松地创建生成式;AI;应用。NIM;是一种推理微服务,通过以经过优化的容器的形式提供模型,以部署在云、数据中心或工作站上。
ps5国行又涨价了
NIM 还能帮助企业实现基础设施投资的效果最大化。例如,与未使用 NIM 的情况相比,在 NIM 中运行 Meta Llama 3-8B;所能生成的加速基础设施;AI token;可以提升 3 倍。
Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技术合作伙伴正将 NIM 集成到他们的平台中,加快生成式;AI;部署到特定领域应用中的速度,例如copilots、代码助手、数字人虚拟形象等。从;Meta Llama 3;开始,在 Hugging Face上现已开始提供 NIM。
“今天我们在 Hugging Face上发布了全面优化的 Llama 3,”黄仁勋表示。“您可以在任何云中运行它。下载该容器,并将其存入数据中心,然后就可以托管,并提供给客户使用。”
闪客2存档位置
NVIDIA 利用 GeForce RTX AI PC 令 AI 助手栩栩如生
搭载 RTX 技术的 NVIDIA RTX AI PC;将通过 200 多款 RTX AI 笔记本电脑和 500 多款采用 AI 技术的应用和游戏彻底改变消费者的体验。
RTX 套件和为NVIDIA ACE 数字人平台最新推出的基于 PC 的 NIM 推理微服务,将进一步提高 AI;的可访问性。
另外,NVIDIA;还发布了搭载;RTX 的;AI 助手技术演示;G-Assist;项目,展示了针对 PC 游戏和应用的上下文感知辅助功能。
Microsoft 和 NVIDIA 正在一起帮助开发者将新的生成式 AI 功能加入到他们的 Windows 原生和 Web 应用程序中,使开发者能够通过 API 轻松访问由 RTX 加速的 SLM,作为 Windows Copilot Runtime 的一部分实现在设备上运行的 RAG 功能。
NVIDIA 机器人技术:用机器人制造机器人
NVIDIA 正引领价值 50 万亿美元的工业数字化变革,各行各业都在采用自主运营和数字孪生,通过虚拟模型提高效率并降低成本。NVIDIA;通过其开发者计划提供对;NIM;的访问权限,以促进;AI;创新。
制造商们正在利用 NVIDIA 的技术改造他们的工厂。黄仁勋展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 创建数字孪生,通过结合视觉 AI 与机器人开发工具来实现增强的机器人设施。
120纯铝线1米几公斤
“AI;的新一波浪潮是物理;AI。AI 能够理解物理定律,并与人类并肩作战,”黄仁勋表示,他强调了机器人和人工智能在未来发展中的重要性。
NVIDIA Isaac;平台为开发者构建 AI 机器人提供强大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超级计算机驱动的 AMR、工业机械臂和人形机器人。
“机器人和物理;AI;正在成为现实,而不仅是出现在科幻小说。这真的令人兴奋,”黄仁勋补充道。
全球电子行业领导企业正在将 NVIDIA 自主机器人技术集成到他们的工厂中,利用 Omniverse 中的模拟功能来测试和验证物理世界的新一代;AI。全球 500 多万台预编程机器人也在此行列中。
“机器人将遍布所有工厂。工厂将实现对机器人的统筹,而这些机器人将制造新的机器人产品,”黄仁勋解释道。
黄仁勋强调了 NVIDIA Isaac 在提高工厂和仓库效率方面的作用,比亚迪电子、西门子、泰瑞达、Intrinsic 等全球领先企业都在使用 NVIDIA Isaac 的高级程序库和;AI;模型。
IGX 平台上的 NVIDIA AI Enterprise与凌华科技(ADLINK)、研华科技(Advantech)、ONYX 等合作伙伴共同打造符合严格监管标准的边缘;AI;解决方案,以满足医疗技术等行业的关键需求。
最后,黄仁勋向;NVIDIA;合作伙伴再次表示感谢。