您的位置:首页 > 互联网

英伟达小型超算「NVIDIA推出DGX GH200 AI超级计算机」

发布时间:2023-05-30 06:26:16  来源:互联网     背景:
2023/5/29 21:38

NVIDIA推出DGX GH200 AI超级计算机

 

新型AI超级计算机将256个Grace Hopper超级芯片连接为巨大的、1-Exaflop、144TB GPU,用于支持生成式AI、推荐系统和数据处理的巨型模型

COMPUTEX——2023年5月29日——NVIDIA今天宣布推出一款新型大内存AI超级计算机——由NVIDIA GH200 Grace Hopper超级芯片和NVIDIA NVLink Switch System 驱动的NVIDIA DGX 超级计算机,旨在助力开发面向生成式AI语言应用、推荐系统和数据分析工作负载的巨型、下一代模型。

NVIDIA DGX GH200的超大共享内存空间通过NVLink互连技术以及NVLink Switch System使256个GH200超级芯片相连,使它们能够作为单个GPU运行。其提供1 exaflop的性能和144 TB的共享内存——相较2020年推出的上一代NVIDIA DGX A100内存大了近500倍。

NVIDIA创始人兼首席执行官黄仁勋表示:“生成式AI、大型语言模型和推荐系统是现代经济的数字引擎。DGX GH200 AI超级计算机集成了NVIDIA最先进的加速计算和网络技术来拓展AI的前沿。”

NVIDIA NVLink技术大规模扩展AI

GH200超级芯片使用NVIDIA NVLink-C2C芯片互连,将基于Arm的NVIDIA Grace CPU与NVIDIA H100 Tensor Core GPU整合在一起,从而不再需要传统的CPU至GPU PCIe连接。与最新的PCIe技术相比,这将GPU和CPU之间的带宽提高了7倍,将互连功耗减少了5倍以上,并为DGX GH200超级计算机提供了一个600GB的Hopper架构GPU构建模块。

DGX GH200是第一款将Grace Hopper超级芯片与NVIDIA NVLink Switch System配对使用的超级计算机,这种新的互连方式使DGX GH200系统中的所有GPU作为一个整体协同运行。上一代系统在不影响性能的前提下只能通过NVLink把8个GPU整合成一个GPU。

DGX GH200架构相比上一代将NVLink带宽提升了48倍以上,实现在单个GPU上通过简单编程即可提供大型AI超级计算机的能力。

面向AI先锋的新研究工具

谷歌云、Meta和微软是首批有望接入DGX GH200来探索其用于生成式AI工作负载的能力的公司。NVIDIA还打算将DGX GH200设计作为蓝图提供给云服务提供商和其他超大规模企业,以便他们能够进一步根据他们自己的基础设施进行定制。

谷歌云计算副总裁Mark Lohmeyer表示:“构建先进的生成式模型需要创新的AI基础设施。Grace Hopper超级芯片的全新NVLink和共享内存解决了大规模AI的关键瓶颈,我们期待它在谷歌云以及我们的生成式AI计划中发挥强大的能力。”

Meta基础设施、AI系统及加速平台副总裁Alexis Bj rlin表示:“随着AI模型规模越来越大,它们需要可扩展的强大基础设施,以满足不断增长的需求。NVIDIA的Grace Hopper设计看起来能够让研究人员探索新的方法来解决他们面临的最巨大挑战。”

微软Azure基础设施企业副总裁Girish Bablani表示, “在以往训练大型AI模型是一项资源和时间密集型任务。DGX GH200 所具备的处理TB级数据集的潜力使得开发人员能够在更大的规模和更快的速度下进行高级别的研究。”

全新NVIDIA Helios超级计算机将推进研发

NVIDIA正在打造自己的基于DGX GH200的AI超级计算机,以支持研发团队的工作。

这台名为NVIDIA Helios的超级计算机将配备四个DGX GH200系统。每个都将通过NVIDIA Quantum-2 InfiniBand网络互连,以提高训练大型AI模型的数据吞吐量。Helios将包含1024个Grace Hopper超级芯片,预计将于今年年底上线。

完全集成,专为巨型模型而构建

DGX GH200超级计算机包含NVIDIA软件,可为最大的AI和数据分析工作负载提供一个交钥匙式全栈解决方案。NVIDIA Base Command 软件提供AI工作流程管理、企业级集群管理和多个加速计算、存储和网络基础设施的库,以及为运行AI工作负载而优化的系统软件。

此外还包含NVIDIA AI Enterprise,即NVIDIA AI平台的软件层。它提供100多个框架、预训练模型和开发工具,以简化生成式AI、计算机视觉、语音AI等生产AI的开发和部署。

供货情况

NVIDIA DGX GH200超级计算机预计将于今年年底上市。

观看黄仁勋在COMPUTEX 2023的主题演讲中介绍NVIDIA DGX GH200超级计算机。


英伟达dgx2算力

xgp微软会员在哪买

NVIDIA CEO黄仁勋发布面向各行各业的生成式AI平台
返回列表

极米h3s性价比


返回网站首页

本文评论
国产手机系统流畅度排行榜出炉,OPPO ColorOS重新夺回了国产UI的榜首位置
中关村在线消息:近日,鲁大师公布了2022年Q3手机UI流畅榜。三星Verizon鲁大师发文称:“恭喜OPPO ColorOS终于重新夺回了国产UI的榜首位置,随着ColorOS 12的几次迭代更新适配,均分...
日期:10-11
“真香定律”稳定发挥 迈凯伦全新SUV效果图曝光:预计售价282万_迈凯伦实拍
王境泽的真香定律”真的适用广泛,那些曾经信誓旦旦的超跑品牌,也纷纷放下身段,投入SUV这课摇钱树的门下。2月25日,有海外媒体曝光了一组迈凯伦全新SUV车型的效果图,据称,该车是迈...
日期:02-25
2月9日见!真我GT Neo5首发240W满级秒充:手机闪充进入读秒时代
经过了很长一段时间的预热,日前真我手机官方正式官宣,全新的真我GT Neo5将于2月9日与大家见面,该机最大的看点就是快充,将全球首发240W闪充科技,这将是迄今为止充电速度最快、快...
日期:02-01
小米2亿像素即将量产!或命名12T Pro「小米1.2亿像素」
中关村在线消息:9月29日,据相关爆料,小米即将发布2亿像素主摄方案的手机,预计为小米12T系列,该机或将采用三星HP1传感器,该传感器尺寸为1/1.22英寸,单位像素面积为0.64μm,支持Chame...
日期:10-02
支付宝在双11使用区块链技术的背后,新零售正在被重塑……_支付宝宣布用区块链解决供应链金融
今年天猫双十一,支付宝也首次将区块链技术应用于淘宝卖家秀上,为商家上线区块链盗图维权工具,让盗图维权更为简单...我认为,电商是很可能在未来被区块链技术所改造的行业,区块链+...
日期:08-01
科大讯飞发布2019年业绩报告,智慧教育成为增长亮点_科大讯飞业绩预告
  2020年春节刚过,科大讯飞便发布了2019年的业绩报告。报告显示,预计2019年营业收入突破100亿元,经营活动产生的现金流量净额约15亿元。这是继2019年发布的2018年全年业绩大...
日期:06-07
极氪ZEEKR 001第5万辆下线 创造新势力品牌首年生产速度纪录「zeekr极氪价格」
10月12日消息:极氪 ZEEKR 官方宣布,旗下豪华猎装轿跑 ZEEKR001的第5万辆正式下线,不到1年,创造了新势力品牌的首年生产速度纪录。金鼠标数字营销大赛官网三星发布990 pro系列pc...
日期:10-18
显卡gpu芯片厂商有哪些「ChatGPT带火AI芯片!NVIDIA顶级显卡售价超4万美元」
快科技4月15日消息,随着ChatGPT等语言大模型爆火,各大科技巨头对AI芯片的需求也飙升。5g速度播放电影据了解,NVIDIA H100顶级处理器在eBay上进行售卖,价格从39995美元到46000美...
日期:04-15
董明珠两会提案:建议建立超期服役家电的淘汰机制
3月9日 消息:据董明珠自媒体消息,格力电器董事长兼总裁董明珠在今年两会上提出“建立超期服役家电的淘汰机制”和“规范二手家电流通市场”的建议,强调要淘汰、更新过期家电,促...
日期:03-09
京东众筹还有吗「上线8年 京东众筹将于10月10日起业务停运」
10月9日 消息:日前,京东众筹发布公告称,京东众筹业务将于2022年10月10日起暂停运营。最不值得购买的旗舰机刚买的手机可以直接贴钢化膜吗9月30日10点,京东众筹入口下线,已经上线...
日期:10-11
马斯克:特斯拉人形机器人不会成为电影里终结者的样子「特斯拉机器人毁灭人类」
10月1日消息,特斯拉2022AIDay上,特斯拉人形机器人擎天柱Optimus原型机正式亮相。特斯拉CEO埃隆·马斯克展示了“擎天柱”机器人准备投产的版本,并预计这款人形机器人售价每台低...
日期:10-04
小米Civi 3将用上16GB 1TB超大存储、拍照无压力_小米civi实测
5月24日消息,小米Civi 3将于5月25日,也就是明天正式发布,小官方已经进行了多次预热,在最新的预热详情中,官方表示,小米Civi 3将用上16GB 1TB超大存储,满足用户“拍拍拍”的需求,不用...
日期:05-24
aqura全屋定制_11年潜心研究产品 全屋智能品牌Aqara终于要开发布会了
  5月14日晚,知名智能家居品牌Aqara正式官宣将于2021年 5月25日在北京时尚设计广场79罐举行大型发布会“A Future Day 2021”,展示全屋智能最新技术突破所引领的极致用户体...
日期:06-16
起诉媒体造谣抹黑!特斯拉一审胜诉:删稿、道歉再赔10万元_特斯拉 胜诉
11月29日消息,有媒体报道称,特斯拉诉品玩名誉侵权案件已作出一审判决。法院判定特斯拉胜诉,品玩需删除其在8个社交平台上发布的侵权文章,并在各平台首页发表书面道歉,置顶持续不...
日期:12-01
美国SEC向加密货币交易所Coinbase发出警告通知 或将提起诉讼
  讯 北京时间3月23日早间消息,美国证券交易委员会(SEC)周三向加密货币交易所Coinbase发出通知,警告称该公司可能违反美国证券法。受此消息影响,Coinbase股价在周三美国股市盘...
日期:03-24
支付宝用户“被捐款” 疑为黑客作祟(支付宝的黑客)
  原本是自己私人账户里的钱,却在不知情的情况下被一笔一笔捐给了公益基金会。近日有网民发帖称“支付宝用户莫名其妙‘被捐款’”“突然发现账户里的6000多元钱被捐到了...
日期:07-24
完美世界游戏布局5G云游戏,携手全球合作伙伴探索游戏新未来_完美世界游戏战略发布会
  近期,完美世界游戏全面推进云游戏发展战略,加大投资、研发力度,深化全球云游戏伙伴合作,凭借公司深厚的研发底蕴与多年发行经验,助力玩家打破硬件桎梏,为全球玩家带来超越本...
日期:01-11
epic跨区买游戏「烫手的区块链游戏 Epic能玩转吗」
  来源:北京商报  在Steam、任天堂等游戏平台与大厂纷纷表态对区块链游戏敬谢不敏时,游戏开发商EpicGames近日在旗下游戏商城EpicGamesStore(以下简称“Epic”)上架了首款NF...
日期:10-04
联想集团杨元庆:研发人员增加8800名 相比三年前接近翻番「联想公司总裁杨元庆」
4月6日,联想集团2023/24财年誓师大会在北京启幕。联想集团董事长兼CEO杨元庆表示,过去三年联想共增加了研发人员8800人,相比2020年初接近翻番。最新小米12联想提出了“新IT”的...
日期:04-06
谷歌更新航班搜索业务 增加多语言支持
  5月31日消息,据国外媒体报道,谷歌在上周推出新的航班搜索服务后,受到市场和消费者的热烈反响。该服务让查找航班信息就像查公交或者火车班次一样简单方便。   仅需在搜...
日期:07-28