您的位置:首页 > 互联网

全球领先系统制造商推出NVIDIA AI就绪型服务器,为企业大幅提升生成式AI性能

发布时间:2023-08-23 21:17:39  来源:互联网     背景:

通信世界网消息(CWW)NVIDIA近日宣布,全球领先的系统制造商将推出AI就绪型服务器,其支持同于今日发布的VMware Private AI Foundation with NVIDIA,帮助企业使用自有业务数据来定制和部署生成式AI应用。

NVIDIA AI就绪型服务器将采用NVIDIA®L40S GPU、NVIDIA BlueField®-3 DPU和NVIDIA AI Enterprise软件使企业能够微调生成式AI基础模型并部署生成式AI应用,比如智能聊天机器人、搜索和摘要工具等。这些服务器还提供由NVIDIA加速的基础设施和软件,以支持VMware Private AI Foundation with NVIDIA。

作为全球领先的系统制造商的戴尔科技、慧与和联想,将于年底前推出搭载NVIDIA L40S的服务器,以加速推进企业级AI的发展。

NVIDIA创始人兼首席执行官黄仁勋表示:“全新的计算时代已经来临,各行各业的企业都在竞相采用生成式AI。我们正在通过涵盖全球顶尖软件和系统合作伙伴的生态系统,将生成式AI带给全球企业。”

对于将部署VMware Private AI Foundation with NVIDIA的企业来说,NVIDIA AI就绪型服务器是一个理想的平台。

VMware首席执行官Raghu Raghuram表示:"生成式AI正在大力推动数字化转型进程,企业需要一种全面集成的解决方案,以更加安全地构建应用,从而推动业务发展。通过VMware、NVIDIA、以及我们服务器制造商合作伙伴的专业知识相结合,企业将能够在确保数据隐私、安全和可控性的前提下开发和部署AI。

助推企业生成式AI转型

各行各业正在竞相将生成式AI用于药物研发、零售产品描述、智能虚拟助手、制造模拟、欺诈检测等各种用途,NVIDIA AI就绪型服务器将为这些行业提供全栈加速基础设施和软件。

这些服务器采用NVIDIA AI Enterprise,即NVIDIA AI平台的操作系统。该软件为100多个框架、预训练模型、工具套件和软件提供生产就绪型企业级支持和安全性,包括用于LLM的NVIDIA NeMo™、用于模拟的NVIDIA Modulus、用于数据科学的NVIDIA RAPIDS™和用于生产型AI的NVIDIA Triton™推理服务器。

专为处理包含数十亿参数的复杂AI工作负载而打造的L40S GPU搭载第四代Tensor Core和FP8 Transformer引擎,可提供超1.45 PFLOPS的张量处理能力,其训练性能是NVIDIA A100 Tensor Core GPU的1.7倍。

美国法官驳回对谷歌反垄断诉讼

小米旗下平板

相较于NVIDIA A100 GPU,NVIDIA L40S可将智能聊天机器人、助手、搜索和摘要等生成式AI应用中的生成式AI推理性能提高1.2倍。

通过集成NVIDIA BlueField DPU,可加速、卸载和隔离巨大计算工作负载,其中包含虚拟化、网络、存储、安全,以及其他云原生AI服务,以进一步提高速度。

NVIDIA ConnectX®-7智能网卡提供先进的硬件卸载和超低延迟,可为数据密集型生成式AI工作负载提供同类领先的可扩展性能。

推动企业生成式AI部署的庞大生态系统

全球领先的计算机制造商正在构建NVIDIA AI就绪型服务器,包括戴尔PowerEdge R760xa、适用于VMware Private AI Foundation with NVIDIA的慧与ProLiant Gen11服务器以及联想ThinkSystem SR675 V3。

戴尔科技主席兼首席执行官Michael Dell表示:“生成式AI是创新的‘催化剂’,将助力解决一些全球性的重大挑战。而采用NVIDIA AI就绪型服务器的戴尔生成式AI解决方案将扮演至关重要的角色,即通过推动生产力水平实现前所未有的提升,并变革工业运营的方式,以加速人类的进程。”

慧与总裁兼首席执行官Antonio Neri表示:“生成式AI将推动企业生产力规模的全新扩展——从赋能聊天机器人和数字助理,到帮助设计和开发新的解决方案。我们很高兴能继续与NVIDIA密切合作,在一系列企业级调优和推理工作负载解决方案中采用NVIDIA的GPU和软件,这将加速生成式AI的部署。”

联想集团主席兼首席执行官杨元庆表示:“企业迫切希望采用生成式AI来推动智能化转型。通过与NVIDIA和VMware合作,联想正在进一步扩大自身在生成式AI领域的领先地位,并巩固自身的独特定位,即在客户采用AI的旅程中为其提供帮助。”

供应情况

搭载L40S GPU和BlueField DPU的NVIDIA AI就绪型服务器将于年底前上市,云服务提供商预计将在未来几个月提供实例。


返回网站首页

本文评论
传苹果英特尔与谷歌竞购北电网络专利_苹果收购英特尔
(马乔)北京时间6月18日消息,据知情人透露,包括苹果、英特尔和爱立信在内的全球科技巨头已经获得了竞标者资格,并将加入到与谷歌争夺破产的加拿大电信设备制造商北电网络(Nortel...
日期:07-30
2019年圆满收官,火河中标中骏地产战略采购大单_中骏置业招标采购平台
  2019年最后一天,不少企业准备如何跨年,而商用大居住领域的智能门锁领先企业火河科技则用一个大单给2019年画上圆满句号,火河中标中骏2020公寓智能门锁战略采购项目。主要...
日期:04-04
csgo电竞游戏「等了 11年 《CSGO2》电竞网游终于官宣:画质大升级 免费更新」
对于喜欢CS反恐精英游戏的玩家来说,《CSGO》网游是单机最好的继承,然而它都是2012年发布的了,现在11年后《CSGO2》终于官宣了,Valve对游戏进行全面翻新,画质大幅提升,夏天免费升级...
日期:03-23
微博口水化 微博会不会被“口水淹没”呢?
  当“你‘织围脖’了吗”成为人们的问候语时,你就不难发现微博正以迅猛的势头,颠覆传统媒体的话语权。然而,微博的发展也面临一些争议,比如有人称缺乏意义的无用信息和情绪...
日期:07-28
12款华为智慧屏喜提版本升级:支持iOS投屏、畅连通话
相较电视领域传统厂商通过版本升级修复问题,华为智慧屏的常用常新”概念是指通过升级,阶段性带来一项项新的功能、新的场景、新的UI。苹果6开不了机怎么回事据华为官方消息,近...
日期:12-31
春节期间流量高峰如何应对? 湖南联通推出“春节不停机”用户福利
  年与时驰,冬与日去,春节期间,用户通过手机上网娱乐、利用微信、视频等方式拜年成为新常态,用户的流量峰值也开始持续攀升。为确保2020年春节期间湖南省网络安全、顺畅运行,...
日期:05-06
苹果或将于 2023 年第一季度推出 27 英寸 mini LED 显示器「苹果发布miniled屏幕」
10月8日消息:据Display Supply Chain Consultants(DSCC)分析师Ross Young称,苹果正计划在2023年第一季度推出一款带有27英寸mini LED显示屏的外部显示器。普渡科技欢乐送机器人...
日期:10-09
天猫国潮瞄准智能锁领域,果加变身新国潮先锋
  近日,天猫国潮季活动“理想生活 锁见不同”智能锁展在杭州亲橙里开展,前来观展体验的年轻消费者络绎不绝,国潮魅力功不可破。在80、90甚至00后变身消费主力的当下,“以国为...
日期:07-01
vivo S16系列首创双面柔光人像 售价2099元起「vivo s10有柔光双摄吗」
12月22日消息,vivo今天线上发布了vivo S16以及vivo S16 Pro等三款新机。作为vivo S系列的最新一代产品,vivo S16系列影像、性能、设计全面升级,首创双面柔光人像,售价2099元起。...
日期:12-23
战疫情推新服务,员工晒口罩凉茶|知识产权与科创服务头部平台汇桔网复工记
  疫情下,中小企业受到了不小的冲击。面对危机,不少企业从最开始震惊、恐慌中回神。之后组织线上复工,到如今保证员工安全的情况下,线下有序复工。   中小民营企业,为我国贡...
日期:03-11
芯行纪为中国市场提供新思科技Tweaker系列产品
  2021年3月5日,中国上海 -- 新思科技(Synopsys, Inc.,纳斯达克股票代码:SNPS)今日宣布中国领先的数字实现EDA及设计服务企业芯行纪科技有限公司(以下简称芯行纪)将为中国市...
日期:07-16
上海迪士尼辟谣12月15日关闭入口将正式停止运营_上海迪士尼暂时性关闭什么时候开放
11月18日 消息:11月18日,上海迪士尼度假区官方微博发布消息称,以下截图为假消息。arm不给高通授权可以吗上海迪士尼度假区表示,园区已于2022年11月17日启动第一阶段重新开放,迪...
日期:11-23
挺进BBA老家!蔚来德国开卖 的ET5售价超宝马5系「蔚来et7 宝马5系」
近日,蔚来正式在德国公布ET5、ET7和EL7三款车型的售价,其中ET5售价6.19-7.09万欧元(约合人民币45.48-52.09万元),ET7售价8.19-9.09万欧元,EL7售价8.59-9.49万欧元。如果选择BaaS电...
日期:11-28
乐信Q3营收27亿元,用户数1.84亿同比增19%_「快看|乐信Q2财报:营收增长至30亿,8月用户数突破1亿」
11月17日消息,乐信(NASDAQ:LX)发布2022年三季度未经审计财务业绩:2022年第三季度贷款发放总额为562亿元人民币,较2021年第三季度的558亿元人民币增长0.7%。乐信2022年第三季度营收2...
日期:11-29
苹果将于10月18日举行发布会「曝苹果10月份发布会取消:官网直接开卖新品」
  9月26日消息,根据惯例,苹果在秋季发布会上推出新iPhone等新品后,将于10月举办特别活动,推出新iPad、MacBook Pro等新品。  但根据Mark Gurman的最新消息,苹果今年10月份...
日期:10-21
五一国内游安全吗「国内游“挤爆了”,这份五一假期避坑指南值得看」
声明:本文来自微信公众号“全天候科技”(ID:iawtmt),作者:张超,授权转载发布。结束六天工作,打工人终于等来2023年首个长假——五一。去淄博吃烧烤、往武汉吃过早、飞长沙夜生活、...
日期:04-29
2022跨境电商盘点:穿越周期的力量「2022年跨境电商」
声明:本文来自于微信公众号 霞光社(ID:Globalinsights),作者:金鄞,授权转载发布。2022年是全球从疫情阴霾中加速走出的一年,对于跨境电商而言,短短三年时间,经历了一个跌宕的周期。...
日期:01-04
京东众筹:10月10日起将暂停运营「京东众筹下架」
10月8日 消息:近日,京东众筹发布公告称,10月10日起将暂停运营。虎扑女神大赛第一届据悉,京东众筹于2014年7月1日上线,是京东金融旗下的一个互联网众筹平台,为用户提供智能科技、...
日期:10-18
中国反击!新增7项先进科技禁止/限制出口 合计达139项「中国禁止高科技技术出口」
近日,中国商务部官方网站发布了关于《中国禁止出口限制出口技术目录》修订公开征求意见的通知”。通知指出,为加强技术进出口管理,根据《对外贸易法》和《技术进出口管理条例》...
日期:01-28
哪吒汽车11月份销量超1.5万辆 轿跑车型哪吒S已开始交付
12月1日消息,哪吒汽车今日公布了11月份销量数据,11月共交付15,072辆,同比增长51%;今年1-11月,累计交付已达144,278辆,同比增长142%。此外,除哪吒V和哪吒U两款车型以外,哪吒S也于昨日...
日期:12-02