您的位置:首页 > 互联网

发布多款新品重新定义云计算,亚马逊aws如何引领行业?「16000颗H200超级芯片!最强云计算亚马逊云科技和英伟达合体了」

发布时间:2023-11-29 21:35:14  来源:互联网     背景:

金磊 克雷西 发自 拉斯维加斯
量子位 | 公众号 QbitAI

最强云计算、最快GPU,联手出大招了!

就在刚刚,云计算霸主亚马逊云科技和英伟达宣布:

推出首款云AI超级计算机,结合了英伟达H200 Grace Hopper超级芯片和亚马逊UltraCluster扩展功能。



据悉,该合作项目代号为Project Ceiba,而这个超级计算机是配备了H200 NVL32与Amazon EFA互连技术的大规模系统,将部署在亚马逊云科技之上。

它共计搭载了16384颗英伟达H200超级芯片,能够处理65 exaflops速度等级的AI运算。

为了这个合作项目,老黄也是亲自来到亚马逊云科技年度盛会re:Invent的现场站台,重视程度可见一斑。

△左:亚马逊云科技 CEO:Adam Selipsky;右:英伟达CEO:黄仁勋



与此同时,亚马逊云科技也成为了英伟达H200 Grace Hopper超级芯片的第一个大客户。

而之所以两大巨头要这般合作,双方的目标也是非常明确——剑指生成式AI。

亚马逊云科技CEO Adam Selipsky在现场表示:

我们与英伟达合作了13年,推出了最广泛的英伟达 GPU解决方案可用于各种工作负载,包括绘图、游戏、HPC高性能计算、机器学习,以及现在的生成式AI。
我们将会让亚马逊云科技成为运行GPU的最佳云端环境。

黄仁勋也对生成式AI与云计算发表了他的观点:

生成式AI正改变各种云端负载,为多元内容创作在底层注入加速计算动能。
我们共同目标是为每个客户提供具有成本效益、先进生成式AI,为此英伟达与亚马逊云科技在整个计算堆栈展开合作,横跨AI基础设施、加速库、基础模型以及生成式AI服务。

而这次强强联手的合作,也仅仅是亚马逊云科技 re:Invent活动中的一隅。

现在,我们就来一同看下更多的重磅发布。

亚马逊云科技升级AI芯片

除了与英伟达展开合作之外,亚马逊云科技自家的芯片也迎来了大升级。

首先便是发布了升级后的通用AI芯片——Graviton4。



据了解,与上一代Graviton3相比,Graviton4的计算性能提高了30%,核心数量增加了50%,内存带宽增加了75%。



Graviton4带来的一个新转变之一,便是通过对所有快速物理硬件接口的全面加密,这就显著提升了它的安全性。

亚马逊云科技透露,这款芯片将被应用于内存优化型的Amazon EC2 R8g实例,帮助客户提升高性能数据库、内存缓存和大数据分析工作的效率。

而且,R8g实例的大小更大,其vCPU和内存容量比前一代的R7g实例最多增加了三倍。

搭载Graviton4的电脑预计在接下来的几个月内上市。

亚马逊云科技进一步表示:

自从大约五年前推出Graviton项目以来,他们已经生产了超过200万个Graviton处理器。
而且,亚马逊云科技 EC2的前100位用户都已经选择使用Graviton,这证明了其在市场上的受欢迎程度。

亚马逊云科技在大会中带来的第二款升级芯片,则是Trainum2。

如其名,这款芯片的主要用途就是针对拥有超大参数模型的训练。



相比于上一代Trainium1,Trainum2在速度上快出了4倍,同时在能效方面也有2倍的提升。

在亚马逊云科技内部,Amazon EC2 Trn2实例将采用的正是Trainium2,每个实例内置16个Trainium芯片。

这些Trn2实例的目的是为了支持客户在下一代EC2 UltraCluster中大规模扩展,最多可达10万个Trainium2芯片,通过亚马逊云科技弹性织物适配器(EFA)的petabit级网络连接,能够提供高达65 exaflops的强大计算能力。

有了这种规模,客户就可以在数周而不是数月时间内训练3000亿参数的大语言模型!

正如Claude背后公司Anthropic的联合创始人Tom Brown所述:

最值得投资的十大加密货币

我们正在与亚马逊云科技密切合作,使用Trainium芯片开发我们未来的基础模型。
Trainium2将帮助我们大规模构建和训练模型,我们预计它比第一代Trainium芯片快至少4倍,适用于我们的一些关键工作负载。

据悉,Trainium2将从明年开始用于支持新的服务。

Amazon Q:亚马逊工作版ChatGPT出道

在生成式AI方面,亚马逊云科技还发布了自家工作版的ChatGPT——Amazon Q,重新构想了未来的工作方式。

Amazon Q主要面向的是企业用户,它让员工可以利用公司的数据和专业知识获得答案、解决问题。



Amazon Q基于亚马逊云科技17年的知识来训练,所以很懂亚马逊云科技,于是在使用亚马逊云科技过程中,可以随时随地提供帮助。

Adam说,Amazon Q改变了开发人员在亚马逊云科技上构建、部署和操作应用程序的方式。

它可以通过提出问题来了解亚马逊云科技功能和工作原理,或者确定最佳服务。



Amazon Q不仅能介绍亚马逊云科技的各项功能,还可以根据用户需求,提供利用亚马逊云科技各项服务构建应用的方法。



亚马逊云计算有多厉害

在使用亚马逊云科技遇到问题和故障时,Amazon Q也可以一键分析原因并想办法解决。



在亚马逊云科技控制台之外,Amazon Q还可以在IDE中调用,实时帮助开发者生成或解释代码,并进行测试和优化。



更为精彩的是,Amazon Q可以完成从计划到代码,再到完成后的测试和用户文档的全流程自动开发。

假如要给应用添加新功能,开发人员只需要用自然语言描述需求,然后检查Amazon Q给出的建议并进行必要调整就可以了。



不过,开发不是一劳永逸,程序的维护和升级也至关重要。

而如果这之中涉及到了编程语言的更新迭代,开发者可能需要花费几个月甚至几年对代码进行逐行调整。

水果榨汁影响营养价值么

而Amazon Q的代码转换功能,将这一时间缩短到了几分钟。

开发人员只需在 IDE 中打开他们想要转换的代码,然后要求Amazon Q对其进行“/transform”即可。

最近,5名开发人员用Amazon Q在短短两天内将1000个应用从Java 8升级到Java 17,平均每个用时还不到10分钟。



除了面向开发者的Builder版本, Amazon Q还有为商业从业者提供的Business版本。

可以在亚马逊QuickSight数据分析平台和亚马逊云科技 Connect中使用。



将Amazon Q连接到企业系统,还能得到定制版的Q,我们还可以看到Amazon Q帮助用户分析了下游客户的需求。



在此基础之上,Amazon Q更是可以直接充当使用者的客服代表,解决下游用户提出的问题。



做个总结的话,Business版本的Amazon Q一共拥有四重“专家”身份:

亚马逊云科技专家,对亚马逊云科技的每一个功能、模块都有充分的了解。
生意专家,能够分析行业状况下游客户的需求。
商业智能专家,能够对大量商业数据进行分析。
客服专家,对用户企业情况充分了解,可以充当智能客服工作。



价格方面,Business和Builder版本的价格分别是每用户每月20美元和25美元。

还有其它发布

与这些芯片和聊天机器人Amazon Q同时发布的,还有全新的云存储服务亚马逊云科技 S3 Express One Zone。

它的速度是标准版S3的10倍,可以在1分钟之内处理数百万次请求,请求成本和计算成本分别降低了50%和60%。



工具层面,生成式AI应用搭建平台Bedrock也值得关注。

Adam将其称作最简单的利用大模型搭建和扩展生成式AI的方式。



此外还有和Trainium芯片配套的ML优化SDK 亚马逊云科技 Neuron。

排行前100的ML模型中,亚马逊云科技 Neuron支持93种。



按照基础设施层、工具层和应用层这三个层级进行划分,此次发布中涉及生成式AI的产品都在下面这张图里了:



One More Thing

据说这届亚马逊云科技的re:Invent活动吸引了来自全球的5万多人。

来,感受一下Keynote结束后的人山人海……



参考链接:
[1]https://press.aboutamazon.com/2023/11/aws-unveils-next-generation-aws-designed-chips
[2]https://press.aboutamazon.com/2023/11/aws-and-nvidia-announce-strategic-collaboration-to-offer-new-supercomputing-infrastructure-software-and-services-for-generative-ai


返回网站首页

本文评论
直板机颜值天花板!红魔9 Pro亮相:业内唯一背部纯平旗舰_红魔92班
快科技11月23日消息,今日,红魔手机举行新品发布会,红魔年度旗舰红魔9Pro系列正式亮相。作为新机一大亮点,红魔9Pro将后摄模组完全做平,没有凸起,是目前行业内唯一背部纯平的旗舰。...
日期:11-24
特斯拉股价为何下降「特斯拉股价大跌逾60% 马斯克未来可能失去控制权」
斯塔莫斯警告马斯克可能失去控制权xbox有什么跨平台游戏凤凰网科技讯 北京时间12月18日消息,今年目前为止,特斯拉公司的股价已经累计下跌了62%以上。脸书前安全主管亚历克斯斯...
日期:12-18
小米12S减600元:跌至3399元 叠加24期免息「小米10s双11降价预测」
小米12S的正面屏幕依旧采用了居中挖孔屏,微曲面的屏幕手感也很好,而且整体的尺寸搭配握持的手感,也有不错的持握表现,触感手感都值得推荐,小米12S手机立减600元,现在到手只要3399...
日期:10-19
五一打卡必备清单出炉 带上京东这些神器去哪儿都能乐开怀「京东打卡软件叫什么」
春光正明媚,五一假期迎来倒计时。面对这个小长假,无论你是选择走进户外,感受清新空气,还是选择宅在家,和自己喜欢的游戏、电视剧一起度过悠闲假日时光,别忘记来京东放价季,将各式潮...
日期:04-28
苏黎世大学研究员开发SwissBERT多语言模型 针对瑞士小语种
7月18日 消息:瑞士苏黎世大学的研究人员开发了一种名为 SwissBERT 的多语言语言模型,用于瑞士的四种官方语言。之前,瑞士研究人员在多语言任务上面临困难,因为每种语言都需要单...
日期:07-18
暴雪与网易“分手”原因曝光 或是暴雪开出天价续约条件_网易收购暴雪了吗
11月17日消息,暴雪已经宣布,由于同网易的现有授权协议将在2023年1月23日到期,将暂停在中国大陆的大部分暴雪游戏服务。将暂停的游戏包括:《暗黑破坏神III》、《魔兽世界》、《星...
日期:11-20
鲁大师2023年手机半年报:骁龙8 Gen2霸榜,OV系相互追赶_鲁大师手机性能测评
  鲁大师 2023 年手机半年报正式发布,包含手机性能、手机芯片性能、手机久用流畅、手机流畅度、手机系统流畅度、手机AI性能共六个榜单。  接下来我们详细看看 2023 年手...
日期:07-13
微软在收购动视暴雪一事上已做得十分出色-巴菲特_暴雪 动视 收购
快科技5月7日消息,日前,巴菲特召开年度股东大会,在会上,巴菲特回答了投资人关于微软收购动视暴雪一事的提问。就这一问题,巴菲特表示:“我认为他们已经做得非常出色了”。具体来说...
日期:09-29
为什么这个直播间火了?「直播还火吗」
声明:本文来自于微信公众号唐韧(ID:RyanTang007),作者:唐韧,授权转载发布。最近抖音上有一个直播间很火,如果你刷到过一个大嘴妹的魔性喊麦的话,那就没错了。iphonexs多少电量充电好...
日期:10-22
支付宝保险严选好保险,为超过3000万家庭提供百万保障
  随着移动互联网的普及,加速了用户渠道建立。与传统的销售渠道相比,年轻群体相比之下更信任互联网,早已养成互联网消费的习惯,同时互联网透明化的特点契合了年轻群体主动了...
日期:07-16
rog魔霸5plus3060_无惧配置杀手 ROG魔霸5Plus搭载5900HX酣战赛博世界
  近日年度3A大作《赛博朋克2077》迎来1.1版本更新,在最新游戏版本内,包括NPC交互、激光效果、环境破坏系统、交通载具等场景或物品的属性都得到优化。仔细观察还可以发现,...
日期:07-16
开车占用应急车道扣多少分「司机占用应急车道狂飙超车致翻车:扣分罚款负全责!」
10月6日消息,应急车道是生命通道,但在高速堵车时,总有大聪明”会选择走应急车道,而且开得还特别快,当然,这时候就有可能发生事故。据媒体报道,近日在江苏南京,一黑色小车违法占用高...
日期:10-07
字节收购yy「字节回应收缩游戏业务:保留部分创新型游戏项目」
11月27日 消息:据澎湃新闻报道,针对“大规模收缩游戏业务”一事,字节跳动旗下朝夕光年方面回应称,朝夕光年确实将进行大规模业务收缩:对已上线的且表现良好的游戏,会在保证运营...
日期:11-27
周鸿祎谈马斯克呼吁暂停GPT-5研发:现在担心为时尚早
3月30日 消息:就在刚刚,针对“马斯克呼吁暂停GPT-5的研发”一事,360创始人周鸿祎发表了自己的观点称,这不影响中国发展自己的大语言模型,包括360在内的一些中国公司已经展示了自...
日期:03-30
iOS 17.2发布!15 Pro系列独占功能上线_ios15b
今日,苹果发布iOS 17.2 Beta 2更新,新增iPhone 15 Pro、iPhone 15 Pro Max录制空间视频功能。2022年度报告标题本次更新苹果为iPhone 15 Pro和iPhone 15 Pro Max机型新增了App...
日期:11-11
消费者花十多万下单152箱茅台“薅羊毛” 法院:构成不当得利_1499买茅台?男子找熟人花七万多买9箱 结果
2月22日 消息:商家把茅台酒标错价,消费者趁机“薅羊毛”,一口气花了十多万下单152箱,商家拒绝发货并主动退款。近日,北京互联网法院审结了高某诉某酒业公司信息网络买卖合同纠纷...
日期:02-25
荣耀magic2价格走势「荣耀magic v2今日价格","info":{"wordid":"7254790790063953204&quo
来源:中关村在线iphone 14或延迟发布近日,荣耀CEO赵明在国际消费电子展(IFA)上正式发布了该公司全新的概念折叠屏手机“荣耀V Purse”。据悉,荣耀V Purse概念折叠屏手机已经进入...
日期:09-05
宽带运营商恶性竞争 退网就剪你家网线_宽带运营商断网
  昨日上午,汉阳汇福苑小区46栋,一楼住户王先生将频频剪断他家宽带网线的男子抓了个现行。让王先生更为气愤的是,该男子竟是王先生原来安装的一家宽带运营商的工作人员。王...
日期:07-27
2023支付宝集五福活动时间公布;巴菲特第7次减持比亚迪;B站公布2022年前9月净营业额
文章目录 2023支付宝集五福活动时间公布 巴菲特第7次减持比亚迪 B站公布2022年前9月净营业额 2023支付宝集五福活动时间公布今日,支付宝“集五福”瓜分红包活动正式开启,活动...
日期:01-10
小米移动支持esim吗「小米推出eSIM手机 售价超过5000元」
中关村在线消息:今年美版的iPhone 14系列首次取下了SIM卡槽,改为eSIM。今日小米也推出了旗下首款eSIM手机小米12T Pro。小米12T Pro的起售价为750欧元,折合人民币超过5000元,10...
日期:10-12