您的位置:首页 > 互联网

英特尔首发大型神经拟态系统Hala Point,推进“绿色AI”发展_英特尔haswellult integrated

发布时间:2024-04-19 06:48:09  来源:互联网     背景:

通信世界网消息(CWW)英特尔发布了代号为Hala Point的大型神经拟态系统。Hala Point基于英特尔Loihi 2神经拟态处理器打造而成,旨在支持类脑AI领域的前沿研究,解决AI目前在效率和可持续性等方面的挑战。在英特尔第一代大规模研究系统Pohoiki Springs的基础上,Hala Point改进了架构,将神经元容量提高了10倍以上,性能提高了12倍。

“ 目前,AI模型的算力成本正在持续上升。行业需要能够规模化的全新计算方法。为此,英特尔开发了Hala Point,将高效率的深度学习和新颖的类脑持续学习、优化能力结合起来。我们希望使用Hala Point的研究能够在大规模AI技术的效率和适应性上取得突破。”——Mike Davies  英特尔研究院神经拟态计算实验室总监

Hala Point在主流AI工作负载上展现了出色的计算效率。研究显示,在运行传统深度神经网络时,该系统能够每秒完成多达2万万亿次(20 petaops)运算,8位运算能效比达到了15 TOPS/W,相当于甚至超过了基于GPU和CPU的架构。Hala Point有望推动多领域AI应用的实时持续学习,如科学研究、工程、物流、智能城市基础设施管理、大语言模型(LLMs)和AI助手(AI agents)。

目前,Hala Point是一个旨在改进未来商用系统的研究原型。英特尔预计其研究将带来实际技术突破,如让大语言模型拥有从新数据中持续学习的能力,从而有望在AI广泛部署的过程中,大幅降低训练能耗,提高可持续性。

英特尔神经棒

深度学习模型的规模正在不断扩大,参数量可达万亿级。这一趋势意味着AI技术在可持续性上面临着严峻的挑战,有必要探索硬件架构底层的创新。神经拟态计算是一种借鉴神经科学研究的全新计算方法,通过存算一体和高细粒度的并行计算,大幅减少了数据传输。在本月举行的声学、语音与信号处理国际会议(ICASSP)上,英特尔发表的研究表明,Loihi 2在新兴的小规模边缘工作负载上实现了效率、速度和适应性数量级的提升[1]。

Hala Point在其前身Pohoiki Springs的基础上实现了大幅提升,基于神经拟态计算技术提升了主流、常规深度学习模型的性能和效率,尤其是那些用于处理视频、语音和无线通信等实时工作负载的模型。例如,在今年的世界移动通信大会(MWC)上,爱立信研究院(Ericsson Research)就展示了其如何将Loihi 2神经拟态处理器应用于电信基础设施效率的优化。

Hala Point基于神经拟态处理器Loihi 2打造,Loihi 2应用了众多类脑计算原理,如异步(asynchronous)、基于事件的脉冲神经网络(SNNs)、存算一体,以及不断变化的稀疏连接,以实现能效比和性能的数量级提升。神经元之间能够直接通信,而非通过内存通信,因此能降低整体功耗。

Hala Point系统由封装在一个六机架的数据中心机箱中的1152个Loihi 2处理器(采用Intel 4制程节点)组成,大小相当于一个微波炉。该系统支持分布在140544个神经形态处理内核上的多达11.5亿个神经元和1280亿个突触,最大功耗仅为2600瓦。Hala Point还包括2300多个嵌入式x86处理器,用于辅助计算。

英特尔神经棒

在大规模的并行结构中,Hala Point集成了处理器、内存和通信通道,内存带宽达每秒16PB,内核间的通信带宽达每秒3.5PB,芯片间的通信带宽达每秒5TB。该系统每秒可处理超过380万亿次8位突触运算和超过240万亿次神经元运算。

在用于仿生脉冲神经网络模型时,Hala Point能够以比人脑快20倍的实时速度运行其全部11.5亿个神经元,在运行神经元数量较低的情况下,速度可比人脑快200倍。虽然Hala Point并非用于神经科学建模,但其神经元容量大致相当于猫头鹰的大脑或卷尾猴的大脑皮层。

金融壹账通估值

在执行AI推理负载和处理优化问题时, Loihi 2神经拟态芯片系统的速度比常规CPU和GPU架构快50倍,同时能耗降低了100倍[1]。早期研究结果表明,通过利用稀疏性高达10比1的稀疏连接(sparse connectivity)和事件驱动的活动,Hala Point运行深度神经网络的能效比高达15 TOPS/W[2] ,同时无需对输入数据进行批处理。批处理是一种常用于GPU的优化方法,会大幅增加实时数据(如来自摄像头的视频)处理的延迟。尽管仍处于研究阶段,但未来的神经拟态大语言模型将不再需要定期在不断增长的数据集上再训练,从而节约数千兆瓦时的能源。

世界各地领先的学术团体、研究机构和公司共同组成了英特尔神经拟态研究社区(INRC),成员总数超过200个。携手英特尔神经拟态研究社区,英特尔正致力于开拓类脑AI前沿技术,以将其从技术原型转化为业界领先的产品。

英特尔computing improvement


返回网站首页

本文评论
更美APP女王节带入轻松筹、爱回收送变美福利
  3月6日,在多家互联网公司群里出现了更美APP女王节企业医美福利专场,更美APP是国内领先的专业医美平台,提供医美、口腔、眼科等消费医疗项目。原来,随着现代女性对医美...
日期:10-24
三星s7是哪年上市的「三星s7」
三星S7是三星公司于2016年推出的一款旗舰智能手机,作为三星公司的“S”系列的一员,它不仅具备了强大的硬件配置,还拥有着卓越的拍照效果、强劲的性能、全面的功能和美观的外观...
日期:05-30
谷歌工程师2018年内部信曝光,5年前就有人拉响AI警报了
机器之心报道编辑:张倩看起来,虽然行动慢了一些,谷歌搜索的地位暂时还无人可以撼动。2023 年 2 月,谷歌 CEO 桑达尔・皮查伊(Sundar・Pichai)对内发布了一份红色代码预警,要求谷歌...
日期:02-13
东方甄选的“保质期”还有多久?
声明:本文来自于微信公众号 xxxxxx(ID:xxxxx),作者 |归去来,编辑|唐飞,授权转载发布。2021年7月,“双减”政策的落地,也让国内各类教培机构跌落到谷底。为了“活下去”,曾经的教培龙...
日期:01-12
X将向所有用户推出音频和视频通话功能
X,马斯克旗下的社交平台,在去年推出了一项新功能,允许用户进行语音和视频通话。然而,这项功能仅限于高级订阅用户使用。近日,X CEO Linda Yaccarino透露,该平台正在逐步向未订阅X...
日期:02-24
AMD Zen4架构深入揭秘!49%性能提升从何而来?「amd zen4 5nm」
AMD锐龙7000系列的性能大家都见识过了,提升幅度可能没有预想得那么猛,但依然诚意十足。锐龙9 7900X作为次旗舰,就足以碾压12代酷睿顶级灰烬版i9-12900KS。主流的锐龙5 7600X更...
日期:10-13
智联招聘发布《十大前沿数字技术人才发展报告》「智联招聘行业报告」
10月31日消息,智联招聘近日发布《十大前沿数字技术人才发展报告》。数据显示,今年1-8月,十大前沿数字技术中,数字孪生领域技术岗位招聘规模同比增速最高,达252.5%。其次是区块链,...
日期:11-02
荣耀Magic 5曝光:全新年度旗舰 骁龙8 Gen 2首批「honor magic2处理器」
十一期间,有荣耀下半年和明年初新品布局的消息传出,荣耀2023年初将会正式发布Magic 4系列手机,具体发布时间将在明年的3月左右,该机将会搭载高通在2023年的新旗舰芯片骁龙8 Gen...
日期:10-05
自带屏下摄像头:天马展示OLED车载三折屏
快科技8月1日消息,今天,天马官微展示了一款设计独特的车载OLED屏幕。这款车载OLED显示屏采用了三折设计,并将摄像头嵌入显示屏内,将屏下摄像头区域与显示区域无缝”融合,以此达到...
日期:08-02
刚建仓就大抛售!巴菲特砍仓台积电86% “小赚一笔”就跑?「巴菲特仓位多少」
台积电去年四季度区间涨幅约9%,今年以来区间涨幅已达31.51%,最新收盘价近98美元。据分析师计算,伯克希尔大约以68.5美元价格买入台积电,并以74.5美元卖出。。360 安全路由器 《...
日期:02-15
长沙女子霸占车位事件当事人:局面已失控 先缓一缓「女子控诉误占车位被豪车围堵」
近日,长沙一女业主车位被女邻居霸占数月、一怒之下焊上地桩的事件引发各方关注,而且持续发酵,双方僵持不下,各方调解也无济于事。据媒体报道,5月8日,占用车位的车主唐女士回到长沙...
日期:05-10
梅西职业生涯第1000场比赛进球 雷军用小米13送祝福 米粉建议出联名款
北京时间12月4日凌晨,在世界杯1/8决赛中,梅西打入个人世界杯淘汰赛的首个入球,带领阿根廷队在卡塔尔世界杯以2:1战胜澳大利亚队,晋级八强。今日,小米CEO雷军用即将发布的小米13发...
日期:12-05
海信8k电视机65寸多少钱「共探8K未来_海信视像积极推动8K技术发展和普及」
8月10日,第24届上海国际摄影器材和数码影像展览会(P&I 2023)在上海新国际博览中心开幕,以“超清无界·与创作者共探8K未来”为主题的佳能·8K技术生态论坛同期举办,海信视像显示...
日期:09-09
Wi-Fi 7时延将降低90%?锐捷发布全场景Wi-Fi 7解决方案_wifi6锐捷
6月27日消息,Wi-Fi协议不断发展,Wi-Fi 7相较前代进化,“加载”了许多新功能。锐捷近日发布了全场景Wi-Fi 7方案。据介绍,Wi-Fi 7单射频的协议理论可以达到46Gbps,是前代协议的4.8...
日期:06-27
抖音修订《【美妆】行业管理规范》 变更类目入驻标准「抖音美妆个护新规」
11月3日 消息:11月3日,抖音发布关于修订《【美妆】行业管理规范》的意见征集通知。意见征集期为2022年11月3日—2022年11月10日。核心变化为变更美妆行业类目入驻标准:特殊品...
日期:11-13
三星双十二活动「三星商城双12钜惠不停 Galaxy手机年终狂欢 好价开抢」
近日,各大厂商的双十二活动,紧锣密鼓得拉开了序幕,为想要赶在年末换机的消费者带来了诸多实惠价格和购机福利。目前,三星商城“12. 12 年终狂欢 好价开抢”活动正在进行中,如果你...
日期:12-12
摩托罗拉Razr 2023真机曝光:折叠外观变了_摩托罗拉razr2021
去年摩托罗拉还进行了迭代升级,推出了Razr 2022,而现在只要4000多就能入手,门槛继续降低,有海外爆料者直接公布了摩托罗拉Razr 2023的真机图。美国谷歌订餐iphone黄牛亏本该机依...
日期:03-11
这款骨传导耳机都卖疯了!!!不愧是百元骨传导耳机性价比之选!!!
近期李佳琪直播间上架了一款骨传导耳机—南 卡Runner CC4,直播间一经上架,南 卡Runner CC4骨传导耳机便迅速售罄,其火爆程度可见一斑。李佳琪直播间之所以能迅速售罄骨传导耳机...
日期:03-12
拼多多 “百亿补贴节”开启(拼多多百亿补贴节是什么时候)
  8月6日 - 8日,拼多多正式上线 “百亿补贴节”活动,热门大牌年度狂补,补贴力度持续加码,尖货集结,苹果、华为、小米等全网大牌多款历史低价,入手超值。   活动涵盖数码3C、...
日期:07-15
库克 今年将是最精彩WWDC 让我们码出新宇宙「库克发布新消息」
北京时间6月6日凌晨1点,苹果公司第23届全球开发者大会(WWDC23)即将开始,本次大会的主题是“码出新宇宙”。在开幕之前,苹果公司CEO蒂姆·库克在微博上发布了预热文章,称“WWDC是他...
日期:06-06