您的位置:首页 > 互联网

清华芯片新突破登Science,获评“存算一体领域重大进展”!基于类脑架构实现片上快速AI学习

发布时间:2023-10-12 17:03:08  来源:互联网     背景:

声明:本文来自于微信公众号 量子位(ID:QbitAI),作者:明敏,授权转载发布。

清华最新芯片成果,登上Science!

全球首颗全系统集成、支持高效片上学习的忆阻器存算一体芯片,正式问世。

它集合了记忆、计算和学习能力。

能在片上快速完成不同任务的模型训练。

而能耗仅为先进工艺下ASIC的1/35,能效有望提升75倍,同时兼顾保护隐私。

魅族手机无线投屏到电视机

这就是由清华大学集成电路学院吴华强教授、高滨副教授团队带来的最新成果。

相关话题已经登顶知乎热榜。

Science编辑评价其为:

存算一体领域的重要进展。

芯片内搞定AI训练

正如人类大脑能够基于预先接受过的知识,快速学习新场景中的新知识。

边缘设备也需要具备类似的学习能力,才能更好适应用户习惯和新场景。

但是目前神经网络训练需要将大量数据在计算和存储单元之间来回移动。这使得在边缘设备上很难高效进行训练任务。

基于忆阻器内存高速访问、断电后仍可保存数据的特性,可以实现内存+硬盘二合一,解决数据的大量移动,从而进一步实现了完全在芯片上进行学习任务。

由此,清华团队提出忆阻器存算一体芯片。

它集成了高性能忆阻器阵列和必备模块,同时也是一块类脑计算芯片(neuro-inspired computing chip)。

为此,研究团队提出了一种新型通用算法和架构(STELLAR)。

它利用忆阻器的特性,通过仅计算正负号、预定义阈值、循环调谐等设计,提升正向传播算法映射到芯片硬件上的效率,从而实现了高效率、低功耗的片上学习。

研究人员通过几个实验来验证片上学习的能力。

第一个实验中,有一台追踪光点的小车。在进行提升学习前,小车在明亮场景中会跟丢光点。

而通过500个训练样本进行端侧学习后,小车在明亮和黑暗场景中都能很好完成任务。

从下图D中可以看到,小车在明亮场景下的得分从原来的0.602提升到了0.912。

另一个实验是进行图像识别。

实验步骤是先让基本模型识别数字“0”和“2-9”,然后让模型学习识别数字一个新类别的“1”。

结果可以看到,在经过150次训练后,进行提升学习能将准确度从7%提升到93%。

研究团队十余年攻坚

本次成果来自清华大学集成电路学院吴华强教授、高滨副教授团队。

吴华强教授现任清华大学集成电路学院院长、清华大学微纳加工中心主任。

2005年在美国康奈尔大学(Cornell University)电子与计算机工程学院获工学博士学位。随后先后在美国Spansion公司和美国Primet Precision Materials公司分别担任高级工程师和技术主管。

2009年,加入清华大学微电子学研究所。

研究方向为新型存储器及基于忆阻器的存算一体,涵盖从器件、工艺集成、架构、算法、芯片以及系统等多个层次。

高滨副教授于2013年获得北京大学微电子与固体电子学专业力学博士学位,2015年加入清华大学微纳电子系。

研究方向为新型存储器,器件模型与模拟,设计-工艺协同优化,存算一体与神经形态芯片,信息安全芯片。

苹果6s与苹果7

张文彬、姚鹏作为学术论文的第一作者。

实际上,关于该方向的存算一体芯片,清华团队已经探索了十余年。

redmik40 小米11

2012年,钱鹤、吴华强团队开始研究用忆阻器来做存储。研究团队最初在实验室中探索忆阻器器件的一致性和良率。

2014年,清华大学与中科院微电子所、北京大学等单位合作,优化忆阻器的器件工艺,制备出高性能忆阻器阵列——这一次提出的最新成果中已应用。

2020年,钱鹤、吴华强团队基于多阵列忆阻器,搭建了一个全硬件构成的完整存算一体系统,在这个系统上高效运行了卷积神经网络算法,成功验证了图像识别功能,比图形处理器芯片的能效高两个数量级,大幅提升了计算设备的算力,实现了以更小的功耗和更低的硬件成本完成复杂的计算。

如今,随着大模型趋势到来,AI算力瓶颈问题更加突出,存算一体等新方案也备受关注。

Science编辑表示,基于忆阻器的芯片技术近期受到非常大的关注,它有望克服冯诺依曼架构造成的算力瓶颈。

论文地址:

https://www.science.org/doi/abs/10.1126/science.ade3483


返回网站首页

本文评论
iphone触控id无法识别指纹「屏下Touch ID没戏!曝iPhone 15没有指纹识别」
据外媒Macrumors报道,彭博记者古尔曼表示,苹果近年来已经测试了屏幕下的Touch ID,但他预计在可预见的未来,Touch ID不会回归iPhone 15或其他旗舰机型。古尔曼可以想象一款新的iP...
日期:10-04
研究发现近19%的网络钓鱼邮件绕过微软Defender安全系统「电子邮件钓鱼攻击」
对于许多组织来说,Microsoft 365已经成为他们默认的电子邮件服务。但对于攻击者来说,这使得它作为一个破坏点具有吸引力。云计算和电子邮件安全专家Avanan的新研究显示,微软防...
日期:10-09
微信:9月1日起 微信小程序须完成备案后才可上架
8月9日 消息:微信公众平台发布《关于开展微信小程序备案的通知》称,为贯彻落实《中华人民共和国反电信网络诈骗法》、《互联网信息服务管理办法》及《非经营性互联网信息服务...
日期:08-10
新能源汽车行业的进入壁垒有哪些「通用汽车现在进入了能源行业」
通用汽车公司正在向房主、企业和公用事业部门推出新的能源产品系列,这是电动汽车攻势的下一步,目的是在制造和销售电动汽车之外创造收入,并直接针对特斯拉。该产品线将被置于一...
日期:10-26
网络游戏直播和游戏短视频:涉及的版权问题这次会议讲清楚了_网络游戏直播著作权开题报告
  网络游戏作为一个“黄金产业”,正在被深度开发,出现的新业态就包括游戏直播和短视频。然而,衍生产业火热发展的同时,背后的知识产权问题也浮出水面。   9月19日举行的网...
日期:06-05
微软给万众瞩目的Office AI工具开出巨硬标价:每人每月30美元_microsoft aip
财联社7月19日讯(编辑 史正丞)当地时间周二,引领这一轮AI浪潮的微软终于亮出了Office 365人工智能助手的报价,引发资本市场新一轮的狂欢。(来源:微软)微软在周二举行的全球合作伙伴...
日期:07-19
消息称三星 Galaxy Z Fold5 手机用上水滴铰链,折痕比国产手机大_三星fold2折叠铰链凸起
IT之家 6 月 12 日消息,三星爆料人 @UniverseIce 今日在推特发文称,三星新款折叠屏手机 Galaxy Z Fold5 将采用水滴铰链,但折痕比国产折叠屏手机要大得多,仅比 Galaxy Z Fold4...
日期:06-13
小米智能电视仅1399元 选家电就上“真快乐”APP(小米电视中关村在线)
  随着新年的到来,许多购房一族陆续搬至新房过春节,可谓喜上加喜。不过,为新房添置新家电可是一门大学问,这个时间节点,如何才能选到大牌低价的家电呢?相信“真快乐”APP会是...
日期:07-10
三维信息获取与应用教育部重点实验室「玩出梦想品牌全面升级,加速推动三维信息技术革命」
   9 月 7 日,玩出梦想品牌迎来全面升级,品牌名由大众熟知的“YVR”正式更名为“玩出梦想”(此前的“YVR品牌”则将作为公司VR产品线的子品牌名继续保留)。玩出梦想还启用了全...
日期:09-07
周鸿祎预测ChatGPT发展:它的进化速度非常快 几年后可能会失控
快科技5月8日消息,360创始人周鸿祎近日在与俞敏洪的对话中谈到ChatGPT,他认为其发展是指数级的,几年后可能会失控。c6雪铁龙优惠此前,据澎湃新闻报道,周鸿祎在采访中还表示,ChatGP...
日期:05-08
2019年终盘点:这一年,人工智能“红利”兑现
  转眼间2020年已经到来,在过去的一年里,人工智能发展如火如荼,在人工智能赋能下的各个领域均取得了突破性的进展。经历了三次发展浪潮后,2019年,人工智能开始落地实际化应用,...
日期:01-18
跟美的、海尔比,格力真是掉队了_海尔与美的格力的对比分析
作者|Eastland头图|视觉中国在国内外多重不利因素作用下,经济增长放缓、居民对未来收入的信心不足,社会消费总额下降。由于购买家电不是刚需(冰箱、洗衣机、电视机只要还能用,晚几...
日期:09-15
全球首颗,来自武汉!发射时间确定_2018年5月我国发射的世界首颗
极目新闻记者 晏雯茫茫太空中,华为智能手表黑科技明年将新增一颗卫星,这也将是全球首颗医学遥感卫星。8月16日,极目新闻记者从武汉大学人民医院新闻发布会上获悉,全球首颗健康研...
日期:08-19
微软再遭欧盟反垄断调查:Office和Teams捆绑销售引争议「微软欧洲研发」
快科技7月27日消息,今天,据外媒报道,欧盟反垄断机构再次针对微软展开了调查。此次引起反垄断调查的,是微软将Office与Teams捆绑销售的行为。欧盟委员会表示:微软可能在滥用和维护...
日期:07-28
火狐FireFox 106版浏览器发布 PDF软件又可以扔掉一个了「firefox最新版」
虽然谷歌的Chrome、微软的Edge浏览器抢市场很厉害,但火狐FireFox浏览器还是有很多粉丝,今天火狐FireFox 106版也发布了,带来了不少实用功能,比如PDF编辑,以后又可以扔掉一个第三...
日期:10-22
苹果A16芯片造价曝光:达A15的2.4倍「苹果A16芯片」
中关村在线消息:近日,有外媒曝光了iPhone 14 Pro/Pro Max两款机型内搭载的A16芯片的信息,称其造价高达110美元(折合人民币约782元),是上代A15仿生芯片的2.4倍有余。根据介绍,A16仿...
日期:10-22
美股周三:三大股指小幅收涨,热门中概股普涨,阿里涨近3%,知乎涨近7%
美国时间周三,美股收盘主要股指全线小幅上涨,道指结束了近一个月来最长的连跌纪录,投资者等待美联储主席鲍威尔的讲话。道琼斯指数收于32969.23点,上涨59.64点,涨幅0.18%;标准普尔...
日期:08-25
微软中国任命原欣为中国区总裁_现任微软总裁
  微软公司9月26日宣布,任命原欣(Bessie Yuan)为微软中国区总裁。原欣将直接向微软公司全球资深副总裁、大中华区董事长兼首席执行官侯阳博士汇报。原欣将全面领导微软中国区...
日期:10-04
小米侧翻手机「雷军:小米手机端侧大模型可媲美云端运算能力_」
8月14日消息,今晚2023雷军年度演讲在北京举办。在演讲中,雷军提到小米全面拥抱大模型,小爱同学已经开始升级大模型。雷军表示,在AI方面,小米已经有了7年的研发历史,从2016年组建第...
日期:08-14
“社区拼团”的新宠,苏小团已招募外部团长过万人_苏小团怎么申请团长
  “社区”成为了人们最频繁消费的场景之一。随着智能时代的到来,人们喜欢在网上便捷购物,也想要更快的拿货,于是线上线下无缝连接的"苏小团",成为了很多消费者的新宠。   ...
日期:08-04