您的位置:首页 > 互联网

破解国产大模型难题:避免“无源之水”,最后一公里需连接算法与芯片

发布时间:2023-07-08 17:37:11  来源:互联网     背景:

·中国工程院院士戴琼海表示:“我国应从政策、机制和投入上深化人工智能的人才培养和基础研究,强化原始创新,避免陷入‘无源之水’的困境。”

·清华大学电子工程系长聘教授汪玉指出:“上海本地已经有许多芯片企业,上海也有很多算法,怎样做到高效统一的部署,在芯片上把这样的算法跑起来,是一个非常重要的问题。”

7月7日,在2023世界人工智能大会“大模型时代的通用人工智能产业发展机遇以及风险”论坛上,多位通用人工智能领域的专家聚焦大模型,分别从基础创新、应用技术、未来前景等层面深度探讨人工智能。

“我国应从政策、机制和投入上深化人工智能的人才培养和基础研究,强化原始创新,避免陷入‘无源之水’的困境。”国务院参事、中国工程院院士戴琼海在主旨演讲中强调。

一加将成为全球5g时代的引领者

中国整体云计算市场仅有美国市场的十分之一

清华大学电子工程系长聘教授、系主任汪玉则从落地应用角度谈到,目前大模型垂直领域部署难度大,国内大模型落地面临三大挑战:领域部署成本高、模型算力缺口大和国产芯片替代难。“在大模型落地的最后一公里,我们需要将算法与芯片连接起来。” 汪玉说。

“脑智能是未来新的方向”

戴琼海认为,在大模型“0到1”的创新中,国内在基础研究领域的颠覆性成果弱。“从智能发展产业来看,我们是既乐观又不乐观。”在他看来,中国大部分人工智能人才集中于应用层,因此应用场景和技术层的发挥空间特别大。但中国在基础层人才方面明显处于弱势,原始创新不足。

戴琼海表示,人工智能创新发展需要三大支柱,即算法、数据、算力。算法决定智能水平,数据决定智能范围,算力决定智能效率。在算法层面,大模型预计5年左右成为人工智能应用中的关键基础性平台。

戴琼海同时指出,脑智能是未来新的方向。融合脑与认知的人工智能新算法是行业布局的前沿,将引领新一代智能。他在论坛上建议,政府应鼓励企业主导大模型建设,探索生物机制和机器特色相结合,进一步创造人工智能新范式,推动基础研究和应用拓展并举。他预计,以认知智能为核心的人工智能将在十年以后开始步入应用。

此外,戴琼海认为,需要警惕大模型应用的安全问题。大模型尚不能对输出进行可信性的验证,例如生成欺骗性内容。“这意味着大模型的应用一旦出现问题,可不是现在计算机网络病毒那么简单,杀杀毒就好了,这将会带来颠覆性的影响。因此大模型进行应用时,应将安全性和可信性讨论清楚。”

国内大模型应着力解决四个痛点需求

汪玉在论坛中表示,“上海非常关注人工智能和芯片,但从另外一个角度看,我们现在最先进的模型以及比较重要的算力,其实都受到了一定的限制。我们的算力应该往哪个方向去走,国产算力怎么样能更好地弥补起来,这样的空间如何支撑国家在大模型训练和推理等方面的发展,这些问题已经变得极其重要。”

红米联发科天玑1200

汪玉还提到,目前在国外,大算力芯片只有英伟达和AMD这两个公司可以选。英伟达占据主导市场,并且其软件生态比较好。“所以国外各种各样的模型,例如OpenAI、微软、谷歌,都在大批量地采购英伟达的芯片,然后在英伟达的软件框架之上去进行开发。国外的生态是很简单的,企业做好算法这一领域,部署方面有英伟达的软件体系来支撑。”

“但中国目前大算力芯片的发展还处于起步阶段。”汪玉认为,“上海本地已经有许多芯片企业,例如天数智芯、燧原科技、寒武纪、壁仞科技等。上海也有很多算法,怎样做到高效统一的部署,在芯片上把这样的算法跑起来,是一个非常重要的问题。”

汪玉同时强调,目前大模型垂直领域部署难度大,国内大模型落地面临三大挑战:领域部署成本高、模型算力缺口大和国产芯片替代难。

蔚来es6什么时候上市的

“与过去AI 1.0时代的一个模型针对一个特定任务不同,当今AI 2.0时代是一个模型解决多个任务,应用层、算法层、系统层需要协同优化。”汪玉表示,在大模型落地的最后一公里,国内大模型应着力解决四个痛点需求。

“我们首先需要处理长文本的问题,即用得好。”汪玉谈到,目前算法的趋势是将大模型支持的文本长度不断增大,但长文本也将带来负载激增的问题,Transformer(谷歌开发的一种深度学习模型,OpenAI在此基础上开发了GPT)架构的负载会随着输入变长而急剧增加。因此调整长文本是一个极其重要的需求。

大模型的另一个需求是性价比的提升。“如果谷歌在搜索引擎中应用大模型,这将增加360亿美元的成本,而利润可能损失65%。”汪玉表示,若公司能够做到降低一次点击的成本,整体的利润损失可能会降低。按此方向发展,每个人都有望用得起大模型。

此外,大模型需要赋能多种垂直领域,对于各行各业而言,目前并没有很多大模型拥有大量知识。尤其在医疗、金融等领域,语料数据获取代价昂贵,并且非常稀少。“如果能够加上通用基座大模型,并且进行微调,各行各业的基础性能有望进一步提升。”但汪玉也指出,如果在垂直领域发展,通用大模型一定要进行微调,而模型越大,微调的代价也随之大幅增高。因此,如何设计高效的微调算法是一个需要探讨的话题。

与此同时,大模型也带来了一站式部署的新需求。在软硬件的优化中,若将算子优化、编译调优、硬件部署进行分层部署,每日一共需要100个人力,而对于一站式自动化部署,每日只需要10个人力。汪玉指出,一站式部署能够优化人力成本,进一步增大编译优化空间规模,有望推动整个产业链的发展。


返回网站首页

本文评论
大众点评“跨年”等关键词的搜索量较上周增长171%「大众点评优质点评字数」
2022年末,社会流动带来的消费暖意正在逐渐释放。截至12月26日,大众点评网友主动搜索“跨年”等关键词的搜索量较上周增长171%,其中,北京、成都、上海、广州、深圳、武汉、重庆等...
日期:12-27
顺义消费券怎么领「北京顺义发放500万元电商消费券 先到先得」
2月9日 消息:今日,北京市顺义区启动“品顺义·乐生活”顺义电商消费节活动,发放500万元电商消费券,促进当地消费。首批300万元消费券按“先到先得”原则发放。apple watch市场...
日期:02-13
空气源热泵采暖专家告诉您,新兴清洁能源如何助力花卉大棚养殖发展
  社会经济快速发展,人们生活水平也便日益提高,花卉大棚养殖规模逐年呈递增趋势。但在国家绿色发展规划的推行中,粗放型养殖逐渐被限制与淘汰,绿色化、集成化发展大势所趋。...
日期:10-17
马斯克新推特「马斯克将于10月6日和7日就推特收购案接受推特律师询问」
9月28日消息,据国外媒体报道,一份法庭文件显示,特斯拉CEO埃隆·马斯克将于当地时间10月6日和7日上午在特拉华州威尔明顿的波特·安德森和科罗恩(Potter AndersonCorroon)律师事务...
日期:10-05
特斯拉第四季度营收243.18亿美元 汽车交付405278辆同比增长31%
1月26日消息,特斯拉今日公布了2022年第四季度及全年财报。数据显示,特斯拉第四季度营收243.18亿美元,同比增长长37%;净利润37.07亿美元;归属于普通股股东的净利润为36.87亿美元...
日期:01-26
iPhone16 无缘苹果自研 5G 芯片_苹果宣布自研芯片
6 月 21 日消息,来自巴克莱分析师的研报显示,第四代 iPhone SE 不会在 2024 年发布。第四代 iPhone SE 将首发搭载苹果自研 5G 芯片,最早将会在 2025 年发布。一季度国内手机销...
日期:06-21
小米汽车设计泄密供应商被处罚100万!雷军:泄密员工正在处理「小米泄密事件」
今天下午,小米公司对此前的小米汽车泄密事件进行了正式的通报处理。有了智能锁后开锁公司还有生意吗据介绍,这是小米合作方北京某模塑科技有限公司因对其下游供应商管理不善,泄...
日期:02-02
三星平板电脑使用教程「三星平板电脑」
近年来,随着智能移动设备的普及,平板电脑成为了人们生活中不可或缺的一部分,而其中因为其优秀的性能以及稳定的系统受到了很多消费者的喜爱。今天,我们来看一下的相关信息。首先...
日期:05-31
中石油原副总经理徐文荣落马 任职时年薪近百万_中国石油徐文荣调走
↑徐文荣。图据中石油网站哈啰假日狂欢节期间app日活突破1500万 增速超40元中国石油天然气集团有限公司原党组副书记、副总经理徐文荣涉嫌严重违纪违法,目前正接受中央纪委国...
日期:06-25
Apple 为 SignChat 申请商标以提供手语服务
5月29日 消息:根据欧盟知识产权局周末公布的一份清单,苹果已经获得批准使用名为“SignChat”的新商标,苹果已经在其德国网站上申请了该商标。iphonese有touchid吗Apple 的德国...
日期:05-29
在极客时间,享受不一样的IT职业教育_极客学院it在线教育
  中国式教育代表着高效率的学习、代表着教员对每一位学员的认真负责,希望学员学成之后能够达到自己的学习目的。有这样一个IT培训平台,就有着这样优秀的教员团队。极客时...
日期:07-16
微信8.0.0主要更新_微信 8.0 状态大更新
  (原标题::去掉 “微信 8.0”“聚餐”,新增 “裂开”“带娃”“浪”“宅”....)   今年 1 月份,腾讯微信团队发布了微信 8.0 大版本更新,在微信 8.0 中增加了全屏播放炸弹...
日期:07-16
通用汽车现在进入了能源行业的原因「通用汽车现在进入了能源行业」
通用汽车公司正在向房主、企业和公用事业部门推出新的能源产品系列,这是电动汽车攻势的下一步,目的是在制造和销售电动汽车之外创造收入,并直接针对特斯拉。下列属于蜂窝通信技...
日期:10-14
上海迪士尼辟谣12月15日关闭入口将正式停止运营「上海迪士尼为什么停止进入」
11月18日 消息:11月18日,上海迪士尼度假区官方微博发布消息称,以下截图为假消息。上海迪士尼度假区表示,园区已于2022年11月17日启动第一阶段重新开放,迪士尼小镇、星愿公园和上...
日期:11-20
中国量子计算上市公司「中国量子计算公司 已经用量子来玩股票基金了」
近日,本源量子联合新华指数团队合作开发出量子启发式算法,该算法可以在经典计算机上运行,能够有效降低投资成本,加快决策效率,提升投资收益。官方介绍称,量子启发式算法是一种利用...
日期:11-04
华为商用电脑「商用电脑」
是一种专为商业活动所设计的电脑,主要用于办公、商务、金融及科研等领域。相较于家用电脑,具有更高的性能、更强的稳定性和更可靠的安全性。下面我们从以下几个方面来介绍的特...
日期:06-01
amd暴打英特尔图「AMD英特尔松了一口气 PC最黑暗的日子过去了」
快科技6月15日消息,去年下半年全球PC市场三年的繁荣嘎然而止,寻求迅速下滑,并延续到了现在,今年Q1季度创下了10多年来最惨下滑,AMD及英特尔的日子也不好过。好消息是,今年Q1季度应...
日期:06-16
特斯拉杀手Rivian整活儿 OTA后支持“下跪模式”:上下车更方便了
SUV、皮卡由于要保证通过性,所以离地间隙一般都比较高,对于小孩、老人而言,上下车实属有点难,所以一般要配上脚踏板.而近日,素有特斯拉杀手”之称的Rivian汽车则OTA上线了一个新...
日期:10-30
阿里财务官:阿里巴巴所有业务集团都会寻求独立上市_阿里巴巴财务公司
3月30日 消息:3月28日,阿里巴巴集团董事会主席兼首席执行官张勇发布全员信《唯有自我变革,才能开创未来》,宣布启动“1+6+N”组织变革。按照“1+6+N”的组织结构,阿里将分为三层...
日期:03-30
谷歌上演万人大裁员 CEO回应:高管年终奖大降_谷歌高管年薪是多少
近段时间,美国科技公司上演裁员潮,亚马逊、微软均已宣布大裁员。而作为全球科技巨头之一,谷歌也于上周公布万人裁员消息。1月21日,谷歌母公司美国字母表公司20日宣布在全球范围...
日期:01-25