移动云ar核心平台「中国移动推动AI+端侧算力融合 提升云算终端智能体验」

中国移动推动AI+端侧算力融合 提升云算终端智能体验 通信产业网|2023-07-10 16:47:52作者：通文来源：通信产业网

【通信产业网讯】算力时代，随着终端设备智能化程度加深和AI大模型的升级迭代，CPU、GPU和DPU等处理器的性能大幅提升，终端算力得到了显著增强，端侧算力网络融合AI成为提升智能终端体验的关键一步。

端侧算力融合“轻量级AI” 重塑算力终端新业态

近年来，终端设备以前所未有的种类和数量融入群众的生活之中，全国存量手机算力是数据中心算力的12倍，但算力利用率不足15%；全国宽带用户规模达5.9亿，却有80%带宽资源处于闲置状态。终端设备呈现海量、轻量、资源利用率低的特点。

作为中国移动算力网络的重要组成部分，端侧算力网络应运而生。端侧算力是指整合海量的用户侧终端设备（包括个人终端、家庭终端等）以及端侧集中部署的设备（包括小区入口设备、边缘节点等）的算力，通过网络连接实现终端算力资源的统一管理和动态调度，并通过与边缘计算、云计算的充分协同，为用户按需提供高质量的计算服务。比如用户在使用某一应用的过程中，使用场景发生变化，端侧算力网络能根据业务类型的不同，为用户匹配并选择能力合适的执行终端，实现应用在不同设备之间的无缝切换。

同时，ChatGPT的应用引爆了新一轮人工智能热潮，生成式AI给终端带来了全新的交互模式，AI大模型逐渐轻量化，可在电脑、手机等智能终端上直接运行。

“AI 大模型的下沉和私有化部署，还将实现终端用户每人都拥有个性化专属AI助手，面向CH端，端侧算力网络将能够实现由单体服务变为多终端协同服务；面向B端，端侧算力网络能够实现海量终端结网提供分布式低成本算力。”中国移动终端公司副总经理汪恒江强调，端侧算力网络通过汇聚家庭、个人、行业设备的泛在算力，将打造出具有空间计算场和并网计算场景两大服务场景及商业模式，实现终端服务全新升级。

端侧算力+AI=机遇和挑战

目前全国智能终端仍处于大幅增长阶段，据IDC数据，2025年智能终端规模将增长至800亿台，端侧算力蕴藏着巨大潜力。

算力是数字经济与人工智能时代下的生产力，随着智能终端硬件技术的快速发展和应用领域的扩大，智能终端承载了不同类型的业务和服务需求，数据处理时延和精度的要求不尽相同。

而端侧算力网络具备的自治组网、时空高动态性、多层次多级端算力和强安全隐私等天然属性，决定了不同类型终端操作系统繁多、算力水平差异大且适配困难，各芯片平台算法生态及协议不互通，终端间通信情况复杂且存在不稳定性，给端侧算力感知、整合、协同调度等环节带来诸多技术挑战。

AI大模型趋向小型化+个性化为终端智能化发展带来新机遇。手机、电脑等终端生成并存储了海量数据，终端侧私有数据和推理计算将是终端应用能力的重要方向，可直接运行在手机和电脑等智能终端上的私有化AI模型成为“大模型时代”的新需求。

基于用户使用习惯，通过终端设备在保障用户数据隐私的基础上，提供AI差异化智能服务，需要设计出更高准确率、更高效、更智能，并且可以在算力终端设备上部署的个性化AI推理模型，来满足非智能终端的智能化升级，直接为终端设备提供泛在的AI算力服务，端侧算力融合AI助力云算终端普及。

激活端侧算力新动能 打造算力时代“新物种”

“进入数字化生活以来，我们随时随地都在生成照片、视频等数字资料，海量数据的存储与分类，对手机等智能终端性能提出了更高的要求。借助家庭算力主机，一键设置手机、电脑文件实时备份，依托AI算法自动识别数据场景，对文件进行安全、高效地存储、管理与生成；下班时，我们可以提前同步分享行程信息给家人，并且启动智能家居多端协同服务，让智能化生活触手可及……” 在上海世界移动通信大会中国移动“数智赋能 共享未来”展区，展台工作人员正在向参展观众介绍算力终端家庭算力主机。

除了胖终端家庭算力主机，中国移动还推出瘦终端云手机、云电脑、移动云高清新型云算终端产品，算力赋能为终端行业带来新的生产力。

为推动端侧算力网络在感知、整合、组网等环节的协同调度，中国移动于三年前启动端侧算力关键技术研究，2022年发布《端侧算力网络白皮书》，完成端侧算力网络技术工程；目前累计攻关7大关键技术，试点验证连接型算力主机15万台，存储型算力主机200台，纳管终端设备15万台。

在融合AI与端侧算力网络生态合作方面，面向物联网应用领域，中国移动携手旷视打造基于硬件的人工智能大模型综合解决方案，让AI向实而生。围绕“软硬一体”的合作模式，旷视建立以芯片和算法结合为核心的终端能力，研发基于不同场景的AI算法，致力于把边端和云的算力打通，让所有的算法能够动态进行调配和升级。

“一个技术赋能所有产品。”PC端搭载高通骁龙AI引擎的硬件、软件和工具，端侧AI是距离用户最近的多模态入口。高通产品技术高级总监徐恒介绍，“端侧我们现在做的10亿参数，很快几个月以后就能看到百亿参数，我们在这里面的覆盖率会变得非常高。无论是端侧AI还是混合AI，这就是一个基础。”

发挥链长引领作用 推动终端产业高质量发展

一个产业的高质量发展离不开行业上下游伙伴的共同推动。在终端产业进入算网融合新阶段，中国移动积极发挥“链长”作用，面向华为、OPPO、中兴、旷视、高通、联想、科大讯飞、浪潮等芯片、终端硬件产品、操作系统、智能Al、软硬件一体化解决方案合作伙伴，推出“一个联盟，两大计划”的重磅合作举措。

依托“算力终端产业联盟”，中国移动正式启动“繁星计划”和“霄云行动”，丰富算力终端新产品，创新端侧算力新服务。其中，“繁星计划”面向算力终端携手合作伙伴，推动终端品类丰富和算力应用发展。汪恒江表示，希望在2023年达到算力终端百款、云电脑百万、用户百万、算力应用百款、生态合作伙伴百家的发展目标。

繁星璀璨，智算未来。中国移动愿携手产业链生态合作伙伴全面推动算力网络融合AI，共创云算终端新生态，实现网络无所不达、算力无所不在，智能无所不及的愿景，让智能更广泛地惠及群众生活。

1000

责任编辑：崔亮亮