打通大模型应用落地最后一公里：中国移动发布九天超融合信创一体机

打通大模型应用落地最后一公里：中国移动发布九天超融合信创一体机 通信产业网|2024-05-31 11:58:23作者：通文来源：通信产业网

当前，大模型的快速发展极大丰富了人工智能的应用场景，与此同时，随着计算资源的增加和深度学习框架的成熟，如何通过简化部署流程，降低技术门槛，让更多的企业和开发者能够参与到大模型的应用和开发中来，成为业界关注的重点。

在第七届数字中国建设峰会期间，中国移动重磅发布了九天超融合信创一体机（以下简称“九天一体机”）。作为中国移动大模型应用落地的边端智算产品，其搭载了中国移动自主研发的139亿参数语言大模型以及面向垂直行业的10亿级参数视觉大模型，为行业用户提供了开箱即用的大模型服务。在大模型备受关注的当下，随着该边端智算产品的发布，大模型和人工智能服务落地的最后一公里正被“打通”。

边端推理算力市场的挑战与蓝海

AI大模型时代，中国大模型的应用商业化进程日益加速，已在内容创作、企业服务、政务服务等领域形成实际落地案例，企业部署大模型应用的需求正不断攀升。

从场景来看，ChatGPT的出现，用户迅速发展至全球市场，成为增长最快的消费应用，直接促进了生成式人工智能的发展与落地，而ChatGPT其总算力消耗中有高达70%用于推理环节；英伟达作为AI芯片领域的领军企业，其2023年的推理芯片收入已占到全年收入的40%。

相比之下，我国推理算力占比目前约为20%，随着AI应用的广泛普及，推理算力部署的需求强劲增长。面向工业、智能城市、医疗金融广泛应用场景下，边缘推理算力部署成为推理算力服务提供的重要形态。

相关数据显示，当前在国内泛在分布式推理资源部署并不完善。边缘推理算力入驻式部署，可以帮助企业AI算力快速落地，数据本地不出“园”，业务体验好。预计未来，边缘推理算力入驻式部署将是重要的算力承载形态。 

然而，传统边端盒子由于硬件配置有限，往往无法承载大模型以及专业级高强度任务，且通常缺乏数据和安全等可靠性措施，更无法额外扩展存储和算力；机房服务器则面临重资产投入、业务交付周期长、高电压供电需求等痛点。

因此，中国移动（浙江）创新研究院推出了九天AI软硬全栈超融合训推一体机，为大模型边端落地提供了更为高效、可靠和灵活的解决方案，实现了模型和算力的全栈深度融合。

三大优势傍身：打通大模型应用快速落地最后一公里

当前，中国大模型的发展凸显出对自研能力和行业适配度的重视，特别是面对国际环境的不确定性，加速国产算力的打造成为产业自主发展的基石。同时以低成本、高效率的方式满足特定场景应用，将促使更多中小企业能够参与到大模型的创新应用中，促进产业生态的多元化发展，而九天一体机正是这样一款产品。

九天一体机适合边缘轻量推理场景，支持多种典配，满足应用不同的计算、存储、AI、网络等需求。同时，支持平滑按需扩展，用户可以根据实际需求逐步增加硬件资源，无需一开始就进行大量投资。统一管理平台和极简运维的特性使得设备的管理和维护变得简单高效，大大降低了运维成本。

事实上，一体机作为边缘算力基座，不仅需要具备充沛的算力，更要能提供面向如语言大模型、视觉大模型等诸多场景的能力。因此，在技术创新上，九天超融合信创一体机呈现三大特点。

一是全系信创，兼容生态。九天一体机作为边缘算力基座，主打国产算力，原生支持国产信创算力芯片兼容国外主流芯片生态，同时实现异构算力的同框混插，满足客户多样化算力需求，实现算力资源的充分利用。

二是开箱即用，快捷交付。通过采用超融合技术，在硬件上整合计算、AI、存储、网络、安全等五维一体能力，无须自建机房，实现快捷部署。在软件上预装自研极简运维管理模块，搭载九天算法仓、数据仓、模型仓能力平台，实现开箱即用。

三是一键迁移，快速部署。九天一体机提供了系列的交付工具套件，相比传统AI服务，支持一键迁移模型、一键模型部署、一键加速模型的推理服务等，助力原有业务平滑迁移，真正解决了用户在信创生态下，不愿用不好用的难题。

应用上，九天一体机可使用在智慧矿山、智慧园区、智慧隧道等场景。其中，矿山场景通常对时延要求高且机房建设受限。通过部署超融合一体机，搭载九天算法仓AI视频分析能力，能够实现设备检查、皮带堆煤、皮带异物、煤量识别、人员违章等功能，辅助井下安全管控和生产。

面对智慧园区场景AI模型迭代周期长、运维难，九天超融合一体机通过云边协同实现算法模型快速迭代，模型推送、设备升级等均可远程完成。依托易落地、高效率、标准化的先进视觉AI技术，打造可视运营、智能联动管理、技术自主可控的智慧园区解决方案。

同时，中国移动（浙江）创新研究院以九天超融合信创一体机为切入点，加速产业引领，深入调研市场需求，打造企业数字化转型标杆项目。将AI能力渗透到产业的每一个毛孔，助力企业实现高质量发展，打破长尾需求壁垒，铺设AI应用最后一公里道路。

延新质生产力主线：引领中国智算产业高质量发展

当前，在大模型乃至人工智能的发展道路上，中国有着广阔的发展前景。应用层的人工智能人才储备丰富，为应用场景和技术层提供了巨大的发挥空间。然而，如何进一步地将技术引入至场景，通过实际应用切实为企业降本增效，尤为关键。

“劳动生产力是随着科学和技术的不断进步而不断发展的”，当关键科学技术实现突破并发生质的变化时，必然会引发生产力核心要素的变化，产生新质生产力，新质生产力与“战略性新兴产业”“未来产业”紧密相连，重点聚焦技术含量高的新产业、新技术、新业态、新模式。由此看来，中国移动此次发布的九天一体机，不仅为我国大模型应用落地给予了一个重要载体，也为后续新质生产力的发展提供了“锚点”。

可以预见，中国移动将以九天超融合信创一体机为载体，通过灵活的产品矩阵深入政务、金融、矿山、水利等行业，加速行业数智化转型升级。同时，中国移动也将不断加速布局人工智能相关基础设施，创新构建智算平台服务、模型即服务以及AI原生服务，加快形成新质生产力，持续引领中国智算产业的高质量发展。

1000

责任编辑：党博文