OPPO StarFire端云机器学习平台全新升级，支持多种异构芯片，突破算力瓶颈

今年的OPPO2022 未来科技大会(OPPO INNO DAY 2022)上，OPPO正式发布了让终端更智能的“安第斯智能云”，并分享了其在端云数据存储、端云机器学习、端云实时渲染等领域的关键能力，为用户带来重构端云存储、增强智能服务、探索虚实融合的三大体验革新。

在增强智能服务方面，OPPO 端云机器学习平台StarFire采用端云协同机器学习新范式，融合云侧大规模模型实时训练和端侧动态感知用户的双重优势，促进AI能力进一步向自适应AI、生成式AI演进。

近日，StarFire完成了全新升级，通过落地支持多种异构芯片的训推一体平台，打通了芯云一体的AI训练、优化、推理全流程，在全面提升算力与性能的同时降低成本和功耗，为OPPO用户提供性能强大的全场景服务体验。

【突破行业瓶颈，端云机器学习能力升级】

在以数据为中心的今天，传统的单一计算架构已无法满足当下日益高涨的算力需求。特别是在人工智能领域， AI意味着对算力的超高要求，异构计算大有可为，现已成为加速AI创新的新一代计算架构。

为突破行业当前云上机器学习平台的“三高(延时高、成本高、隐私安全风险高)”瓶颈，OPPO异构计算全新升级。经过一年多的努力，StarFire完成了支持多种异构芯片的训推一体平台的落地，打通了芯云一体的AI训练、优化、推理全流程，在充分发挥算力与性能的同时，有效降低功耗与成本。

借助StarFire的端云链路，任意一台终端都可以随时加入训练过程，StarFire能够感知终端设备的芯片特性，并面向目标业务场景优化模型，释放OPPO强大的云端算力，极大补齐终端设备资源和算力资源的短板，并快速适配高通、MTK和OPPO自研的马里亚纳等异构芯片的推理需求。

【兼容异构芯片，多场景推荐服务升级】

为了进一步打造更为自主可控的异构计算平台，StarFire对AI芯片的应用进行了探索，当前StarFire推理平台已同时支持CPU、GPU和国产芯片进行推理，并率先在信息流主视频场景全量上线，取得极 好的效果。具体地说，StarFire最 大吞吐量提升了101%，中负载下耗时下降50%;另一方面，推理的综合成本也下降50%，并在稳定运行的几个月中实现了 0 故障。

此次在信息流主视频场景全量上线的成果，充分验证了StarFire在支持多种异构芯片的可能性，为后续引入更多的AI芯片打下了夯实的基础。值得一提的是，在异构计算平台的构建过程中，StarFire针对面向推荐场景的算子进行了相关的优化，除却当前信息流内容主视频场景的应用，后续还将复用到其他的推荐场景，进一步提升异构计算的通用性和性能效果。

【加速业务应用创新，提升智能服务体验】

一直以来，OPPO均致力于为用户提供便捷高 效的智能服务体验。StarFire为用户带来了更低延时的实时交互、支持千亿级参数的AI模型以及更安全的用户隐私保护，通过充分调动云侧计算与端侧感知，创造更强大的智能服务体验，全力推动OPPO业务应用创新与用户体验提升。

以小布助手主动建议为例，StarFire可以基于用户个性化的行为、GPS、通信等数据进行隐私计算，通过场景服务聚合卡片，为用户提供一站式、轻松便捷的聚合服务体验。StarFire作为OPPO增强智能服务的技术底座，推动小布助手从最初的语音助手发展为跨终端、多模态的智能助手，从被动的服务向主动建议、辅助决策进化。

StarFire的能力还不止于此。通过端侧实时感知的数据，云端不断反复进行模型训练，可以让AI快速学习、主动进化。根据Gartner公布的技术趋势预测，自适应AI、生成式AI等拥有主动学习、自进化能力的人工智能将为我们带来意外之喜。

在OPPO2022 未来科技大会上，OPPO全新推出了小布作画与小布家庭机器人。作为AIGC中的首 发能力，小布作画一方面可以让用户通过文字描述、上传图片等形式生成想要的作品，另一方面小布也作为一个创作者，将绘画作品赋能到更多的业务场景中。小布家庭机器人则是小布技术进化的集大成者，同时也是StarFire在AI计算能力的集中展示和未来的关键技术突围点。

随着用户需求和业务场景的持续发展，OPPO将着力推动StarFire在异构计算平台的不断创新，引入更多更先进的AI芯片和技术，在以“ALL FOR ONE，以用户为中心”的战略目标指引下前行，带来全新智能服务体验。