百度智能云发布ERNIE Speed、Lite、Tiny 3款轻量级大模型_百度智能云-智能时代基础设施

3月21日 消息:百度智能云近期举办了盛大的千帆产品发布会，会上重点发布了三款轻量级大模型，它们分别是ERNIE Speed、ERNIE Lite以及ERNIE Tiny。相较于那些拥有千亿级别参数的大模型，这些轻量级大模型显著减少了参数量，因此更加便于客户针对特定应用场景进行模型精调。这样的设计不仅有助于客户更容易地实现预期的使用效果，同时也为客户节约了大量的成本开销。这三款轻量级大模型各具特色，参数量从ERNIE Speed到ERNIE Tiny逐渐递减。ERNIE Speed适合作为特定场景的基座模型进行精调，能够兼顾模型效果与推理性能，并可以搭载低算力AI加速卡进行推理，满足对低成本和低延迟应用的需求。而ERNIE Lite和ERNIE Tiny则分别在不同程度上满足了更多样的使用场景需求。值得一提的是，百度智能云ModelBuilder还推出了两款垂直场景大模型，ERNIE Character和ERNIE Functions。这两款模型是基于百度自身业务的深厚积累而研发的，分别适用于角色扮演类应用场景（如游戏NPC、客服对话等）和工具调用场景(对话中使用外部工具、调用业务函数等)。企业无需额外进行模型精调，即可直接应用这些专有模型来开发智能助理，极大地提升了开发效率和模型适用性。特别要强调的是，ERNIE Speed作为百度自研的轻量级大语言模型，其快速响应能力和少量数据微调的特性使得训练时间大幅缩短。在特定场景下，ERNIE Speed的效果甚至可以媲美ERNIE Bot4.0模型。该模型在自然语言处理任务中表现出色，如文本分类、命名实体识别、语义匹配等场景，尤其在智能客服、搜索引擎、智能推荐等领域的应用中，其表现尤为突出。此外，ERNIE Speed在阅读理解、close-book问答、创作与续写等复杂任务上，也能达到甚至超越千亿大模型的效果，充分展现了其强大的应用潜力和价值。