持续改进迭代 促进寒武纪硬件产品更好的落地_在寒武纪科技工作体验

日前，AI芯片巨头英伟达总市值突破 2 万亿美元。业内人士普遍认为，以 ChatGPT 为代表的大语言模型的陆续出现，引发了全世界生成式 AI 市场的蓬勃发展，再加上英伟达第四季度财报业绩全面超出预期，以及Sora热潮持续走强共同带动了股价的上涨。国内AI、算力等相关赛道的企业也纷纷成为市场和机构关注的焦点。

民生证券计算机行业首席分析师吕伟表示:“ 2024 年或是AI应用的真正元年，AI终端重构、算力国产化与多模态引领AI应用这三大新方向有望孕育重要机遇。”

相较于ChatGPT，Sora所带来的算力需求增长是激增型的，人工智能大模型越来越复杂使得算力也将呈现倍数级增长，对计算性能的需求也越来越高，也让AI芯片成为了风口。根据华西证券计算机研究团队的推算，Sora架构的训练与传统大语言模型(LLM) Transformer架构的训练算力需求存在近百倍差距，将进一步推动AI基础设施，尤其是各类硬件设备的发展建设。

作为智能芯片领域全球知名的新兴公司，寒武纪能提供云边端一体、软硬件协同、训练推理融合、具备统一生态的系列化智能芯片产品和平台化基础系统软件。迄今，寒武纪已自主研发了五代智能处理器微架构、五代商用智能处理器指令集。目前第六代智能处理器微架构和指令集正在研发中。新一代智能处理器微架构及指令集将对自然语言处理大模型和推荐系统的训练推理等场景进行重点优化，将在编程灵活性、能效、功耗、面积等方面提升产品竞争力。

此外， 2023 年寒武纪的基础系统软件平台相比前期版本也进行了优化和迭代。其中，推理软件平台在模型性能优化、大模型和 AIGC 推理业务支持、推理性能优化等重点方面均实现了突破和进展。训练软件平台在通用性、性能等方面取得了优化，在大模型和 AIGC 训练领域、推荐系统等重点领域实现了改进和迭代。基础系统软件平台的不断改进和发展，将促进寒武纪硬件产品更好的业务落地。

中国信息协会常务理事朱克力在接受媒体采访时表示:“AI芯片的性能直接决定了AI模型的运算速度和效率，为了满足Sora这类复杂模型的高速运算需求，AI芯片必须不断进行架构优化和性能提升。因此，Sora的兴起无疑将推动AI芯片技术的持续创新和进步，进而带动整个芯片产业链的发展。”