MLPerf放榜！AI芯片公司墨芯人工智能再夺MLPerf大模型推理三项冠军_墨芯科技(深圳)有限公司

要点:

• MLPerf公布最新GPT大模型推理测试结果，墨芯人工智能S30计算卡单卡、4卡、8卡的算力均获得第一。

• 墨芯通过独创的双稀疏算法与硬件协同设计，在GPT-J大模型上取得1.8倍于英伟达H100的性能优势。

• 墨芯的成绩证明，稀疏计算是大模型时代算力发展的关键，可根本解决大模型参数增长与算力瓶颈的矛盾。

9月15日 消息:最新MLPerf推理测试结果公布，墨芯人工智能再次夺冠，其S30计算卡在GPT-J大模型的单卡、4卡、8卡推理性能均位居第一。此前墨芯已在MLPerf上连续两届夺冠。

在60亿参数GPT-J模型上，墨芯通过独创的双稀疏算法与硬件协同设计，实现了高达1.8倍于4nm制程英伟达H100的性能优势。

墨芯的成绩证明，稀疏计算技术是大模型时代的关键，可减少模型计算量，缓解算力需求激增、功耗过大等痛点，为大模型在参数量层面取得飞跃提供可能。墨芯已推出支持多种大模型的AI计算平台，性能高、效率优。

业界认为，墨芯等稀疏计算创新，将引领大模型应用深入各行各业。MLPerf成绩是对墨芯产品实力的肯定，也印证稀疏计算将助力大模型算力实现根本性变革。