重庆首个自主研发的大语言模型“兆言”发布

7月14日 消息:7月13日，上海交通大学重庆人工智能研究院在西部（重庆）科学城发布其最新研发成果“兆言”大模型产品。

据了解，兆言大模型是上海交大重庆人工智能研究院基于全球领先的AI大模型技术研发出的最新成果，它的建立是通过积累海量数据，辅以独特的数据处理和AI训练技术，以达到精准、专业的文本输出，并且能够实现以自然语言选择、调用应用程序的能力，助力打造个性化的智能产品。

据悉，“兆言”大模型采用启发式数据过滤及增强、模型预训练和精调自适应比例混合、人工和自动评测相结合等方法对模型进行垂直领域精调，解决了精调中的数据质量差、模型原有能力遗忘、模型答案出现幻觉、模型训练效率低等行业难题，使得模型答案质量有很好的保障。

同时，模型研发还把小型化部署作为重点，大幅降低模型训练和推理成本，不仅能保质保量完成特定任务，其调用的成本仅为小型化前的四百分之一。并且为了解决在自然语言转应用程序接口（API）调用任务上模型发挥不稳定的问题，研发团队还建立了专有的自然语言调用语料和指令数据集，从而实现了大语言模型对其他系统的精准调用。

下一步，上海交通大学重庆人工智能研究院将根据重庆主导产业布局需求，通过不断优化和升级，将“兆言”大模型产品应用到各个领域中，为推动重庆数字经济的发展和助力西部（重庆）科学城的建设做出贡献。