定标准：护航大模型时代的代码生成_标定模型是什么意思

定标准：护航大模型时代的代码生成 通信产业网|2024-05-23 09:42:59作者：胡媛来源：通信产业网

【通信产业网讯】（记者 胡媛）5月21日，由中国软件评测中心人工智能研究测评事业部、人工智能场景化应用与智能系统测评工信部重点实验室、人工智能产业创新联盟（中国计算机行业协会人工智能专委会）联合发起的AI安全工作组，在北京市奇安信安全中心召开“御安”系列活动：生成式人工智能代码安全能力标准编制研讨会。

AI安全工作组“御安”系列活动暨生成式人工智能代码安全能力标准编制研讨会成功召开。

来自中科院信息工程研究所、奇安信、深信服、腾讯朱雀实验室、天融信、智谱AI、南京市产品质量监督检验院、小鹏汽车、百度、蚂蚁集团、北京大学、科大讯飞、中科院信工所、国科环宇等代表参加了本次研讨会。

本次研讨会总结了阶段性工作，交流下一步工作重点。会议就生成式人工智能代码安全能力标准编制等相关专业议题等进行了深入研讨，共享行业与企业专家意见。会议指出，要进一步贯彻落实AI安全工作组各项工作，从技术研究、测试评估、生态建设等方面持续发力，推动人工智能技术安全系列标准制定，生成安全可靠人工智能产业生态。

中国电子信息产业发展研究院副总工程师安晖在致辞中表示，随着人工智能技术的迅猛发展，生成式人工智能在各个领域的应用日益广泛，为我们带来了前所未有的便利和效率。然而，与此同时，代码安全问题也日益凸显，成为制约其健康发展的关键因素。因此，加强生成式人工智能代码安全能力的建设，制定完善的安全标准，具有重要意义。

奇安信科技集团股份有限公司副总裁张勇在致辞中表示，大模型技术是引领第四次工业革命的新技术，其应用和发展必然是未来几年的重点工作。同时，随着相关技术的发展，我们也要解决好大模型的安全问题。一方面，是政府正在讨论和推出的各种法律法规；另一方面更重要的，就是行业自身进行标准和规范的建设。

《通信产业报》全媒体总编辑辛鹏骏表示，置身于中国广阔、充满活力同时具有鲜明特征的中国数字经济大航道，AI安全至关重要，制定相关AI安全标准，将促进中国产业在AI大航海时代行稳致远。

作为大模型核心关键能力的代码能力，是怎样呈现出大模型理解、逻辑、推理、生成等综合能力，又该如何客观评估大模型代码能力，促进大模型代码能力迭代进步？与会专家做专题分享。

中国科学院信息工程研究所体系结构安全研究室副主任孟国柱表示，成式人工智能代码安全能力标准将从代码生成、代码翻译、代码纠错、代码补全、代码安全五大维度构建测评体系，面向各能力项建立契合测试任务要求的数据集，设计了涵盖代码完整性、功能完备度、文本相似度三项一级指标，编译正确率、运行时正确率、运行超时率、pass@k、样例通过率、CodeBleu六项二级指标。

在谈到大语言模型代码能力该如何发展时，孟国柱建议，第一，提高代码语料质量，扩充代码相关多模态数据集。第二，加强代码安全对齐算法。第三，拓展大模型上下文窗口。第四，加强针对大模型的缺陷检测和安全增强。

此外，在本次研讨会上，北京智谱华章科技有限公司刘文常、北京大学软件工程国家工程研究中心岳贯集分别带来了“CodeGeeX智能编程助手”“基于大模型的软件安全实践”主题分享。与此同时，相关代表专家从不同角度对生成式人工智能代码安全问题进行了深入探讨，并提出了许多富有洞见的建议。

相关代表专家从不同角度对生成式人工智能代码安全问题进行了深入探讨，并提出了许多富有洞见的建议。

AI安全工作组将继续肩负起推动人工智能安全领域发展的重任，依托实验室的资源和优势，加强与各方的沟通与合作，共同推动生成式人工智能代码安全能力标准的编制和实施，为人工智能技术的安全、健康、可持续发展提供有力保障。AI安全工作组也将始终秉持科技向善的理念，确保人工智能技术的发展始终以人为本，服务于社会和公众的利益。

1000

责任编辑：胡媛