人工智能能否学会明辨是非？AI时代网络安全应“预防为先”「人工智能可喜辩论问题」

Check Point 软件技术公司报告称，一些网络犯罪分子利用人工智能来训练其经验不足的成员实施恶意活动、改进和调试恶意软件，甚至实现攻击自动化。

最近的一项麦肯锡调查显示，50% 的公司已在至少一个业务领域采用了人工智能。

在许多互联网安全专家眼中， 2022 年称得上“人工智能元年”。ChatGPT的横空出世以及其他AI服务的相继上线在改变未来人们工作、学习以及生活的方式的同时，也为互联网安全行业带来了全新的挑战。因此，全球领先的专业网络安全提供商 Check Point® 软件技术有限公司（纳斯达克股票代码：CHKP）借此文帮助大家进一步了解人工智能的当前和未来用途以及重点关注安全防护的必要性。

人工智能早在几年前就开始走入我们的工作生活。事实上，根据麦肯锡全球研究所在 2022 年开展的一项人工智能调查，2017 年时 20% 的受访者表示已在至少一个业务领域采用了人工智能，而去年这一数字增长至 50%。随着企业逐渐认识到人工智能对其业务的巨大价值，预计这一增长势头将继续走高——根据 Forbes Advisor 的一项调查，超过 60% 的企业所有者认为人工智能可提高生产力。具体而言，64% 的受访者表示人工智能有助于提高业务效率，42% 的受访者认为人工智能可简化作业流程，这充分表明商业领域对人工智能的使用具有广泛的市场接受度。

在我国， 2017 年就由国务院印发了《新一代人工智能发展规划》，规划中已明确提及人工智能将成为经济发展的新引擎。在今年斯坦福大学一项面对全球的AI调查中，78%的中国受访者认为AI技术的普及利大于弊。我国用户对AI技术的正面态度居全球首位，这也为人工智能在我国高速发展提供了健康的土壤。值得注意的是，今年 5 月在天津召开的“第七届世界智能大会”上，人工智能伦理与安全成为会上主要讨论议题之一。

自去年开始，Check Point已经就ChatGPT带来的安全挑战进行了研究。作为 OpenAI 研发的人工智能平台，它在为人们生活带来便捷的同时，还可帮助网络犯罪分子实施新的攻击活动。人工智能工具为网络犯罪分子带来了诸多好处，包括但不限于：

1、无需技能和经验：对于网络犯罪分子来说，人工智能的最 大好处之一是其易用性，这使得更多用户可以轻松发起恶意活动，包括一开始可能不具备相关技能的潜在网络犯罪分子。过去几个月来，出现了一些新的小型网络犯罪团伙。借助人工智能，他们能够实施更复杂的网络攻击。

2、改进网络攻击：由于这些人工智能工具采用无限制免费访问模式，因此攻击者可利用其速度和精度创建恶意代码和网络攻击，如网络钓鱼攻击活动。这些人工智能工具可以生成几乎相同或难以发现异常的内容。此外，这些工具拥有自主学习模式，因此不仅能够回答问题，而且还能创建各种内容（图像、视频甚至音频）。遗憾的是，这导致了所谓的“深度伪造”(Deepfakes) 技术的滥用。这是一种可用于传播虚拟信息的逼真伪造技术，巴拉克·奥巴马、乔·拜登、弗拉基米尔·普京等国家lingdao人的虚拟内容均被伪造过。

3、引发自动化网络攻击：该技术导致使用 bot 和自动化系统发起的网络攻击大幅增加，提高了网络犯罪分子的攻击成功率。全球范围内网络攻击的攀升就证明了这一点——网络攻击比去年增加了 38%。此外，网络犯罪分子还可以利用基于人工智能的僵尸网络发起大规模 DDoS 攻击，致使其攻击目标的服务器瘫痪和服务中断。

4、克隆人工智能工具：尽管开发人员快速响应去更新语言中的漏洞，但网络犯罪分子已经找到了绕过限制的方法。今年早些时候，Check Point 软件技术公司研究团队报告了网络犯罪分子正在暗网上分发和销售他们自己修改的 ChatGPT API。伴随最 新版 ChatGPT4.0 的发布，市场上出现了一种新型攻击活动。这种攻击活动旨在盗取和出售高 级帐户，让买家无限制地使用该工具的新功能。

监管人工智能学习的必要性

虽然人工智能无疑是未来发展方向，但包括 OpenAI 联合创始人之一埃隆·马斯克在内的专家们都要求对人工智能实施更广泛的监管。他们在一份公开请愿书中呼吁，在符合伦理的训练能够落实之前暂时停止这些工具的开发，同时欧盟等国际机构已经在制定自己的人工智能法律，并提出了重视网络安全和数据安全需求的提案。在我国，近年来也在逐步强化对人工智能的规范引导。中国国家新一代人工智能治理专业委员会 2019 年发布《新一代人工智能治理原则——发展负责任的人工智能》， 2021 年又发布《新一代人工智能伦理规范》，这一系列措施说明了各个政府对人工智能有序、安全发展的期待与重视。

人工智能监管的挑战在于人工智能模型学会的知识几乎无法从这些模型中删除。这意味着安全机制应侧重于防止收集或泄露某些类型的信息，而不是完全删除知识。如今，人工智能和机器学习是帮助提高网络安全功能的两大支柱。事实上，由于当前企业网络系统的复杂性和分散性，传统的人工监控、管理和风险控制已无法满足需求。在今年Check Point CPX全球大会上，以预防为先的思路，通过AI对抗AI的安全解决方案受到了与会来宾的重点关注。

如今，用户已经可以在Check Point 的 ThreatCloud AI 中看到该技术应用于网络安全领域的示例。ThreatCloud AI 是一款基于人工智能的威胁防御解决方案，它是 Check Point 软件技术公司所有产品背后的大脑，每天能够不断扫描网站、电子邮件、物联网设备、移动应用等，做出 20 亿次安全决策。

Check Point中国区技术总监王跃霖表示：“打赢与网络犯罪分子的竞赛仍是首要任务之一，我们必须确保环境及时更新且准备就绪，从而有效应对当前和未来的所有威胁。现在，Check Point有几款解决方案充分展示了人工智能在网络安全领域的无限可能性。为了降低与高 级人工智能相关的网络风险，我们建议企业管理者应时刻保持‘预防为先’的安全理念，在开发或部署任何AI技术时，首先应确保其安全性，从而真正安全有效的通过AI技术提高自身核心竞争力。”