Meta 已关闭 1000 多个涉及 ChatGPT 等生成式 AI 相关的恶意链接

5月4日消息:Meta 表示，它已经关闭了 1000 多个涉及 ChatGPT 的相关链接，这些链接会引导其用户访问恶意软件，因为犯罪分子正在利用人们对生成式人工智能的热潮来谋利。

ChatGPT 迅速赢得了 1 亿多用户，这促使许多组织探索如何利用生成式人工智能来增加生产力和利润。骗子也在思考相同的思路，他们提供有关聊天机器人的链接和其他相关信息，以吸引人们进入恶意网站，窃取他们的信息或提供含有恶意软件的下载。

Meta 声称已经发现了一些他们的行为。「作为我们最近的工作的一部分，以保护人们和企业免受使用 ChatGPT 作为诱饵的恶意攻击，自 2023 年 3 月以来，我们已经阻止并与我们的同行分享了 1000 多个恶意链接，从而避免这些链接在我们的平台上扩散，并向我们的同行申报了一些浏览器插件和移动应用程序，」社交媒体平台的安全政策负责人 Nathaniel Gleicher 和恶意软件发现和检测工程师 Ryan Victory 在一份声明中说道。

Meta 的安全工程师们在 ChatGPT 浏览器插件和生产力工具中发现了各种恶意软件，如 Ducktail 或 NodeStealer，并将它们追溯到越南和其他位置的不良分子。Meta 还表示已经通知了托管恶意软件的其他在线平台以及执法部门。

「这种复杂性使得针对企业的恶意软件成为生态系统挑战，需要全行业的联合努力来打击这些恶意行为，」Gleicher 和 Victory 解释道。「他们像垃圾邮件发送者一样，利用政治新闻或最新的科技或商业生产力工具之类的热门话题来隐藏他们的恶意软件，并诱使人们点击或下载它。

「例如，我们最近破坏的其中一项利用了人们对 OpenAI 的 ChatGPT 的兴趣来引诱他们安装恶意软件。对于我们安全团队的检测和同行的检测的响应中，我们已经看到了不良行为者很快转向其他主题，包括冒充 Google Bard、TikTok 营销工具、盗版软件和电影以及 Windows 应用程序。」

为应对这些攻击，Meta 表示已经推出了向用户展示如何检测和处理恶意软件的类似向导的支持工具。Facebook 也为管理商业页面的管理员添加了安全控件。管理员应该能够更好地控制访问权限，并且必须启用双因素身份验证来验证诸如访问信用额度或更改管理帐户等敏感操作。