OpenAI 宣布推出 ChatGPT 漏洞赏金计划 但不接受越狱行为

4月12日消息:风靡一时的聊天机器人 ChatGPT 背后的公司 OpenAI 周二宣布，它将向报告其人工智能系统漏洞的用户提供最多 20000 美元资金。

OpenAI 表示：「我们的奖励范围从 200 美元的低严重性发现到高达 20000 美元的特殊发现，」。该计划是通过 Bugcrowd 这个漏洞赏金平台进行的。

然而，OpenAI 不接受 ChatGPT 的越狱行为，也不接受旨在欺骗人工智能程序违反其自身规则的文本提示。自从 ChatGPT 首次出现以来，用户已经找到了越狱的方法，让聊天机器人回应脏话，写一些被禁止的政治话题，甚至是创建恶意软件。

漏洞赏金计划也不接受关于 ChatGPT 生成不正确事实的报告。OpenAI 说：「模型安全问题并不适合在一个漏洞赏金计划中，因为它们不是可以直接修复的单独、不连续的错误。解决这些问题往往涉及大量的研究和更广泛的方法」。

OpenAI 称，大多数发现的初始优先级评级将使用漏洞赏金平台 Bugcrowd 的漏洞评级分类法。然而，漏洞优先级和奖励可以根据可能性或影响进行修改，由 OpenAI 自行决定。如果出现降级问题，安全研究人员将得到详细的解释。