人工智能伦理风险如何防范「人工智能伦理团体要求 FTC 阻止 OpenAI 推出新的 GPT 模型」

3月31日消息:一个专注于人工智能的科技伦理团体要求美国联邦贸易委员会（FTC）调查 OpenAI 违反消费者保护规则的行为，认为该组织推出的人工智能文本生成工具「有偏见，有欺骗性，并对公共安全构成风险」。

人工智能和数字政策中心（CAIDP）在一封呼吁暂停大型人工智能生成实验的高调公开信发表后，今天提出了投诉。CAIDP 主席 Marc Rotenberg 是这封信的签署人之一，还有一些人工智能研究人员和 OpenAI 前联合创始人马斯克。与那封信类似，该投诉呼吁放缓生成性人工智能模型的开发，并实施更严格的政府监督。

CAIDP 的投诉指出了来自 OpenAI 的 GPT-4 生成性文本模型的潜在威胁，该模型于 3 月中旬公布。这些威胁包括 GPT-4 可能产生恶意代码和高度定制的宣传，以及有偏见的训练数据可能导致在招聘等方面产生陈规定型观念或不公平的种族和性别偏好的方式。它还指出了 OpenAI 产品界面的重大隐私失误——比如最近的一个 Bug，将 OpenAI ChatGPT 历史记录和用户可能的支付信息暴露给其他用户。

OpenAI 已经公开指出人工智能文本生成的潜在威胁，但 CAIDP 认为，GPT-4 越过了消费者伤害的界限，应该引起监管行动。它试图让 OpenAI 承担违反美国联邦贸易委员会法案第 5 条的责任，该条禁止不公平和欺骗性贸易行为。投诉称，「OpenAI 在完全了解这些风险的情况下向公众发布了 GPT-4 的商业用途，」包括潜在的偏见和有害行为。它还将人工智能的「幻觉」，或生成模型自信地编造不存在的事实的现象，定义为一种欺骗形式。它警告说，「ChatGPT 将促进欺骗性的商业声明和广告，」这可能会使它处于联邦贸易委员会的管辖范围内。

在投诉中，CAIDP 要求联邦贸易委员会停止任何进一步的 GPT 模式的商业部署，并要求在未来推出任何模式之前对其进行独立评估。它还要求提供一个可公开使用的报告工具，类似于允许消费者投诉欺诈的工具。它还要求联邦贸易委员会就生成性人工智能系统的规则制定明确的规则，建立在该机构对人工智能工具正在进行的但仍然相对非正式的研究和评估之上。

正如 CAIDP 所指出的，FTC 已表示有兴趣监管人工智能工具。近年来有人警告说，有偏见的 AI 系统可能会引起执法行动，并且在本周与司法部的联合活动中，FTC 主席 Lina Khan 表示，该机构将寻找现有大型科技公司试图垄断竞争的迹象。对 OpenAI（生成人工智能军备竞赛的主要参与者之一）的调查将标志着其努力的重大升级。