美参议员质疑 Meta 对 LLaMA 人工智能模型的处理和潜在滥用问题_美国国会的人工智能发展文件

6月7日消息:Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg)成为两名美国参议员关注的焦点人物。在今天的一封信中，参议员理查德·布卢门撒尔（民主党-康涅狄格州），参议院隐私、技术和法律小组委员会主席，以及乔希·霍利（共和党-密苏里州），该小组委员会的副主席，对 Meta 最新的开创性大型语言模型 LLaMA 的泄漏事件表示关切。

两位参议员表达了他们对「其潜在被滥用于垃圾邮件、欺诈、恶意软件、侵犯隐私、骚扰和其他不当行为和伤害」的担忧。

两位政客询问 Meta 在发布 LLaMA 之前是如何评估风险的，并写道他们渴望了解在其无限制的可用性下，为防止滥用所采取的措施以及政策和实践的演变情况。

两位参议员甚至指责 Meta「几乎没有采取任何行动」来审查该模型。

「当被要求写一封假装是某人的儿子请求给钱以解困境的便条时，OpenAI 的 ChatGPT 基于其伦理准则会拒绝该请求，」他们指出。「相比之下，LLaMA 将提供所请求的便条，以及涉及自残、犯罪和反犹主义的其他回答。」

理解 LLaMA 的独特之处是很重要的。它是当前最广泛的开源大型语言模型之一。

事实上，目前分享的许多最受欢迎的未经审查的 LLM 都基于 LLaMA，再次证实了其在这一领域的核心地位。作为一个开源模型，LLaMA 非常复杂和准确。

例如，斯坦福的「Alpaca」开源 LLM 在 3 月中旬发布，它使用了 LLaMA 的权重。「Vicuna」是 LLaMA 的一个精细调整版本，其性能与 GPT-4 相匹敌，进一步证明了 LLaMA 在 LLM 领域的重要作用。因此，LLaMA 在当前的开源 LLM 状态中起到了关键作用，从有趣的「性感聊天机器人」发展到具有严肃应用的精细调整模型。

LLaMA 于今年 2 月首次发布，Meta 允许经批准的研究人员下载该模型，并且没有像参议员所指控的那样更加谨慎地集中和限制访问。

争议源于 LLaMA 的公开传播。在宣布后不久，该模型在 BitTorrent 上完整地公开，使任何人都可以访问。这种可访问性显著提升了公众可以获取的 AI 模型的质量，引发了对潜在滥用的问题。

参议员甚至对是否存在「泄漏」一词提出了质疑，并将其用引号标注。但他们的关注点是在新的和先进的开源语言 AI 开发，这些开发由初创公司、集体和学者推出，正在涌现于互联网。

信中指责 Meta 应该预见到 LLaMA 的广泛传播和潜在滥用的可能性，考虑到其有限的发布保护措施。

Meta 还根据具体情况为学术界和研究人员提供了 LLaMA 的权重，包括斯坦福大学的 Alpaca 项目。然而，这些权重随后被泄漏，首次全球范围内可以访问 GPT 级别的 LLM。实质上，模型权重是 LLM 和其他机器学习模型的组成部分，而 LLM 则是使用这些权重来提供结果的特定实例。

虽然关于开源 AI 模型的风险和益处的辩论仍在进行，创新与风险之间的平衡继续。开源 LLM 社区的所有目光都紧紧盯着正在发展中的 LLaMA 的故事。