Hugging Face组建H4团队，开源开发类似ChatGPT的AI模型

划重点:

- Hugging Face的两人团队H4致力于开源构建类似ChatGPT的AI模型。

- H4团队已发布多个开源大型语言模型，包括聊天型Zephyr-7B-α和改进型Falcon-40B。

- H4的主要研究重点是对齐技术，以使语言模型根据人类反馈行为进行学习。

11月9日 消息:AI初创公司Hugging Face最近组建了一个名为H4的两人团队，旨在开源开发类似ChatGPT的人工智能模型。H4的目标是提供工具和“配方”，以便AI社区能够构建类似ChatGPT的AI聊天机器人。

H4团队的两名成员Lewis Tunstall和Ed Beeching近期透露了一些有关他们的工作的信息。H4团队的成立灵感来自于OpenAI于2022年底发布的ChatGPT。当ChatGPT发布时，他们开始思考如何使用开源库和模型来复制其功能，这促使了H4团队的成立。

H4团队的主要研究重点是对齐技术，这意味着他们致力于教导大型语言模型（LLMs）如何根据人类的反馈行为来表现。为了训练他们的模型，H4团队依赖于一个拥有超过1000个Nvidia A100GPU的专用集群。虽然H4的两名成员都远程驻扎在欧洲，但他们得到了来自Hugging Face内部团队的支持。

不仅如此，H4团队还发布了多个开源大型语言模型，其中包括Zephyr-7B-α，这是法国AI初创公司Mistral最近发布的Mistral7B模型的聊天型版本。此外，他们还对来自阿布扎比技术创新研究所的Falcon-40B模型进行了修改，使其在自然语言请求方面更具帮助性。

尽管Hugging Face已从一系列投资者中筹集了数亿美元，但H4团队的Lewis Tunstall表示，H4并没有直接从他们的工具中获得商业化利益。相反，他们的工具有助于Hugging Face的专家加速计划，该计划旨在为企业提供来自Hugging Face团队的指导，以构建定制的AI解决方案。

此外，H4团队的Ed Beeching表示，他们并不将H4视为与其他开源AI倡议竞争的实体。相反，他们的意图是通过发布与其聊天模型相关的训练代码和数据集来“赋能”开源AI社区。

最近，H4团队一直在研究不同的对齐技术，并构建工具来测试社区和行业提出的技术的实际效果。该团队本月发布了一本手册，其中包含了用于构建Zephyr的所有源代码和数据集，并计划随着未来AI模型的发布更新手册。