您的位置:首页 > 互联网

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

发布时间:2024-01-17 09:35:38  来源:互联网     背景:

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

油耳戴airpodspro会掉吗

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

雷诺将推全新纯电小车

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna Eloundou)强调:“随着我们不断追求超级智能模型的发展,这些模型将逐渐成为我们社会不可或缺的一部分。因此,让人们有机会直接提供意见至关重要。”

例如,为了确保只有人类才能参与投票和提供意见,OpenAI还考虑与Worldcoin进行合作。Worldcoin是OpenAI首席执行官萨姆·奥特曼(Sam Altman)创建的一个加密货币项目,它提供了一种有效区分人类和人工智能机器人的方法。

自2022年底推出ChatGPT以来,OpenAI凭借其生成式人工智能技术吸引了公众的广泛关注。这种技术能够利用简单的提示生成文本,使ChatGPT成为有史以来增长最快的应用程序之一。

然而,人工智能技术的快速发展也引发了人们的担忧。特别是其创造“深度伪造”图片和其他错误信息的能力,让人们在即将到来的2024年美国大选前夕感到不安。批评人士指出,像ChatGPT这样的人工智能系统由于其输入数据的影响而具有固有的偏见,用户已经发现了一些人工智能软件输出中存在种族主义或性别歧视的例子。

在最新的博客文章中,OpenAI回顾了资助受助者的工作成果,包括视频聊天界面、人工智能模型众包审计平台以及“将信念映射到可用于微调模型行为的维度的方法”。同时,他们还公开了所有受助者工作中使用的代码以及每个提案的简要摘要。

利用layui做首页页面

尽管OpenAI试图将该项目描述为与其商业利益无关,但考虑到其首席执行官奥特曼对欧盟人工智能监管的批评态度,这一说法似乎有些难以令人信服。奥特曼以及OpenAI总裁格雷格·布罗克曼(Greg Brockman)和首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)一再强调,人工智能的创新速度非常快,以至于我们无法指望现有的权威机构能够充分控制这项技术。因此,他们提出了将这项工作众包的解决方案。(小小)


返回网站首页

本文评论
微调是干嘛的「LLM 微调神器 Lamini:免费且迅速的微调工具」
7月18日 消息:据机器之心报道,斯坦福开发者发布了 LLM 微调工具 Lamini,该工具被称为能为每个开发人员提供从 GPT-3到 ChatGPT 的超能力。最近,Lamini 推出了全新的 Alpha 公测...
日期:07-18
中国移动副总经理赵大春出席第二届区块链服务网络(BSN)全球技术创新发展峰会
通信世界网消息(CWW)6月9日,以“链上荆楚、积厚成势”为主题的第二届区块链服务网络(BSN)全球技术创新发展峰会在湖北武汉举行,中国移动副总经理赵大春出席大会并致辞。赵大春表...
日期:06-09
今天电信集团年会议程「中国电信召开2023年度总经理座谈会 部署下半年重点任务」
中国电信召开2023年度总经理座谈会 部署下半年重点任务 通信产业网|2023-07-28 18:02:36作者:通文来源:通信产业网【通信产业网讯】7月24日至26日,中国电信召开2023年度总经理...
日期:07-29
华为智选 智能水杯「华为智选x膳魔师强势合作,致力于联力打造智能水杯标杆」
近日,华为开发者大会2023在广东·东莞·松山湖顺利拉开序幕。本次开发者大会是华为开发者社区的年度盛会,不仅向全球开发者展示其强大的研发实力,也让观众更直观地体会到华为技...
日期:08-05
网易丁磊:AI价值不亚于二次发明火 要抓住百年不遇的机遇_网易丁磊是哪里人
7月5日,浙江召开全省平台经济高质量发展大会,网易CEO丁磊作为平台企业代表上台发言。面对今年以AI为首的全球技术大变局,浙江企业要如何应对挑战,助力、见证浙江数字经济实现二...
日期:07-06
2022 年,AI领域风险投资资金高达21亿美元_ai投资项目
12月12日 消息:据inside援引ft报道,风险投资对人工智能初创公司表现出越来越大的兴趣。 从2020年到2022年,人工智能的风险投资增加了425%。2022年,风险投资在人工智能领域的投...
日期:12-12
2020年折叠屏手机销量「IDC:预测折叠屏手机到2026年出货量将达到4150万部」
10月4日消息:据研究机构 IDC 预测,到2026年,折叠屏手机的出货量将从2021年的810万部翻两番以上,达到4150万部。IDC报告称,价格下降和商业用例将推动这些设备的采用,得益于它们的...
日期:10-06
中国光纤之父是谁「中国光纤之父赵梓森逝世 享年91岁:拉出了我国第一根光纤」
12月15日,据光明日报消息,光纤通信专家,中国工程院院士,华中科技大学博士生导师赵梓森,因病医治无效,于2022年12月15日在武汉逝世,享年91岁。天猫家电进货渠道据介绍,赵梓森是我国光...
日期:12-15
杰克·韦尔奇:马云应购雅虎 乔布斯是伟大CEO
  尽管已经从通用电气董事长兼CEO位置上退下10年,但杰克·韦尔奇这位被称为“世界第一CEO”的传奇管理大师,依然有着无数的粉丝和拥趸。昨日,在环球市场主办的G MC总裁论坛...
日期:07-22
抖音图文带货,很赚钱「抖音图文带货,很赚钱吗」
声明:本文来自于微信公众号 十里村(ID:shilipxl),作者:村长住在十里村,授权转载发布。各位村民好,我是村长。在抖音,就只能靠短视频和直播赚钱吗?长城汽车 智能驾驶传统图文真的没...
日期:06-06
平板替代电脑或成可能:知名视频调色软件达芬奇正式登陆iPad「手机视频调色软件达芬奇」
今年10月,苹果发布搭载M2芯片的2022版iPad Pro,iPad在性能上与Mac站在了同一起跑线;在当时,苹果就曾透露,知名视频剪辑、调色软件达芬奇(DaVinci Resolve)将登陆iPad平台。现在,它终...
日期:12-23
“未来杯”区域赛完美收官 华为手机携众高校掀AI科技浪潮(华为云杯2020人工智能应用创新大赛)
  由睡前Futurelab主办,华为手机全程战略合作的2019“未来杯”高校AI挑战赛,自四月开赛以来吸引了来自全国百余所高校的四百余支参赛团队,近三千四百名在校大学生的参与。于...
日期:11-23
解锁影院开源节流新技能
  第9届上海国际电影论坛暨展览会(Cinema S)已于2021年6月16日至18日在上海世博展览馆举行。此次展会,中影光峰围绕“如何有效地帮助影院实现开源节流”为主题,进行了产品...
日期:07-22
apple watch send signal「Messenger的Apple Watch应用5月底停用 Meta宣布Facebook」
5 月 12 日消息,据 Meta 称,Facebook Messenger 的 Apple Watch 应用将于 5 月底停用,用户将无法通过手腕回复该服务上的消息。汽车为什么4个轮子一些用户已收到通知,Facebook M...
日期:09-29
信用卡积分规则密集调整 线上交易积分更“值钱”_有人收信用卡积分
来源:证券日报   本报记者;李;冰;余俊毅   近期,多家银行密集发布信用卡积分规则调整公告。日前,中信银行发布公告称,自2022年9月14日(以实际执行日期为准)起,该行信用卡积分规...
日期:08-07
微信里视频号朋友点赞在哪里点「视频号新增朋友圈点赞可见功能」
总结:近期视频号新增了一个功能,将朋友圈点赞纳入视频号点赞计数中,点赞界面显示了朋友圈好友的点赞数和点赞人昵称。这个功能不仅对内测用户可见,也对其他用户可见。这一变化引...
日期:07-13
微软Visual Studio Code 1.44正式发布:加入新Python教程、时间轴视图_visual studio code怎么使用Python
  Visual Studio Code 发布了 1.44 版本,即 2020 年 3 月更新版。最值得关注的更新亮点有这些:   · 改进辅助功能 - 现在可以更轻松地访问 diff 视图   · 时间轴视图...
日期:11-04
网络动态_网络动态定价的优势
  1月13日,百度研究院发布2021年十大科技趋势预测,兼具技术前瞻性和产业指导价值的预测干货让不少小伙伴们感到兴奋。除了科技趋势预测内容本身,AI还自动剪辑做了一条视频来...
日期:07-10
滴滴也办了一场“吐槽大会” 柳青:吐槽滴滴的人,都是有爱的人
  9月4日,由打车引起的吐槽节目《七嘴八舌吐滴滴》在腾讯视频首播,滴滴出行总裁柳青和滴滴员工、滴滴司机一起献出了他们的网络综艺首秀。柳青在现场自嘲“每一次打车都是...
日期:04-22
马斯克正式切脑,Neuralink内部实验室照片曝光!7年计划22000例手术,全力研发只为对抗超级AI
声明:本文来自于微信公众号 新智元(ID:AI_era),作者:润 alan,授权转载发布。最近,马斯克传记作者写了一篇Neuralink最新进展的长文。从明年开始,Neuralink将开始为人类植入脑机接...
日期:11-14