您的位置:首页 > 互联网

AI前哨|超级智能该如何监管?全球最红AI公司OpenAI这么说「超级ai技术」

发布时间:2023-05-23 18:58:12  来源:互联网     背景:

凤凰网科技讯 《AI前哨》北京时间5月23日消息,ChatGPT开发商OpenAI CEO萨姆阿尔特曼(Sam Altman)上周在美国国会作证时坦言,人工智能(AI)会对世界造成重大伤害,并呼吁加强AI监管。

美国当地时间周一,阿尔特曼联合OpenAI总裁格雷格布罗克曼(Greg Brockman)、首席科学家伊尔亚苏茨克维(Ilya Sutskever)在OpenAI官方博客上发布了《超级智能的治理》的文章,详细阐述了他们的监管提议。

华泰汽车创始人

以下是文章全文:

鉴于我们现在所看到的情况,可以想象的是,未来十年内,AI系统将在大多数领域超过专家的技能水平,并能够开展与当今最大公司之一一样多的生产活动。

就潜在的优势和劣势而言,超级智能将比人类过去不得不与之抗衡的其他技术更强大。我们可以拥有一个明显繁荣得多的未来,但我们必须控制风险才能实现这一目标。鉴于我们面临潜在生存风险,我们不能只是被动应对。核能是一个常用的历史例子,它具有这种特性。合成生物学是另一个例子。

我们也必须减轻当今AI技术的风险,但超级智能将需要特殊的对待和协调。

三个理念

对于我们来说,有许多重要理念能够帮助我们更好地把握这一发展方向。在这里,我们列出了我们对其中三个理念的初步想法。

首先,我们需要在领先的开发项目之间进行一定程度的协调,以确保超级智能的发展以一种既能维护安全又能帮助这些系统与社会顺利整合的方式进行。有很多方法可以实现这一点:世界各地的主要政府可以建立一个项目,让许多当前努力成为其中的一部分,或者我们可以集体商定(在一个新组织的支持下,就像下面建议的那样),将前沿AI能力的增长速度限制在每年一定比例上。

搜狗创始人王小川哪里人

停止二维码虚拟信用卡支付

雷克萨斯es什么时候涨价的

当然,个别公司应该被要求以极高负责任的标准行事。

其次,我们很可能最终需要像国际原子能机构(IAEA)这样的机构来开展超级智能工作。任何超过一定能力(或算力等资源)阈值的工作都需要服从于国际权威机构,该机构可以检查系统,要求审计,测试以确定项目是否符合安全标准,对部署程度和安全级别进行限制等等。跟踪计算和能源使用可能会有很长的路要走,但它给了我们一些希望,相信这个想法实际上是可以执行的。作为第一步,企业可以自愿同意开始实施该机构某一天可能要求的要素;第二步,个别国家可以实施。重要的是,这样一个机构应该把重点放在降低生存风险上,而不是那些留给各个国家的问题上,比如定义AI应该被允许说什么。

第三,我们需要让超级智能安全的技术能力。这是一个开放的研究问题,我们和其他人都投入了大量的精力。

一般AI不应受监管

在这个范围之外,我们认为允许企业和开源项目开发低于重大能力阈值的模型是很重要的,它不需要像我们在这里描述的那种监管(包括像许可证或审计这样繁重的机制)。

如今的系统在世界上创造了巨大的价值,虽然它们确实存在风险,但这些风险的程度与其他互联网技术和社会上可能采取的方法相当。

相比之下,我们所关注的是超级智能系统,它拥有比目前所创造的任何技术都强大的能力。我们应该小心,不要把类似的标准应用到远远低于这个标准的技术上,从而淡化对超级智能的关注。

公众意见及潜力

但是,对于最强大系统的治理,以及关于其部署的决策,必须有强有力的公众监督。我们相信,世界各地的人们应该民主地决定AI系统的界限和默认设置。我们还不知道如何设计这样一个机制,但我们计划对这一发展进行试验。我们仍然认为,在这些广泛的界限内,个人用户应该对他们所使用AI的行为有很大的控制权。

考虑到这些风险和困难,我们有必要考虑一下为什么要开发这项技术。

在OpenAI,我们有两个基本原因。首先,我们相信它会带来一个比我们今天所能想象的更好的世界(我们已经在教育、创造性工作和个人生产力等领域看到了早期的例子)。世界面临着许多问题,我们需要更多的帮助来解决这些问题。这项技术可以改善我们的社会,每个人使用这些新工具的创造能力肯定会让我们大吃一惊。经济增长和生活质量的提高将是惊人的。

其次,我们相信,阻止超级智能的创造具有令人难以置信的风险,也是困难的。因为好处是如此巨大,构建它的成本每年都在下降,构建它的参与者的数量正在迅速增加,这是我们所走的技术道路的固有组成部分。阻止它的发展,需要类似全球监督制度这样的体制,但即使如此也不能保证成功。因此,我们必须确保正确处理这一问题。凤凰网科技《AI前哨》对此将持续关注。

超级ai技术


返回网站首页

本文评论
部分理想L9 MAX和L8 Pro延期交付:提供油卡作为补偿
11月27日消息:理想汽车发布公告称,受核心零配件供应延迟的影响,部分App内显示于11月底交付的用户将延期至12月,而12月交付的车型暂不受影响。此次受影响的车型主要是理想L9MAX...
日期:11-28
美国对电脑手机等产品启动调查:三星、LG、戴尔、联想、摩托罗拉列名被告
  9 月 1 日消息 美国国际贸易委员会(ITC)昨日进行了一项投票,决定对特定笔记本电脑、台式机、服务器、移动电话、平板电脑及其组件启动 337 调查。   据了解,此次调查中...
日期:09-27
用三星Neo QLED玩Xbox Series X 享受新世代游戏的乐趣
  在刚刚结束的UDE2021国际消费电子与未来生活博览会上,三星电视与微软Xbox联合打造的“急速时刻”街区,成为了现场最受游戏玩家们喜爱的区域之一。三星Neo QLED系列电视...
日期:11-28
1TB会降到100多吗?SSD雪崩腰斩只是开始 供大于求巨头狂减产减支
作为行业晴雨表的存储芯片行情持续走低,迫使美光、三星、SK海力士等主要存储大厂持续调整业务。存储芯片的出货大头由DRAM(内存)和NAND闪存两大类芯片占据,多用于个人电脑、手机...
日期:10-17
2020统信uos新品发布会_官宣:2020 统信 UOS 新品 5 月 15 日发布,全新视觉设计、操作使用体验
  5月10日消息 统信软件UOS新品发布会宣布将在5月15日举行,官方表示,这一场发布会涵盖了操作系统生态建设、未来以及实际的软件新产品发布。   IT之家获悉,此次新品发布...
日期:07-08
加拿大 iPhone 用户遭遇夏令时 Bug,苹果 iOS 时钟提前延后了 1 小时_苹果时间限制bug
  11 月 2 日消息,据 9to5 Mac 报道,美国和加拿大地区的夏令时将在 11 月 7 日结束,这意味着其时钟将“延后”1 个小时。一些 iPhone 用户 —— 似乎主要是加拿大的用户 —...
日期:11-18
SpaceX 火箭在运输途中出车祸:撞上一座桥 NASA 称正在评估损坏情况|SpaceX|NASA|火箭
作者:汪淼;   IT之家;7 月 23 日消息,一枚 SpaceX 火箭在前往该公司位于加利福尼亚州霍桑的工厂途中发生意外,拖车在通过一座离地间隙较低的桥时与其相撞。   SpaceX 的运...
日期:08-01
国庆假期喜茶部分门店销量增幅近300% 个别门店增幅达到500%「喜茶门店销售额」
10月8日消息,喜茶2022年国庆假期消费数据显示,和节前相比,国庆假期喜茶部分门店销量增幅近300%,个别门店甚至增幅达到了500%。喜茶GO微信小程序也显示,在国庆假期内,包括北上广深...
日期:10-15
文心一词的出处「通义千问、文心一言和ChatGPT回答热点话题 结果意外」
凤凰网科技讯 4月7日晚间消息,阿里云宣布自研大模型“通义千问”开始邀请用户测试体验。现阶段该模型主要定向邀请企业用户进行体验测试,用户可通过官网申请符合条件的用户可...
日期:04-08
沃尔沃正式退出内燃机研制:股份全部出售给吉利_吉利收购沃尔沃发动机
全球第一家正式退出内燃机研发和制造的车企出现了,它正是沃尔沃!11月8日,沃尔沃发布声明称,其将剥离内燃机业务,集中资本开发高性能电动系统。具体来看,沃尔沃将从Aurobay撤资,并将...
日期:11-18
一周认证270项专利 IBM三星争夺“专利领导权”_ibm专利战略是什么
  据国外媒体报道,近年来很多“年轻”的企业被授予了大量的专利,不过IBM和三星是IT业界的专利巨人,没有其他任何公司申请的专利数量能与这两家公司相近,并且也没有任何其他公...
日期:07-24
苹果iPhone13/Pro系列手机到底涨不涨价?业内人士回答了!(iphone13pro会降价吗)
  ITBEAR科技资讯8月27日消息,有知名人士Jon Prosser带来最新消息:iPhone13系列手机会在9月14日亮相,而全球范围开售时间在9月24日,其可信度很高。如果抛开外界因素(COVID-19...
日期:07-17
iPhone 5c正式被列为过时产品「iPhone 5c将被列为过时产品:教会安卓做塑料手机」
近日,苹果提供给授权服务商的备忘录显示,从今年11月1日起,苹果将把iPhone 5c标记为过时产品,终止所有相关维修和服务。这款在2013年9月发布,曾被列为一代神机的产品终于落幕。iPh...
日期:10-24
关于抖音医疗内容管理规则的说明「抖音医疗治理MCN机构内容乱象 处置违规账号81个」
3月6日 消息:近日,抖音黑板报发布了抖音医疗关于治理MCN机构内容乱象的公告。公告称,抖音持续打击各种违法违规行为,并对入驻平台的MCN机构加强管理。抖音表示,平台在巡查中发现...
日期:03-06
营销型企业网站提高转化率十大技巧_网络营销转化率
        调查发现转化率成了中小企业网络营销的瓶颈,客户来了,却又无形中流失。网络营销在很多地方都与传统营销存在较大的差异。眼下如何进行网络推广是人们热衷的话题,...
日期:07-22
《三体》《流浪地球》后 刘慈欣另三部科幻著作影视化立项_刘慈欣三体拍成电影了吗
根据国家电影局公开信息显示,根据刘慈欣同名小说改编的电影《全频带阻塞干扰》已经通过剧本(梗概)备案、立项。《全频带阻塞干扰》是刘慈欣2009年出版的小说,讲述的是一方不敌另...
日期:12-21
苹果公司对开发者账户页面进行了设计更新「苹果企业开发者帐户」
苹果公司今天对开发者登录苹果网站时访问的开发者账户界面进行了全面修改,引入了一个更简洁的外观,使其能够一目了然地访问更多信息。先前版本的网站有一个侧栏用于导航,而更新...
日期:10-06
上线8年 京东众筹将于10月10日起业务停运_京东众筹面临的风险
10月9日 消息:日前,京东众筹发布公告称,京东众筹业务将于2022年10月10日起暂停运营。9月30日10点,京东众筹入口下线,已经上线的项目将继续众筹,成功后正常发货。10月10日,众筹业务...
日期:10-23
小米手环7 Pro拆解:手环的最终归宿是智能手表?_小米智能手环怎么拆开呢
小米手环7 Pro的硬件方案说实话,对比7惊喜不够大基本上只是多了个导航功能产品定位不明确,不伦不类终究是被小米手环7 Pro背刺了吗请戳视频 即刻解锁中兴axon 30 ultra拍照测...
日期:09-16
AI哨所| AI冲击音乐产业 流媒体巨头回应:AI既酷又可怕_ai前哨站
凤凰网科技讯 《AI哨所》北京时间4月26日消息,面对生成式人工智能(AI)对于音乐产业的冲击,瑞典流媒体音乐巨头Spotify CEO丹尼尔埃克(Daniel Ek)认为,AI是一项既酷又让人感到可...
日期:04-26