您的位置:首页 > 互联网

ai前哨站「AI哨所|著名“AI教父”从谷歌离职:我为发展AI而后悔」

发布时间:2023-05-02 15:38:48  来源:互联网     背景:

凤凰网科技讯 《AI哨所》北京时间5月2日消息,有“AI教父”之称的杰弗里辛顿(Geoffrey Hinton)周一宣布,他已经从谷歌公司离职。半个世纪以来,辛顿一直在培养ChatGPT等聊天机器人背后的核心技术。但是现在,他担心AI会造成严重危害。

ai前哨站

凤凰网科技《AI哨所》了解到,辛顿是AI先锋。2012年,辛顿博士和他在多伦多大学所带的两名研究生开发的技术,成为了AI系统的知识基础。如今,科技行业的巨头们认为,AI系统是它们未来发展的关键。

为发展AI而后悔

苹果13的模型

然而就在周一,他正式加入了越来越多的AI批评人士的行列。他们认为,这些公司积极开发基于生成式AI的产品,ChatGPT等热门聊天机器人等被快速研发,这是在奔向危险。

辛顿说,他已经辞去了谷歌的工作,以便自己可以自由地谈论AI的风险。他已经在谷歌工作了十多年,成为该领域最受尊敬的人物之一。辛顿表示,他现在对自己一生从事的工作感到有些后悔。

“我用平常的借口来安慰自己:就算我没做,别人也会做的。”上周,辛顿在多伦多家中的餐厅接受了长篇采访时称。那里距离他和学生取得AI突破的地方只有几步之遥。

辛顿从AI开拓者到末日预言者的转变,标志着科技行业在这个几十年来也许最重要的拐点上经历了一个非凡时刻。业界领袖认为,新的AI系统可能与20世纪90年代初推出的网络浏览器一样重要,并可能引发从药物研究到教育等领域的突破。

但是,令许多业内人士苦恼的是,他们担心自己正在向野外释放一些危险东西。生成式AI已经可以成为制造虚假信息的工具。很快,它可能会对就业构成威胁。科技行业最大的担忧者表示,在未来的某个时候,它可能会对人类构成威胁。

辛顿对此表示,“很难想象你能如何阻止坏人利用它做坏事”。

自从OpenAI在3月份发布了最新版ChatGPT-4模型后,包括马斯克在内的上千名科技领袖和高管签署联名信,呼吁暂停开发比ChatGPT-4更先进模型6个月时间,因为AI“对社会和人类构成了深刻风险”。几天后,有40年历史的学术组织人工智能促进协会的19位现任和前任领导人发表了他们自己的公开信,警告AI的风险。该组织包括微软首席科学官埃里克霍维茨(Eric Horvitz)。微软已将OpenAI的技术应用于一系列产品,包括必应搜索引擎。

辛顿没有在这两封信上签名。他说,在辞职之前,他不想公开批评谷歌或其他公司。上个月,他通知公司他将辞职。周四,他与谷歌母公司Alphabet CEO桑达尔皮查伊(Sundar Pichai)通了电话。他拒绝公开讨论与皮查伊谈话的细节。

谷歌首席科学家杰夫迪恩(Jeff Dean)在一份声明中表示:“我们仍然致力于对AI采取负责任的态度。我们在不断学习了解新出现的风险的同时,也在大胆创新。”

AI危险更快到来

辛顿认为,随着企业改进AI系统,它们会变得越来越危险。“看看五年前和现在的情况,”他在谈到AI技术时说,“接受差异并将其传播出去。太可怕了。”

他表示,直到去年,谷歌一直是这项技术的“适当管理者”,小心翼翼地不释放可能造成伤害的东西。但是现在,微软用聊天机器人增强了必应搜索引擎,挑战谷歌的核心业务,导致谷歌也在竞相部署同样的技术。辛顿说,科技巨头陷入了一场可能无法阻止的竞争。

他目前最担心的是,互联网将充斥着虚假照片、视频和文字,普通人将“无法再知道什么是真的”。他还担心AI技术最终会颠覆就业市场。如今,像ChatGPT这样的聊天机器人往往是对人类工作者的补充,但它们也可能取代律师助理、个人助理、翻译和其他处理机械化任务的人。“它省去了繁重的工作,但它带走的可能不止这些。”辛顿称。

未来,他担心未来版本的AI技术会对人类构成威胁,因为它们经常从分析的大量数据中学习意想不到的行为。他说,这成了一个问题,因为个人和公司不仅允许AI系统生成自己的计算机代码,还允许它们自己运行这些代码。他担心有一天真正的自主化武器——那些杀人机器人——会成为现实。

“一些人相信,这种东西实际上会变得比人更聪明,”他表示,“但大多数人认为这还很遥远。 我也曾认为这还很遥远。我认为这需要30到50年甚至更长的时间。显然,我现在不再这么想了。”

辛顿说,当人们过去问他如何能研究有潜在危险的技术时,他会转述美国“原子弹之父”罗伯特奥本海默(Robert Oppenheimer)的话:“当你看到某种从技术上感觉不错的东西时,你就会去做。”凤凰网科技《AI哨所》对此将持续关注。


返回网站首页

本文评论
罗永浩湖北公益直播再出爆款,华米智能手表狂揽销售冠军
  “他们说上架的时候要激情澎湃一点,不然要受批评的。”   “这个你们可没教我啊,回去不能扣我绩效!”   “怎么写成上钟啊,上表啊!”   中国初代网红罗永浩的第二场...
日期:07-22
互联网时代彼此折叠 苦难的另一个面孔
来源:北京商报   毫无关联的三个人,在互联网时代彼此折叠。不幸成为残疾人的二舅,“炫富、炫官、炫资源”的周公子,校园贷鼻祖罗敏,一个奇怪的时代三角。   被二舅治愈的世界...
日期:07-31
CNZZ站长统计“热点图”功能上线全面开放_cnzz站长统计怎么用
  今日,中文互联网数据统计分析服务提供商CNZZ旗下的站长统计“热点图”功能正式发布http://new.cnzz.com/about/heatmap.html,并且采取全面开放的推广政策,只要是CNZZ“站...
日期:07-22
进击!GPT-4为营销人带来「五个可能性」_gip营销是什么意思
声明:本文来自于微信公众号 深响(ID:deep-echo),作者:吴鸿键,授权转载发布。尽管早已预告,但GPT-4还是再次技惊四座。北京时间3月15日凌晨,OpenAI正式推出GPT-4文本生成AI系统,从已...
日期:03-16
6月前,要不要突击涨粉?
声明:本文来自于微信公众号见实(ID:jianshishijie),作者:谢萌,授权转载发布。最近群内热闹非凡,很多行业内的从业者在讨论要不要突击加粉,怎么回捞老用户以及要不要删除死粉。事情...
日期:04-06
广汽埃安电池预加热_广汽埃安电动概念轿跑预热
  11 月 15 日消息,今天,广汽埃安发布了 2021 广州车展的提前“剧透”,海报出现了“智享旗舰电动概念轿跑”和“AION LX 科技全面在进化”两款新车的轮廓。   日前埃安 (...
日期:07-17
迪士尼文化营销_迪士尼品牌营销:点亮QQ用户的欢乐梦想
  今天的迪士尼是一个誉冠全球的娱乐品牌,是一家出售欢乐的大型跨国公司,更是一家在业务上覆盖和涉及娱乐节目制作、主题公园、玩具、图书、电子游戏和传媒网络等多个领域...
日期:07-23
平板电脑的“随身保镖”,AVG Android版保驾护航_平板安全卫士
  随着Android系统在国内的大行其道,越来越多的厂商把目标瞄准了这个充满商机的蛋糕。毫无疑问,Android平台拥有强大的扩展性,更由于各个厂商所挑起的硬件赛跑,整个市场显得...
日期:07-24
360数科以技术正面较量电信诈骗 为金融安全提供有效保障
  随着互联网和通讯科技日新月异,电信诈骗手法也变化多端,令人防不胜防。临近年末,电信诈骗高发,新型诈骗事件层出不穷。为协同警企力量,防范和打击新型电信诈骗,1月19日...
日期:07-10
希沃助力清涧县中小学教师新媒体新技术教学应用大赛
  为提升教师能力,充分调动教师应用信息技术的积极性和创造性,促进新媒体新技术在课堂教学中的有效应用,推进信息技术与教育教学的融合创新,2019年10月10日—12日,希沃应清涧...
日期:09-06
80% 打工人或被颠覆!OpenAI 发布重磅研究,这些职业最容易被 ChatGPT 波及
什么文章会让人越写越悲观?开始写稿到今天,这篇文章让编辑本人对未来最没信心,源头还是 AI。OpenAI CEO 最近在接受采访时说,自己实际上也有些害怕 ChatGPT,认为它可能会「消灭」...
日期:03-25
苹果、谷歌、亚马逊等美股明星科技股盘前集体下跌_亚马逊美股市值
2 月 3 日消息,苹果美股盘前跌近4%, 2023 财年Q1 营收同比下滑5%至1171. 5 亿美元,降速大于市场预期;谷歌A盘前跌超5%,Q4 净利润同比下滑34%至136. 24 亿美元;亚马逊盘前跌超6%,Q4...
日期:02-03
微软裁员吗「美国科技巨头依然寒气逼人 微软即将裁员:1万多人丢了工作」
2022年美国科技公司的日子也不好过,不仅多家公司股价暴跌,损失了几万亿美元市值,同时大批公司裁员,仅剩几家没宣布的就是微软、谷歌了,现在有消息称微软即将宣布全球裁员5%,至少1...
日期:01-18
苹果产品出货量「投行分析师预计iPhone出货量在今年将继续下滑 降至2.29亿部」
2月22日消息,据外媒报道,在多重不利因素的影响下,去年下半年全球智能手机需求明显下滑,加之iPhone 14 Pro在供应上遭遇挫折,导致全年的出货量同比大幅下滑,研究机构是预计降到了12...
日期:02-25
传苹果打算将Mac Pro生产线由美国移往越南「苹果生产线转移越南」
note20 ultra还是iphone12promax集微网消息,彭博记者Mark Gurman爆料称,苹果的Apple Mac Pro的制造基地可能由美国移往越南。目前Mac Pro是在得州奥斯汀由伟创力(Flex)的工厂所...
日期:12-19
币圈交易平台频爆雷,如何保障数字资产安全「暂停交易,暂停存取款!又一币圈平台爆雷,涉及用户超200万」
继安银(AEX)、虎符(Hoo)之后,又一家虚拟货币交易平台宣布暂停存取款、交易功能,在币圈掀起风波。8月11日,加密交易平台Hotbit发布公告,宣布暂停充提及交易功能,具体恢复时间目前无法...
日期:09-18
为爱助攻!浪漫七夕,来物优家·未来智家共筑甜蜜“智”家
  天上喜鹊架桥,人间银烛微光。当空气中开始弥漫幸福的味道,一年一度的浪漫七夕,又要来啦!   艾瑞巴蒂,被浓情爱意包围着的你们,今年的佳节打算怎么过?打卡米其林三星?还是...
日期:07-17
微信支付:第二轮深圳餐饮数字人民币红包开始报名
1月31日 消息:今日,第二轮深圳餐饮数字人民币红包开始报名,红包额度最高达666元。第一轮已中奖用户,将不能报名参与第二轮活动。第二轮餐饮数字人民币红包报名时间为1月31日0点...
日期:01-31
微软CEO鲍尔默:Windows Phone 7是移动式Xbox LIVE_微软的鲍尔默
  1月12日消息,微软CEO鲍尔默在谈及WindowsPhone7时表示,WindowsPhone 7是唯一一款提供所有这些服务的手机操作系统。它是移动式Xbox LIVE。人们正通过Windows Phone 7享受...
日期:07-25
卡萨帝天玺空调功能_卡萨帝天玺空调,分区送风黑科技精准客户需求
  日常生活中吹空调的时候,很多人容易觉得空调吹着吹着要么太热,要么太冷,这是因为普通的空调温度比较机械化,总是只能吹出一种温度的风来。这样一来体感不同的人感觉到的温...
日期:07-15