您的位置:首页 > 互联网

人工智能会不会害死人类「人工智能会导致人类灭亡吗?专家称更担心虚假信息和操纵用户」

发布时间:2023-06-04 11:18:32  来源:互联网     背景:

 6月4日消息,随着人工智能技术的快速发展和普及,很多行内人士担心不加限制的人工智能可能会导致人类灭亡。但专家们表示,人工智能带来的最大负面影响不太可能是科幻电影中的核战场面,反而更有可能是虚假信息、操纵用户等造成的社会环境不断恶化。

以下是翻译内容:

近几个月来,业内愈发担心人工智能。就在本周,300多名行业领袖发表了一封联名公开信,警告人工智能可能导致人类灭绝,对待人工智能应该像“疫情和核战”那样加以严肃对待。

人工智能是否会毁灭人类,谈谈自己的想法

像“人工智能末日”这种术语总会让人联想到科幻电影中机器人统治世界的画面,但实际上任由发展的人工智能会带来哪些后果?专家们说,现实可能不像电影情节那样跌宕起伏,不会是人工智能启动核弹,而是社会基础环境逐渐恶化。

加州大学伯克利分校人工智能安全计划主任杰西卡·纽曼(Jessica Newman)说:“我不认为人们该担心人工智能会变坏,或者人工智能会有某种恶意欲望。”“危险来自一些更简单的东西,那就是人们可能会给人工智能编程,让它做有害的事情,或者我们最终会把天生不准确的人工智能系统整合到越来越多的社会领域,从而造成伤害。”

人工智能会不会毁灭地球

这并不是说我们不应该担心人工智能。即便末日场景不太可能发生,强大的人工智能也有能力用错误信息问题不断加剧、操纵人类用户以及给劳动力市场带来巨大变化等形式破坏社会稳定。

虽然人工智能技术已经存在了几十年时间,但像ChatGPT这种语言学习模型的普及加剧了人们长期以来的担忧。纽曼说,与此同时,科技公司争先恐后将人工智能应用到他们的产品中,相互开展激烈竞争,带来了一堆麻烦事。

她说:“我非常担心我们眼下走的道路。”“对于整个人工智能领域来说,我们正处于一个特别危险的时期,因为这些系统虽然看起来很特别,但仍然非常不准确,并且存在固有漏洞。”

接受采访的专家们表示,他们最担心的有不少方面。

错误和虚假信息

许多领域早已经启动了所谓的人工智能变革。机器学习技术支撑着社交媒体新闻推送算法,长期以来,人们一直指责这种技术加剧了固有偏见和错误信息等问题。

专家们警告说,随着人工智能模型的发展,这些尚未解决的问题只会进一步加剧。最糟糕的情况可能影响到人们理解事实真相和有效信息,从而导致更多基于谎言的事件发生。专家们表示,错误和虚假信息的增加可能引发进一步的社会动荡。

“可以说,社交媒体的崩溃是我们第一次遇到真正愚蠢的人工智能。因为推荐系统实际上只是简单的机器学习模型,”数据科学平台Anaconda首席执行官兼联合创始人Peter Wang说。“我们真的彻底失败了。”

Peter Wang补充说,这些错误可能导致系统陷入永无止境的恶性循环,因为语言学习模型也是在错误信息的基础上进行训练,为未来模型创造的又是有缺陷的数据集。这可能会导致“模型自相残杀”效应,未来模型会因为过去模型的输出放大偏差,并永远受到影响。

redmi2021年新机

华为p50和荣耀magic4

专家们称,不准确的错误信息和容易误导人们的虚假信息都被人工智能放大了。像ChatGPT这种大语言模型很容易出现所谓的“幻觉”现象,反复捏造杜撰虚假信息。新闻行业监督机构NewsGuard的一项研究发现,几十个完全由人工智能撰写材料的在线“新闻”网站中有许多内容都存在不准确之处。

NewsGuard联合首席执行官戈登·克罗维茨(Gordon Crovitz)和史蒂文·布里尔(Steven Brill)表示,这种系统可能会被坏人利用,故意大规模传播错误信息。

克罗维茨说:“一些恶意的行为者可以制造虚假陈述,然后利用这个系统的倍增效应来大规模传播虚假信息。”“有人说人工智能的危险被夸大了,但在新闻信息领域,它正在产生惊人影响。”

全球非营利性机构Partnership on AI的丽贝卡·芬利(Rebecca Finlay)表示:“就更大规模的潜在危害而言,错误信息是人工智能最有可能对个人造成伤害的方面、风险也最高。”“问题是我们如何创造一个生态系统,让我们能够理解什么是真实的?”“我们又该如何验证我们在网上看到的东西?”

恶意操纵用户

虽然大多数专家都表示,错误信息是最直接和最普遍的担忧,但关于这项技术可能会在多大程度上对用户的思想或行为产生负面影响,还存在不少争议。

事实上,这些担忧已经带来了不少悲剧。据报道,比利时一名男子在得到聊天机器人的鼓动后自杀身亡。还有聊天机器人告诉用户和他的伴侣分手,或者让有饮食失调问题的用户减肥。

纽曼说,从设计上讲,因为聊天机器人是以对话的形式与用户交流,可能会产生更多的信任感。

“大语言模型特别有能力说服或操纵人们在潜移默化中改变他们的信念或行为,”她说。“孤独和心理健康已经是全世界的大问题,我们需要观察聊天机器人会对世界产生何种认知影响。”

因此,专家们更担心的不是人工智能聊天机器人会获得感知能力并超越人类用户,而是它们背后的大语言模型可能会操纵人们给自己造成原本没有的伤害。纽曼说,那些以广告盈利模式运作的语言模型尤为如此,它们试图操纵用户行为,从而尽可能长时间地使用平台。

纽曼表示:“在很多情况下,给用户造成伤害也不是因为他们想要这样做,而是系统未能遵循安全协议造成的后果。”

纽曼补充说,聊天机器人的类人特性使用户特别容易受到操纵。

她说:“如果你和一个使用第一人称代词的东西交谈,谈论它自己的感受和所处情境,即使明知道它不是真实的,仍然更有可能引发一种它像人类的反应,让人们更容易想要相信它。”“语言模型让人们愿意信任它,把它当成朋友,而不是工具。”

劳动力问题

长期存在的另一个担忧是,数字自动化将取代大量人类工作。一些研究得出结论,到2025年,人工智能将在全球范围内取代8500万个工作岗位,未来将取代超过3亿个工作岗位。

受人工智能影响的行业以及岗位非常多,有编剧也有数据科学家。现如今,人工智能可以像真正的律师那样通过律师考试,还能比真正的医生更好回答健康方面的问题。

专家们发出警告,人工智能的崛起可能会导致出现大规模失业,从而造成社会不稳定。

Peter Wang警告说,大规模裁员在不久将来就会发生,“许多工作岗位都面临风险”,而且几乎没有任何计划应对后果。

他说:“在美国,没有关于人们失业时如何生存的框架。”“这将导致很多混乱和动荡。对我来说,这是由此产生的最具体、最现实的意外后果。”

未来怎么办

尽管人们越来越担心科技行业和社交媒体带来的负面影响,但在美国,监管科技行业和社交媒体平台的措施却很少。专家们担心人工智能也是如此。

Peter Wang说:“我们许多人担心人工智能发展的原因之一是,在过去的40年时间里,作为一个社会,美国基本上放弃了对科技的监管。”

尽管如此,近几个月来美国国会已经有了一番积极动作,举行听证会,让OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)就应该实施的监管措施作证。芬利表示,她对这些举措感到“鼓舞”,但在制定人工智能技术规范以及如何发布方面,还需要做更多工作。

她说:“很难预测立法和监管部门的反应能力。”“我们需要对这种水平的技术进行严格审查。”

尽管人工智能的危害是行业内大多数人最关心的问题,但并非所有专家都是“末日论者”。许多人也对这项技术的潜在应用感到兴奋。

Peter Wang说:“实际上,我认为新一代人工智能技术真的可以为人类释放出巨大的潜力,让人类社会以更大规模繁荣起来,要超出过去100年甚至200年的水平。”“实际上,我对它的积极影响非常非常乐观。”(辰辰)


返回网站首页

本文评论
国家卫健委:研究建立全国统一电子病历_全国电子病历系统
  日前,国家卫健委官网发布《对十三届全国人大四次会议第 10294 号建议的答复》。关于在国内建立一套病历电子档案数据存储库,实现资源共享的建议。《答复》提到,国家卫健委...
日期:05-23
钉钉总裁叶军卸任Teambition法定代表人_钉钉副总裁叶军
  天眼查App显示,9月26日,Teambition运营主体上海汇翼信息科技有限公司发生工商变更,钉钉总裁叶军卸任法定代表人、执行董事,均由傅徐军接任。百度美国市值华为手机一半黑屏一...
日期:10-01
安全、稳定的DNS解析,刻不容缓!_dns安全性
  在国内,域名运营商的DNS是屡受攻击、频繁掉链子;而在国外,互联网巨头也是未能幸免,去年1月百度在国外的DNS解析被黑客攻击的事件,在今天看来,仍然“触目惊心”,相关报道又称9...
日期:07-22
港股美团收跌超9% 快手跌超4%「美团股价跌」
  讯 8月16日下午消息,香港恒生指数收跌1.05%,恒生科技指数收跌2.03%。港股美团收跌超9%,盘中市值一度跌破万亿港元。此前有市场消息称,腾讯计划出售美团的全部或大部分股权。...
日期:10-08
ChatGPT、AIGC 的火热推动大数据市场投入和更新迭代
4月6日消息:根据 IDC 的最新预测数据,预计到 2022 年,中国大数据市场的总 IT 投资规模约为 170 亿美元,并且在 2026 年将增至 364.9 亿美元,从而实现规模翻倍。美团2020年第三季...
日期:04-06
美国太空总署空间科学数据中心_SpaceChain太空链获得欧洲航天局对区块链卫星技术的支持
  9月17日,欧洲航天局ESA旗下致力于打造商业应用和太空解决方案的计划Kick-start Activity通过项目审核和层层遴选后决定向SpaceChain UK提供资金,以进一步开发和识别其...
日期:11-12
思享2018节目_思享无限2020年度盛典完美收官  打造独特内容生态
  2020年12月29日晚,秀色直播2020年度盛典迎来决赛巅峰对决,经过激烈的角逐,一粒彩蛋传媒、BP传媒、华星传媒、蝶依传媒分获秀色直播、乐嗨直播、嗨秀直播和蜜疯直播年度第...
日期:07-16
索尼发布新款高清激光投影机:7000流明 支持4K/60p输入_索尼12000流明投影机
10月12日,索尼发布两款紧凑型WUXGA 3LCD激光投影机VPL-P630HZ 和VPL-P530HZ,具有高亮度,灵活的安装性和优秀的操作性能,将于2022年11月上市。ios14粘贴至iphone弹窗是啥其中,VPL-...
日期:10-13
12 年孕育出 200 万个应用,App Store 生态为何一年能促成超 5000 亿美元的交易额
  WWDC 2020 召开在即,来自加州的 Analysis Group 独立经济学家们发表了一篇关于App Store 生态的调查报告,报告中指出 App Store 生态系统仅在 2019 年便在全球范围内创下...
日期:07-14
七部门:进一步规范明星广告代言活动_广告法调整后规定明星对代言的产品或者服务需要承担
10月31日 消息:今日,市场监管总局等七部门联合印发《关于进一步规范明星广告代言活动的指导意见》,自公布之日起实施。意见明确,明星应当严格遵守相关法律法规规定,做到依法、依...
日期:11-05
科学家又要搞事情?这次不是流浪地球,而是登陆DEF CON MUSIC LIVE星球
  音乐打破技术边界,技术则赋予音乐无限可能。如果吉他没有通电,就没有如今丰富的摇滚乐与大众音乐,如果没有数字存储技术,我们就不会见证唱片时代和流媒体时代;而对于极客而...
日期:02-23
争当全球“药王”,中国药企摩拳擦掌
出品 | 虎嗅医疗组作者 | 陈广晶编辑 | 陈伊凡头图 | 《绝命毒师》剧照“免疫之王”,想当药王可太难了!随着跨国药企陆续公布2022年业绩报告,新一轮“药王”争夺赛结果揭晓。出...
日期:02-25
RIM开始测试BBM音乐服务 计划18个国家推出
8月26日消息,据国外媒体报道,RIM正在测试一项基于云的围绕其黑莓Messenger的音乐服务。RIM计划在今年晚些时候商业性推出这项名为BBM(BlackBerry Messenger)音乐的服务。 RIM...
日期:07-22
推特再失两名高管:首席营销官和广告业务主管双双离职_推特负责人
11月2日消息,据国外媒体报道,在特斯拉CEO埃隆·马斯克以440亿美元完成对推特的收购后,推特管理层正在发生大变动。据外媒报道,推特首席营销官(CMO)莱斯利·伯兰德(Leslie Berland)已...
日期:11-07
京东app首焦展位_京东新首页内测,取消焦点图
  据亿邦动力报道,日前,京东开始内测首页改版,取消首页焦点图。   当首页焦点图取消后,首页的瀑布信息板块将上移。有服务商猜测,改版后的京东首页内容将更偏向短视频化。...
日期:06-25
爽就要吼出来——语音微博Symbian版开启你的激情生活
  当iOS和Android用户拿着手机乐享说的愉悦时,Symbian用户可是各种羡慕嫉妒恨。此时,语音微博Symbian版终于发布,为更多智能手机用户带来能听能说的微博。此次发布的语音微...
日期:07-24
iQOO Neo7上架:已有超13万人预约「iqoo7备货」
今日消息,iQOO Neo7在京东上架预约,其中自营店已有7万多人预约,iQOO旗舰店已有6万多人预约,两家店铺预约量突破了13万人。作为iQOO Neo系列新成员,Neo7最大的看点就是它搭载的联...
日期:10-18
今日起!私家车10年只检两次 老车正式告别“一年两检”_私家车十年内仅需检两次
  10月1日起,国内机动车检车新政策正式开始实施。  新措施规定,调整优化检验周期,进一步优化调整非营运小微型载客汽车(9座及9座以下,面包车除外)、摩托车检验周期。海信金刚4...
日期:10-03
kindle如何退出亚马逊网页_亚马逊将停止中国Kindle电子书店运营
  6月3日消息,日前,亚马逊在其官网宣布,将于一年之后即2023年6月30日,在中国停止Kindle电子书店的运营。对于已经购买的电子书,用户可以在2024年6月30日之前下载,并且可以在此...
日期:07-18
华为5G平台_华为技术、鲲鹏处理器支持,浙江移动发布首个5G SA云网络
  2018年初开始杭州“5G第一城”建设以来,中国移动浙江公司(下称“浙江移动”)在5G站点开通、精品区域打造、5G产业联盟发展、工业互联网应用孵化等众多领域取得了多项全...
日期:03-25