您的位置:首页 > IT热点资讯

ai论坛马斯克和马云_美媒:马斯克等人呼吁暂停AI训练是对的 为了安全需要放慢脚步

发布时间:2023-03-30 15:18:50  来源:互联网     背景:

3月30日消息,特斯拉首席执行官埃隆·马斯克(Elon Musk)、苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)以及其他1000多人日前签署了一封公开信,呼吁暂停训练比GPT-4更强大的AI系统。美国主流网络媒体BI认为,为了全社会的利益,AI开发需要放慢脚步。

在公开信中,沃兹尼亚克、马斯克等人要求在AI技术变得日益强大之际,为其设置安全护栏,并暂停训练更先进的AI模型。他们认为,对于像OpenAI的GPT-4这样强大的AI模型,“只有在我们确信它们的影响是积极的、风险是可控的情况下才应该开发”。

当然,这并不是人们首次呼吁为AI设置安全护栏。然而,随着AI变得越来越复杂、越来越先进,要求保持谨慎的呼声也在不断升高。

美国康奈尔大学数字和信息法教授詹姆斯·格里梅尔曼(James Grimmelmann)表示:“放慢新AI模型的开发速度是一个非常好的主意,因为如果AI最终对我们有利,那么等待几个月或几年也没有坏处,我们无论如何都会到达终点。而如果它是有害的,那我们也为自己争取了额外的时间,以制定应对的最佳方式,并了解如何与其作对抗。”

ChatGPT崛起凸显出行动过快存在潜在危险

去年11月,当OpenAI的聊天机器人ChatGPT上市公测时,引起了巨大轰动。可以理解的是,人们开始推广ChatGPT的功能,而它对社会的破坏性很快就显现出来了。ChatGPT开始通过医生职业考试,给出如何制作炸弹的说明,甚至为自己创造了另一个自我。

马斯克ai梗

我们越多地使用AI,特别是ChatGPT或文本到图像转换工具Stable Diffusion等所谓的生成式人工智能(AIGC)工具,我们就越能看到它的缺点,它制造偏见的潜力,以及我们人类在使用它的力量时显得多么无力。

BI编辑哈桑·乔杜里(Hasan Chowdhury)写道,AI有可能“成为涡轮增压机,加速我们的错误蔓延开来”。就像社交媒体那样,它可以利用人类最好的和最坏的东西。但与社交媒体不同的是,AI将更多地融入人们的生活。

ChatGPT和其他类似的AI产品已经倾向于歪曲信息和犯错误,沃兹尼亚克曾公开谈论过这一点。它很容易产生所谓的“幻觉”(不真实信息),就连OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)也承认,该公司模型可能会产生种族、性别歧视和带有偏见的答案。Stable Diffusion也遇到了版权问题,并被指控从数字艺术家的作品中窃取灵感。

随着AI融入更多的日常技术中,我们可能会在更大范围内给世界带来更多错误信息。即使是对AI来说看似良性的任务,比如帮助策划假期,也可能不会产生完全可信的结果。

马斯克ai连接人脑

当自由市场要求快速发展时,很难负责任地开发AI技术

需要明确的是,AI是一项令人难以置信的变革性技术,特别是像ChatGPT这样的AIGC。开发机器来完成人们讨厌的大部分乏味工作,从本质上讲并没有错。

尽管这项技术在劳动力中造成了生存危机,但它也被誉为科技行业的平等工具。目前也没有证据表明,ChatGPT准备在未来几年领导一场机器人叛乱。

许多AI公司都有伦理学家参与,以负责任的态度开发这项技术。但是,如果匆忙推出产品的重要性高于其社会影响,专注于安全创建AI的团队就无法安心完成工作。

速度似乎也是这股AI热潮中不可忽略的因素。OpenAI认为,如果该公司行动足够快,就可以抵御竞争,成为AIGC领域的领导者。这促使微软、谷歌和几乎所有其他公司争相效仿。

在强大的AI模型准备就绪之前就发布给公众体验,并不能让这项技术变得更好。人们还未找到AI的最佳用例,因为开发人员必须扑灭他们所创造技术引发的喧嚣,而用户则被噪音分散了注意力。

并不是每个人都希望放慢速度

马斯克等人的公开信也受到其他人批评,他们认为其没有切中要害。

华盛顿大学教授艾米丽·本德(Emily M. Bender)在推特上表示,马斯克和其他科技领袖在炒作周期中只关注AI的强大程度,而不是它能造成的实际损害。

lg发布首款mini-led屏电视

康奈尔大学数字和信息法教授格里梅尔曼补充说,在这封公开信上签名的科技领袖“姗姗来迟”,并打开了一个潘多拉盒子,可能给自己带来麻烦。他称:“现在他们已经在这封信上签名,那么他们就不能转身再说,不能对自动驾驶汽车等其他技术施行同样的政策。”

暂停开发或施加更多监管可能会也不会取得成果。但现在,话题似乎已经转向。AI已经存在了几十年,或许我们还可以再多等几年。(小小)


返回网站首页

本文评论
魅族20预订量突破15万 只用了一天「魅族20周年」
本周魅族官方针对魅族20系列开启了1元超前预订活动,仅需支付1元,还能享受7大权益。而魅族公布数据,魅族20系列超前订26小时已经突破了15万订单。农村电商销售平台参与超前订的...
日期:02-25
再次携手!马士兵教育与京东宣布推出共研架构师课程
 后疫情时代下,数字化作为未来的发展趋势,及其能为企业创造的巨大价值,已经是行业共识。继 6 月 6 日,由马士兵教育携手微软亚洲研究院、AMD中国研发中心、科大讯飞研究院、京...
日期:08-31
或使用陶瓷材质 透露称OPPO Find X6系有1.5K屏和2K屏方案「oppofindx3屏幕分辨率」
今日消息,博主数码闲聊站透露,OPPO Find X6系列有两种屏幕方案,一种是1.5K屏,一种是2K屏。不出意外,标准版采用1.5K,而Pro版采用2K。另外,数码闲聊站还透露,Pro版还采用曲面屏设计,单...
日期:09-14
分析师称iPhone 14产量报告过于夸大对苹果的影响_苹果产量预测
苹果股价在有消息称苹果保持原定的iPhone 14生产目标后持续下跌,但两家著名的分析公司并不担心。在两份给投资者的说明中,来自摩根士丹利和Wedbush的分析师说,最近一份关于iPho...
日期:10-05
APP越用越“膨胀”,你的手机存储还好吗?_app的内存为什么会越用越大
  中新网10月13日电(中新财经记者 吴涛)你的手机存储空间还够用吗?近日,手机存储焦虑话题登上微博热搜,网友纷纷吐槽APP占用空间大,动不动几个GB就没了。你的手机是这样吗?该如...
日期:10-13
小米最先进净水器_小米又一爆款诞生!小米净水器销量破500万台
作为著名的杂货铺”,小米除了手机、电脑等主流数码产品外,还在家电、出行、穿戴、配件等品类推出了多款产品,AIoT领域的成绩可喜。宏碁swift980固态近日,小米净水器官方宣布,小米...
日期:12-24
特斯拉电动车成本分析_特斯拉电动汽车平均生产成本已降至3.6万美元 不到2017年一半
  9月14日消息,据报道,在电动汽车方面走在行业前列的特斯拉,自2019年三季度以来就已持续盈利,今年二季度的净利润超过20亿美元,去年的净利润高达55亿美元,在新能源汽车厂商方面...
日期:09-15
比亚迪:将对王朝网和海洋网相关新能源车型的官方指导价进行调整,上调幅度6000-10000元不等
  界面新闻9月5日获悉,比亚迪内部通知,因原材料价格大幅上涨以及新能源购车补贴退坡等影响,比亚迪汽车将对王朝网和海洋网相关新能源车型的官方指导价进行调整,上调幅度6000-1...
日期:09-06
超拼科技一文读懂软件开发到底是在做什么?
超拼科技一文读懂软件开发到底是在做什么?一提到软件开发这个词,大家都明白是做技术开发的,具体是什么技术开发,做什么?似乎没有几个人能说得清楚,那么今天就随超拼科技来看看,软件...
日期:07-22
MatePad Pro将首销:3299享高刷鸿蒙3.0_matepad pro鸿蒙
华为新发布的MatePad Pro(2022)将于8月10日0点正式开售,其中8+128GB WIFI版本的售价为3499元,目前京东商城预售立减200元,3299元即可到手这款120Hz高刷的鸿蒙3.0平板电脑。华为Ma...
日期:08-08
FF大股东提起诉讼公司,要求罢免两位董事会成员_ff:将任命新的九名全球董事会成员
9月20日消息,法庭文件显示,电动汽车初创企业法拉第未来的大股东对公司提起诉讼,要求罢免两位董事会成员,这让法拉第未来的董事会改革纷争再度升级。目前法拉第未来尚未开始量产F...
日期:09-20
机构:预计2022年中国智能平板线上市场零售量将达到1200万台「平板 市场」
  《科创板日报》10日讯,市调机构洛图科技最新报告显示,2022年前8个月,中国智能平板线上零售市场销量达到719万台。其中,Apple、华为两大品牌在智能平板市场占据半壁江山,份额...
日期:10-13
小彼恩点读笔资源下载_蝶变新声,小彼恩点读笔升级点读阅听一体机
9 月 25 日,知名儿童点读产品及服务品牌小彼恩隆重举办 2022 蝶变新声秋季新品发布会,发布会上重磅推出了小彼恩点读笔系列产品的全新伙伴——点读阅听一体机,为中国亲子家庭带...
日期:09-30
OPPO Watch ECG版手表_OPPO Watch 3 Pro获更新:新版本追加ECG心电图功能
8月,OPPO发布了最新OPPO Watch 3 Pro智能手表,有用户发现,这款手表配备了心电传感器,理论上支持相关监测功能。今天,OPPO Watch 3 Pro获得新版本更新,终于加入了心电测量分析功能...
日期:09-30
百度董事长李彦宏2019年发表了多少文章_百度宣布文心一言发布 李彦宏:市场真的有需求
  讯 3月16日下午消息,百度创始人、董事长、CEO李彦宏宣布文心一言正式发布,李彦宏介绍指出,文心一言具有文学创作、商业文案创作、多模态生成、数理逻辑推算、中文理解等能...
日期:03-16
高通发布4nm新旗舰,小米联想们为何不抢“首发”了?「高通下一代旗舰」
(原标题:高通发布4nm新旗舰,小米联想们为何不抢“首发”了?) 【文/观察者网 吕栋】“先发才是真首发,敢卖才是真首发,有货才是真首...
日期:12-12
小米预计今年手机出货可达1.65亿部 资本市场看好「2020小米手机出货」
随着相关政策的开发,目前小米最新的1月份每周出货量都有所改善,表现好于预期,对此小米也上调了关于2023年的相关预期,若小米的全球市场份额恢复至2021年14%的水平,该行预计2023年...
日期:02-07
iPhone 15 Pro真机外观定了:确定改成Type-C接口「苹果15pro尺寸」
今天一早有博主分享了一张自称是iPhone 15 Pro的谍照,其中清晰的展示了底部的Type-C接口,并且宣称iPhone 15全系都将改成Type-C接口。防近视的屏幕罗永浩锤子科技股份而且边框...
日期:02-22
极光美股盘前涨超32% 此前宣布将整合ChatGPT技术_美股极光股票价格
2 月 8 日讯:截至发稿,极光美股盘前涨超32%,此前宣布将在核心产品极光推送中整合ChatGPT技术,推出“AI创作”工具。联发科天玑系列芯片三桶油 新能源企业数字化转型的驱动力...
日期:02-09
大疆无人机创业启示_大疆无人机行业应用:复兴文化 绘出未来
前言「二广深溪石壁上有鬼影,如澹墨画。船人行,以为其祖考,祭之不敢慢。」引自宋代李石《续博物志》《续博物志》中的「鬼影」,便是位于广西边境的「花山岩画」,2016年,「花山岩画...
日期:12-12