您的位置:首页 > 互联网

ai换脸技术违法吗「AI换脸,该抵制吗?」

发布时间:2024-08-28 15:01:54  来源:互联网     背景:

声明:本文来自于微信公众号 定焦(dingjiaoone),作者:王璐,授权转载发布。

眼见≠为实,AI换脸欺骗了不少人。

前两天,湖北公安破获了一起用AI换脸技术解锁社交账号并倒卖获利的案件。不法分子通过AI换脸专门帮人解锁被平台冻结的交友账号,每解锁一个,收费15元-30元不等。该团伙共解冻了2107个账号,从中获利40万元。

有数据显示,2023年基于AI的深度伪造欺诈暴增了3000%,深度伪造也就是deepfake,是learning和fake的组合,主要指用AI深度学习的技术,合成某个人的图片或视频、甚至声音,最常见的便是AI换脸。工信部更是在近期表示,将推出AI换脸诈骗风险提醒功能。

一边是AI换脸诈骗案件屡屡发生,另一边则是AI换脸技术不断迭代。

AI圈最近被一款AI换脸项目——Deep-Live-Cam,炸开了锅。用户只需上传一张照片,便可实时换脸成扎克伯格、董宇辉等任何想成为的人。

这一项目免费面向所有用户开放,发布在GitHub(代码托管平台)上,支持个人电脑安装。项目开发者公布了安装方法,没有技术经验的普通人可以边学边安装。

由于操作简单方便且换脸真实度高,Deep-Live-Cam出场便登上GitHub热榜第一,24小时狂揽1600+星(星星代表项目点赞和关注指标,几千颗星星是相当不错的级别)。不少网友将自己换脸成马斯克,体验了一把全球亿万富豪的感觉。

但大家在感慨AI换脸技术取得突破的同时,也在担忧“诈骗更变得容易了”。AI换脸,该抵制吗?

普通人都能用的AI换脸,

成本低至十几块

目前国内外出现的AI换脸工具不少,Deep-Live-Cam被热议的原因主要在于,用户只用上传一张图但替换效果非常逼真,还支持实时换脸。

其实,“实时换脸”功能的技术门槛算不上高。

瑞莱智慧联合创始人、算法科学家萧子豪介绍,想达到实时视频换脸效果有两种方式:一种是播放事先做好的换脸视频,一种是接入实时换脸视频。Deep-Live-Cam属于后者。

无论哪种,AI换脸视频都需兼顾前后帧的连贯性,而基于连续人脸视频的处理,可根据前一帧的很多检测资源做微小的调整,“这也让基于连续帧的视频/直播换脸,相比独立帧的单张换脸,效率更高”,一位从事AI技术的研究员表示。

AI换脸依托的底层技术是Deepfake,从业者推测,Deep-Live-Cam采用的也是这一技术,所以仅从制作合成花费的素材和算力看,成本不会很高。

萧子豪表示,如果不考虑其他硬件采购成本,大多数AI换脸成本,一次大概只要十几块,主要包含照片和算力,Deep-Live-Cam可能更低。和其他AI换脸工具相比,Deep-Live-Cam用的照片数量更少,该工具还支持普通电脑使用,照片和算力成本更低。

相比之下,Deep-Live-Cam支持仅用一张图片换脸,更让从业者们震惊。因为过往的AI换脸产品需要用户提供多张不同角度的至少十几张照片。

照片难度的降低让用户玩嗨了。AI追随者小C表示,自己之前没接触过任何AI换脸工具,他觉得Deep-Live-Cam操作门槛不高,按照发布者的说明便可完成,寻找换脸素材的难度也不是很高。

他将自己换脸成了郭德纲、吴京、雷佳音等一众名人,且都只用了他们各自的一张图片。他表示,只要提供的是正脸、额头无遮挡、自然光,接近自己肤色、证件照比例的照片,一张便可成功,脸换效果也很自然。

禾多科技自动驾驶团队

不止一位从业者认为,部分影视剧采用的AI换脸技术,不仅门槛高、成本高昂,换脸效果也不够自然,说话过程中经常出现变形、失真。“像不像是AI换脸工具最大的难题,Deep-Live-Cam能支持一张图在直播过程中达到,脸边缘没有明显贴图痕迹,肤色和原人物差别不大的效果,逼真度领先很多AI换脸工具,”萧子豪分析,其开发者应该是在图片渲染模型上实现了过往AI换脸工具没有的突破。

不过,目前Deep-Live-Cam还存在一些Bug,比如支持换脸但不涉及换声。但萧子豪表示,想要实现此举不难,接入实时换声工具即可,稍有编程基础的人就能完成。

AI换脸,

躲不掉的诈骗和侵权

Deep-Live-Cam等工具降低了用户的使用门槛,但大家也开始恐惧,不法分子只用一张图就可以换脸行骗,对普通人而言,风险将会剧增。

瑞莱智慧数据指出,国内AI诈骗案件的涉案金额从2020年的0.2万增长至2023年的1670万,年复合增长率高达1928.8%。2024年上半年,AI诈骗案超过1.85亿。奇安信发布的《2024人工智能安全报告》显示,2023年基于AI的深度伪造欺诈暴增了3000%。

AI换声、AI换脸、AI生成是AI诈骗常用的三种手段,其中AI生成内容,秒数有限,画质和人物瑕疵明显,因此不法分子最常用的是AI换声、AI换脸。而大多人相信“眼见为实”,又让AI换脸的欺骗性高于AI换声。

AI换脸不仅骗到了老年人,很多从事科技领域的年轻人也一夜失掉几百万。

据媒体公开报道,去年某科技公司CEO收到朋友转账求助,不到10分钟被骗430万元,骗子主要便是利用了AI变脸技术。还有香港某跨国公司员工被骗入不法分子设计的高管视频会议后,将2亿港元打到对方账户。

AI换脸达到了“能以假乱真”的程度,是从业者的共识。

李旭反传防骗团队负责人李旭对AI换脸技术的关注,便来源于各种诈骗案件。他表示,近两年AI换脸诈骗案件频发,市面上大概有三种AI换脸诈骗手段非常成熟。

第一种,利用AI换脸伪造色情视频,对受害人进行敲诈。

比如犯罪团伙会从网上等各种渠道收集被害人图片、视频信息,然后进行一键去 衣、AI换脸等合成处理,将伪造的不雅视频或者艳照发给受害者,用来敲诈勒索。

第二种,利用AI换脸冒充熟人诈骗。

比如诈骗团伙会用市面上的一些换脸工具伪装成受害人的亲人、朋友、同事、领导等,先虚构一个紧急事由,利用被骗目标的急迫心理实施诈骗行为,受害人在情急之下往往容易放松警惕将钱转出。

现在使用Deep-Live-Cam更只需要采集受害者一两张照片即可深度仿造技出一段视频,李旭觉得,AI换脸诈骗的程度超出了大多数普通人的认知,也直接改变了电信诈骗的剧本,防不胜防,愈演愈烈。

第三,利用AI换脸冒充名人进行直播带货,骗取用户下单。

比如主播在直播间利用“AI换脸”给自己“换”了一张名人脸,从而增加直播视频流量,助力直播带货。

此外,未经他人允许,通过AI换脸对名人/普通人进行长短视频二创、制作表情包等侵权问题也十分常见。

AI换脸诈骗案件频发且手段多样,与这一技术的成熟度和广泛度密切相关。

瀚皓科技CEO吴杰茜告诉定焦,“目前,AI视频生成、数字人和AI换脸技术都很成熟,而AI换脸是其中发展最早的领域。”

nothing ear2大鲨鱼耳机

2014年Deepfake(深度伪造)技术的出现,标准着AI换脸诞生,但一直在小范围传播,直到2017年,有用户利用该技术发布不实色情图片后,AI换脸才走入大众视野,但同时也因为其带来的大量造假内容,该技术一直备受争议。

不止一位从业者表示,这些年,虽然大众对AI换脸的讨论多集中在拯救影视剧上,但由于不好监管,利用AI换脸进行造假诈骗的事情也一直没断过。且AI换脸技术一直在迭代,入局者也不少,目前除了一些大厂涉及这一业务外,国内很多数字人、AI生成视频初创公司都有开发AI换脸业务,技术普及度比较高,该类工具也越来越多。

技术成熟、普及度高,监管也有一定的难度,导致让AI换脸技术这些年一直被滥用。

如何辨别越来越逼真的AI换脸?

近两年AI换脸导致的各种违法犯罪行为不少,不可控性让部分人觉得应该抵制AI换脸技术。

但也有很多从业者觉得,科技本身是中性的,其带来的好坏影响主要取决于使用者。AI换脸技术的出现和迭代不应该被制止。

吴杰茜表示,目前国内外均没有对AI换脸技术采取一刀切,更多是进行立法管理。

比如美国针对深度伪造进行了专门立法,欧盟将深度伪造纳入《通用数据保护条例》等现有法律框架规制度,德国、新加坡、英国等国家也将深度伪造相关犯罪纳入刑法体系。中国也在《互联网信息服务深度合成管理规定》中明确了对这一技术的规范。

多位从业者认为,对AI创作的内容进行标明等管理办法,以及传授给大众一些防AI诈骗方法,是十分必要的。

比如,曾有技术人员提出,可以在视频通话时,要求对方将手指放在脸部,仔细观察人脸是否变形,或者让对方张嘴,看牙齿和舌头是否清晰完整,从而判断图像是真人还是AI合成。

去年这一方法还比较奏效,但今年随着AI换脸技术的升级,已经让其失灵。

萧子豪表示,当下AI换脸技术可以实现有障碍物出现时人脸和动作不变形,且画质清晰度很高。李旭也发现,近期发生的AI换脸诈骗案件都使用了很强的技术手段,单纯靠动作几乎辨别不出。

鉴于AI换脸技术的快速发展,李旭认为,提高警惕是目前相对有效的方法。比如接到熟人借钱的视频来电时,可以问对方一些只有彼此才知道的隐私问题,并多向身边人询问核实。

部分从业者觉得,用AI辨别AI或许是个不错的办法。

比如先看画面有没有一些明显违背常识的元素,重点看脸部边缘是否有瑕疵,然后再借助一些AI工具。萧子豪觉得用AI甄别AI,可识别出绝大多数骗局,目前很多公司和政府部门都找他们来合作AI换脸防御系统。

ai换脸危险吗

但此举在国内外也引发了一定争议。

首先,这种方式具有一定的使用门槛,用户需要在手机/电脑端下载相关应用。其次,从本质上看,这类防御工具存在一定的滞后性,主要对当下AI换脸工具见招拆招,但AI换脸技术和合成方法在时刻变化。

很多人寄希望于相关法律法规完善,比如提高对AI换脸诈骗、销售AI换脸淫秽视频、换脸名人进行带货等违法行为的惩罚力度。

去年,杭州萧山区人民法院判决了一起用AI换脸制作淫秽视频的案例,被告人因提供AI换脸定制服务,通过AI换脸制作了大量淫秽视频,还用建群的方式吸引观看者付费进群,涉案金额共6万余元,最终被判处有期徒刑七年三个月,并处罚金6万元。

不过也提醒大家一点,并不是所有的AI换脸都会侵犯肖像权。

今年6月北京互联网法院宣判了两起AI换脸侵权案件,两位国风短视频模特在社交平台上发现了自己视频出现在某一换脸APP中,于是将该APP背后的科技公司告上法庭,认为其损害了自己的肖像权和个人权益。

法院的宣判是,认定被告使用了原告出镜的视频,但由于涉案视频中的原告面部已被替换,并未侵害原告的肖像权,因此仅认定此举构成对原告个人信息权益的侵犯。

此刻,AI换脸技术还在不断升级,也尚未被禁止,AI换脸工具还大量在市场上流传。

定焦近期在某电商平台上直接搜索“AI换脸”时,已经搜不到任何信息,但只要把关键词稍加改变,还是能找到相关换脸工具售卖,并且路径更为隐秘,会跳转到某二手网站进行交易。在技术和骗术都在不断升级的当下,大家能做的是提高警惕,防止被AI换脸侵害。

ai换脸带来的问题


返回网站首页

本文评论
比亚迪首发云辇车身控制系统:车辆掉个轮胎 仍能平稳行驶
4月10日晚,快科技获悉,比亚迪召开云辇智能车身控制系统发布会”,正式发布云辇”技术,其是一系列车身控制技术的集大成者,实现系统级深度集成。比亚迪董事长王传福表示,云辇是垂直...
日期:04-11
荣耀100系列搭载MagicOS 7.2:支持AI内容创作_荣耀al100
快科技11月23日消息,荣耀100系列正式发布。该机预装MagicOS 7.2,支持AI内容创作,实现了语义搜索功能,有着更强的AI实力。与此同时,MagicOS 7.2还有智慧感知、流畅性能、YOYO建议...
日期:11-23
谷歌母公司二季度营收746亿美元,净利184亿美元同比增15%_谷歌2021年营收
7月26日消息,当地时间周二盘后谷歌母公司Alphabet公布2023年第二季度财报。财报显示,第二季度Alphabet营收746.04亿美元,同比增长7%,分析师平均预期为728.2亿美元;净利润183.68亿...
日期:07-26
15全系配USB-C 苹果拒绝接口和安卓互通 「iPhone」_usb不支持苹果手机充电怎么办
8月19日消息,据供应链最新消息称,iPhone 15全系将会配备USB-C接口,不过不同型号会被差异对待。小米1亿像素照片原图按照供应链说法,iPhone 15标准版只是配备普通版本的USB-C接口...
日期:09-17
冷到发紫!今年入冬以来寒潮来袭 已发布蓝色预警_寒潮蓝色预警全国多地将先后降温
今天(11月26日)开始,我国大面积国土将遭受今冬以来最强寒潮侵袭,自西向东横扫我国大部地区,华南地区也会受到影响。中央气象台于11月26日8时发布寒潮蓝色预警:预计,26日至30日,寒潮...
日期:12-03
小鹏汽车今年将在中国率先推出全自动驾驶「小鹏汽车 自动驾驶」
DoNews1月29日消息,据广州日报报道,广东省召开广东省高质量发展大会。会上,小鹏汽车董事长何小鹏表示,小鹏汽车作为一家成长于广东,扎根于广东的智能汽车制造企业,将在2023年以此...
日期:01-30
华为获新浪2022科技风云榜年度最具社会责任企业奖项「华为技术有限公司2019年报」
  讯12月16日下午消息,由新浪财经客户端、联合主办的“2022科技风云榜”线上年度盛典今日开幕,今年活动主题为“守正创新,科技向上”。乐视宣布回归手机领域  活动现场,来自...
日期:12-17
尊敬的用户由于系统升级「用户已无法降级 谨慎升级_苹果关闭iOS,16.3.1验证通道」
苹果公司在昨天发布了iOS 16.4.1的更新,此后关闭了iOS 16.3.1的验证通道,这意味着苹果iPhone用户将无法再降级到该版本的系统。目前,iOS 16.4、iOS 16.4.1和iOS 16.5测试版仍然...
日期:10-03
阿里达摩院确认:旗下量子实验室已赠予浙江大学_阿里达摩院首席科学家
快科技11月26日消息,据媒体报道,阿里巴巴达摩院相关人士表示,达摩院已将量子实验室及量子实验仪器设备捐赠予浙江大学,并向其他高校和科研机构进行开放。其表示:为了进一步推动量...
日期:11-27
DSCC:Micro LED 市场规模预计到 2027 年达 13 亿美元「micro led量产」
11月15日消息:据 DSCC 机构最新发布的《MicroLED 显示技术和市场前景报告》,MicroLED 显示的市场仍然很小,但预计到2027年将达到13亿美元规模。DSCC 分析师表示,「MicroLED 最...
日期:11-18
Meta员工集体炮轰扎克伯格:正用元宇宙大梦“搞死”公司
  讯 北京时间12月12日早间消息,据报道,最近,在美国匿名网络论坛“Blind”上,社交网络巨头Meta的员工们通过各种评论,炮轰掌门人扎克伯格。  许多评论发表于Meta宣布解雇13%...
日期:12-12
马斯克尴尬!印度喊话:不会为特斯拉任何关税豁免 就不惯着「特斯拉进入印度市场」
快科技7月14日消息,马斯克愿意相信印度,不过后者在特斯拉关税豁免上一点也没有让步的意思。之前曾有消息称,特斯拉与印度的谈判曾涉及寻求进口电动汽车的关税豁免,但遭到印度拒...
日期:07-14
阿里云云效_阿里云云效助力企业10倍研发效能提升
  2021年1月15日,《揭秘阿里云云效如何助力企业10倍研发提效》活动在云端举行。阿里云云效资深技术专家何勉发布云原生时代的研发新范式——ALPD及《阿里云云效助力企业10...
日期:07-10
Internet Explorer 9 测试版下载次数突破2000万
  新年刚到,微软刚刚宣布,Internet Explorer 9 Beta测试版的下载量已经突破2000万次,而在今年11月份,这一数字为1300万左右,这意味着IE9 Beta的用户数量依旧在不断增长。   ...
日期:07-25
独立开发变现周刊(第84期):一个地理位置API服务,月收入1.5万美元
声明:本文来自于微信公众号 凯凯而谈(ID:web-bear),作者:凯凯刘,授权转载发布。分享独立开发、产品变现相关内容,每周五发布。(合集:https://ezindie.com/weekly )目录1、tiny.host...
日期:12-16
华为折叠屏之王!曝Mate X6已在路上:麒麟 卫星通信_华为折叠屏旗舰mate x
快科技6月15日消息,博主数码闲聊站暗示,华为下一代折叠屏Mate X6已在路上,这款新品采用侧边电容式指纹方案,搭载麒麟芯片,支持双向卫星通信,这将是华为最强悍的折叠屏。去年,华为Ma...
日期:06-16
beko除螨仪怎么样_Beko倍科除螨仪618火热抢购,还你一个干净的家
  “晒被子后让人安心的阳光味道,其实是螨虫的尸体散发出的。”这一说法打破了不少人的浪漫幻想,不过大致正确。看来,阳光充足的高温环境确实可以杀死螨虫或者降低其活性...
日期:07-14
文化输出第一人!网红李子柒官司风波后首露面:会继续坚持「网红李子柒的正面事例」
9月16日消息,日前,被誉为文化输出第一人”的网红博主李子柒”在官司风波后首次出现在公开视频中,并送上对乡村振兴的祝福。李子柒表示,七年前回到家乡拿起摄像机,通过短视频的方...
日期:09-16
200斤小伙成功挑战7天爬五岳减重4斤半 医生提醒:勿随意模仿「爬五岳的难度」
今年五一假期期间,兴起了一种特种兵式旅游”,简单来说,就是用五天时间,爬完五岳,这需要不停的赶路、上山、下山,对体能要求和消耗都极其强。本以为这只是一时的流行,但没想到马上过...
日期:07-26
“人车家全生态”开拓智能家居新赛道,打造全屋智能体验新方式
2023 年,小米召开了汽车技术发布会,重磅发布一款C级高性能生态科技轿车。这是小米从手机行业到汽车行业的重大跨越,引起了全行业的广泛关注。随着科技的不断进步和人们生活水平...
日期:01-25