欢迎登陆宣鼎商联网,专业报道中国商业品牌新闻的垂直门户,简称商联网
   
79元买30张“脸”,谁在甩卖AI换脸工具?
2023-06-26 22:40:28 来源: 浏览:266

「核心提示」

近日,滥用AI换脸技术的诈骗犯罪层出不穷,连直播间也出现了换脸的假明星。这种情况下,有人却在社交平台上堂而皇之卖起“作案工具”,79元就可以买30个人脸模型。是谁在甩卖AI换脸工具?

自从5月底“AI诈骗正在全国爆发”登上热搜后,利用AI换脸技术的诈骗事件频繁发生。

近日,中国银河证券发布公告称:利用“AI合成技术”的诈骗手段或将逐步蔓延至证券行业。公告显示,某知名经济学家称,自己被人利用“AI换脸”等技术,通过视频、语音等方式联系投资者,骗取投资者信任,开展荐股活动。

此前已经有哈尔滨、福州等多地网警通报有关AI换脸的诈骗事件,有人10分钟***了430万。

而“AI换脸”诈骗猖獗的当下,社交平台上也涌现了一批推销“AI换脸教程”的账号。

这些账号发布的视频,主要内容都是人物手一挥就换了一张脸。视频还会同时搭配洗脑的音乐,简单的动作,以及“AI换脸教程、直播实时换脸、视频实时换脸、自定义换脸”等相关文字。

如果有用户在视频下面回复,他们就会在评论区引导,让用户加联系方式详谈。

这些账号背后的上传者,自称是自媒体时代的成功学导师,不断追逐热点,付费传授各种流量密码。

只不过,这一次的“AI换脸”尚处于监管灰色地带,参与其中的用户可能稍不留神,就从“知识付费”变成“今日说法”。

1、AI诈骗之后,“换脸”教程席卷平台

5月底,有不少网友发现,当红女星“杨幂”“迪丽热巴”亲自在某女装品牌直播间带货。她们互动热情,介绍专业,短时间引来大量网友围观。

但仔细看,主播的脸又不太像明星本人,如果主播扭头的幅度太大,居然会瞬间“显出原形”,变出另一张脸来。更有人在不同直播间同时看到多个“杨幂”“热巴”。一时间,“明星主播”分身有术,处处有“杨幂”,个个是“热巴”。

经过媒体***,人们才发现,原来部分直播间在未标识情况下,用AI换脸技术,让主播套上一张明星脸,误导消费者。

想起差点因为虚假的明星效应冲动消费,人们对AI换脸的魔力越发心有余悸。

视频换脸技术出现已久,早在2019年,一款名为“ZAO”的换脸App就曾红极一时,用户只要上传一张自己的正面照,就可以在电影角色的脸上套上自己的五官,与明星同台飙戏。

到了2021年年初,换脸应用程序Avatarify一度登上了App Store中国区应用免费榜榜首,但不到一个星期,该应用就被中国区App store下架。

这些软件的技术往往来自于DeepFake开源技术,依托大数据和人工智能深度学习机制,对既有视频或图片中的人物面部图像进行替换。

虽然当时的换脸技术还不够逼真,但已经能让一些短视频创作者吸引流量。

在2021年3月,TikTok上的某个视频账号就通过换脸技术,制作了换脸汤姆克鲁斯练习高尔夫、表演魔术、讲笑话等视频,发布没多久就收获了20多万粉丝。

当时,这种技术门槛较高。视频制作者宣称使用了开源的DeepFaceLab算法以及其他的视频编辑工具,通过将传统的视觉特效与DeepFake技术相结合,前后花了整整两个月的时间制作。此外,硬件上还需要使用一对NVIDIA RTX 8000 GPU训练AI模型,才能达到以假乱真的效果。

随着近两年来技术大爆发,不仅出现了几乎可以傻瓜式操作换脸的相关软件,逼真程度也一再上升,目前已经可以做到实时换脸,从而应用到上面提到的直播领域。

但是从娱乐领域到商业领域,AI换脸还处于灰色地带。

在此前的报道中,有法律人士认为,使用AI换脸技术时,应有显著标识,以免公众混淆。而未经明星同意使用其肖像直播带货,可能涉嫌多项侵权。

2023年3月,某短视频平台上的特效师通过把电视剧中男主角的脸换成自己的脸,合成与女明星亲吻的影像,并借此宣传售卖“特效换脸教程”,也引发了很大争议,并且该账号“特效合成师洪亮(收徒)”被平台封号15天。

目前短视频平台对于这类行为提出了规范。比如2023年5月9日,抖音发布“关于人工智能生成内容的平台规范暨行业倡议”,其中提到创作者应对人工智能生成内容进行显著标识,同时虚拟人需在平台进行注册,虚拟人技术使用者需实名认证。

而在政策监管上,今年1月生效的《互联网信息服务深度合成管理规定》也指出,提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。并要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

面对平台和监管部门的围追堵截,换脸明星以吸引流量的路子走不通。部分博主发现以身犯法不行,转身卖起了所谓的AI换脸课程。

2、79元就能“换”30张脸

此前,央视财经***“主播AI换脸明星进行直播”时提到,在网上购买一套AI实施换脸的模型需3.5万元。

只过了一个多月的时间,AI换脸的价格正在迅速平民化。如今,只需要79元,一个AI换脸套餐就能帮你换30张脸。

《豹变》在社交平台上搜到了有关“AI换脸教程,直播实时换脸,视频通话换脸”的相关视频,视频下方的商品链接中售卖相应的课程——不仅提供“AI换脸直播间搭建”工具包+教程,同时“包教包会换脸直播,79元可以解锁30张面孔”。

店铺显示,该课程已售13份。《豹变》询问后并没有得到回复,截至发稿,相关产品已经下架。

类似售卖AI变脸课程的账号往往非常谨慎,多数账号在视频中并不直接宣传卖课,而是以“带你玩AI换脸”等字眼,吸引用户主动询问。

此外,卖家还会通过大批没有其他内容的僵尸号,批量转发同样的视频,然后在账号简介或私信中交换联系方式。

《豹变》从一位卖家客服那里了解到,不同的套餐价格不一样,包括588元的入门版本、888元的基础版本、1388元的进阶版本,以及2888元的专业版本。

客服表示,如果用于直播带货,建议购买2888元的专业版本:“我们这个活动很划算了,永久免费使用,包更新,后续这个价格会变为年卡。”

有相关行业从业者表示,类似的AI换脸技术主要来自于国外开源项目:“最近AI技术大爆炸,很多技术都是开源的,而且更新非常快。国产自研技术也有,但都是有投资的公司做的,而且效果不理想。”

类似的开源项目,官方网站上就有使用教程。一些人搬运到国内之后,开始打包卖课程和教程,成本几乎为零。

比如,B站、抖音等视频网站上的很多AI换脸视频都是通过DeepFaceLab生成的。DeepFaceLab安装简单,更新快,功能强,模型多,参数丰富,对设备配置要求低。

其他热门的软件,比如Fake App、OpenFaceSwap等,都能在互联网上找到相关资源。

对此,《豹变》向售卖课程的客服核实售卖的软件是否属于开源项目,希望对比使用界面,客服却宣称,自家产品属于内部软件,不方便公开。

而其他从事AI技术科普的博主告诉《豹变》,这就是靠信息差割韭菜。

3、AI换脸的用武之地在哪?

比起其他AI技术诞生之后备受各方瞩目,AI换脸技术似乎只得到违法分子的青眼。“换脸”的作用总让人想到灰色产业,在实时换脸技术成熟之后,没想到最先降低的似乎是违法成本。

实际上,此前AI换脸技术常运用于影视剧领域,一些曾因劣迹艺人被迫雪藏的影视剧,也是凭借AI换脸技术重见天日。而当实时换脸成为可能后,AI换脸技术也有可能在直播领域找到用武之地。

通过AI换脸,品牌方可以让不同直播间里的主播共享同一张脸,一方面可以强化品牌IP与主播的连接,另一方面也可以减少主播流失带来的损失,摆脱对大主播的依赖。

此前大热的数字人直播技术,目前还面临着技术不够成熟、对算力的要求过高、互动能力不足等尴尬情况。相对来说,AI换脸技术更为经济实用。

而且,AI换脸技术已经在部分特殊场景有所应用。比如,对于国内中小跨境电商商家来说,外籍主播和模特的人力成本略高,导致运营压力过大。所以,有TikTok商家通过AI换脸将英语口语能力不错的国内主播、模特换脸变成外籍主播、模特,以减少人力成本。

目前已经有电商公司、科技公司在着手研究AI换脸技术。电商直播行业龙头遥望科技曾于5月15日发布公告称,与小冰公司签订关于《直播电商人工智能技术/产品战略合作》的协议,双方就AI技术、产品的研发、推广等事项在直播、短视频、电商等领域展开全面合作。其中包括AI换脸技术的研发。

腾讯旗下优图实验室、天天P图联合打造的AI变脸玩法等,也在尝试能够完成人脸替换、人脸再现、人脸合成甚至全身合成、虚拟环境合成等功能。

相对应的,针对AI换脸的检测技术也在发展。企查查显示,2022年10月4日,百度申请的“人脸鉴伪方法、装置及计算机程序产品”专利公布。该专利涉及人工智能技术领域,具体涉及深度学习技术,可用于人脸鉴伪场景,提高了人脸图像鉴伪结果的准确度。

对于AI换脸技术在灰色产业的滥用,在监管和鉴别技术逐渐完善的情况下,类似情况应该会得到控制。目前来看,需要更多的相关科普、反诈知识来谨防AI换脸诈骗。 

Tags:79元买 甩卖 工具 责任编辑:gulantianxie
打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇此物曾经为皇家贡品,如今却遍地假冒! 下一篇抖音外卖“熄火”:放下1000亿GMV..
热门推荐

最新文章

图片主题

热门文章

推荐文章

相关文章