{"data":"{\"category\":\"technology\",\"content\":\"\\u003cp\\u003e图片来源@视觉中国\\u003c/p\\u003e\\u003cdiv\\u003e\\u003cp\\u003e文 | 豹变，作者 | 宋子豪，编辑 | 刘杨\\u003c/p\\u003e\\u003c/div\\u003e\\u003cp\\u003e自从5月底“AI诈骗正在全国爆发”登上热搜后，利用AI换脸技术的诈骗事件频繁发生。\\u003c/p\\u003e\\u003cp\\u003e近日，中国银河证券发布公告称：利用“AI合成技术”的诈骗手段或将逐步蔓延至证券行业。公告显示，某知名经济学家称，自己被人利用“AI换脸”等技术，通过视频、语音等方式联系投资者，骗取投资者信任，开展荐股活动。\\u003c/p\\u003e\\u003cp\\u003e此前已经有哈尔滨、福州等多地网警通报有关AI换脸的诈骗事件，有人10分钟被骗了430万。\\u003c/p\\u003e\\u003cp\\u003e而“AI换脸”诈骗猖獗的当下，\\u003cstrong\\u003e社交平台上也涌现了一批推销“AI换脸教程”的账号。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cp\\u003e这些账号发布的视频，主要内容都是人物手一挥就换了一张脸。视频还会同时搭配洗脑的音乐，简单的动作，以及“AI换脸教程、直播实时换脸、视频实时换脸、自定义换脸”等相关文字。\\u003c/p\\u003e\\u003cp\\u003e如果有用户在视频下面回复，他们就会在评论区引导，让用户加联系方式详谈。\\u003c/p\\u003e\\u003cp\\u003e这些账号背后的上传者，自称是自媒体时代的成功学导师，不断追逐热点，付费传授各种流量密码。\\u003c/p\\u003e\\u003cp\\u003e只不过，这一次的“AI换脸”尚处于监管灰色地带，\\u003cstrong\\u003e参与其中的用户可能稍不留神，就从“知识付费”变成“今日说法”。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cstrong\\u003e\\u003cstrong\\u003eAI诈骗之后，“换脸”教程席卷平台\\u003c/strong\\u003e\\u003c/strong\\u003e\\u003cp\\u003e5月底，有不少网友发现，当红女星“杨幂”“迪丽热巴”亲自在某女装品牌直播间带货。她们互动热情，介绍专业，短时间引来大量网友围观。\\u003c/p\\u003e\\u003cp\\u003e但仔细看，主播的脸又不太像明星本人，如果主播扭头的幅度太大，居然会瞬间“显出原形”，变出另一张脸来。更有人在不同直播间同时看到多个“杨幂”“热巴”。\\u003cstrong\\u003e一时间，“明星主播”分身有术，处处有“杨幂”，个个是“热巴”。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cp\\u003e经过媒体曝光，人们才发现，原来部分直播间在未标识情况下，用AI换脸技术，让主播套上一张明星脸，误导消费者。\\u003c/p\\u003e\\u003cp\\u003e想起差点因为虚假的明星效应冲动消费，人们对AI换脸的魔力越发心有余悸。\\u003c/p\\u003e\\u003cp\\u003e视频换脸技术出现已久，早在2019年，一款名为“ZAO”的换脸App就曾红极一时，用户只要上传一张自己的正面照，就可以在电影角色的脸上套上自己的五官，与明星同台飙戏。\\u003c/p\\u003e\\u003cp\\u003e到了2021年年初，换脸应用程序Avatarify一度登上了App Store中国区应用免费榜榜首，但不到一个星期，该应用就被中国区App store下架。\\u003c/p\\u003e\\u003cp\\u003e这些软件的技术往往来自于DeepFake开源技术，依托大数据和人工智能深度学习机制，对既有视频或图片中的人物面部图像进行替换。\\u003c/p\\u003e\\u003cp\\u003e\\u003cstrong\\u003e虽然当时的换脸技术还不够逼真，但已经能让一些短视频创作者吸引流量。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cp\\u003e在2021年3月，TikTok上的某个视频账号就通过换脸技术，制作了换脸汤姆克鲁斯练习高尔夫、表演魔术、讲笑话等视频，发布没多久就收获了20多万粉丝。\\u003c/p\\u003e\\u003cp\\u003e当时，这种技术门槛较高。视频制作者宣称使用了开源的DeepFaceLab算法以及其他的视频编辑工具，通过将传统的视觉特效与DeepFake技术相结合，前后花了整整两个月的时间制作。此外，硬件上还需要使用一对NVIDIA RTX 8000 GPU训练AI模型，才能达到以假乱真的效果。\\u003c/p\\u003e\\u003cp\\u003e随着近两年来技术大爆发，不仅出现了几乎可以傻瓜式操作换脸的相关软件，逼真程度也一再上升，目前已经可以做到实时换脸，从而应用到上面提到的直播领域。\\u003c/p\\u003e\\u003cp\\u003e但是\\u003cstrong\\u003e从娱乐领域到商业领域，AI换脸还处于灰色地带。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cp\\u003e在此前的报道中，有法律人士认为，使用AI换脸技术时，应有显著标识，以免公众混淆。而未经明星同意使用其肖像直播带货，可能涉嫌多项侵权。\\u003c/p\\u003e\\u003cp\\u003e2023年3月，某短视频平台上的特效师通过把电视剧中男主角的脸换成自己的脸，合成与女明星亲吻的影像，并借此宣传售卖“特效换脸教程”，也引发了很大争议，并且该账号“特效合成师洪亮（收徒）”被平台封号15天。\\u003c/p\\u003e\\u003cp\\u003e\\u003cstrong\\u003e目前短视频平台对于这类行为提出了规范。\\u003c/strong\\u003e比如2023年5月9日，抖音发布“关于人工智能生成内容的平台规范暨行业倡议”，其中提到创作者应对人工智能生成内容进行显著标识，同时虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。\\u003c/p\\u003e\\u003cp\\u003e而在政策监管上，今年1月生效的《互联网信息服务深度合成管理规定》也指出，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。并要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。\\u003c/p\\u003e\\u003cp\\u003e面对平台和监管部门的围追堵截，换脸明星以吸引流量的路子走不通。部分博主发现以身犯法不行，转身卖起了所谓的AI换脸课程。\\u003c/p\\u003e\\u003cstrong\\u003e\\u003cstrong\\u003e79元就能“换”30张脸\\u003c/strong\\u003e\\u003c/strong\\u003e\\u003cp\\u003e此前，央视财经曝光“主播AI换脸明星进行直播”时提到，在网上购买一套AI实施换脸的模型需3.5万元。\\u003c/p\\u003e\\u003cp\\u003e只过了一个多月的时间，\\u003cstrong\\u003eAI换脸的价格正在迅速平民化。\\u003c/strong\\u003e如今，只需要79元，一个AI换脸套餐就能帮你换30张脸。\\u003c/p\\u003e\\u003cp\\u003e《豹变》在社交平台上搜到了有关“AI换脸教程，直播实时换脸，视频通话换脸”的相关视频，视频下方的商品链接中售卖相应的课程——不仅提供“AI换脸直播间搭建”工具包＋教程，同时“包教包会换脸直播，79元可以解锁30张面孔”。\\u003c/p\\u003e\\u003cp\\u003e店铺显示，该课程已售13份。《豹变》询问后并没有得到回复，截至发稿，相关产品已经下架。\\u003c/p\\u003e\\u003cp\\u003e类似售卖AI变脸课程的账号往往非常谨慎，\\u003cstrong\\u003e多数账号在视频中并不直接宣传卖课，而是以“带你玩AI换脸”等字眼，吸引用户主动询问。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cp\\u003e此外，卖家还会通过大批没有其他内容的僵尸号，批量转发同样的视频，然后在账号简介或私信中交换联系方式。\\u003c/p\\u003e\\u003cp\\u003e《豹变》从一位卖家客服那里了解到，不同的套餐价格不一样，包括588元的入门版本、888元的基础版本、1388元的进阶版本，以及2888元的专业版本。\\u003c/p\\u003e\\u003cp\\u003e客服表示，如果用于直播带货，建议购买2888元的专业版本：“我们这个活动很划算了，永久免费使用，包更新，后续这个价格会变为年卡。”\\u003c/p\\u003e\\u003cp\\u003e有相关行业从业者表示，类似的AI换脸技术主要来自于国外开源项目：“最近AI技术大爆炸，很多技术都是开源的，而且更新非常快。国产自研技术也有，但都是有投资的公司做的，而且效果不理想。”\\u003c/p\\u003e\\u003cp\\u003e\\u003cstrong\\u003e类似的开源项目，官方网站上就有使用教程。一些人搬运到国内之后，开始打包卖课程和教程，成本几乎为零。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cp\\u003e比如，B站、抖音等视频网站上的很多AI换脸视频都是通过DeepFaceLab生成的。DeepFaceLab安装简单，更新快，功能强，模型多，参数丰富，对设备配置要求低。\\u003c/p\\u003e\\u003cp\\u003e其他热门的软件，比如Fake App、OpenFaceSwap等，都能在互联网上找到相关资源。\\u003c/p\\u003e\\u003cp\\u003e对此，《豹变》向售卖课程的客服核实售卖的软件是否属于开源项目，希望对比使用界面，客服却宣称，自家产品属于内部软件，不方便公开。\\u003c/p\\u003e\\u003cp\\u003e而其他从事AI技术科普的博主告诉《豹变》，\\u003cstrong\\u003e这就是靠信息差割韭菜。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cstrong\\u003e\\u003cstrong\\u003eAI换脸的用武之地在哪？\\u003c/strong\\u003e\\u003c/strong\\u003e\\u003cp\\u003e比起其他AI技术诞生之后备受各方瞩目，AI换脸技术似乎只得到违法分子的青眼。“换脸”的作用总让人想到灰色产业，在实时换脸技术成熟之后，没想到最先降低的似乎是违法成本。\\u003c/p\\u003e\\u003cp\\u003e实际上，此前AI换脸技术常运用于影视剧领域，一些曾因劣迹艺人被迫雪藏的影视剧，也是凭借AI换脸技术重见天日。而当实时换脸成为可能后，\\u003cstrong\\u003eAI换脸技术也有可能在直播领域找到用武之地。\\u003c/strong\\u003e\\u003c/p\\u003e\\u003cp\\u003e通过AI换脸，品牌方可以让不同直播间里的主播共享同一张脸，一方面可以强化品牌IP与主播的连接，另一方面也可以减少主播流失带来的损失，摆脱对大主播的依赖。\\u003c/p\\u003e\\u003cp\\u003e此前大热的数字人直播技术，目前还面临着技术不够成熟、对算力的要求过高、互动能力不足等尴尬情况。相对来说，AI换脸技术更为经济实用。\\u003c/p\\u003e\\u003cp\\u003e而且，\\u003cstrong\\u003eAI换脸技术已经在部分特殊场景有所应用。\\u003c/strong\\u003e比如，对于国内中小跨境电商商家来说，外籍主播和模特的人力成本略高，导致运营压力过大。所以，有TikTok商家通过AI换脸将英语口语能力不错的国内主播、模特换脸变成外籍主播、模特，以减少人力成本。\\u003c/p\\u003e\\u003cp\\u003e目前已经有电商公司、科技公司在着手研究AI换脸技术。电商直播行业龙头遥望科技曾于5月15日发布公告称，与小冰公司签订关于《直播电商人工智能技术/产品战略合作》的协议，双方就AI技术、产品的研发、推广等事项在直播、短视频、电商等领域展开全面合作。其中包括AI换脸技术的研发。\\u003c/p\\u003e\\u003cp\\u003e腾讯旗下优图实验室、天天P图联合打造的AI变脸玩法等，也在尝试能够完成人脸替换、人脸再现、人脸合成甚至全身合成、虚拟环境合成等功能。\\u003c/p\\u003e\\u003cp\\u003e相对应的，针对AI换脸的检测技术也在发展。企查查显示，2022年10月4日，百度申请的“人脸鉴伪方法、装置及计算机程序产品”专利公布。该专利涉及人工智能技术领域，具体涉及深度学习技术，可用于人脸鉴伪场景，提高了人脸图像鉴伪结果的准确度。\\u003c/p\\u003e\\u003cp\\u003e对于AI换脸技术在灰色产业的滥用，在监管和鉴别技术逐渐完善的情况下，类似情况应该会得到控制。目前来看，需要更多的相关科普、反诈知识来谨防AI换脸诈骗。\\u003c/p\\u003e\",\"gnid\":\"91a223d38774e7770\",\"img_data\":[{\"flag\":2,\"img\":[]}],\"original\":0,\"pat\":\"art_src_1,fts0,sts0\",\"powerby\":\"pika\",\"pub_time\":1687743582000,\"pure\":\"\",\"rawurl\":\"http://zm.news.so.com/1b44c7aaebf0f45089a1180084f874f5\",\"redirect\":0,\"rptid\":\"0e5f01440a577a45\",\"rss_ext\":[],\"s\":\"t\",\"src\":\"钛媒体APP\",\"tag\":[{\"clk\":\"ktechnology_1:诈骗\",\"k\":\"诈骗\",\"u\":\"\"},{\"clk\":\"ktechnology_1:杨幂\",\"k\":\"杨幂\",\"u\":\"\"},{\"clk\":\"ktechnology_1:主播\",\"k\":\"主播\",\"u\":\"\"}],\"title\":\"79元买30张「脸」，谁在甩卖AI换脸工具？\",\"type\":\"zmt\",\"wapurl\":\"http://zm.news.so.com/1b44c7aaebf0f45089a1180084f874f5\",\"ytag\":\"科技:互联网:互联网安全\",\"zmt\":{\"brand\":{},\"cert\":\"钛媒体APP官方账号\",\"desc\":\"中国最大也最具影响力的财经科技信息服务提供商\",\"fans_num\":25838,\"id\":\"3031891970\",\"is_brand\":\"0\",\"name\":\"钛媒体APP\",\"new_verify\":\"5\",\"pic\":\"https://p0.img.360kuai.com/t01345077ff383d8cb1.jpg\",\"real\":1,\"textimg\":\"https://p9.img.360kuai.com/bl/0_3/t017c4d51e87f46986f.png\",\"verify\":\"0\"},\"zmt_status\":0}","errmsg":"","errno":0}