智東西（公眾號：zhidxcom）文|年年導(dǎo)語：隨著AI換臉技術(shù)的日漸普及，AI換臉黑產(chǎn)規(guī)模越來越龐大，許多人開始叫賣AI換臉成品情色視頻、定制視頻以及AI換臉軟件及教程。智東西7月24日消息，隨著AI換臉技術(shù)的不斷發(fā)展，圍繞AI換臉已經(jīng)形

智東西（公眾號：zhidxcom）文 | 年年

導(dǎo)語：隨著AI換臉技術(shù)的日漸普及，AI換臉黑產(chǎn)規(guī)模越來越龐大，許多人開始叫賣AI換臉成品情色視頻、定制視頻以及AI換臉軟件及教程。

智東西7月24日消息，隨著AI換臉技術(shù)的不斷發(fā)展，圍繞AI換臉已經(jīng)形成了一條完整的黑色產(chǎn)業(yè)鏈。100元打包200部換臉情色片，囊括國內(nèi)一二線女明星，5張照片就可以幫你定制換臉視頻，400元就可以購買換臉軟件及教程并包教包會……

AI換臉是基于一套簡單的深度學(xué)習(xí)算法，只需要照片或是視頻，通過這套算法就可以把其中的人臉替換成你想要替換的人臉，操作相對簡單，而且替換之后的視頻或是照片十分逼真。

許多人看到了這里面的“商機(jī)”，所以大量的AI換臉視頻或照片開始出現(xiàn)，其中很多被應(yīng)用到了情色片換臉，通過這項技術(shù)，你可以把情色片中的人臉替換成你想要看的人臉，而這也是引爆這一技術(shù)的話題點。

記者調(diào)查發(fā)現(xiàn)，目前AI換臉黑產(chǎn)已經(jīng)形成了完整的產(chǎn)業(yè)鏈，從下游成品情色視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產(chǎn)業(yè)鏈產(chǎn)品和售后服務(wù)，據(jù)部分賣家透露，現(xiàn)在定制視頻要排隊，因為前面有很多人也有這個需求，可見AI換臉黑產(chǎn)已經(jīng)發(fā)展到一定程度。

一、100元能干啥？打包200部換臉情色片

為了調(diào)查傳聞中的AI換臉地下產(chǎn)業(yè)鏈，我也是煞費(fèi)苦心，在瀏覽了各個論壇的公開信息之后，我鎖定了三個主要的AI換臉黑產(chǎn)平臺：淘寶、咸魚、貼吧。

我分別在淘寶、咸魚、貼吧這三個AI換臉比較活躍的平臺進(jìn)行了調(diào)查，發(fā)現(xiàn)這三個平臺目前對于AI換臉都已經(jīng)加強(qiáng)了審核力度，不再像前一段時間搜AI換臉出現(xiàn)很多結(jié)果，且三個平臺側(cè)重點并不相同。

▲淘寶搜索“AI換臉’結(jié)果

例如在淘寶輸入“AI換臉”，前10個返回的店鋪只有一家是做AI換臉的，而且只提供教程并不提供成品視頻售賣，在返回的所有店鋪中只發(fā)現(xiàn)了7家經(jīng)營AI換臉的店鋪，大部分都只提供軟件及教程并不提供成品視頻。

▲咸魚搜索“換臉”結(jié)果

在咸魚搜索AI換臉干脆沒有任何搜索結(jié)果，于是我機(jī)智的把AI去掉只搜索換臉（去掉換臉只搜AI也沒有相關(guān)結(jié)果），這時咸魚搜索結(jié)果的第一條就是AI換臉的店鋪，在所有返回結(jié)果中，大部分都只做圖片換臉，也有一小部分標(biāo)注不太明確的售賣換臉軟件和成品視頻。

▲AI換臉吧、deepfake吧和fakeapp吧截圖

貼吧算是三個里面AI換臉最容易找到的地方，我先后潛入了AI換臉吧、deepfake吧和fakeapp吧，這三個是目前涉及AI換臉比較活躍的吧。AI換臉吧比較直接，發(fā)帖內(nèi)容多是售賣成品視頻或是軟件教程，有的人也發(fā)帖收徒不過都是收費(fèi)的；deepfake吧發(fā)的帖子有售賣視頻、教程的，也有利用AI換臉制作一些搞笑視頻或圖片分享的；fakeapp吧則相對單純的多，內(nèi)容多是以技術(shù)交流為主，例如軟件使用過程中的問題等，不過用軟件做什么遇到了問題就不得而知了。

▲被調(diào)查的10個賣家資料整理

三個平臺大多并不直接交易，大部分都是通過這三個平臺最后引流到QQ和微信。記者從三個平臺成功聯(lián)系到10個賣家，其中2個來自于咸魚、4個來自于淘寶、4個來自于貼吧。在和賣家溝通并取得信任后，我都會問基本相同的問題，例如售賣內(nèi)容、價格、是否可定制、用的是什么軟件等。

經(jīng)過記者的調(diào)查，AI換臉黑產(chǎn)目前還主要停留在三個階段，即售賣成品情色視頻、售賣定制視頻和售賣軟件及教程。

▲不同賣家對于成品視頻定價

綜合多個賣家的信息，成品情色視頻價格從2元1部到30元46部、100元150部和100元200部不等，一般都是打包售賣。據(jù)賣家說，成品視頻以國內(nèi)一、二線女明星為主。

▲部分賣家發(fā)給我的成品視頻案例

有意思的是，也許是為了證明換臉效果，一般加上一個賣家的QQ或微信后，部分賣家會給我先發(fā)一段成品羞恥小視頻，也有的賣家比較謹(jǐn)慎只給我發(fā)了拍攝的截圖等。一開始我是拒絕的，不過一想為了工作，我也就抱著犧牲自我的精神義無反顧的都看了一遍，從視頻和截圖看，換臉效果確實都還不錯。

▲賣家對于定制視頻和教程收費(fèi)

定制視頻的價格相對貴上一些，據(jù)部分賣家透露，定制視頻一般1小時200-300元，低于1小時一律100元，也有的賣家按分鐘計價，1分鐘20-80元。不過定制視頻流程很簡單，只需要你提供5張左右照片就可以，據(jù)賣家說收費(fèi)這么貴主要是一部定制視頻需要渲染很長時間，一般10分鐘的定制視頻需要2小時左右，而一部長片至少需要十幾個小時才能出成片。

▲進(jìn)行AI換臉需要的電腦硬件配置

軟件和教程相對于成品視頻和定制視頻價格上就要貴不少，從多個賣家的報價看，教程一般的售價在300-400元左右，大部分賣家教程標(biāo)價都是400元，而且保證1-3天學(xué)會，大多附帶后續(xù)的指導(dǎo)。不過對于想要自己學(xué)習(xí)制作視頻的人，賣家一般都會提醒說至少需要游戲級的配置，最低2G顯存，GPU最好為4GHZ。

不過這些賣家都只能稱為普通賣家，在接觸到的賣家中，有兩個微信賣家路子比較野。

▲微信賣家A發(fā)給我的產(chǎn)品介紹截圖

一個來源于淘寶，這個賣家提供云處理功能，沒錯確實是云處理，利用它的軟件進(jìn)行視頻處理時在他們的服務(wù)器上運(yùn)行，不要求你的電腦性能。相關(guān)軟件和教程也分為三種，分別是128元本地軟件無需聯(lián)網(wǎng)、298元服務(wù)器15G空間版本和368元無限空間版本，其中368元版本包括月租38元的VPN、月租450元的谷歌服務(wù)器和無限期售后服務(wù)。

▲微信賣家B發(fā)給我的兩個可選擇套餐

還有一個賣家來自咸魚，這個賣家除了成片羞恥視頻還售賣國外APP下載鏈接和邀請碼，據(jù)他所說，網(wǎng)站經(jīng)常被封，這種方式比較安全。從他提供的視頻看，這款A(yù)PP專門有一個換臉專區(qū)，里面有大量的成品視頻，不過應(yīng)該并不都是他們自己制作的，因為有的視頻和別的賣家提供給我的是一樣的。

有意思的是，通過觀察這兩個賣家的朋友圈我發(fā)現(xiàn)，他們經(jīng)常會發(fā)一些“AI換臉是為了技術(shù)交流，絕對不涉黃、違法等”的內(nèi)容。嗯，怎么說呢，你前一分鐘剛和我聊完AI換臉羞恥小視頻賣多少錢，后一分鐘就發(fā)這個，只能說此刻我的內(nèi)心是復(fù)雜的。

從我調(diào)查的這10個AI換臉賣家來看，他們的經(jīng)營范圍和段位各不相同。

低端玩家只賣一些成品小視頻，而且還不一定是他自己做的，可能就是買的多了也想自己撈回點本。中端玩家增加了定制小視頻功能，需要你提供一定的照片素材，能夠幫助你實現(xiàn)“女神演毛片”。高端玩家除此之外還提供軟件及教程，收徒教學(xué)，全程售后服務(wù)，體貼細(xì)致。骨灰級玩家只提供教程，而且操作在云端，甚至自己開發(fā)軟件，可以說是處于產(chǎn)業(yè)鏈的上游了。

從調(diào)查來看，目前AI換臉黑產(chǎn)還主要是在地下發(fā)展生存，具體規(guī)模不好估計，主要通過淘寶、咸魚、貼吧進(jìn)行引流。不過據(jù)一位淘寶店主透露，如果我想要定制視頻那么就需要排隊，而且短期內(nèi)很難排到，這也在一定程度上說明了問題。

二、好萊塢女星“被下?！保煲鹱儣顑?/strong>

AI換臉技術(shù)的核心是一個“自動編碼器”，這個“自動編碼器”實際上是一個深度神經(jīng)網(wǎng)絡(luò)，它能夠接收數(shù)據(jù)輸入，并將其壓縮成一個小的編碼，然后從這個編碼中重新生成原始的輸入數(shù)據(jù)。

舉個例子，如果你想把視頻A中的人物b換成人物c，那么首先需要對視頻A進(jìn)行逐幀切片，并把沒有人物b的幀刪掉，然后還需要提供人物c的大量圖片或視頻，方法同上。之后深度學(xué)習(xí)算法會提取人物b每幀的特征，我們將之命名為feature b，找到人物b變換成feature b所需的光照、扭曲等條件。之后對人物c進(jìn)行基于feature b的轉(zhuǎn)換，形成feature c，然后用feature c替換feature b即可。

▲換臉+動作捕捉幫助保羅·沃克回歸

換臉技術(shù)并不是一種新技術(shù)，在影視劇制作中早已有之，例如《速度與激情7》里為了讓保羅·沃克回歸就用了視頻換臉技術(shù)。不過早期影視劇制作中的換臉需要剪輯師和CGI（電腦三維動畫）專家長時間的復(fù)雜工作，所以并不具有推廣普及的基礎(chǔ)。

但是AI換臉出現(xiàn)的時間卻并不長，這一切都要從2017年12月一位叫deepfakes的哥們說起。當(dāng)時他把情色電影里的女主角換成了好萊塢明星蓋爾·加朵，這也是人們第一次見識公開見識到AI換臉這項技術(shù)。

▲deepfakes在Reddit上上傳的部分換臉視頻

這位哥們致力于在Reddit（知名在線論壇）上分享其利用AI技術(shù)制作的明星換臉小視頻，被他用AI換臉搞過的明星和名人數(shù)不勝數(shù)，既包括大部分的好萊塢明星，也包括川普這樣的政治人物。

之后由于大量“受害者”的投訴，Reddit迫于壓力封殺了deepfakes的賬號，不過這次封殺卻讓deepfakes直接開源了其AI換臉項目的代碼。

根據(jù)他的分享，制作一個明星換臉視頻非常簡單。首先需要在谷歌等網(wǎng)絡(luò)圖集中收集你想要替換的人物各個角度的視頻和圖片，組成一個能滿足深度學(xué)習(xí)任務(wù)進(jìn)行臉部替換的素材庫。

然后通過TensorFlow或Github上提供的機(jī)器視覺相關(guān)模型，學(xué)習(xí)和理解原版羞恥小電影中女主角的面部特征、輪廓、動作和嘴型等等。繼而讓模型在素材庫中尋找各種角度、各種表情下AI認(rèn)為合適的圖片與視頻，對原本視頻進(jìn)行替換。

據(jù)部分用戶用deepfakes的方法制作之后反應(yīng)，AI換臉其實非常簡單，只要具備基礎(chǔ)的電腦知識同時電腦本身配置滿足要求，那么即使只是一個新人也能在幾個小時內(nèi)做出一部換臉視頻，不過這時候的AI換臉還比較粗糙且主要做國外流行。

之后人們?yōu)榱思o(jì)念這位老哥的貢獻(xiàn)，也用他的名字命名了AI換臉技術(shù)，稱之為“deepfakes”。

AI換臉真正在國內(nèi)火起來還要說今年年初，B站UP主“換臉哥”發(fā)布的一段94版射雕英雄傳視頻。視頻中，原本飾演黃蓉的演員朱茵的臉被替換成了楊冪的臉，從流出的視頻和動圖看，雖然是用AI合成的，但是整體效果十分逼真。

▲飾演黃蓉的朱茵的臉被替換成楊冪

這件事在國內(nèi)最大的影響就是讓AI換臉被普通人所熟知，也正是這件事，促進(jìn)了國內(nèi)的AI換臉黑產(chǎn)逐漸發(fā)展壯大。

三、小鮮肉尷尬演技的“解藥”

自AI換臉出現(xiàn)之后，相關(guān)的爭議就沒有停止過。AI換臉技術(shù)的“始祖”deepfakes正是因為其作品涉及相關(guān)人物的名譽(yù)及相關(guān)作品版權(quán)問題而被封禁。

“受害者”之一好萊塢女星斯嘉麗·約翰遜在接受《華盛頓郵報》采訪時，發(fā)表了自己對于deepfakes的憤怒看法。她表示，“每個國家都有自己的法律，即使你擁有自己形象圖片的版權(quán)，在別的國家也不一行適用，面對充斥網(wǎng)絡(luò)的AI換臉情色片，她和她的團(tuán)隊無能為力。”

▲斯嘉麗·約翰遜

在國內(nèi)，“換臉哥”發(fā)布楊冪版射雕英雄傳之后，迅速在網(wǎng)上發(fā)酵并引起了軒然大波，B站視頻截止刪除前點擊量超出20萬，微博話題閱讀量更是達(dá)到了1.3億。

▲微博話題：將朱茵的臉換成楊冪的臉

不過隨著話題逐漸變熱，批評和指責(zé)也隨之而來，以微博楊冪官方粉絲團(tuán)為代表的博主認(rèn)為AI換臉侵犯了公民個人肖像權(quán)，而且如果任由這項技術(shù)發(fā)展，那么在當(dāng)今這個AI人臉設(shè)別技術(shù)越來越先進(jìn)的情況下，普通人尤其是普通女孩子的個人隱私也就受到威脅。

也有一些微博用戶認(rèn)為，把電視劇中朱茵的臉換成楊冪的臉只是為了技術(shù)交流，也是為了表達(dá)對偶像的喜愛，只要這項技術(shù)不用在一些涉黃、違法的事情上，那么就沒有什么大不了的。

還有一些人觀點獨(dú)特，認(rèn)為小鮮肉終有有救了，希望這種技術(shù)能推廣一下，可以不用再看到僵硬、面無表情的表演了……

記者也就這個問題采訪了幾位“吃瓜群眾”。有人認(rèn)為AI換臉是一個技術(shù)上的進(jìn)步，但是目前來看用錯了地方，還需要政府部門立法和監(jiān)管；也有人認(rèn)為AI換臉挺可怕的，想想也許有一天你的臉也被AI換掉了就讓人不寒而栗，但是技術(shù)本身可能并沒有問題。

視頻制作者肖先生也在第一時間撤下了該條視頻并回應(yīng)了此事。肖先生（換臉哥）說自己只是出于愛好，并未利用此視頻進(jìn)行營利，主要還是想讓更多人認(rèn)識這項技術(shù)。

▲肖先生（換臉哥）微博回應(yīng)

監(jiān)管部門也已經(jīng)注意到AI換臉、AI脫衣等應(yīng)用的危害性。今年4月提交十三屆全國人大常委會第十次會議審議的民法典人格權(quán)分編擬規(guī)定，任何組織或個人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。

5月底，國家網(wǎng)信辦會同有關(guān)部門發(fā)布《數(shù)據(jù)安全管理辦法（征求意見稿）》，其中要求，網(wǎng)絡(luò)運(yùn)營者利用大數(shù)據(jù)、人工智能等技術(shù)自動合成新聞、博文、帖子、評論等信息，應(yīng)以明顯方式標(biāo)明“合成”字樣；不得以謀取利益或損害他人利益為目的自動合成信息。

政府部門的這兩個動作也表明，關(guān)于AI換臉等的法律文件或?qū)⒊雠_，未來如果再利用AI換臉、AI脫衣等應(yīng)用進(jìn)行相關(guān)操作損害了他人利益的或涉及侵權(quán)違法。

四、換臉黑產(chǎn)已成完整產(chǎn)業(yè)鏈

在AI換臉剛剛出現(xiàn)的時候，更多的是給某個電視劇或者電影的主角臉換成自己喜歡的明星或者自己想看的人的臉，不過隨著AI換臉技術(shù)的不斷發(fā)展，基于deepfakes的應(yīng)用也越來越多，知名的例如fakeapp、deepnude、faceswap等，這些應(yīng)用的出現(xiàn)也降低了使用者的門檻，許多電腦小白也能在短期內(nèi)學(xué)會如何進(jìn)行AI換臉。

門檻降低帶來的也就是魚龍混雜，有一些人專注于研究、分享自己的換臉作品，出于愛好或是出于玩樂。也有一些人看到了這里面的“商機(jī)”，于是對情色片進(jìn)行換臉并打包售賣，最受歡迎的當(dāng)然就是女明星，據(jù)有的賣家透露，其換臉作品幾乎囊括國內(nèi)所有一二線女明星。

在國內(nèi),AI換臉儼然已經(jīng)形成了一個黑產(chǎn)產(chǎn)業(yè)鏈，上游提供軟件及技術(shù)、中游提供視頻、照片定制、下游售賣成品視頻，也有的商家做全產(chǎn)業(yè)鏈的生意。從我調(diào)查來看，部分賣家供不應(yīng)求，求之者眾，黑產(chǎn)規(guī)?？梢娨话?。

不過也不能因此就否認(rèn)AI換臉，AI換臉的出現(xiàn)可以說是影視劇行業(yè)的一個驚喜，這項技術(shù)有助于幫助解決影視劇行業(yè)傳統(tǒng)換臉技術(shù)成本高、工作復(fù)雜、換臉時間長等問題。

同時，AI換臉的出現(xiàn)還普及了這項在許多人看來高大上的技術(shù)，畢竟換臉技術(shù)由來已久，AI換臉只是以用一種更簡單、更易推廣的方式出現(xiàn)，這件事本身對于AI技術(shù)的發(fā)展是一個推動作用。

例如之前有一部電視劇《封神演義》，這部電視劇其實早在2015年就已經(jīng)拍攝完成但直到2019年才播出，其中一個原因就是“限韓令”導(dǎo)致不得不為飾演費(fèi)仲的演員韓國人金江日換臉，如果使用AI換臉，那么效率相信會高出不少。

從以上所有的案例我們可以看出，目前AI換臉還處于一種“薛定諤的貓”的狀態(tài)，在你完全了解這項技術(shù)之前，你不知道它會帶來什么，不過有一點可以肯定，那就是技術(shù)本身是無罪的，有罪的只是那些心懷不軌的人。

結(jié)語：技術(shù)無罪，但要加強(qiáng)監(jiān)管

也許當(dāng)初deepfakes自己都沒有想到，他的一個換臉視頻能帶來這么大的影響。從美國到中國，AI換臉的受眾越來越多，受害者也越來越多，美國好萊塢明星和中國一二線女明顯都難幸免。

AI換臉技術(shù)做為一種深度學(xué)習(xí)算法，簡單地說就只是代碼和數(shù)字，通過這個算法可以把視頻或照片中的人臉替換成另一張人臉，其本身并不涉及違法或是侵犯隱私等問題。

不過許多人卻在利用這項技術(shù)進(jìn)行非正常牟利，他們利用這項技術(shù)的入門門檻低和一些人心中的小心思大量生產(chǎn)情色換臉視頻，進(jìn)行兜售，更有甚者直接出售軟件和教程。

面對這種亂象，也許只有政府層面的監(jiān)管和約束才能有效遏制AI換臉黑產(chǎn)的持續(xù)蔓延。技術(shù)的發(fā)展總是伴隨著各種問題，不急于否定、采優(yōu)去劣或許才是一種正確的態(tài)度。

正如上面的吃瓜群眾所說：“技術(shù)本身沒問題，只是用錯了地方?！?/p>