AI換臉調(diào)查：淫穢視頻可定制女星 700部百元打包賣
記者近日調(diào)查發(fā)現(xiàn)，隨著AI技術走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。百度貼吧中部分標榜“換臉＋女明星姓名”的發(fā)帖者，售賣通過AI換臉技術合成的視頻，價格可4元一部，也可158元打包購買700部視頻。而多位知名女明星頻被提及。
此外，新京報記者注意到，閑魚上還有賣家提供“定制換臉”服務。買家提供明星或私人照片，賣家即可將淫穢視頻中的主角“移花接木”。定制換臉視頻1分鐘20元－50元不等。
對此，聯(lián)合國網(wǎng)絡安全與網(wǎng)絡犯罪問題高級顧問吳沈括對新京報記者表示，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時也侵犯了肖像權。而買家購買之后加以傳播或者以傳播牟利，則可能構成違法。
售賣
女星頻被“換臉”，35部視頻打包69元
記者搜索發(fā)現(xiàn)，“換臉”、“Deepfake”以及“FakeApp”貼吧等都存在售賣AI換臉淫穢視頻的帖子。發(fā)帖者多為無頭像、簡單英文字母名稱的用戶，而且發(fā)帖用詞隱晦，包括“國內(nèi)外81部，誠信第一”。
記者聯(lián)系到一位名為阿長(化名)的賣家，其隨后發(fā)來“80部明星合成視頻列表”的壓縮包，包含多部淫穢視頻的列表截圖，文件名上標注出多位大眾熟知的女明星。
“(購買)低于15部算4元一部，超過15部算3元一部，80部全買只要68元。”阿長表示，視頻文件將通過QQ文件發(fā)送，支持微信、支付寶、QQ紅包等支付方式。記者4元隨機購買了一個標題為某知名女明星的視頻。視頻中女主角臉部全部替換成了該女明星，盡管換臉效果粗糙，但仍能一眼識別出來。
隨后，阿長附贈了相關視頻的剪輯版本，包含多個淫穢視頻的部分內(nèi)容，其中女主角的臉全被替換成了這一女星。
另一位發(fā)帖的賣家林祥(化名)則是向記者發(fā)送了網(wǎng)盤鏈接，網(wǎng)盤中除了視頻目錄、截圖、試看視頻等文件，還包括一個單獨被命名為某知名女明星目錄的文件。
“打包價158元，700部視頻，買打包送截圖。”林祥提供的壓縮文件顯示，多位女明星被換臉成主角的頻率最高。
“有30分鐘、40分鐘的，也有5分鐘的，有像的也有不像的，所以單買價格不可能一樣。”林祥稱，單個視頻根據(jù)時長和制作效果定價。
而上述某知名女明星目錄文件中包含35部視頻，打包價69元，單賣約5-10元一部。時長10分鐘以上的視頻為每部20－28元。
記者詢問阿長，其他售賣相關視頻的賣家是否也是他時，他隨即否認并拿出更新目錄。“他肯定沒這些，我這會更新”。他告訴記者，這些視頻并非自己制作，均來自國內(nèi)某網(wǎng)絡平臺，充值會員可以下載，然后再分銷。
不過，記者通過檢索并未發(fā)現(xiàn)這類國內(nèi)網(wǎng)絡平臺。
定制
提供照片或視頻可移花接木，“照片越多越像”
除了百度貼吧，二手閑置平臺閑魚同樣存在相關售賣信息。記者在閑魚上搜索“AI換臉”看到，“AI換臉 明星最全精品”、“AI換臉，合集，都懂！”等信息，實則在售賣“嫁接”了女明星臉部的淫穢視頻。
記者分別與4位賣家進行了溝通，其一般會提供標有女明星姓名的目錄截圖，并以100部打包的形式售賣，價格從10元－38元不等。賣家子君(化名)告訴記者，在他打包售賣的淫穢視頻中，知名女性明星被惡意“嫁接”的最多。
此外，記者檢索閑魚發(fā)現(xiàn)，部分賣家還提供“定制換臉”服務，買家提供明星或私人照片，賣家可將照片中的臉“嫁接”到包括淫穢視頻在內(nèi)的任何視頻之中，制作周期為1-2天，報價1分鐘20元－50元不等。
賣家高爾(化名)表示，視頻素材和照片需要買家提供。“照片要多點，側(cè)面等各個角度，至少需要提供二十張以上。照片越多越像，沒照片發(fā)視頻也行”。
另一賣家要求，如果是“換臉”淫穢視頻，3分鐘起做。該賣家的定制價為一分鐘50元、二分鐘95元、三分鐘135元，也就是說，買家至少要花費135元才能定制換臉淫穢視頻。
記者近日在閑魚平臺搜索“AI換臉”顯示9個商品售出，包括“換臉軟件”、“定制換臉”和“換臉教學”，有部分賣家在商品信息中注明，“本店僅負責服務配置環(huán)境和教授基礎知識，不幫忙操作，請各位自覺遵守當?shù)胤桑駝t后果自負”。
記者調(diào)查過程中注意到，閑魚平臺已將部分淫穢視頻售賣鏈接刪除。
此外，記者在淘寶搜索“AI換臉”，20多家店鋪有相關售賣信息。記者隨機詢問7家店鋪，其中4家店鋪提供定制服務，但有賣家明確表明“不做黃、不辦證”。該賣家還向記者默認曾有人要求他制售假證。
教學
賣家稱398元包教會，學生打七折
記者在查看上述視頻時注意到，部分視頻有“合成聯(lián)盟”的字樣及其QQ號水印。記者通過這一QQ號聯(lián)系到昵稱為“明星合成＋教學＋代做視頻”的賣家，其稱不僅售賣明星換臉視頻和定制換臉服務，還提供教學服務。
“買教學送全套視頻，600多部。”該賣家表示，他提供AI換臉視頻的制作教學服務，售價398元，包教會并附贈淫穢視頻600多部。“我們用的云電腦，做出來效果是Deepfake的幾十倍。”該賣家告訴記者，“買云電腦送FakeApp和DeepNude。”
賣家提供的教學內(nèi)容顯示，用戶根據(jù)指引，完成“鏈接到云硬盤、提取臉部數(shù)據(jù)、訓練模型、換臉輸出視頻”四個步驟就能實現(xiàn)AI換臉視頻的制作。
“感謝你們的信任，(學員)昨天下午剛學的，不到3個小時全會，只要想學我都會盡心盡力的教你們。”該賣家的微信朋友圈顯示，已有多位學員學習了相關AI換臉技術。
記者翻閱賣家朋友圈看到，“AI智能暑假期間所有學生憑學生證一律7折，一學就會，不費勁。”而賣家提供的截圖顯示已有學生提供學生證信息，并購買了該教學服務。
根據(jù)《紐約時報》報道，Deepfake指的是用人工智能軟件制作的虛假視頻，由FakeApp程序創(chuàng)建而成，F(xiàn)akeApp則可實現(xiàn)AI換臉。而DeepNude可通過人工智能將照片中穿著衣服的人物實現(xiàn)“一鍵脫衣”的效果。
“隨著科技的發(fā)展，大眾一定會面臨這樣的問題，DeepNude生成的照片并不是本人，而是PS后效果。”網(wǎng)絡安全專家張百川在接受新京報記者采訪時表示，目前網(wǎng)絡上已存在部分人士開始研究類似的算法。
同時，針對網(wǎng)絡安全，吳沈括指出，《網(wǎng)絡安全法》確立了網(wǎng)絡產(chǎn)品和服務的安全可控原則，將他人肖像用于制作淫穢視頻或者利用網(wǎng)絡技術“作惡”，是對他人合法權益的侵害。
爭議
換臉視頻網(wǎng)絡扎堆，個人難防中招
其實，AI換臉技術，已經(jīng)在各個領域沿用許久。而運用最廣泛的領域便是電影。據(jù)新京報此前報道，中國科學院計算技術研究所張杰解釋稱，“這個技術簡單可理解為，通過學習的方式讓一個神經(jīng)網(wǎng)絡把李四扭曲過的人臉還原成真實的人臉。”該神經(jīng)網(wǎng)絡在學習后，具備了將任意的人臉，還原成“李四”人臉的能力。
早在今年年初，一段通過AI技術將《射雕英雄傳》中朱茵臉部替換成楊冪的視頻在網(wǎng)絡引起熱議。記者搜索發(fā)現(xiàn)，視頻網(wǎng)站嗶哩嗶哩(B站)上存在大量AI換臉視頻，且人氣較高。其中，一個將蔡徐坤臉部替換成前網(wǎng)絡游戲主播盧本偉的視頻，播放量達到253.1萬。不少網(wǎng)友在相關視頻評論區(qū)留言稱“毫無違和感”、“好笑哈哈哈”。
阿樂(化名)告訴者，出于獵奇和娛樂心態(tài)，自己喜歡在嗶哩嗶哩觀看AI換臉視頻。“把外國人的臉換在古裝人物身上，很新奇。”但也有網(wǎng)友在相關評論區(qū)稱“AI換臉(可能用于)敲詐勒索色情造謠，技術無罪，果然還是人本惡”。
律師、星娛樂法創(chuàng)始人李振武曾對新京報記者表示，視頻制作者未經(jīng)朱茵和楊冪許可，擅自使用其肖像，雖其抗辯未有營利行為，但在互聯(lián)網(wǎng)語境里，流量變現(xiàn)以及粉絲倍增，都很難解釋為非營利行為，因此，此舉可能涉嫌侵犯肖像權。
有觀點認為，AI換臉技術門檻正在不斷降低。對此，張百川稱：“放在以前的話，技術難度非常大，已經(jīng)有人開始研究這種算法了，如果算法公開，這種趨勢將很難抵擋”。
張百川告訴記者，普通人可能不太容易學會AI換臉技術，但有人可能利用此項技術制成有類似功能的軟件，那么普通人只要在APP上傳照片即可。針對個人如何防范，張百川表示：“很難，如果你有照片在互聯(lián)網(wǎng)上，就會有(被利用)的風險”。
記者注意到，Deepfake和DeepNude在國外已引起熱議，據(jù)《紐約時報》報道，隨著越來越多的人利用FakeApp制作名人的色情視頻，F(xiàn)akeApp正在引起恐慌。《衛(wèi)報》稱此類軟件為“對未來可怕的一瞥”，顯示了對人工智能未來可能造成的倫理問題的擔憂。
當?shù)貢r間7月2日，美國弗吉尼亞州已通過一條有關色情禁令的法律修正案，成為美國首批禁止傳播計算機生成的色情內(nèi)容的地區(qū)之一。根據(jù)修正案，未經(jīng)許可傳播或出售以任何方式創(chuàng)作的某人處于裸體或脫衣狀態(tài)的視頻或靜止圖像都是違法的，包括虛假創(chuàng)作的視頻或靜止圖像。
在我國，根據(jù)《刑法》第三百六十三條規(guī)定，以牟利為目的，制作、復制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產(chǎn)。
聯(lián)合國網(wǎng)絡安全與網(wǎng)絡犯罪問題高級顧問吳沈括表示，就中國法律來講，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時在民事侵權領域，未經(jīng)允許，將他人的肖像用于謀利的，也侵犯了肖像權。
針對AI換臉淫穢視頻的購買者，吳沈括告訴記者，目前對于購買淫穢物品沒有設置法律責任，主要集中在傳播淫穢物品和傳播淫穢物品牟利兩種非法形式。買家在購買AI換臉淫穢視頻之后，加以傳播或者以傳播牟利，則可能構成違法甚至犯罪。
張百川認為，技術本身沒有問題，是有人利用技術作惡，大眾需在日常生活中，注重個人隱私保護。“例如即時通訊軟件，有人用它工作，有人用它詐騙。”