下載客戶端

登錄

AI盜臉盯上普通人：靠圖片造謠，有人月入20萬

2023-07-04 07:20

來源：澎湃新聞·澎湃號·湃客

撰文｜邱瑜敏、朱小明

編輯｜薇薇子

“你是不是得罪了什么人？”

你正在被數十萬的網友意淫。

你的臉被AI合成在另一個裸露的身體上，做著奇怪的姿勢和動作。

有一群人用“蕩婦”“母狗”等字眼來評論你，再編排上莫須有的身份，你成為了“隔壁少婦”“清純學妹”和“淫蕩表妹”，而你的地址、電話號碼甚至身份證號碼被一并曝光。這一切的始作俑者，也許是身邊的普通同學，合作同事，甚至是家人和親密愛人。

你對一切一無所知。直到被陌生人的騷擾信息打破。

今年五月，住在廣東的95后女生小娜一股腦收到十幾個陌生人的好友申請，加上其中一個人后，對方不光言語輕浮，還發來了她的生活照和被盜臉的照片，問她“你是不是得罪了什么人？”

淫穢裸露畫面里的人物，有著和她一樣的臉，發圖者還配文造謠，一會兒說她是“前女友”，一會兒說她是“出軌鄰居”，還把她的姓名、微信號碼等個人信息都泄露了出去。

“怎么會有人這么惡毒？”看到自己被盜臉的圖片和視頻的那一刻，小娜震驚又憤怒。

小娜因為這事睡不著覺，在床上翻來覆去地想，前同事甚至家人都懷疑過，但她還是無法確認這個盜用自己照片的人?！耙欢ㄒ业竭@個人，真的太過分了?！毙∧日f，自己不想息事寧人，如果不給對方一個教訓，以后會有更多人受到傷害，“他們就是覺得好像自己很安全，不會暴露。”

小娜和丈夫通過這幾個陌生人提供的線索進入了有盜臉內容的國外社交軟件Telegram。Telegram又叫“電報”，該平臺不需要實名認證，信息點對點加密，最大程度上保障隱私安全。該軟件也因N號房事件被人熟知。在Telegram的群聊里，她發現了自己被盜臉的照片僅僅只是冰山一角。

某電報群內的聊天信息，受訪者供圖

一個有20萬人的大群，群里的消息全是由各種侮辱女性的文字和裸露的照片組成，小娜隨便翻了翻，這些女孩都是普通的素人，“網紅、明星很少”。

也就是說，盜臉、侵犯隱私的目標已經轉移向了普通人，許多女孩并不知道她們的生活照被人悄悄地換在了另一個身體上，暴露給了更多陌生人以供意淫。

在Telegram里，這樣打著AI換臉、一鍵脫衣標簽的群聊還有很多。一位曾經誤入Telegram一個AI換臉群聊的女性用戶告訴「后浪研究所」，群里有人打廣告販賣AI換臉軟件，偶爾也有“技術達人”提供免費換臉的活動，一大堆人拿著女性的照片“求換臉”，“他們說，這是他們的同事、同學或者青梅竹馬?！?/p>

這些照片和文字給人的沖擊很大。小娜說，看多了照片，有生理上的痛苦，失眠、腦鳴，“做夢都是那些惡心的東西”，連作為男性的丈夫也接受不了，幾天也沒睡好覺，“不相信人類會做出這樣的事情?！?/p>

幾天后，小娜去了當地派出所。事情一發生，她本打算靠自己揪出盜用照片的人，但僅憑幾條線索無法準確定位，發自己圖片的賬號也已經注銷，無奈之下，她只能在沒有確切證據的情況下報了警。

小娜收到的報警回執，受訪者供圖

接待她的警察說，已經有許多女性碰到了被AI盜臉的情況，但很多人不敢報案，因為她們不想讓身邊人知道自己遭遇了這樣的事情。

AI盜臉已經不是一個隱晦的話題了。

今年4月，抖音女網紅Caro賴賴曾發布微博稱自己被盜臉。賴賴說，有人在境外社交平臺上冒充她注冊賬號，還以會員訂閱的方式販賣視頻，這些視頻都是AI盜臉的色情視頻。

賴賴還提到：“我曾看到過一個網紅名單，表里密密麻麻寫滿了我熟悉的名字。他們根據博主的粉絲量級進行分類，假視頻價格在30-50元不等。但只要你花200元就可以進群，進群后不僅可以享受永久半價，甚至還能接‘私人定制’?！?/p>

賴賴的說法也揭開了AI盜臉的隱秘產業鏈——掌握深度合成技術的不法分子，將明星、網紅博主甚至素人的臉制作成色情照片和視頻，甚至兜售AI換臉軟件、技術以獲取利益。

潘多拉的魔盒

在手機應用商店搜索，不難發現，AI換臉功能在娛樂應用板塊也不算小眾。

在抖音、美圖秀秀等軟件都能找到AI換臉的濾鏡，市面上也有多款具有AI換臉功能的軟件。我們隨機下載了一款評分4.3分的APP——秀臉FacePlay。在AI換臉區，有美女換臉、古風換裝等視頻或圖片模板可供選擇。

首次上傳圖片時，APP會向用戶介紹AI換臉的工作原理，同時也會彈出提示框，“請確保你使用的照片獲得本人授權同意，如因照片未授權對他人肖像權造成侵犯所產生的法律責任由本人承擔。”

除了娛樂休閑以外，AI換臉的場景還作用在影視劇二次創作當中，今年年初上映的電視劇《風雨送春歸》就因演員換臉引起過爭議。

2019年，一款名叫“ZAO”的AI換臉APP走紅，就曾引起過侵犯個人肖像權的擔憂。人臉數據采集和人臉合成技術的簡單化，使得使用換臉軟件的個體面臨更大的隱私泄露風險。除此之外，還可能引發色情、暴力等問題。

時間已經過去近四年，現在，AI技術的換臉功能更為成熟普遍，有專家在接受媒體采訪時表示，目前在主流社交平臺發布的照片清晰度，大部分足夠生成自然貼合度較高、難辨真假的換臉照片和視頻。即便清晰度較低，也可以通過AI補齊，提高換臉圖像的貼合程度。

技術門檻降低，更大范圍的普及，使這些本應使用在合理場景的技術，成為了不法分子的灰色武器。潘多拉的魔盒已經打開。

小娜被盜臉的照片和視頻，使用了她的臉部特征，臉型、氣質并不相同，小娜看著別扭，但她也不得不認為那些照片很逼真“五官很像，有一種真實又不真實的感覺。”

00后大學生林林也是在5月份發現自己被色情照片盜臉了，這個女孩遭遇了和“廣州地鐵女孩”類似的脫衣處理。有人在加上她的微信后，發給她用生活照AI脫衣的照片，還用污穢的言語騷擾她。那張照片是她旅游時拍的，身后還有許多游客。

林林給閨蜜看照片，她幾乎看不出圖片有被處理過的痕跡，身體裸露部分的光影、膚色都毫不違和，“如果不是旁邊人表情都正常（如果是真的裸體，一定會引人注目），根本猜不到這是AI做的。”

令女孩們驚訝的是，技術已經如此下沉，她們身邊某個普通人都可能掌握深度合成的技術，在她們不知道的情況下盜臉、生成視頻。

有媒體報道，有商家能根據用戶需求定制明星、素人專人換臉模型。提供的信息包括被換臉對象在正常光線下的正臉、側臉、側下方、側上方等各個角度畫面，和喜怒哀樂等表情，制作一個素人模型的價格在2600-6000元不等。

「后浪研究所」嘗試在網購平臺搜索，發現檢索“AI換臉”這一關鍵詞，已經無法搜索到任何商品信息。但通過一些特殊詞匯，仍然能找到一些銷售AI換臉產品的店鋪。

一個標著“去衣換衣換背景”的商品，僅售價16.6元，客服說，店鋪不提供換臉服務，售賣的是軟件和教程。進一步提問他，該軟件能否真人去衣，他回答，“只可意會不可言傳，真人發出來我店就沒了?！表撁骘@示，該商品一個月的銷售量突破100+次。

另一家店的客服則直接讓我添加微信好友，發來了幾張換臉圖效果，并告訴我圖片收費在30-50元不等，視頻則根據時長收費在幾十到幾百元不等。此外，他還提出可以加盟，學費5000元，提供電腦程序和遠程演示過程，學會了，就可以自己用技術換臉，甚至用來盈利。

他的收入令人咋舌，“我這個月快20W了。”

該店老板朋友圈發布的AI換臉作品

不過，這個老板格外謹慎，問他能否制作色情圖片，他回答，“一張40，只要你不怕封號?！?/p>

但要真追究起責任，封號也許是最輕的處罰。

據《方圓》雜志報道，近期，河北省高陽縣網警破獲一起制作、販賣、傳播淫穢物品牟利案。犯罪嫌疑人李豪通過QQ群自學AI換臉技術，用明星圖片制作淫穢視頻在網上以每10分鐘300元的價格售賣，嚴重侵犯了當事人的肖像權和名譽權。

李豪還提供“私人定制”服務，將買家提供的素人照片加工制作成淫穢視頻或圖片。目前，李豪被檢察機關以涉嫌制作、復制、出版、販賣、傳播淫穢物品牟利罪提起公訴。

維權的難題

但現實情況并不樂觀，當盜臉事件發生，普通人往往維權困難。

小娜報警已經一個月了，進度還停留在做筆錄那天。

盜用照片的人在境外軟件發帖，無法確認具體身份。像Telegram這樣的平臺，并不會提供用戶隱私信息配合各國警方辦案。

韓國N號房事件也誕生于Telegram，其最初的報道者和報警人也在《N號房追蹤記》一書中提到，一位受害者報警后得到的答復是“由于Telegram方不配合調查，所以無法簽發拘捕令”。

所以，只有受害者自己先找出嫌疑者，事情才能迎來轉機。但這群人往往具有較高的警惕性，在外網上幾乎不留痕跡，很難找出其真實身份。

小娜翻看那些被盜用的照片，發現幾乎都來自近期的朋友圈，而且她的朋友圈僅三天可見，每次發送也設置了好友分組，她分析，這個人也許是自己身邊熟悉的人，惡意蹲守，等她一發動態就立即搬運、換臉。

但這個人是誰呢？她又排除了有性騷擾前科的前同事，認識的朋友等等，實在想不出，“到底得罪了誰”。她模糊地告訴同事自己的照片被人發到外網上了，請大家幫忙想想誰有可能，但對方卻開起了玩笑，“因為你長得好看吧”。

圖源視覺中國

找人無果，小娜逐漸陷入了自責，“是不是真的不應該在朋友圈發照片呢？”，她的擔心是，對方已經暴露了她所在的城市，如果她親近的家人、朋友、同事看見了，該怎么去面對和解釋呢？

現在，小娜嘗試著放下這件事，不再緊張找人的事，“生氣、憤怒、無助，太影響自己的工作生活了。我現在在調整，但我不會放棄追蹤這個事?！?/p>

她更換了自己能被檢索到的微信賬號名，近期也不打算發任何有自己的照片的動態了。

另一個被盜臉的女孩林林也有了心理陰影，她把自己的抖音賬號設置成私密，朋友圈也從陌生人可見10張改成了三天可見。

她還是沒有查清楚那個拿著AI盜臉照片來微信騷擾自己的人究竟是誰，但因為被一鍵脫衣的還有她的室友，她告訴對方，“你針對我就算了，我的室友是無辜的?！?/p>

對方應該是認識她的熟人，也許是良心發現，竟然在跟她道歉之后刪除了好友。

這件事就這樣糊涂地結束了，林林本來不打算追究了，但閨蜜還是逼她在微信和國家反詐中心舉報了那個男生。

“他們就是口嗨而已，但我們像吃了啞巴虧?！绷至值拈|蜜說，那個發來盜臉照片的男生用言語羞辱了林林，但并沒有涉及到金錢糾紛和具體的損失，無法立案，而她們作為在校學生，最近疲于應付期末和學業，也根本沒有精力去處理這件事，“維權成本太高了。”

此前公開被盜臉信息的網絡紅人賴賴也表示，舉報賬號后發現，在這些平臺上涉黃并不違法，而海外IP難以追蹤，傳到國內的視頻也難以找到源頭。

在賴賴的評論下，還有許多網友提到自己和身邊人的經歷，“曾經的一個好朋友就因為盜臉退了學”、“有人小號給我發裸照，跟我的臉長得一模一樣”，但在遭遇了這些事情后，受害者只是獨自承擔傷害，少有人真正找到盜圖者，將其繩之以法。

畢竟，許多人還被蒙在鼓里，并不知道自己的照片被盜用在色情影像中，即便知道了，也很難通過個人力量找出嫌疑人。

“但也不能說以后就不發照片了，這又不是女孩子的錯?！绷至值拈|蜜告訴「后浪研究所」，經過此事后，她對異性有了更深的不信任感。但她明白其中的道理，只要求女性增加戒備心并不能遏制盜臉，還是要對造謠者嚴加懲罰。

被侵犯的邊界

那么，究竟該如何懲罰利用AI技術作惡的盜臉者呢？

浙江墾丁律師事務所人工智能法律研究部負責人、律師程念告訴「后浪研究所」，擅自使用他人肖像制作“換臉”視頻首先會侵犯肖像權。同時，通過對獲取他人人臉信息、制作視頻是否帶有違法內容等具體情形的判斷，進一步確定其他可能涉及的法律責任。

而利用換臉視頻發布色情信息的，則要根據不同行為承擔不同責任。“對于傳播淫穢色情視頻的行為，涉嫌觸犯《中華人民共和國刑法》規定的傳播淫穢物品罪，按照情節處二年以下有期徒刑、拘役或者管制?！?/p>

“如果行為尚未達到處罰標準的，則應該按照《中華人民共和國治安管理處罰法》關于利用計算機信息網絡傳播淫穢物品的規定，處十日以上十五日以下拘留，可以并處三千元以下罰款；情節較輕的，處五日以下拘留或者五百元以下罰款?！?/p>

此外，在群里口嗨、侮辱女性，造黃謠等行為涉嫌觸犯刑法規定的侮辱罪，也符合民法典規定的侵害名譽權的情形。

而對于利用“一鍵脫衣、看光女神”的廣告販賣換臉的軟件技術商，可能構成共同侵權，承擔相應的民事責任，“用戶通過該軟件服務制作淫穢物品并涉嫌制作淫穢物品牟利罪、傳播淫穢物品罪等犯罪時，技術商可能構成共犯。如用戶利用制作后的視頻實施其他犯罪的，則技術商可能構成《中華人民共和國刑法》規定的幫助信息網絡犯罪活動罪，情節嚴重的處三年以下有期徒刑或者拘役，并處或者單處罰金。”

也就是說，打著“脫衣”旗號售賣軟件的商家也應承擔法律責任，不能置身事外。

在具體的治理上，國外的法律法規也許能提供一些參考。

中國政法大學教授羅翔曾在2021年底討論AI盜臉的視頻中提到，美國有一個深度偽造責任法案，要求深度偽造的視頻傳播人必須要在作品上標記水印，告訴大家這是偽造、拼接的。也規定了偽造者可能要承擔的刑事和民事責任。刑事責任甚至最高規定了五年有期徒刑。

該法案也提到，發布為了侮辱、羞辱他人，提供含有他人虛假的性行為或裸體的視頻，最高可以判處五年。

而針對AI盜臉的情況，國內已有一些針對性的政策法規。

2022年12月發布的《互聯網信息服務深度合成管理規定》明確，在提供人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務時，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。

今年4月11日，為促進生成式人工智能技術健康發展和規范應用，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，并向社會公開征求意見。

程念告訴「后浪研究所」，現在的女性要想避免AI盜臉侵犯自身權益，可以通過第三方存證軟件對相關的視頻、圖片進行存證，“情況緊急時可以先行錄屏，保存好完整的查看視頻、圖片的路徑。”

在信息發布平臺看到這些視頻、圖片的，存證或者錄屏時一并將發布者的主頁、平臺ID、IP地點、發布時間、點擊量等信息一并記錄，保存侵權主體的相關信息及傳播信息，以作為情節嚴重程度的判斷依據之一。如該平臺內發布的視頻、圖片支持評論功能的，評論內相關的線索也應及時存證保存。