你的臉，可能被陌生人偷了

眼見未必是真！

一張“人像照片”、一段“人物視頻”，都有可能成為不法分子犯罪的新手段和新工具。

2024年國家網絡安全宣傳周期間，關于AI換臉、換聲等對個人隱私侵害的話題再次成為大家關注的焦點。

實際上，就在網安周前一周舉行的外灘大會期間，也同樣在熱議這一話題。

AI換臉是一種在深度學習（Deep Learning）算法的加持下的計算機篡改人臉圖像的深度偽造（Deepfake）技術。

隨著AI換臉技術的不斷迭代，在提高文娛、電商等產業生產效率的同時，也帶來了層出不窮的風險。

9月初，韓國出現“深度偽造”技術下的新“N號房”案件，韓國女性陷入“AI換臉恐慌”，甚至在中國社交網絡上發帖求助。

同時，新浪科技發現，如今在小紅書、閑魚、B站等平臺，利用AI美女視頻教程吸引用戶，號稱“流行賽道，5天破萬粉，日入四位數”的教程，成為行業灰產的溫床。

近日，有網友在社交平臺反映，自己不但被做成了換臉視頻，還被放在收費論壇獲取非法收入。

而另一方面，依靠“AI美女”的幌子，一些人依靠數千元高價“課程”賺取利潤，并且即便最終不能實現所謂的月收入5萬也無法退費，一條灰色產業鏈就此形成。

在另一邊，無論是“AI一鍵換臉”，還是讓照片動起來，在一些陰暗的角落，生成式AI技術的崛起，也引發了一系列的行業亂象。

今年6月，在國內，警方也破獲了一起利用AI技術“一鍵去衣”賺取灰色收入的案件。

涉案人白某在境外網站發布廣告，只需要一張日常生活照片，就可以完成“一鍵去衣”效果。

而據此人描述，在被抓獲時，他已經在QQ上向351個人販賣過相關圖片，圖片數量將近7000張。

此外，2024年中央廣播電視總臺3·15晚會就曝光了使用“AI換臉”進行詐騙的行為。

據此前媒體調查，60%的受訪者表示憑借肉眼辨認不出AI換臉視頻。

不過，一些技術人員也表示，只要稍加留心，AI換臉還是有明顯破綻的。

“馬腳”就在面部輪廓和光線上，可以仔細觀察下是否清晰。

有必要的話，還可以要求對方快速大幅度地做點頭等動作，從而觀察其面部輪廓是否有異常模糊。

此外，近年來殯葬行業選擇以元宇宙、AI數字人等方式來進行服務擴展，這種嘗試除了吸引大眾眼球之外還有什么實際的價值？

這種販賣AI換臉教程的可能會引發什么問題？

對社會造成什么危害？

“AI復活親人”的相關服務會變成行業流行的趨勢嗎？

對此，新浪科技羅寧和書樂進行了一番交流，本猴以為：

這種AI換臉，就是昔日PS換頭一樣，可以讓人隨意去生成任何人的“虛構內容”，其行為哪怕出于自娛自樂，也同樣侵犯了被換臉對象的個人權益。

此外，這樣的換臉術，可能應用的空間很大，包括但不限于惡意捏造、構陷的各種傳播，以及通過換臉術實施各種詐騙和繞開人臉識別系統的行為。

是的，因為每個人的照片或視頻，并不僅限于個人擁有，且在攝像頭林立的大時代，你甚至不知道你的頭像被多少陌生人獲得，其風險完全不可測。

特別是一些公眾人物，甚至未必是人類，都可能成為潛在受害者。

至于AI復活親人，則是另一個范疇，但同樣有風險。

不得不說有需求即市場，AI復活親人，某種意義上是一種基于黑科技的情感滿足和精神慰藉，但這一產業極為垂直和長尾，且屬于個性化定制，難以標準化生產，市場規模難以做大。

如果是“復活”親人，本質上和老照片修復的性質相似，只是加入了更多互動和個性元素，但整體上依然是“緬懷”。

其“復活”的親人，也不會向《流浪地球2》中演繹的那樣進一步學習、成長。

僅僅為了緬懷而復活親人，本質上沒有倫理問題，主要在服飾、形象和互動言語上，把握好度即可，前提是親人必須是直系，用途也基于緬懷和陪伴。

其最大的隱患在于內容生產方往往缺乏對需求方的資格審核，而讓所謂復活親人不再局限于“復活”，也未必是直系親人，而導致“作品”被濫用。

例如類似充氣娃娃式的虛擬形象、電信詐騙，以及用AI生產真人形象進行各種違法行為等。

無論是在元宇宙還是AI數字人，其“復活”的成都總歸和親人相去甚遠，只是懷念。

但更多的也只是帶有互動效果的遺像，而且可能還是會走樣，并不會成為流行大趨勢。