走出恐怖谷：AI已能合成難辨真假的人臉照片，還更被信任

看到這張照片，你是否覺得這就是一張真實的人臉照片？

事實上，這是一個名為“此人不存在”的網站生成的合成人臉照片（this-person-does-not-exist.com）。

“我們對AI合成人臉照片真實感的評估表明，合成引擎已經走過了‘恐怖谷’，能夠創造出跟真實人臉難以區分且更受人信賴的人臉。”2月14日，一篇發表在《美國國家科學院院刊》（PNAS）的論文在摘要中表示。

“恐怖谷效應”于1970年由森昌弘提出，是一個關于人類對機器人和非人類物體感覺的假設。

“恐怖谷效應”稱，由于機器人與人類在外表、動作上相似，所以人類亦會對機器人產生正面的情感；而當機器人與人類的相似程度達到一個特定程度的時候，人類對他們的反應便會突然變得極其負面和反感，哪怕機器人與人類只有一點點的差別，都會顯得非常顯眼刺目，從而覺得整個機器人非常僵硬恐怖。在合成人臉照片的情景中，“恐怖谷”效應往往來自于合成人眼中空洞的表情所引發的不安感。

而一旦機器人和人類的相似度繼續上升，相當于普通人之間的相似度時，人類對其的情感反應會再度回到正面，產生人類與人類之間的移情。

越來越令人信服的圖像正在將觀者拉出“恐怖谷”，進入由Deepfake（深度偽造）構建的欺騙世界。在加州大學伯克利分校教授Hany Farid和蘭開斯特大學博士生Sophie Nightingale的《AI合成的人臉與真實人臉沒有區別且更被信賴》研究中，參與實驗的人被要求區分神經網絡StyleGAN2合成人臉和真實人臉，以及這些人臉喚起的信任程度。

這項研究由三個實驗構成。在第一個實驗中，315名參與者從128張面孔（從一組800張面孔中提?。┓诸悶檎鎸嵜婵谆蚝铣擅婵?，準確率為48%。

在第二個實驗中，219名新參與者被培訓如何識別真實人臉與合成人臉，然后與第一個實驗一樣對128張人臉進行分類。盡管進行了訓練，最后準確率也只是提高到了59%。

繼而，研究人員決定探索可信度的感知是否可以幫助人們識別人造圖像，“人臉提供了豐富的信息來源，只需幾毫秒的時間就足以對個人特征（例如可信度）進行隱含推斷。我們想知道合成面孔是否會激活相同的可信度判斷，如果不是，那么對可信度的感知可能有助于區分真實面孔和合成面孔?！?/p>

第三項實驗，223名參與者對128張面孔的可信度進行評分，這些面孔取自同一組800張面孔，評分范圍為1（非常不可信）到7（非常可信）。最后，合成面孔的平均評分比真實面孔的平均評分高7.7%，具有統計學意義。

整個實驗結果表明，合成的人臉照片與真實人臉幾乎無法區分，甚至被認為更值得信賴。這樣的結果也在研究者的意料之外，Nightingale表示，“我們最初認為合成面孔不如真實面孔可信?！?/p>

這個生成人臉照片的StyleGAN是Nvidia于2018年開發的一種神經網絡。GAN由2個相互競爭的神經網絡組成，其中一個稱為生成器，不斷生成一些東西，另一個稱為鑒別器，不斷嘗試確定結果是真實的還是由第一個生成的。生成器以隨機像素開始練習。隨著鑒別器的反饋，它逐漸產生了越來越逼真的人臉。最終，鑒別器無法區分真臉和假臉，訓練就結束了。

創建不存在的人臉照片實際上是GAN的一個副產品，其原本的主要目標是訓練人工智能識別假臉和一般人臉，Nvidia需要通過自動識別人臉并對其應用其他渲染算法來提高其顯卡性能。然而，由于StyleGAN代碼是公開的，Uber的一名工程師就利用它創建了一個隨機人臉生成器。

對于Deepfake（深度偽造）技術的惡意使用已經在現實中有了諸多體現，比如美國大選中的虛假宣傳活動，為勒索而創造的虛假色情內容等等。自Deepfake技術出現以來，鑒別出深度偽造和進一步欺騙鑒別之間已經變成了一場“軍備競賽”。

現在這項對Deepfake進展的研究使人更加擔心其被濫用，“任何人都可以在沒有Photoshop或 CGI專業知識的情況下創建合成內容，”Nightingale表示。

美國南加州大學視覺智能和多媒體分析實驗室主任Wael Abd-Almageed在接受《科學美國人》采訪時表示，“另一個擔憂是，這些發現會讓人覺得深度偽造將變得完全無法檢測到，科學家們可能會放棄嘗試開發針對深度偽造的對策?！?/p>

兩位研究者也提出了應對措施，如將強大的水印合并到圖像和視頻合成網絡中，這將為可靠識別提供有效機制。

論文中寫道，也許最有害的是，在任何圖像和視頻都可以偽造的數字世界中，任何不受歡迎的記錄的真實性都可能受到質疑?！八?，我們鼓勵推進技術發展的人們考慮風險是否大于收益，而不僅僅從技術角度考慮其是否可能實現?！?/p>