什麼是deepfake

Deepfake（深偽）的影片大約在2017年開始在網路上流傳[1]，進而為公眾熟知，目前有許多關於deepfake的議題，包含人工智慧倫理、不實訊息、資訊與網路的開放，當然還有法規。

所謂的deepfake，就是一種可以將世界上任何人的臉剪貼到另外一份他們完全不曾參與的影像或是照片上，藉此以假亂真的技術[2]；unite.ai網站上的機器學習專家Daniel Nelson則認為[3]只有被機器學習（machine learning）系統，特別是深度神經網路（Deep neural networks）所製造出來的問題影音才夠資格稱之為deepfake。

發展deepfake有兩個階段，第一階段為訓練期（training phase），也就是處理原始影片操控；第二階段為測試期（test phase），最重要的元素就是機器學習（machine learning），因為機器學習讓電腦能夠快速且簡易的自動產出影音成品；而深度神經網路則是使用真人影片來進行訓練，讓這個網路能夠學習人們如何在目標環境下進行觀看及移動。

受過訓練的深度神經網路接著就被使用在另外一個人類的影像身上，並使用額外的電腦畫面技術進行擴增（augmented），將兩個影像互相結合。而編碼演算法（encoder algorithm）則被用來決定原本和目標臉孔的相似度，一旦臉部相似的部分被獨立出來，這時就會使用到所謂decoder的另一種人工智慧演算法。

Decoder檢視被編碼（encoded，或稱壓縮compressed）的影像，並在原本影像的特徵上重建（reconstructs）這些影像。這時會使用到兩個decoders，一個用在真實主角A的臉上，一個用在目標生成主角B的臉上；而為了讓這個換臉動作能夠進行，使用主角A受訓練的decoder會被餵食許多主角B的照片，結果就是主角B的臉被主角A的臉部表情與角度所重製。

▲Deepfake的兩個階段；圖片來源GitHub

目前的技術上，製作deepfake影音還需要花上一些時間，製作過程中製作者也必須全時段手動調整參數，因為不佳的參數將導致成品不夠完美以及畫面斷續干擾（glitches），這種品質的假影片也就不夠取信於人了。

雖然大多數deepfake被認為是由一種稱之為生成對抗網路（generative adversarial network，GAN）的神經網路所製造，但其實今日絕大多數的deepfake都不是倚賴GAN技術。訓練GAN需要花上相當大量的訓練數據，且比起其他影像產出技術，GAN經常要花比較久的時間來演算繪製（render）出成像；此外，GAN在靜態圖片上的產出也比動態影像要來的好，因為GAN在維持影格到影格間的相容性（frame或譯為【訊框】）時有困難，比較常見用來製作deepfake的是編碼或多重decoders。

Deepfake對女性及政治的影響巨大

根據CNN於2019年的報導[4]，在網路上流傳以deepfake技術製作的影片，從2018底由荷蘭網路安全新創公司Deep Trace Lab統計的7,964支，到了2019年統計為14,678支，足足成長了84%，其中大部分都是色情影片。雖然多數關於deepfake技術的討論都著重在其可能造成政治舞台上的資訊戰，但Deep Trace Lab在該公司調查報告《Deepfake現狀：前景、威脅與影響》也指出[5]，其實最緊急的問題應該是色情影片。

前述報告中指出，96%被發現是deepfake的影片含有色情內容，而全部的色情內容中都有女性；此外，在9個專門放deepfake色情影片的網站上已有超過13,000支影片，這些網站有廣告商贊助，提供用戶以女性名人或明星臉孔合成的色情影片；而在全球10個最受歡迎的色情網站中有8個網站上含有deepfake內容。

除了色情影片之外，deepfake也被利用於影響政局，以下舉出2個知名的案例：

1.印度政治人物運用deepfake作為競選宣傳[6]

今（2020）年2月德里議員選舉揭幕前一天，印度人民黨（Bharatiya Janata Party，BJP）黨魁Manoj Tiwari的兩段影片在WhatsApp上大肆流傳，內容是批評對手Arvind Kejriwal以及鼓勵選民投給BJP；其中一段原始影片的語言是英語，而另一段deepfake產出的影片則是以印度方言述說，這個方言也是BJP目標選民使用的主要語言；而這是BJP與The Ideaz Factory這家政治溝通公司合作的企劃，目的是吸引使用超過20種語言的印度選民，BJP向媒體VICE表示[7]，這支影片在WhatsApp上的5,800個群組裡，大約有1,500萬個用戶看過，這是全球首見使用deepfake技術作為公開選舉宣傳之用。

2.中非加彭共和國（Gabon）因deepfake影片疑雲導致政變[8]

2018年10月底，加彭總統Ali Bongo在拜訪沙烏地阿拉伯時驚傳就醫，此後3個月內鮮少露面。人民強烈的焦慮感，點燃了陰謀論的火種，各種流言四起。直到2019年新年除夕，電視上播出一支Bongo拜年的影片，但影片上的Bongo看似中風的模樣引發臆測，反對黨成員跳出來，指稱這是一支deepfake影片；也有人懷疑，Bongo健康狀態已嚴重到不能露面，而實際掌權的，是他身旁貪腐的裙帶集團。影片播出後第7天，武裝集團便展開政變行動，幸好數小時後即遭到當局平定[9]，Bongo總理後來也康復返國。

已經開始對抗Deepfake的措施

2020年Google旗下的科技育成中心Jigsaw釋出一個稱為Assembler的實驗性平臺[10]，希望能幫助記者與在前線衝鋒陷陣的事實查核者們更快速能夠對照的影像；Facebook在6月中旬時也釋出[11]一個資料庫，內含10萬張deepfake照片，目的是用來訓練AI如何辨識deepfake製作的圖片，Facebook科技長Mike Schroepfer表示，目前deepfake還不會是大問題，但仍然需要做好準備。

此外，Facebook也宣布[12]去年底上線的deepfake挑戰賽（Deepfake Detection Challenge，DFDC）的50萬美元首獎贏家，一位在白俄羅斯公司工作的電腦學習工程師Selim Seferbekov。經測試，在一組有1萬支過去沒被看過的影片，稱為「black box」的資料集（data set）上，他的模型有高達65.18%的正確率能辨識出deepfake影片。Facebook表示，他們很有可能會借用Seferbekov 這次偵測演算模型中的想法與技術，但因為本次競賽中這個技術已經曝光，所以臉書不會將完全相同的軟體進行生產，部分是為了避免其他人找到欺騙偵測deepfake系統的方法。

Deepfake深層的問題

Deepfake對資安防護會造成影響^[13]，例如近來網路罪犯也開始利用deepfake技術偽裝進而行竊，另外趨勢科技未來威脅研究員也在2019年初時提到^[14]，擔憂deepfake相關的勒索事件，也就是利用deepfake製作令受害者難堪的影像後進行性勒索（sextortion scams），甚至有可能因此提高青少年的自殺率。

然而，目前大多數媒體和專家們關注的deepfake傷害，莫過於在政治挫傷力方面，從前述的政治事件可看出，deepfake技術的存在，讓影片真實性有模糊地帶，因而導致的猜疑和不信任足以造成人心動盪。

但如同Deep Trace Lab執行長兼首席科學家Giorgio Patrini在前述CNN採訪中所提，deepfake影片在很短的時間內被大量製作並傳播，即使這些影片看起來都很假，卻也足夠影響許多人的看法，也就是說，deepfake的影片，無論造成的結果是性勒索還是政治事件，Deepfake最大的威脅是他們的存在本身動搖人們對事實的信任，這個威脅無論對組織或個人，都能在各個層次上產生程度不一的傷害。

圖片來源：freepik

[1] Rob Toews, “Deepfakes Are Going To Wreak Havoc On Society. We Are Not Prepared,” Forbes, May 25, 2020.

[2] Sally Adee, “What Are Deepfakes and How Are They Created? – IEEE Spectrum,” IEEE Spectrum, April 29, 2020.

[3] Daniel Nelson, “What Are Deepfakes?,” Unite.AI (blog), June 9, 2020.

[4] Rachel Metz, “The Number of Deepfake Videos Online Is Spiking. Most Are Porn,” CNN, October 7, 2019.

[5] Henry Ajder et al., “The State of Deepfakes: Landscape, Threats, and Impact,” Amsterdam: Deeptrace, 2019.

[6] Charlotte Jee, “An Indian Politician Is Using Deepfake Technology to Win New Voters,” MIT Technology Review, February 19, 2020.

[7] Nilesh Christopher, “We’ve Just Seen the First Use of Deepfakes in an Indian Election Campaign,” Vice (blog), February 18, 2020.

[8] JANOSCH DELCKER, “Welcome to the Age of Uncertainty,” POLITICO, December 17, 2019.

[9] Dionne Searcey, “Coup Attempt in Gabon Is Thwarted, Government Says ,” The New York Times. January 7, 2019.

[10] https://projectassembler.org/#approach

[11] Will Douglas Heaven, “Facebook Just Released a Database of 100,000 Deepfakes to Teach AI How to Spot Them,” MIT Technology Review, June 12, 2020.

[12] JEREMY KAHN, “Facebook Contest Shows Just How Hard It Is to Detect Deepfakes,” Fortune, June 12, 2020.

[13] Sue Poremba, “Deepfakes Pose New Security Challenges,” Security Boulevard, January 2, 2020.

[14] Connor Jones, “Deepfake Ransomware among Experts’ List of Cyber Fears,” IT PRO, September 18, 2019.