從英國媒體的特別版女王聖誕文告談深偽
2021.01.15
瀏覽數
116
壹、新聞重點
根據BBC報導,每年皆以獨特方式發表聖誕祝賀訊息的英國電視台「第四頻道」(Channel 4)於2020年選定的主題是「英國女王的聖誕文告」。節目透過「深偽」技術(deepfake technology),將女影星頭像變造為女王伊莉莎白二世(Queen Elizabeth II)。內容除了祝賀聖誕節以及讚揚2020年疫情下英國國民保健署(NHS)工作人員的努力,並指出談話主題「信任」的重要性外,還以戲謔方式提及皇室成員、加拿大、首相強生(Boris Johnson)染病、Netflix與TikTok等。儘管影片播出後引發保皇派觀眾的不滿,但電視台表示其影片主旨僅在於向公眾發出「鮮明警訊」,提醒數位時代下深偽技術與虛假訊息(disinformation)可能造成的危害。[1]
貳、安全意涵
一、社會需對深偽技術與虛假訊息持續提高警覺
深偽技術指的是用機器學習(machine learning)中的深度學習(deep learning)變造合成的影像、影音、圖片,透過人工智慧(artificial intelligence,AI),將一個影片中的圖像與聲音移花接木為另一個圖像與聲音。借助「生成對抗網路」(generative adversarial network, GAN)方式,深偽技術使人工智慧在反覆演算中自我精進,在近幾年技術大為突破。正面而言,這類技術已經被廣泛運用於娛樂產業或是圖像處理,然而,在深偽技術的討論脈絡下,它往往指稱被懷有惡意的人士用於製作名人的不雅影片或政治人物的不實言論,而成為棘手的虛假訊息,一般民眾也難以倖免。注意到它可被用於不良用途,近年來各國政府對其技術進展與應用極為關注。一旦將合成好的影片與不實資訊透過網路社群平台散布,在適當的時機即可能對個人、市場或社會造成極大的恐慌,達到破壞效果,因而被認為是當前民主社會的重大潛在威脅之一。[2]
第四頻道的影片目的在於用另類方式示警,基本上只是「換臉」,並在多處提示影片中的人並非真的女王。但實際上,深偽技術早已經做到能夠連聲音都能合成。節目透過「女王」之口向觀眾表達「即便是親身所見與所聞也未必能為憑」(見附圖),正是希望藉由國家象徵呼籲全民持續正視該威脅的存在。
二、深偽象徵破壞社會信任物件
「第四頻道」2020年聖誕節目的核心是信任;據此,深偽技術在這裡乃是被化約為造就不信任的虛假訊息的代表。對英國社會而言,2020年意味著各種不確定性。原因除了有曠日廢時且前景似乎不樂觀的脫歐談判外,新冠肺炎的爆發,對英國的醫療能量、財政與經濟打擊更是巨大。截至2021年1月4日為止CNN發布的統計,英國是全球已知患病人數第6多的國家。此外,新型變種病毒的出現更是使得情況雪上加霜。在這個過程中,虛假訊息更是藉由網路渠道氾濫散佈,社會分歧愈加劇烈。自從4月以來,英國各地即出現有關5G網路建設與疫情散布有關的陰謀論。有民眾聲稱,5G會助長病毒傳播,因而號召群眾包圍破壞手機基地台。迨疫苗問世的消息傳出後,陰謀論仍然有增無減。根據2020年12月英國市場調研公司益普索莫里(Ipsos MORI)與倫敦大學國王學院政策中心(Policy Institute, King’s College London)發布的一項調查報告,其受訪的英國民眾中有3成4的比例曾經看過或聽過有關勸阻人們不要接受疫苗施打的消息,年齡介於16至34歲的受訪者中這個比例更躍升至4成6。在訊息接收來源中,曾接觸反疫苗的受訪者也表示網路社群平台是他們最主要的來源。這些混亂重創了政府威信,更創造、拉大不同群體之間的不信任感。對於即將邁入後脫歐時代的英國,重拾社會的信任是為當務之急。[3]
參、趨勢研判
一、深偽技術持續突破對國安與資安構成挑戰
隨著AI研究的日益精進,深偽技術隨之成長無可避免。該技術被用於涉及犯罪的領域也將不斷擴大。從國安角度言,可立即預想到的,是敵人可能透過偽造影音實施認知作戰(cognitive warfare)。儘管目前尚無在戰爭衝突實例中看見,但在2016年英國發動脫歐公投的過程中外部勢力透過假訊息介入已有案例;運用深偽影片或深偽訊息僅是工具上的差異。在剛剛結束不久的美國總統大選過程中,也曾出現不少疑似雙方陣營支持者所偽造的影片,企圖醜化或影響選戰過程。可以推估,未來這類型以打擊特定政治人物的影片將在各國層出不窮,使社會付出相當可觀的成本應付。而在資安領域,深偽技術也可能被用於疫情帶動的視訊會議場合中,駭客或惡意人士運用如同美肌、變裝等應用程式的概念,透過深偽技術偽造身分參與會議或從事社交工程。
二、各國政府朝多方面途徑應處深偽技術
為平衡防範假訊息與保障言論自由,各國政府少有一刀切禁止運用深偽技術,而是關注其技術發展。同時,近年來各國在實踐上也採取多管齊下的作法,包括從法規面著手,訂立新法或修改現有法規、成立事實查核單位,或是與第三方查證機構或科技公司進行公私部門的協力合作,各地情況不一。以英國而言,雖然目前尚無創設一個專屬有關處理深偽技術的法律,但從相關判決案例上肖像權保護、誹謗罪以及隱私權和反制騷擾等法律卻常見到被援用處理。美國數個地方州政府則有分別針對所謂製造與散布他人「報復性色情影片」(revenge porn)以及政治人物的深偽影片訂立法律規範,聯邦政府也正在修訂《深偽課責性法案》(Deep Fakes Accountability Act),一旦法案通過將要求所有深偽影片需要加註。此外,各國政府也開始積極要求網路科技巨頭如Facebook、Twitter、Instagram等加強管理其社群平台,而後者也在確保選舉安全的大背景下禁止或僅有限度開放深偽技術製作的影片。[4] 可以預料,這種多頭並進、公私協力形式仍將會是各國處理深偽技術議題的主流。
附圖、深偽技術合成的英國女王
資料來源:https://www.youtube.com/watch?v=IvY-Abd2FfM
說明:眼見不一定能為憑;英國「第四頻道」透過深偽技術製作的女王影像。
[1]“Deepfake queen to deliver Channel 4 Christmas message,” BBC NEWS, December 23, 2020, https://www.bbc.com/news/technology-55424730.
[2]〈淺談deepfake及其犯罪應用手法〉,《財團法人台灣網路資訊中心》,2020年8月20日,https://blog.twnic.tw/2020/08/20/14691/。
[3]Bobby Duffy et al., Coronavirus: vaccine misinformation and the role of social media, Policy Institute, King’s College London and Ipsos MORI, December 14, https://www.kcl.ac.uk/policy-institute/assets/coronavirus-vaccine-misinformation.pdf; “Tracking coronavirus’ global spread,” CNN, January 4, 2021, https://edition.cnn.com/interactive/2020/health/coronavirus-maps-and-cases/.
[4]Prajakta Pradhan, “AI Deepfakes,” University of Illinois Law Review, October 4, 2020, https://illinoislawreview.org/blog/ai-deepfakes/.