網路安全

簡析中共加強監管「深度合成技術」應用
瀏覽數
1196
2023.01.11
作者
擷取
網路安全與決策推演研究所 曾敏禎 政策分析員

關鍵字:中共網路政策
(本評析內容及建議,屬作者意見,不代表財團法人國防安全研究院立場)


中共國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》(以下簡稱《規定》),自2023年1月10日起施行,對「深度合成」(Deep Synthesis)內容用途、標記、使用範圍及濫用處罰作出具體規定,強調任何人或組織不得利用深度合成服務製作、複製、發布、傳播法律、行政法規禁止的訊息,或從事法律、行政法規禁止的活動。[1]

全面規範「深度合成技術」以防患未然


中共2019年起先後發布《網絡音視頻信息服務管理規定》、《網絡信息內容生態治理規定》、《互聯網信息服務算法推薦管理規定》等法規,針對「生成合成類」與「深度偽造」(Deepfake)內容提出不同程度的監管要求。鑒於深度合成使用門檻愈發普及,此次《規定》涉及的是「深度合成」,涵蓋範圍更廣,旨在整合擴充原來散見於上述法規中的相關規範。該法在2022年1月28日向社會公開徵求意見,歷經近一年正式頒布,為「深度合成技術」首部專門性規章,明確深度合成技術定義和範圍,包括利用深度學習、虛擬現實等生成合成類演算法,另製作內容囊括文本、圖像、音頻、影片、虛擬空間等多種類型(如表)。

不同以往事後監管,此次《規定》聚焦技術開發應用層面相關主體的責任義務,在監管主體上納入管理「上游的服務提供者、中游的技術支持者、下游的服務使用者」三方,對渠等劃出數據與技術使用規範的紅線。另《規定》第19條強調「具有輿論屬性或者社會動員能力的」業者與技術人員須提早報備,陳報藉由AI、演算法所生成的內容,須審核後備查;第20條開發深度合成的「新產品、新應用、新功能」須按規定開展安全評估,[2]以上均凸顯對各環節採取全程監管,以利公安與網信管理部門風險及監督檢查,達維護網路傳播秩序之目的。

將重責強加於技術業者恐因噎廢食


揆諸中國將深度合成此項新興技術大量應用在傳媒、影視製作、廣告行銷、教育、社交娛樂及電子商務等多個領域,如AI合成主播、虛擬網紅、影視劇本地化配音,其技術逐漸成熟並進入商業化應用階段。加上2022年以來中國超過30個地方分別頒布「元宇宙」(Metaverse)相關支持性政策或徵求意見稿,[3] 多個城市競逐培育「元宇宙」產業,其中虛擬人(virtual human,身份虛構)、數位人類(digital human,身份按現實世界中人物進行設定,外觀可完全一致)即是深度合成的主要應用,亦組成當前「元宇宙」重要發展關鍵技術部分。

在中國加速探索開發AI技術之際,卻接連出現白紙運動、煙花運動等民眾大規模抗爭事件,其更為擔憂一旦深度合成技術被用於傳播虛假訊息,將導致社會失序進而動搖國家安全。綜觀《規定》全文25條法律中,涉及深度合成技術「服務提供者」與「技術支持者」多達16條,尤其以第8條至第14條聚焦責任主體,要求包括管理訊息安全、認證使用者真實身份、評估技術審核、保障數據安全、防範電信網路詐騙、建立闢謠機制、構建用戶申訴投訴舉報平台、提供明顯標識避免公眾遭混淆誤導等方面。《規定》凸顯更加嚴格的網路審查和領先於新技術的監管,劍指身為技術開發應用上、中游源頭的「服務提供者」與「技術支持者」意味濃厚,惟責任重擔、深度監管氛圍、刑事懲罰,恐影響企業與人員投入之能力和意願。

我國應與時俱進制定法規舉措機制應對破解


根據中國清華大學人工智能研究院、北京瑞萊智慧科技、國家工業信息安全發展研究中心等單位2022年2月聯合發布《深度合成十大趨勢報告(2022)》,指出全球2021年主流影片網站、社交媒體平台上發布的深度合成影片達2萬4,317條,較2017年1,680條增長超過10倍,點讚數超過3億,[4]代表深度合成技術蓬勃發展,吸引普羅大眾關注。《規定》亦隱含中共當局試圖搶先在AI合成內容等新技術在網路上氾濫前採取行動,防堵AI生成例如包括習近平在內等高級領導人的深度合成,傳播反政府訊息危害政權。

近年為對抗深度合成技術惡意使用所帶來的威脅,各國開始探索深度合成治理方式,並發布相關法律法規,如美國從聯邦和州政府層面進行專門立法,歐盟則將深度合成納入《一般資料保護規則》(GDPR)等現有法律框架規制。而面對新技術發展而衍生的後續社會議題,傳統因生物特徵鑑別方式越來越難發揮作用,目前對深度合成的檢測主要依賴AI模型,而為完備AI訓練數據,需持續更新技術與龐大資料庫。鑒於近年對岸對台發動各種資訊操弄類型的輿論戰,為避免以假亂真的深度合成內容,在社交媒體上引發短期病毒式擴散,我國政府與立法機關亟須制訂適用法律準則與應對機制,幫助民眾分辨、核查社會重大事件或政治事件,俾利消弭虛假訊息和不實輿論對社會的侵害。

表、「深度合成技術」定義與範例

類別

定義

範例

文本類

篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容技術

l   寫稿機器人

l   文字聊天機器人ChatGPT

音頻類

文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容技術

l   聲音模仿、語音克隆

l   客服∕行銷語音機器人

音樂生成、場景聲編輯等生成或者編輯非語音內容技術

l   自動編曲

l   音效合成

圖像影片類

人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、影片內容中生物特徵技術

l   美顏

l   換臉

圖像生成、圖像增強、圖像修復等生成或者編輯圖像、影片內容中非生物特徵技術

l   畫質修復

l   黑白影像配色

虛擬空間類

3D重建、數字仿真等生成或者編輯數位人物、虛擬場景技術

l   元宇宙

l   數位分身

l   遊戲引擎

l   VR


資料來源:作者摘整自《互聯網資訊服務深度合成管理規定》。


行動版選單開關