中國運用人工智慧演算法進行網路思想與輿論維穩
2019.09.20
瀏覽數
96
壹、新聞重點
根據《南華早報》（South China Morning Post）2019年9月11日的報導，中國國務院「國家互聯網信息辦公室」（簡稱「網信辦」）於9月10日發布〈網路生態治理規定（徵求意見稿）〉，[1] 除了對網路內容明列獎勵與禁止之資訊，更要求網路內容服務平台運用人工智慧演算法，以體現所謂「主流價值」。[2] 鑒於中共建國70周年之10月1日國慶將屆，正值中國政府加緊意識形態與輿論控制之際，對於中國將人工智慧科技應用於網路思想與輿論維穩，並予以明文規定的意涵與效應，實有進一步分析之必要。
貳、安全意涵
一、中國對網路新媒體內容管制以採「負面表列」居多
中國網路各式媒體興起，自媒體與短訊視頻尤其蓬勃發展，中國「字節跳動」推出的「抖音」應用程式，不僅在中國境內廣受歡迎，更是風靡全球。北京除嚴加監控網路新媒體上的言論與行徑以進行輿情監測，更對於中國官方認定的有害資訊內容，予以嚴密審查管制。根據中國國務院所轄「中國信息通信研究院」於2018年9月發布的《人工智能安全白皮書》，中國官方所認定的資訊安全，不單是資訊傳播安全，還涵蓋了資訊內容安全。[3] 據此，網路媒體內容審查的監管，便落在「網信辦」身上，準備以「網路生態治理」為名，要求網路資訊內容服務平台業者，擔負起內容審查的責任。
習近平於2019年1月25日在中共中央政治局第12次集體學習時，強調官方傳媒及黨媒必須要加速融合各式網路新媒體，「探索將人工智慧運用在資訊蒐集、製作與傳播，以主流價值導向駕馭演算法」。這意味著官方傳媒需要轉型成為網路資訊內容服務平台業者的主體，方能承擔資訊內容安全審查之責任。依照〈網路生態治理規定（徵求意見稿）〉所擬，網路資訊內容受鼓勵的有7項，遭禁止製作的違法資訊及不良資訊則各10項，顯見中國官方對於網路內容管制仍以負面表列居多（見附表）。這樣的做法，除讓網路資訊內容服務平台業者在執行審查實務上有較為具體之標準可以依循，也有助於平台業者依照一定標準設計演算法以限縮內容審查範圍。
二、中國網路內容管制科技仍嚴格限制須由人為介入操作
北京在消極管制網路言論行為內容與傳播手段之餘，轉為積極主導輿論走向。習近平所強調的官媒黨媒藉助人工智慧演算法以強化官方價值輿論的主導性，使各黨國喉舌紛紛呼應，除依指示積極結合諸如「抖音」、「快手」等工具，希望打入年輕族群，更強調在傳播手段上，藉助演算法之推薦技術，加速官方輿論之散播，並期能依照大數據分析後，針對個別特性之閱聽族群，以精準輿論導引與資訊傳播，形成網路聲浪，塑造官方論述為主流輿論之聲勢。
在資訊內容方面，北京仍著重於資訊內容安全的管制面，對於前述負面表列之禁止與不良資訊，除列為有害資訊，並強調結合「社會信用體系」，對製作及散播有害資訊者施予「聯合懲罰機制」。習近平所謂的「以主流價值導向駕馭算法」，就是排除自主性人工智慧，高度倚重人為監管的演算法，不斷調整負面表列清單，並視機器學習後的成果調節演算法。按照〈網路生態治理規定（徵求意見稿）〉所擬，用來管制網路媒體內容與傳播手段的人工智慧科技本身，也必須要建立符合官方價值觀的推薦模式與人工干預機制。如此不僅為人為干預演算法奠定合法基礎，也毫不避諱彰顯出「只要依照官方價值，即為依循主流價值」的演算法內建偏見（built-in bias）。
參、趨勢研判
一、中國將藉網路生態治理名義為人工智慧輔助資訊作戰練兵
中國將人工智慧應用於諸如網路內容審查、辨識虛假訊息與輿情監測之資訊內容安全，以及應用於推薦技術的資訊傳播安全，已有相當成果。國務院「中國信息通信研究院」2019年8月發布《人工智能數據安全白皮書》指出，「百度」推出的「人工智慧＋廣告打假」，僅2018年上半年，就處理了145.4億條有害資訊。2019年「阿里巴巴」推出「人工智慧謠言粉碎機」，對新聞內容的可信度識別，在特定場景中的準確率已達到81%。「中國信息通信研究院」藉助積累的標準樣本庫，進行對淫穢色情、恐怖暴力等違法資訊識別的模式訓練，對於以人工智慧技術的不良資訊檢測能力，識別準確率在97%以上。[4] 可以預見，北京將藉人工智慧「以子之矛，攻子之盾」的特質，以網路生態治理之名義，運用網路內容審查所累積之機器學習與演算法，設計出足以製造虛假輿論訊息、具影響力的人工智慧演算法，以及足以迅速散播的網路媒體推薦模式，為境內維穩所施行之輿論戰、心理戰等資訊作戰預作準備。
二、北京將逐步運用科技輔助「大外宣」以利對外輸出中共價值觀
中國各網路資訊內容服務平台業者運用主要來自境內之大數據資料，進行前述網路思想暨輿論維穩。在北京對於管制有害訊息逐漸嫻熟後，運用演算法實現推薦機制，以及運用機器學習推展官方論述成為主流輿論的作法，將逐漸成為輔助北京遂行「大外宣」以對外輸出中共價值觀的利器。在中國對外宣傳內容屢遭譏為刻板的時候，以人工智慧輔助之宣傳內容輸出，一開始或許因資料不足，未能掌握國外各地民眾對中國的認知與心態，而導致內容不能「入戶、入心」，但隨著對境外資料的積累，以及演算法逐漸能夠因地／因人制宜，長久下來將可望呈現機器學習的成效，讓「大外宣」的內容與管道更貼近境外閱聽眾，達到「影響力作戰」的目的。
附表、中國〈網路生態治理規定（徵求意見稿）〉關於網路資訊內容生產注意要點
|
鼓勵製作含有下列內容的資訊 |
禁止製作含有下列內容的資訊 |
|
|
(一)宣傳習近平新時代中國特色社會主義思想，全面準確生動解讀中國特色社會主義道路、理論、制度、文化； (二)宣傳中國共產黨的理論路線方針政策和中央重大決策部署； (三)展示經濟社會發展亮點，反映人民群眾偉大奮鬥和火熱生活； (四)弘揚社會主義核心價值觀，宣傳優秀道德文化和時代精神，充分展現中華民族昂揚向上精神風貌； (五)有效回應社會關切，解疑釋惑，析事明理，有助於引導群眾形成共識； (六)有助於提高中華文化國際影響力，向世界展現真實立體全面的中國； (七)其他含有謳歌真善美、促進團結穩定等積極內容。
|
違法資訊 |
不良資訊 |
|
(一)違反憲法所確定的基本原則； (二)危害國家安全，洩露國家秘密，顛覆國家政權，破壞國家統一； (三)損害國家榮譽和利益； (四)歪曲、醜化、褻瀆、否定英雄烈士及其事蹟和精神； (五)宣揚恐怖主義、極端主義，煽動民族仇恨、民族歧視，破壞民族團結； (六)破壞國家宗教政策，宣揚邪教和封建迷信； (七)散佈虛假資訊，擾亂經濟秩序和社會秩序； (八)散佈淫穢、色情、賭博、暴力、兇殺、恐怖或教唆犯罪； (九)侮辱或誹謗他人，侵害他人名譽、隱私和其他合法權益； (十)含有法律、行政法規禁止的其他內容。 |
(一)帶有性暗示、性挑逗、性誘惑； (二)展現血腥、驚悚等致人身心不適； (三)宣揚炫富拜金、奢靡腐化等生活方式； (四)過度炒作明星緋聞、娛樂八卦； (五)使用粗俗語言、展示惡俗行為、宣揚低俗內容； (六)調侃惡搞自然災害、重大事故等災難； (七)煽動人群歧視、地域歧視等； (八)使用誇張標題，內容與標題嚴重不符； (九)對未成年人身心健康造成不良影響； (十)其他含有危害社會公德等破壞網路生態內容。 |
|
資料來源：曾怡碩整理自中國國務院〈網路生態治理規定（徵求意見稿）〉。
[1]〈網路生態治理規定（徵求意見稿）〉，《中國網信網》，國家互聯網信息辦公室，2019年9月10日，http://www.cac.gov.cn/2019-09/11/c_1569729939897372.htm。
[2]Nectar Gan, “China’s internet regulator orders online AI algorithms to promote ‘mainstream values’,” South China Morning Post, September 11, 2019, https://tinyurl.com/y5yhu8fp.
[3]《人工智能安全白皮書》，中國信息通信研究院，2018 年9月，頁4， http://www.caict.ac.cn/kxyj/qwfb/bps/201809/P020180918473525332978.pdf。
[4]《人工智能數據安全白皮書》，中國信息通信研究院，2019 年8月，頁21-22，http://www.caict.ac.cn/kxyj/qwfb/bps/201908/P020190809481299621393.pdf。