中國情緒辨識科技發展引發國際社會反思
2021.03.19
瀏覽數
197
壹、新聞重點
長期致力於數位權利（digital rights）的英國組織ARTICLE 19於2021年1月25日發布報告，指出中國在國家政策大力支持人工智慧（artificial intelligence, AI）科技發展、社會維穩目標以及企業依市場邏輯競逐市場等因素相互作用下，「情緒辨識」科技（emotion recognition technology）已經有豐碩成果，並被廣泛運用於公私部門各領域。其中，中國政府在公共安全層面主要將情緒辨識系統運用於預警、對潛在威脅人員的監控與審訊等用途。另一方面，基於認定情緒辨識科技存在理論預設與技術上的缺陷，恐有違反基本人權之虞，ARTICLE 19主張相關技術的設計、發展、部署、銷售、移轉等均應該被禁止，也呼籲關注中國是否挟其技術優勢擴大影響力。[1]
貳、安全意涵
一、情緒辨識科技存在資料偏差性爭議
情緒辨識科技在這裡指的是一種透過人工智慧系統檢視人類在特定時刻的生理特徵而判讀出被檢視者當下情緒狀態的技術。這些被檢視的生理特徵包括人類面部表情變化、語調高低以及生理反應（如心跳、血壓、呼吸頻率）等，可視為三大途徑。個別來看，這三種途徑分別與人臉辨識、語音聲紋辨識以及生理辨識技術高度相關。隨著人工智慧、大數據資料庫與演算法科學的快速演進，情緒辨識與相關產品已大量問世並被應用於日常生活，例如，企業應用於人才招聘與偵測顧客對產品的態度而調整行銷策略；在教學場域，學校教師透過辨識系統即時掌握學生學習動態；醫護人員可以透過系統設備辨識病患狀態，於適當時機採取措施；汽車產業也將相關技術導入自駕車用軟體。
儘管如此，有關情緒辨識科技的爭論仍然不休，核心莫過於人類情緒是否真的可以被完全辨識。立足於「普遍情緒理論」（Basic Emotion Theory）者主張理論上可行，但現行科技可能仍有未逮之處，需要精進。但另有一派論者認為人類情緒多元，且受到不同文化與社會情境脈絡影響，難以建立普遍性原則。基於此，論者主張需要謹慎看待情緒辨識技術，尤其考量從資料庫建立到人工智慧機器學習與演算法設計，每一階段都可能產生偏差（bias），以及隱私權等議題，均難以解決。倘若情緒辨識系統被政府機關用於執法或決策，上述問題勢將被進一步放大，甚至危害基本人權。[2]
二、中國具主導AI技術國際標準能力
ARTICLE 19組織透過中國案例闡述其對情緒辨識科技的整體看法，著眼於中國在市場規模與技術領域已儼然是最重要的觀察標的之一。自中國國務院2015年3月提出「中國製造2025」計畫以來，人工智慧、網路科技等創新產業即被視為重中之重的項目，獲得政府傾極大資源挹注建設，相關計畫亦多與「十三五」經濟計畫、「十四五」經濟計畫結合。2020年3月中國再提「中國標準2035」，進一步定下積極參與國際標準制定的戰略目標，在此之後在國內外陸續有集合廠商制定標準與企圖介入聯合國下屬的國際電信聯盟（International Telecommunication Union, ITU）與國際電機電子工程師學會（Institute of Electrical and Electronics Engineers, IEEE）的消息。總體而言這些對中國人臉辨識科技與情緒辨識科技均有正面助益。
與此同時，有關生物識別資料的資安議題與人權問題近年來觸發中國國內外憂慮與反彈。首先，政府借助與企業合作之力，而迅速更新、擴張其監控能力，例如透過「雪亮工程」等關鍵基礎建設，政府於各地城鄉安裝監視設備。新冠肺炎（COVID-19）爆發以來，各地政府更在抗疫大旗下積極部署監控器材、整合資料庫，這又進一步推波助瀾政府持續建構的「天網」與「社會信用體系」。近年來，國際媒體多有揭露中國政府與軍方部署人臉辨識與情緒辨識系統於新疆、西藏等少數民族地區，甚至相關系統也被香港政府引入應付反送中運動抗議者。面對這些批評，中國政府堅持系統用於公共安全目的具正當性，更聲稱在個資隱私權利已做出極大努力，並在2020年10月下旬公布《個人資訊保護法（草案）》，但有關政府以國安或公安為名義收集個資的立場仍不容挑戰。簡言之，上述爭議基本無損中國政府企圖藉由科技稱霸的決心。[3]
參、趨勢研判
一、中國案例激發國際社會反思技術監管倫理
就當前情緒辨識科技與應用在發展速度與範圍遠超過法規制定能及狀況下，全面禁止相關技術近乎不可能。然而，隨著國際社會紛紛表達對中國新疆維吾爾族人議題、西藏與香港狀況的重視，包括美國拜登總統（Joe Biden）亦在其首份《國家安全戰略暫行指南》（Interim National Security Strategic Guidance）中重申對上述地區的支持，全球對中國政府藉助科技手段損害人權的討論將更為熱烈頻繁。預料這將會激化近年來國際社會對情緒辨識、人臉辨識技術的反思，將維吾爾族人等案例納入考量，促使歐盟、英國與美國等國家在人工智慧與新興科技相關的倫理規範建構，成為未來制定或修改數位隱私權、資料權與智慧城市的參考。部分國家也可能在此過程中發動制裁參與中國政府行動的科技廠商，限制或禁止本國廠商與中國廠商在貿易或技術上的往來。在此趨勢下，中國政府也極可能相對應的採取強硬態度回應，堅持對少數民族的「中國化」政策與對各地人權運動的打壓，並投入更多資源加速中國技術的自主性。[4]
二、數位威權主義輸出重塑國際關係權力平衡
除了關注中國國內的狀況，有關中國對外輸出監視系統與數位威權主義（digital authoritarianism）也預料將會是國際社會持續注目的焦點，特別是近來中國在緬甸軍事政變、泰國政府鎮壓學運中可能扮演的角色，或是該國政府會否應用中國產品偵測辨識異議者。外界亦將關注上述威權政府與中國政府在其他領域的合作動態，例如，當中國積極介入國際標準制定時相關國家的態度。在此狀況下，國際電信聯盟或相關國際標準制定場域可能會是首要戰場。
[1] “Emotional Entanglement: China’s Emotion Recognition Market and Its Implications for Human Rights,” ARTICLE 19, https://www.article19.org/emotion-recognition-technology-report/; Avi Asher-Schapiro, “China growing use of emotion recognition tech raises rights concerns,” Reuters, January 27, 2021, https://www.reuters.com/article/china-growing-use-of-emotion-recognition-idUSL8N2K2500.
[2] Niraj Chokshi, “How Surveillance Cameras Could Be Weaponized With A.I.,” The New York Times, June 13, 2019, https://www.nytimes.com/2019/06/13/us/aclu-surveillance-artificial-intelligence.html; Taylor Telford, “‘Emotion detection’ AI is a $20 billion industry. New research says it can’t do what it claims.,” The Washington Post, August 1, 2019. https://www.washingtonpost.com/business/2019/07/31/emotion-detection-ai-is-billion-industry-new-research-says-it-cant-do-what-it-claims/; Christoffer Heckman, “AI can now read emotions – should it?,” The Conversation, January 8, 2020, https://theconversation.com/ai-can-now-read-emotions-should-it-128988.
[3] Sue-Lin Wong and Qianer Liu, “Emotion recognition is China’s new surveillance craze,” Financial Times, November 1, 2019, https://www.ft.com/content/68155560-fbd1-11e9-a354-36acbbb0d9b6; Yuan Yang and Madhumita Murgia, “China sets up national laboratory for advanced policing,” Financial Times, February 11, 2020, https://www.ft.com/content/5cc651a4-48fd-11ea-aee2-9ddbdc86190d; Zak Doffman, “Hong Kong Exposes Both Sides Of China's Relentless Facial Recognition Machine,” Forbes, August 26, 2019, https://www.forbes.com/sites/zakdoffman/2019/08/26/hong-kong-exposes-both-sides-of-chinas-relentless-facial-recognition-machine/?sh=3f169ffc42b7; Huang Lanlan and Lin Xiaoyi, “China leads in emotion recognition tech, reinforces privacy rules to tackle abuse,” Global Times, March 3, 2021, https://www.globaltimes.cn/page/202103/1217212.shtml.
[4] Joseph R. Biden, “Interim National Security Strategic Guidance,” The White House, March 2021, https://www.whitehouse.gov/wp-content/uploads/2021/03/NSC-1v2.pdf; Michael Standaert, “Smile for the camera: the dark side of China's emotion-recognition tech,” The Guardian, March 3, 2021, https://www.theguardian.com/global-development/2021/mar/03/china-positive-energy-emotion-surveillance-recognition-tech.