美國科技大廠宣布停止人臉辨識科技服務


  • 發布日期:2020/06/18

美國科技大廠宣布停止人臉辨識科技服務
網戰資安所 吳宗翰博士後研究
關鍵字:人臉辨識、《一般資料保護規範》、人工智慧

IBM執行長在68日發表給美國國會議員公開信,宣布公司停止有關人臉辨識(facial recognition)相關技術的研究與開發,也不會再提供軟體支援給新客戶。隨後數天內,亞馬遜(Amazon)以及微軟(Microsoft)先後宣布暫時停止提供人臉辨識服務給客戶,更直言對象就是美國警察部門。三者都呼籲美國應該盡速立法規範人臉辨識科技。[1]本文認為,上述科技巨頭的做法(一)乃是響應當前席捲美歐社會各地的「黑人命也是命」(Black Lives Mater)運動;(二)亦是對歐盟發表有關人工智慧(AI)白皮書後的回應,這些均為美歐社會近年來對科技可能侵害人權的反省;(三)然而,不在此社會脈絡的中國仍持續發展相關科技,趁機迎頭趕上,未來是否可能因此拉大與美歐技術差距值得關注。以下分別就美國、歐盟與中國的人臉辨識科技政策述之。

美國反種族歧視運動促使IBM等科技公司決定採取行動

由抗議警察不當執法導致非裔男子喬治‧佛洛伊德(George Floyd)死亡而衍生的「黑人命也是命」平權運動當前正橫掃美國社會各角落,並在歐洲地區獲得極大響應。這波運動興起一股清算潮,許多著名歷史人物與影音作品因曾有涉種族歧視之嫌而導致雕像被損毀推倒、或被下架。在此浪潮下,IBM、亞馬遜以及微軟等公司紛紛透過宣布中(終)止旗下有關人臉辨識的產品服務以聲援運動。
由於人臉辨識技術需要建構大數據資料庫配合,更有賴大量人臉圖像資料以利訓練AI機器學習,但許多研究指出目前的人臉辨識技術的辨識度會因性別以及種族等因素而呈現顯著差異,這使得平權運動者始終擔心相關科技的使用會助長偏見與種族歧視。在過去幾年間,IBM等公司一方面作為美國警察單位的技術供應商,另一方面也已經多次呼籲政府須立法監管相關技術。此次的聲明可以視為是廠商大動作欲迫使政府採取回應的做法。
隨著歐盟近年陸續發布《一般資料保護規範》(General Data Protection Regulation, GDPR)框架以及相關規範AI使用的白皮書,美國公眾社會亦受到啟發,思索因應之道。美國至今尚未有通過關於人臉辨識技術的聯邦層級法律,主要由各州自行規範。加州的柏克萊、奧克蘭、舊金山等城市目前已明定反對使用人臉辨識技術。20193月參議員羅伊‧布倫特(Roy Blunt)提出《商用人臉辨識隱私法案》(Commercial Facial Recognition Privacy Act of 2019),法案主旨基本與GDPR精神一致,強調廠商收集個人資料訊息須經過本人同意,目前該法案仍在審查中。

歐盟持續在規範層次思索AI的發展與運用

在歐洲,對於人臉辨識科技的討論主要不是出自於反種族歧視的原因,而是圍繞在個人隱私權。廣義來說仍是屬於對人權保障的探討。自2018GDPR正式實行後,歐盟也展開有關個人隱私、大數據和AI的討論。歐盟希望推動建立高標準的AI規範,以此成為人類世界的標竿。20202月,歐盟發表《人工智慧白皮書》(AI White Paper)以及《歐洲數據戰略》(European Data Strategy)兩項白皮書,闡述「在不危及個人隱私的前提下,建立透明、可追蹤、信賴與使用者同意為原則」的AI監管框架,以作為後續立法準備。
從大方向來看,歐盟對於人臉辨識技術採取較謹慎的態度。主要成員國內的執法機關多半贊成使用相關科技以利執法,但GDPR與人工智慧白皮書等彰顯的監管原則仍是最高依歸。

中國人臉辨識科技急起直追美歐

歐美國家對於人臉辨識科技的討論反映長期以來存在於各自社會中的爭議。相比之下,中國不存在這類阻礙其人臉辨識技術發展的因素。近年來,隨著中國政府部署天網系統與建構社會信用體制制度,加之武漢肺炎爆發以來大力度採取的科技抗疫手段,這些時空背景反而推動中國人臉辨識科技急起直追美歐。儘管中國在過去數年間也陸續發表關於AI以及個人信息安全規範的白皮書,但這些文件主要著眼在促進產業整合發展與資安的面向,倫理層次的討論較為欠缺。
除了有不同於美歐的監管思維,中國更欲打造一套新國際標準。中國人臉辨識科技產業近年來成長強勁,在技術上亦多有突破。依圖、雲從、曠視、商湯、海康威視等公司已是世界人臉辨識技術的獨角獸巨擘。根據《金融時報》(Financial Times201912月的獨家報導,中國已在聯合國組織底下的國際電信聯盟(International Telecommunication Union, ITU)提案,針對人臉辨識、監視器以及城市和車輛監控等用途提出國際標準。[2]雖然該提案目前仍在審查階段,但許多人已對中國標準會否產生相關倫理問題表達關切。中國提案本身亦反映出在不同思維的監管政策下中國人臉辨識科技的發展已具備形塑新格局的企圖與能力。

AI監管思維差異影響科技發展走向

隨著軟硬體設備的進步、邊緣人工智慧(Edge AI)、物聯網(AIoT)等科技的推進,人臉辨識科技早已被大幅度運用在我們的生活當中。然而有關隱私侵害與資安隱憂的討論亦隨之增加。自武漢肺炎爆發以來,人臉辨識技術在不同國家更是以資通訊手段圍堵疫情的名義被大量使用,但這也引發了公眾對「監控社會」的辯論。此次IBM、亞馬遜與微軟等科技巨頭響應「黑人命也是命」運動而發聲,既符合美國社會脈絡,也是歐美社會對科技帶來人權疑慮思維的結果。而不囿於相關因素所限的中國,未來是否在世界人臉辨識科技領域上展現出更多突破與主導性,拉大美中差距,值得注意。

[1] 〈禁美警使用臉部辨識技術 微軟加入科技巨頭行列〉,《中央社》,2020615日,https://www.cna.com.tw/news/aopl/202006120008.aspx
[2] Anna Gross, Madhumita Murgia, Yuan Yang, “Chinese tech groups shaping UN facial recognition standards,” Financial Times, December 6, 2019, http://www.ftchinese.com/story/001085431/en?ccode=LanguageSwitch.