歐盟公布草案禁止AI用於社會評等
2021.05.28
瀏覽數
364
壹、新聞重點
歐盟執委會（European Commission）在2021年4月21日提出了《人工智慧統一管理規則的立法草案》（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence），簡稱為《人工智慧法》（Artificial Intelligence Act）草案，目的在於打造歐洲成為「可信賴的人工智慧」的全球中心。它不僅是歐盟同時也是全球至今第一部規範人工智慧的成文法規，是迄今為止在政府層次監管人工智慧應用涉及範圍最廣的行動。執委會指出，法案將依據人工智慧的風險高低分類，禁止「不可接受的風險」人工智慧系統，嚴格控管「高風險」系統，對於「有限風險」與「最小風險」者也有各自程度不一的限制；對違反者將處以巨額罰款。透過法律框架的明確化，執委會希望同時能促進歐盟對人工智慧的投資和創新。儘管草案後續還需要經過歐洲議會與27個會員國的批准才能成文，過程可能達數年，但該案被提出所顯示的意涵以及被通過後所造成的影響值得研議。[1]
貳、安全意涵
一、歐盟價值觀拒絕社會評等系統
自2018年起，歐盟即積極摸索它在未來數位時代中應當扮演的全球角色，人工智慧一直是其關切重點。歷年來，歐盟已經先後發布《歐洲人工智慧戰略》（Artificial Intelligence for Europe，2018）、《可信賴的人工智慧倫理準則》（Ethics Guidelines for Trustworthy AI，2019）、《人工智慧白皮書》（White Paper on Artificial Intelligence，2020）等，揭櫫從確立何謂歐洲價值到實現其價值觀的路徑過程。此次提出《人工智慧法》草案，可視為該相關行動的最新成果。
《人工智慧法》草案承襲過去文件中一貫強調的「信任」（trust）精神，主張促進使用者對人工智慧產品與技術的信任，而後者也被要求保證使用者免於安全以及基本權利的損害才得以發展。草案亦同時在「以風險為基礎」的監管原則上更進一步具體劃分四等級並分別給予例證。其中，在被視為對人們安全、生計與權利會造成明顯威脅的「不可接受的風險」類別中，法案明確指出禁止由政府實行「社會評等 （social scoring）系統」。法案亦指出禁止「實時遠端生物辨識系統」（real-time remote biometric identification systems）在公共場合被用於執法目的，但可以在特定目的下，事先取得司法機關或獨立行政授權或事後追認，例如尋找犯罪受害者、失蹤兒童、防止具體、實質且緊迫的恐怖攻擊等。
草案針對特定用途的分類，可以說是為歐盟會員國政府層次的監管、企業產品技術發展以及使用者提供指引。禁止「社會評等」與「實時遠端生物辨識系統」更是為過去數年來，歐盟內部針對警察部門是否可以部署人臉辨識系統（facial recognition system）的爭論定調。[2]
二、歐盟寄託法案推動歐洲模式
歐盟一直企圖在所謂中、美人工智慧發展模式外另闢道路，更企圖藉由歐洲的軟硬綜合實力引領未來的技術走向。[3] 中國雖然近年來針對人工智慧的監管問題多有討論，並陸續制訂演算法的管理架構、隱私權保護法規、更推層出新政策白皮書，但創新優先的「經濟競爭」思維，始終壓過基於倫理與道德為基礎的管制聲浪。由於人工智慧發展涉及國家能力的戰略目標以及龐大的商業利益，更實際上被用於加強政府監管社會，中國政府至今仍採取國家中心主導的大型投資計劃方式，國內顯現的主流意見也多是偏向持續大力發展技術，再視情況控管。[4]
另一方面，監管思維在美國目前似有些混沌不明。儘管已經訂立管理架構，近來參眾議院也針對「反壟斷」等議題分別要求各家科技巨頭出席聽證會，但相比歐盟的進展仍屬初步。事實上，美國的狀況還同時需要考量到美國企業與科技能力目前仍執世界該領域之牛耳，並大量運用於商業，因此自我侷限發展顯然不符合自身利益。尤其，意識到中國等後起之秀的競爭壓力以及美中科技戰影響，美國在政府層次似更願意與企業合作，採取鼓勵投資與維持優勢等路線。
相比中美，歐盟試圖平衡監管與創新，但它採取更高標準的作法實引起有關分析認為它可能拖累歐洲的科技發展。自從《一般資料保護規範》（General Data Protection Regulation, GDPR）於2018年施行以來，歐盟即力行要求與歐盟公民有數據來往的所有主體遵守歐盟規範。這種思維同樣展現在《人工智慧法》上，歐盟希望在不損害歐洲價值觀或基本權利下與中美進行競爭；該法案一旦通過，未來也會要求其他國家比照辦理。有關論調未來會否成真只能再待分析。
參、趨勢研判
一、人工智慧委員會將成為歐盟科技監管的重要指標
根據《人工智慧法》草案規定，歐盟未來將成立一個由各會員國監管機關的高層以及歐盟資料保護機關（European Data Protection Supervisor，EDPS）組成的歐洲人工智慧委員會（European Artificial Intelligence Board）。委員會舉行會面時，可邀請其他國家的代表參與共同商討涉身事項，也可以基於需求而邀請外部技術專家或觀察者，包括來自歐盟內部與外部其他單位人員與會；決議規則採簡單多數決制。根據草案的設計，委員會一方面將擔任該法的監理機構，一方面也將負責提供歐盟執委會有關建言，更同時會扮演協調執委會與各國監管機構的角色，以利人工智慧法案的發展與運作。委員會的召開舉行、行政事務與研究事務方面的支持都將由執委會決定。
有鑑於這樣的宗旨以及行政結構，研判委員會將成為執委會與各歐盟會員國在人工智慧議題方面的權力角力與意見交換場域，並同時能夠為決定事項提供支持的技術理由。預料一旦法案成文通過，人工智慧委員會在實際運作上將成為歐盟法院（Court of the Justice of the European Union）與各國數據保護委員會之外的另一個重要指標。[5]
二、規範人工智慧用於自主武器系統是下一波重點
《人工智慧法》在第2條第3款表明該法排除適用於軍事用途，因而避開了有關人工智慧與自主武器系統的爭論。然而，人工智慧發展至今，有關自主武器的研究與應用早已在國際社會熱烈討論，可能將會是下一波規範重點。
就現況來看，主要的人工智慧科技大國包括中、美均在國際競爭的脈絡下對發展自主武器表現出正面態度，俄羅斯更是對發展相關武器不遺餘力。整體趨勢越顯激烈。相較之下，歐盟仍秉持其倫理標準平衡武器科技研發。歐洲議會於2021年1月20日通過《人工智慧軍事及非軍事用途準則》（Guidelines for Military and Non-military Use of Artificial Intelligence），主張歐盟應遵從「以人為本」（human-centred）的原則，為人類及社會共同利益服務；對人工智慧用於軍事用途訂立規範，強調涉及國防相關的人工智慧系統須具備「有意義的人為控制」（meaningful human control）。[6] 此《準則》核心精神實質上與《人工智慧法》精神相通。可以預料，歐盟未來將秉持同類原則進一步對軍事行動制訂出更具體的規範，但此舉可能在北約架構中與其他部分非歐盟的會員國意見相左。進而言之，歐盟如欲在國際法層次推動相關主張亦有阻礙。
[1] “Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act),” European Commission, April 21, 2021, https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence; “Europe Fit for the Digital Age: Commission Proposes New Rules and Actions for Excellence and Trust in Artificial Intelligence,” European Commission, April 21, 2021, https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682.
[2] Sam Schechner and Parmy Olson, “Artificial Intelligence, Facial Recognition Face Curbs in New EU Proposal,” The Wall Street Journal, April 21, 2021, https://reurl.cc/6yWQad.
[3]哈維爾•埃斯皮諾薩與馬杜米塔•穆爾賈，〈歐盟尋求規範人工智慧使用〉，《FT中文網》，2021年4月25日，https://big5.ftchinese.com/story/001092273?adchannelID=&full=y&archive。
[4]〈發展負責任的人工智能：新一代人工智能治理原則發布〉，中華人民共和國科學技術部，2019年6月17日，http://www.most.gov.cn/kjbgz/201906/t20190617_147107.htm：王春，〈技術與規則聯動 應對人工智能發展挑戰〉，《人民網》，2021年4月16日，http://finance.people.com.cn/n1/2021/0416/c1004-32079846.html。
[5] Mark MacCarthy and Kenneth Propp, “Machines Learn that Brussels Writes the Rules: The EU’s New AI Regulation,” Brookings Institution, May 4, 2021, https://www.brookings.edu/blog/techtank/2021/05/04/machines-learn-that-brussels-writes-the-rules-the-eus-new-ai-regulation/.
[6] “Guidelines for Military and Non-military Use of Artificial Intelligence,” European Parliament, January 20, 2021, https://www.europarl.europa.eu/news/en/press-room/20210114IPR95627/guidelines-for-military-and-non-military-use-of-artificial-intelligence; 廖桂瑩，〈國際對人工智慧武器發展的觀點及趨勢〉，《國防安全雙週報》，2021年2月19日，第22期，頁31-35；利奧·克利昂，〈科技巨頭聯手為白宮撰寫報告：美國應啟動人工智能武器研究，對抗中國雄心〉，《BBC中文網》，2021年3月3日，https://www.bbc.com/zhongwen/trad/science-56263338；Gary Gross-man, “The AI Arms Race Has Us to the Road to Armageddon,” VentureBeat, April 19, 2021, https://venturebeat.com/2021/04/19/the-ai-arms-race-has-us-on-the-road-to-armageddon/。