歐盟管制人工智慧發展的戰略意涵
2020.02.27
瀏覽數
152
壹、新聞重點
根據《英國廣播公司》（British Broadcasting Corporation, BBC）2020年2月19日報導，歐盟執委會在該日發布《人工智慧白皮書》（White Paper on Artificial Intelligence-A European approach to excellence and trust）。有別於先前洩露的草稿所示，該白皮書並未對人臉辨識採取明確的管制措施，而是寄望藉接下來的辯論，決定未來是否進一步立法管制。[1] 相對於美中積極投入發展人工智慧，歐盟此番同步發布其《歐洲數據戰略》（Communication: A European strategy for data），欲藉此確立歐盟數位經濟發展路線。本文進一步分析歐盟動作的戰略意涵。
貳、安全意涵
一、歐盟宣示人工智慧發展須具備「解釋力」
人工智慧發展為人詬病的是其大數據的蒐集與處理可能侵犯隱私，且其演算法往往具偏見與難以、不願對外界解釋的特性，因而被視為不透明黑箱，並導致信任問題。歐盟於2019年4月所發布《歐盟人工智慧倫理準則》（EU Guidelines on Ethics in Artificial Intelligence）即指出，人工智慧發展必須具備「解釋力」（explainability）不僅要能說明其資料蒐集過程及演算法的設計與基本原理，還要能解說如何影響與形塑決策過程。歐盟要求將尊重隱私、公平無偏見落實到演算法，但企業往往以維護營業秘密為由，拒絕披露其演算法設計原理與過程。歐盟基於《一般資料保護規則》（General Data Protection Regulation, GDPR）及維護公共利益原則，於《人工智慧白皮書》提出監管架構，要求數據資料蒐集、儲存與演算法的設計、訓練均需保有完整記錄，確保人為監督而非僅靠機器自動化監測，並依風險等級實施不同程度的管制，以求落實「可解釋的」（explainable）人工智慧發展。[2]
二、歐盟藉主導人工智慧標準與美、中進行戰略競爭
歐盟強調發展人工智慧的倫理道德標準，有其戰略考量。鑒於2018年推出GDPR後，成為全球隱私保護的圭臬，2020年即宣稱《人工智慧白皮書》相當於GDPR的規格，並搭配人工智慧發展所需要的數據戰略。表面上歐盟是強調以全歐洲為考量，避免歐洲各國各自為政，淪為分裂化（fragmentation）困境，但實際上是要複製GDPR引領全球標準的成功經驗，企圖奠定主導全球人工智慧標準制訂的優勢地位。歐盟人工智慧發展搭配數據戰略，主要著眼於數據的分享與使用，確保數據可安全而自由地在歐盟會員國之間流通，藉歐盟數位單一市場（digital single market），與擁有豐沛資金的美國及坐擁龐大數據的中國一搏。
歐盟在發展人工智慧時，雖與美、中一樣，都強調信任與「以人為中心」，但這其中的差異，在於數據來源的選擇、運算原則與應用範疇。首先，歐盟標準產製的人工智慧是從數據來源就以GDPR把關，包括文字語音與影像均包含在規範之內；運算原則此後強調透明據解釋力，而應用上不得用於箝制人權與侵犯隱私，達到以尊重完整人格為中心。其次，美國版的人工智慧則在各大網路營運巨擘基於商業情報考量，常遭爆料侵犯隱私；運算上是高舉保護營業秘密之黑箱演算，應用上雖管制不得襄助極權政府用以箝制人權，但仍有侵犯隱私之虞。因此美國「以人為中心」的人工智慧，強調的只是「人-機整合」，亦即不放任機器自主運行，但要做到人為監督，則將因遭遇黑箱迷霧而受遏阻。最後，中國版人工智慧，從數據採集到演算處理，都是政府與企業聯手黑箱運作，並應用於社會評等與監控。中國式人工智慧所謂的「以人為中心」，只是社會維穩思維下的「以人為本」，隱私與人權隨時可因情報與國安需求而遭剝奪。在全球市場上，若發展人工智慧的強權一昧堆砌法律或國安藩籬高牆，則人工智慧發展恐淪為地緣政治戰略的禁臠。反之，若消費者能打破國界限制，以信任為依歸，則歐盟標準就具勝出優勢。
參、趨勢研判
一、歐盟可望有條件放寬對人臉辨識之限制
歐盟《人工智慧白皮書》並未如外界預期，對包括人臉辨識的遠端生物識別（remote biometric identification）做出明確管制規範。在白皮書公布前夕，美國各大網路營運商均前往布魯塞爾（Brussel）表達關切，而歐盟執委會所公布的最後版本，僅將遠端生物識別與其他侵入性監控科技一併列入高風險等級管制範疇，具體管制舉措則待利害攸關各方辯論之後，再以立法規範。其實，若按照GDPR從嚴規範，人臉辨識的影像資料難以用去識別化個資名義，予以蒐集、處理、應用與儲存。但另一方面，歐盟執委會已體認到人臉辨識在治安執法、商業利益與人工智慧技術發展的龐大需求，未來可能高舉公共利益的大旗，藉產官學研及公民社會討論之後，尋求在高風險管制舉措下，以符合倫理原則方式，有條件放寬應用人臉辨識及其他生物識別技術。
二、歐盟人工智慧軍事應用恐將面對美歐不同準則
歐盟《人工智慧白皮書》另一個刻意的留白，就是清楚宣示不處理人工智慧軍事應用。相對於美國、中國與俄羅斯積極將人工智慧用於軍事發展，歐盟先前僅強調禁止發展與運用致命性自主武器（Lethal Autonomous Weapons Systems, LAWS）。但歐洲最強大的武力集團非北約莫屬，北約為美國所主導，歐盟無須在此議題與美國交鋒，故《人工智慧白皮書》強調歐盟數位單一市場發展性，暫未將國防產業納入考量。另一方面，美國五角大廈於2020年2月開始正式採用之人工智慧軍事應用倫理原則，其強調人為操控負責、避免歧視偏見而強調平等性、透明可追溯過程、安全可靠性、以及在設計上符合可治理性。[3] 在歐洲，美國所主導的北約是否依循上述原則，則仍待觀察。然而，鑒於先前所舉「以人為中心」之例，美歐在發展人工智慧時，對於相同詞彙，也會有不同操作定義，即使美軍按照上述倫理原則發展人工智慧之軍事應用，並將此複製運用於北約，可預見歐盟國家仍將面對美歐不同操作準則的問題。
[1] Chris Baraniuk, “EU plans new rules for AI but experts seek more details,” BBC, February 19, 2020, https://www.bbc.com/news/technology-51559010.
[2]歐盟《人工智慧白皮書》要求：（1）訓練 AI 的數據資料必須要涵蓋廣泛的人口，避免產生偏見；（2）訓練 AI 時，必須詳細記錄 AI 的訓練過程；（3）使用者與 AI 互動時，必須告知使用者正在與自動化系統互動，不是真人；（4）歐盟以外開發的 AI 可能要重新訓練才能進入歐洲市場，以確保符合歐盟規範。
[3]“DOD Adopts Ethical Principles for Artificial Intelligence,” U.S. Department of Defense, February 24, 2020, https://www.defense.gov/Newsroom/Releases/Release/Article/2091996/dod-adopts-ethical-principles-for-artificial-intelligence/.