美歐攜手正視人工智慧發展帶來的國家安全挑戰
瀏覽數
4025
2023.11.17
作者
網路安全與決策推演研究所 吳宗翰 助理研究員

關鍵字:人工智慧、拜登、AI安全峰會
(本評析內容及建議,屬作者意見,不代表財團法人國防安全研究院立場)


10月30日,七大工業國集團(簡稱G7)就生成式人工智慧(generative AI)開發者的國際指導方針與行動規範達成共識,並發布聯合聲明。同日,美國總統拜登(Joe Biden)也在白宮簽署美國首份有關人工智慧的行政命令,以「安全、可靠、可信賴的開發與使用人工智慧」為題,提出了8項行動目標。11月1日至2日,英國在布萊切利園(Bletchley Park)召開第一屆AI安全高峰會(AI Safety Summit),來自28個國家的代表於會後共同簽署《布萊切利宣言》(Bletchley Declaration),強調透過國際合作監管人工智慧所帶來風險的重要性。[1]這些事件的發展,反映出全球主要國家強烈意識到,監管人工智慧發展已經迫在眉睫,各國須通力合作,避免發展失控。

人工智慧發展不斷突破,各國政府嚴正看待


大約在2020年前後,世界主要人工智慧大國如美、中、歐盟就已開始針對人工智慧發展發布相關政策指引或政策白皮書,例如2019年歐盟推出《可信賴之人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI)、《人工智慧白皮書》(White Paper On Artificial Intelligence-A European approach to excellence and trust)等。儘管如此,當時的總體步調主要仍處於理念式的摸索階段;各主要國家基本確立人工智慧應該要建立在「以人為本」、「可信賴的」、「可負責任」與「可解釋的」概念基礎上,同時各國也秉持「監管」與「投資」並重的原則,惟在比例的拿捏有所差異,執行進度也不一。此外,約略同一時間,中國也已經開始研議立法規範,但更從政權穩定的考量點出發。

2022年底以來,生成式人工智慧有明顯的突破性發展。不僅出現如ChatGPT之類可自動生成文字的產品,在短時間內市面上也看到許多應用相關技術的可生成影音軟體、應用程式紛紛問世,並在市場回饋下迅速精進品質與功能。據此,各國政府、企業巨頭與學者專家多有公開呼籲人工智慧發展速度已有失控風險。雖然相關技術同時帶來龐大經濟商機與利益,但它對許多國家現行體制造成衝擊,帶來諸如隱私權保護、智慧財產權的認定、課責性、資安與假訊息等方面的挑戰,衍生出更大程度的政治、經濟、安全方面的風險。尤其是,人工智慧的軍事應用,更是引發關注。在該背景下,國家與政府於是採取更為主動積極的態度。

在今(2023)年6月,歐盟議會通過《人工智慧法案》(Artificial Intelligence Act)。如果接著歐盟內部能順利在年底達成共識,屆時它將成為世界首部監管人工智慧的法案。時隔一個月,拜登也在白宮與包括亞馬遜(Amazon)、谷歌(Google)、Meta、微軟(Microsoft)在內的7家企業領袖舉行會談,獲得業者承諾將實施一系列措施。就時序而言,拜登在10月30日發布行政命令應是此一會面後的具體跟進成果。

監管原則尋求在「控管風險」與「推動創新」之間取得平衡


前述的行動規範或目標,在名稱上與類別數目儘管上有所不同,但指涉內容多圍繞在揭露人工智慧發展可能帶來的巨大風險,並嘗試予以控管,對此,人工智慧的發展尋求具體落實「以人為本、可信賴、可負責任」等核心價值。這是何以G7、歐盟、美國均朝向要求業者須將開發模型的安全測試結果事先與政府分享緣故。此外,「透明度的提升」更是重中之重議題。為能區分內容究竟是人為還是人工智慧生成,監管措施多涵蓋要求未來人工智慧創建的內容需要崁入「浮水印」(watermarking),藉由標示(label)幫助民眾分辨。

部分評論指出,政府在發布監管措施的同時已審慎考量到避免扼殺創新的能量。前白宮科技與競爭政策顧問吳修銘(Tim Wu)認為,過於急切的監管可能會搞錯對象,導致事倍功半;此外,由於大企業往往比新創公司更具備適應監管的資源,因而監管也須避免走向市場壟斷的結果。[2]前述已發布的監管措施旨在設立框架,旨在關注而非介入過深。政府與業者應充分溝通,尋求規範與創新之間的平衡。

國際合作有共識,但國際標準制定的競合問題是下一波重點


自第49屆G7峰會於2023年5月19日至21日確立「廣島AI進程」(Hiroshima AI process)以來,主要國家已將監管人工智慧列入國際間合作的最重要項目之一。10月底G7發布規範的行動也是該峰會的後續進展。與此相關,英國AI安全高峰會達成的《布萊切利宣言》可謂是「廣島AI進程」後的重要一步,參與成員更為廣泛。

就規範面(norms)而言,各國在同意監管的大方向上達成一致。然而具體如何推動合作,採取何種規範,此一涉及國際法與國內法的複雜過程顯然還有待未來更多討論。[3]在此之前,由於歐盟的立法過程走在世界相對前沿的進度,細節已相對完善,曾被視為具備主導未來規則制定的優勢。不過,由於拜登10月底發布的行政命令涵蓋範疇更廣,在責成國家標準暨技術研究院(National Institute of Standards and Technology,NIST)制定標準,與國土安全部、能源部的通力合作以及來自美國科技巨頭的協作下,美國模式也可能異軍突起。此一趨勢還可從美國副總統賀錦麗(Kamala Harris)赴英國參加AI安全高峰會時,與首相蘇納克(Rishi Sunak)宣稱將各自建立緊密合作的人工智慧安全研究院(AI Safety Institute)見到跡象。故美國可望獲得英國支持而與歐盟分庭抗禮。[4]另一方面,代表中國與會AI安全高峰會的科技部副部長吳朝暉,在峰會開幕禮上也發言說到中方願為建立全球參與、需廣泛共識的治理框架作出貢獻;[5]這也表明中國無意在此一國際建置過程中缺席,未來亦可能採取更為積極的態度。

行動版選單開關