美國國防部更新自主化武器指導方針
2023.02.22
瀏覽數
2081
壹、新聞重點
美國國防部於2023年1月25日公布《3000.09指令:自主化武器系統》(DoD Directive 3000.09 Autonomy in Weapon Systems)的更新指南,其目的在制定政策,並分配在武器系統中發展和使用自主和半自主功能的責任,這包括由遠端操作的無人平台,或由人員直接操作的有人武裝平台,建立一套避免導致自主和半自主化武器系統意外交戰的指導方針,以將失敗可能性與後果降至最低,並建立自主化武器系統的工作團隊。 [1]
貳、安全意涵
美國國防部是發展與運用具自主能力武器系統之負責任的全球領導者。該3000.09指令的首次發布是在2012年,要求對任何武器系統的批准,要由國防部高階官員進行廣泛的測試、審查和管理監督。這項指令的核心保持不變,但因技術進步、國防部組織架構變化、以及安全環境改變,因而有必要加以修正。
一、美國更新自主化武器指令適應環境變化
人工智慧(artificial intelligence,AI)在軍事上的運用日漸增加,美國審計局(GAO)2021年4月報告指出,美國國防部至少在處理685個AI項目,其中包括部分未指明的主要武器系統。[2] 副部長凱瑟琳.希克斯(Kathleen H. Hicks)指美國國防部以負責任及合法的方式,致力發展和使用具有自主特性和功能的武器系統,該指令是這一承諾的體現。這些政策目的在為自主化系統及AI在軍事上的運用建立良好治理。這不僅可讓美國在發展與部署新系統、並在安全領域保持領先地位。國防部仍將持續研究相關技術,隨著技術的進步與成熟,更新政策更具重要性。雖然並非所有的自主武器系統都會融入AI能力,但AI將會在一系列系統和能力中,發揮越來越大的作用。[3]
二、修正版《自主化武器系統》指令內容
美國國防部指出,此次更新指令反應國防部對制定自主化系統及AI軍事用途的政策方面,採負責任的態度並要成為全球領導者。另外,更新項目也反映過去10年間的科技發展、世界局勢變化,以及國防部內對於更新指令的要求。指令的制定原即為在最大限度內減少自主及半自主化武器故障而導致意外交戰的可能性及後果。修正版指令的主要內容包括:
•自主和半自主武器系統必需被設計成允許指揮官和操作人員對武力的使用進行適當程度的人類判斷。
•授權、指導使用或操作自主和半自主武器系統的人員,將謹慎行事,並遵守戰爭法、條約、武器系統安全規則和適用的交戰規則。
•武器系統在現實條件下需展示適當的性能、能力、可靠性、有效性和適用性。
•包含 AI 功能的系統設計、開發、部署和使用,要符合國防部的AI道德原則和《負責任的人工智慧戰略和實施途徑》(Responsible Artificial Intelligence Strategy and Implementation Pathway)。
三、AI將是未來軍事科技發展的核心
美國國防部早已在強調AI的重要,2015年前助理部長鮑伯沃克(Bob Work)指AI是「第三次抵銷戰略」(Third Offset Strategy)的核心,關鍵技術領域包括自主深度學習系統、人-機協同、輔助人類操作、先進人-機編組、能應付網路和電子戰環境的半自主武器,[4] 並在2018年公布《人工智慧戰略摘要:運用人工智慧促進安全及繁榮》(Summary of the 2018 Department of Defense Artificial Intelligence Strategy: Harnessing AI to Advance Our Security and Prosperity)。報告認為,AI將會改變國防產業,並影響國防部的運作,其範圍涵蓋作戰、訓練、維持、部隊保護、招聘、醫療保健等,並加速作戰節奏。[5] 「國防先進研究計畫署」(DARPA)擬在接續5年內投入20億美元,推動「下世代AI」(AI Next),解決AI侷限性,及增加AI安全研究經費。[6]
美國國防部在2018年時成立「聯合AI中心」(Joint Artificial Intelligence Center, JAIC),負責領導及發展AI戰略,加速提供AI的能力,將AI影響範圍擴大到全國防部,及同步至聯合部隊,以擴大其優勢。[7] 「新興能力政策辦公室」(Emerging Capabilities Policy Office)也協助將自主化系統、極超音速技術、直接能武器,以及其他創新技術,整合至國防戰略、計畫指導及預算流程中。為協調及加速資料分析及AI發展,2021年底成立「首席數位及AI辦公室」(the chief digital and AI office, CDAO)辦公室,於2022年2月開始運作。
參、趨勢研判
AI技術已大量運用在國防上,包括能自主操作的智慧化武器、自動航行的無人化系統等,能與有人團隊搭配,真正減少人員負擔,而AI也將輔助新的「聯合全領域指揮管制」(Joint all-domain command and control,JADC2)系統,進一步簡化或減少決策循環中的人員因素,加快反應速度。中共與俄羅斯也在AI領域加大投資及發展,並視為是與美國競爭的利器。然而這也加深軍備競賽腳步,同時引發AI及自主化武器運用的疑慮。不過,美國雖強化對AI技術軍事化的道德控制,但無法確定其競爭者能夠運用同樣道德標準審視AI的軍事運用,特別是在自主化或致命武器系統的運用。
一、AI技術可能引起新一波軍備競賽
美國國防部持續關注中共在AI領域的發展。2022年10月,習近平在中共20次全國代表大會中提出「……提高新領域作戰力量的比重,加快發展無人化、智能化作戰能力,促進網路信息系統的發展和應用。」中共預期AI、雲計算和大數據分析等先進技術,將成為未來戰爭獲勝的關鍵,因此也加快「機械化、信息化和智能化」融合發展,並尋求至2030年成為AI技術的全球領導者。中共大量投資AI技術,與美國的投資額度已很接近。[8] 中共也嘗試運用AI技術獲得戰場優勢。美國認為中共正在發展一種稱為「多領域精確戰」(Multi-Domain Precision Warfare,MDPW)的新軍事架構,將其部隊從網路至太空結合為一體,對抗美國的「全領域指揮管制」系統,其核心概念依賴相互鏈結的指揮、管制、通訊、電腦、情報、監視及偵察,以協調火力並找出敵軍的弱點,對敵軍發動精確打擊。[9]
俄羅斯同樣亦大力推動AI戰略,對軍方、國營事業、私人公司進行大量投資。在俄軍現代化進程中,已視AI為優先事項,將整合自主化及機器人武器系統。俄烏戰爭促使中俄強化合作,俄建議雙方建立AI夥伴關係,俄羅斯在入侵烏克蘭時,除運用AI技術以操作資訊戰及開放情報蒐集外,在資訊管理、訓練、後勤、維護、生產與預警及防空系統等,均大量運用AI技術。中共及俄羅斯大量增加對AI在科技及軍事上的投資及發展,美國也同樣加速發展AI技術在軍事上運用,掀起AI軍備競賽的疑慮,因此有必要加強對AI技術的控管及治理,增加人類對AI的信任。
二、AI發展必需監督及管控
AI技術的軍事運用快速增加,也引起自主化武器接戰的疑慮。美國國防部「國防創新小組」(Defense Innovation Unit, DIU)認為對自動化武器的規則有必要重新思考。[10] 該小組提出5項原則,包括人類需對AI發展負責;以慎重措施減少AI發展偏差;需由相關人員瞭解技術、發展過程、操作、部署,包括透明及可審計的方法;國防部AI發展計畫需有明確定義的任務,確保其安全、保障性及有效性;確保AI實現預期功能,並具有檢測及避免意外後果的能力,包括解除及停止已部署系統的使用。[11]
美國國防部在2022年6月公布的《負責任的人工智慧戰略和實施途徑》中,列出6項促進推動負責任AI的基本原則,包括負責任的AI治理;戰鬥員的信任;AI產品和獲得的生命週期;需求驗證;負責任的AI生態系統;和AI勞動力,其目的即在減輕隨著AI在軍事系統中使用日益廣泛而可能導致的意外後果。[12] 這項文件將指導國防部AI道德原則的實施途徑,並以更廣泛方式推進負責任的AI,並確保操作敏捷性、部署速度、提供可擴展性,並考慮資源的有效性。該文件另包括現代化的治理架構,持續監督各部門對AI的使用,對系統操作者的熟悉以及信任,並運用需求驗證過程,確保利用AI的能力與作戰要求保持一致,並應對AI的相關風險。[13]
三、AI武器的道德問題受關注
AI雖能提高效率及準確性,但也引起人類決策權被移除的憂慮。國防部首席數位及AI辦公室主任皮內利斯(Jane Pinelis)強調,將AI融入決策程序後,人類扮演的角色應該更加重要。[14] 美國智庫「布魯金斯學會」(Brookings Institution)專家認為,國防部確保以合乎道德方式使用AI是一項良好開端,這有助於建立對AI技術的信任。這項途徑也能建立軍人對AI技術運用的信任,並制定一套全球規範。在「理想情況」下,不僅是美國盟邦致力負責任的AI技術,透過讓中共及俄羅斯參與有關道德AI的公開討論,亦可讓官員相信科學家所創造的事務能按預期方式運作。
[1] “DoD Directive 3000.09: Autonomy in Weapon Systems,” U.S. Department of Defense, January 25, 2023, https://www.esd.whs.mil/portals/54/documents/dd/issuances/dodd/300009p.pdf.
[2]“AI Less about ‘Killer Robots,’ More about Pentagon Transformation, Groen Says,” C4ISRNET, May 27, 2022, https://www.c4isrnet.com/artificial-intelligence/2022/05/26/ai-less-about-killer-robots-more-about-pentagon-transformation-groen-says/.
[3]“DOD Updates Autonomy in Weapons System Directive,” U.S. Department of Defense, January 25, 2023, https://www.defense.gov/News/News-Stories/Article/Article/3278065/dod-updates-autonomy-in-weapons-system-directive/.
[4]Bob Work, “Deputy Secretary of Defense Speech CNAS Defense Forum,” U.S. Department of Defense, December 14, 2015, https://www.defense.gov/Newsroom/Speeches/Speech/Article/634214/cnas-defense-forum/.
[5] “Summary of the 2018 Department of Defense Artificial Intelligence Strategy: Harnessing AI to Advance Our Security and Prosperity,” U.S. Department of Defense, November 8, 2018, https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF.
[6]Paul Scharre, “Killer Apps: The Real Dangers of an AI Arms Race,” Foreign Affairs, May-June 2019, https://www.foreignaffairs.com/articles/2019-04-16/killer-apps.
[7]同註5。
[8]“Challenges Facing DOD in Strategic Competition with China,” U.S. GAO, February 2022, https://www.gao.gov/assets/gao-22-105448.pdf.
[9]“China Developing Own Version of JADC2 to Counter US,” C4ISRNET, January 5, 2023, https://www.c4isrnet.com/battlefield-tech/it-networks/2023/01/05/china-developing-own-version-of-jadc2-to-counter-us/.
[10]“Time Is Now to Reconsider Autonomous Weapons Rules, Horowitz Says,” C4ISRNET, May 31, 2022, https://www.c4isrnet.com/unmanned/2022/05/31/time-is-now-to-reconsider-autonomous-weapons-rules-horowitz-says/.
[11]“Responsible AI Guidelines in Practice,” Defense Innovation Unit, March 2020, https://www.diu.mil/responsible-ai-guidelines.
[12] “U.S. Department of Defense Responsible Artificial Intelligence Strategy and Implementation Pathway,” U.S. Department of Defense, June 2022, https://media.defense.gov/2022/Jun/22/2003022604/-1/-1/0/Department-of-Defense-Responsible-Artificial-Intelligence-Strategy-and-Implementation-Pathway.PDF.
[13] “Pentagon Launches Strategy for Responsible AI Implementation; Kathleen Hicks Quoted,” GovCon Wire, June 23, 2022, https://www.govconwire.com/2022/06/pentagon-launches-strategy-for-responsible-ai-implementation/.
[14] “Pentagon AI Roadmap Seen Helping Build Warfighter, Public Trust,” Defense News, July 15, 2022, https://www.defensenews.com/artificial-intelligence/2022/07/15/pentagon-ai-roadmap-seen-helping-build-warfighter-public-trust/.