雙週報第79期
中國公布《生成式AI管理辦法》—— 推進器或緊箍咒？
壹、新聞重點
中共國家互聯網信息辦公室2023年4月11日公布《生成式人工智能服務管理辦法（徵求意見稿）》（以下簡稱《辦法》），意見稿共21條，包括定義、准入資格、責任義務和處罰措施等，對「生成式人工智慧」（Generative AI，以下簡稱生成式AI）產業列出詳盡規定，[1] 預計蒐集各方意見後進行調整，並於年內施行。
貳、安全意涵
一、畫紅線：建立生成式AI產業治理政策
回顧中國自2019年起陸續公布《網絡音視頻信息服務管理規定》與《網絡信息內容生態治理規定》，已逐漸管制網路影片訊息使用深度學習（Deep Learning）、虛擬實境（VR，中共稱「虛擬現實」）等技術，2021年公布的《互聯網信息服務算法推薦管理規定》主要針對「生成合成類」的演算法，繼而2022年初施行的《互聯網信息服務深度合成管理規定》加強監管深度合成（Deep Synthesis）的技術應用。此次《辦法》成為中國對生成式AI產業首部監管新規，部分內容延續、細化深度合成的管理規定，生成式AI囊括演算法推薦技術與深度合成技術（如表1），可窺其逐步完善相關監管法規。
觀諸美國Open AI公司2022年底推出ChatGPT後，2023年3月中國百度、4月阿里巴巴即分別推出「文心一言」、「通義千問」等類似產品，生成式AI浪潮席捲中國不到半年，其即刻推出監管辦法，對其業內而言屬於意料之中，普遍認為當局儘早在研發初階立下規定，有助引導整個行業發展方向，避免踩到禁忌紅線。而其中尤其以第4條第1款：「利用生成式AI生成內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度」最受關注，顯示中國即便視AI為下階段產業創新利器，首要關鍵考量仍係遏止生成式AI相關領域野蠻生長，繼而發展失控造成政治風險。
表1、中國涉及生成式AI、深度合成與演算法推薦的法律框架
|
名詞
|
法條名稱
|
法條定義
|
|
生成式AI
|
《生成式人工智能服務管理辦法（徵求意見稿）》
|
第2條：基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。
|
|
深度合成技術
|
《互聯網信息服務深度合成管理規定》
|
第23條：利用深度、虛擬現實等生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。
|
|
演算法推薦技術
|
《互聯網信息服務算法推薦管理規定》
|
第2條：利用生成合成類、個性化推薦類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息。
|
資料來源：曾敏禎整理自公開資料。
二、立規矩：要求科技業者承擔相應責任義務
中國宣稱《辦法》旨在規範行業有序發展，惟綜觀全文21條法條，高達13條主要針對服務提供者（利用生成式AI產品提供聊天和文本、圖像、聲音生成等「服務的組織和個人」），從第5條責任承擔（承擔該產品生成內容生產者的責任）、第6條事前審查（按《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》申報安全評估）、第9條至第11條針對監督用戶（進行真實身份認證、防止用戶過分依賴或沉迷、對用戶輸入內容承擔保護義務）、而第12條、第13條、第15條、第16條、第18條則著重對生成的內容進行管理等，逐條要求生成式AI科技業者全方位配合負責。
其中值予關注點在第4條第4款，指出「利用生成式人工智慧生成的內容應當『真實準確』，採取措施防止生成虛假資訊」，與第7條第4款提出「能夠保證數據的『真實性、準確性』、客觀性、多樣性」，上述兩條內容均強調「真實準確」，惟生成式AI刻處研發、實驗初級階段，須經過不斷試錯、修正、完善，才可能作為工具進入大規模生產領域，中國要求須保證提供訓練的數據資源真實可靠，預計將對生成式AI研發業者構成極大壓力和挑戰。
參、趨勢研判
一、各國擬推出監管規範消弭潛在疑慮
目前ChatGPT除引發科技業競相投入生成式AI，亦隨之掀起全球多國監管部門對其密切關注可能造成的資安風險（如表2）。義大利係第一個以「缺乏大量蒐集和儲存個人訊息的法律依據」宣布暫禁ChatGPT的國家（已解禁），並激發歐洲其他監管機構展開調查。 中國發布監管草案徵求意見，美國則研議監管ChatGPT等AI工具，歐洲議會2023年4月27日就AI法草案達成初步共識，其中包括為生成式AI制定相關著作權保護措施，另外「七大工業國集團」（G7）各國數位部長於4月30日同意，成員國應就AI採取風險性（risk-based）監管。[3]
鑒於生成式AI涉及「資料密集型」網路應用，並能接觸蒐集個資，故而當前爭議點多圍繞在生成式AI缺乏任何法律根據，以及足夠的年齡驗證機制、使用者的對話、用戶個人資料與付款相關資訊等數據外洩問題。針對AI監管法條的真空狀態，各國已開始醞釀訂定管理此項變革性技術，預計下一階段開發者需要配合各國監管部門，在保護智慧財產權、提高透明度、解決虛假訊息、資料維護、用戶互動等流程，進行模型設計和改進，以消弭上述疑慮。
表2、近期各國針對ChatGPT與生成式AI的相關監管聲明與措施
|
國別
|
內容
|
|
義大利
|
數據保護局（Garante）2023年3月31日對ChatGPT下達禁令，指責ChatGPT未能檢查用戶的年齡，加上該平台缺乏大量蒐集和儲存人訊息的法律依據。4月28日在OpenAI公司解決監管機構提出的問題後解除禁令。
|
|
加拿大
|
隱私專員辦公室（OPC）2023年4月6日指出，由於收到指控ChatGPT 的開發公司 OpenAI「未經同意收集、使用和披露個人訊息」的投訴，故而宣布啟動調查。
|
|
中國
|
國家網信辦4月11日發布《生成式人工智能服務管理辦法（徵求意見稿）》，指出為加強對AI技術的監管，向民眾公開徵求反饋。
|
|
美國
|
隸屬商務部的國家電信暨資訊管理局（NTIA）2023年4月11日宣布，展開為期60天的公眾評論期，將在這段期間收集來自各方對於AI監管法規的意見，做為白宮科技政策參考的基礎。
|
|
法國
|
資訊自由委員會（CNIL）2023年4月13日決定對ChatGPT提出5項指控，並展開調查。
|
|
澳洲
|
產業、科學、能源及資源部（DISER）2023年4月12日表示，要求澳洲主要科學諮詢機構提供關於如何應對AI建議，並正在考慮下一步措施。
|
|
西班牙
|
國家數據保護局2023年4月13日聲明，已正式對ChatGPT可能的違反法律行為展開初步調查程序。此前西班牙要求歐盟資料保護委員會（EDPB）將ChatGPT列為全體會議需重點討論一項主題，認為需在歐洲層面採取統一行動以應用《一般資料保護規則》（GDPR）。
|
|
歐盟
|
資料保護委員會（EDPB）2023年4月13日表示，已成立一個關於ChatGPT工作組，旨在制定AI隱私規則共同政策；4月24日歐盟執委會（European Commission）執行副主席Margrethe Vestagert表示，歐盟希望最早在2023年就ChatGPT等生成式AI相關法規達成一致。
|
|
日本
|
經濟產業大臣西村康稔2023年4月28日表示，日本希望讓G7「同意靈活或彈性治理AI技術，而非先發制人、無所不包地監管」。日本5月底將於廣島主辦G7峰會，屆時首相岸田文雄將和各國領導人討論AI規定。
|
資料來源：曾敏禎整理自公開資料。
二、中國將續採迂迴方式獲取晶片以發展AI
中共國務院在2017年制定的《新一代人工智能發展規劃》中，提出2025年AI將成為中國産業升級和經濟轉型的主要動力、2030年將成為世界主要的AI創新中心。[4] 管理顧問公司麥肯錫（McKinsey & Company）預估，2030年中國的AI產業每年將貢獻其國內生產毛額（GDP）約6,000億美元。[5] 自中國百度3月首推「文心一言」後，阿里巴巴「通義千問」、商湯科技「商量」（SenseChat）[6]、 京東推出產業版「ChatJD」、[7] 華為「盤古」大模型預計8月上線，[8] 諸多跟AI相關等產品如雨後春筍般問世。
美國2022年10月頒布晶片禁令，試圖阻擋中國購入AI訓練系統標準配備的高階晶片（如A100和更新版的H100）。輝達（NVIDIA）2023年3月表示，已將A100晶片部分能力，改製成H800晶片，「合法」將晶片產品出口至中國。作為替代品的H800，性能較A100降級，且數據傳輸率只有H100的一半。[9] 雖然傳輸變慢相當於須在AI模型訓練耗費更多時間，然中國當前除採取購買「降級版」晶片，亦利用雲端服務商或透過第三方「租用晶片」，[10] 凸顯中國將不斷試圖在美國的高端技術封鎖中找到漏洞，殺出重圍發展AI產業。另一方面，陸企爭先開發將AI技術整合到自家產品中，然而和西方競爭者相比，中國嚴苛的網路言論審查制度，難以提供訓練聊天機器人需要的海量數據，不利後續研發和優化。
[1]〈國家互聯網信息辦公室關於《生成式人工智能服務管理辦法（徵求意見稿）》公開徵求意見的通知〉，《中國網信網》，2023年4月11日，http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm。
[2]Supantha Mukherjee, Elvira Pollina and Rachel More, “Italy’s ChatGPT Ban Attracts EU Privacy Regulators,” Reuters, April 3, 2023, https://www.reuters.com/technology/germany-principle-could-block-chat-gpt-if-needed-data-protection-chief-2023-04-03/.
[3]Kantaro Komiya, “G7 Should Adopt ‘Risk-Based’ AI Regulation, Ministers Say,” Reuters, May 2, 2023, https://www.reuters.com/markets/europe/g7-should-adopt-risk-based-ai-regulation-ministers-say-2023-04-30/.
[4]〈國務院關於印發新一代人工智慧發展規劃的通知〉，《中國政府網》，2017年7月20日，http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm。
[5]Kai Shen, Xiaoxiao Tong, Ting Wu and Fangning Zhang, “The Next Frontier for AI in China Could Add $600 Billion to Its Economy,” McKinsey & Company, June 7, 2022, https://reurl.cc/XLn9Z7.
[6]高盈穎，〈商湯發布AI模型「日日新」、聊天機器人「商量」〉，《DIGITIMES》，2023年4月11日，https://reurl.cc/EGdaV1。
[7]楊日興，〈京東推出產業版ChatGPT 命名ChatJD〉，《工商時報》，2023年2月11日，https://ctee.com.tw/news/china/806169.html。
[8]黃立安，〈華為盤古AI大模型對標ChatGPT 預計8月上線〉，《DIGITIMES》，2023年4月14日，https://reurl.cc/zA97q7。
[9]Stephen Nellis and Jane Lee, “Nvidia Tweaks Flagship H100 Chip for Export to China as H800,” Reuters, March 21, 2023, https://reurl.cc/5MnEK6.
[10]Eleanor Olcott, Qianer Liu and Demetri Sevastopulo, “Chinese AI Groups Use Cloud Services to Evade US Chip Export Controls,” Financial Times, March 9, 2023, https://reurl.cc/EGdaQ1.
