為人工智能治理提供中國方案

觀眾在2023云棲大會“人工智能+”展館參觀人工智能產品及應用。

新華社記者 黃宗治攝

觀眾在2023世界人工智能大會觀看機器人群舞。

王 初攝(人民視覺)

近年來，全球人工智能技術快速發(fā)展，應用日益廣泛。特別是以ChatGPT為代表的生成式人工智能，在諸多領域催生創(chuàng)新應用，為各行各業(yè)帶來更多機遇。

在賦能人類社會經濟發(fā)展的同時，人工智能的“狂飆突進”也伴隨著安全隱患和風險挑戰(zhàn)。特別是人工智能技術對法律、倫理和人道主義層面的沖擊及其對國際政治、經濟、軍事、社會等領域帶來的復雜影響，已引發(fā)國際社會的關注和討論。人工智能的跨國界合作與規(guī)范性治理顯得尤為迫切。

本月初，包括中國、美國、英國和歐盟在內的28個國家和地區(qū)，在首屆人工智能安全峰會上簽署《布萊奇利宣言》，同意協(xié)力打造一個“具有國際包容性”的前沿人工智能安全科學研究網絡，以對尚未被完全了解的人工智能風險和能力加深理解。

而在今年10月，中國在第三屆“一帶一路”國際合作高峰論壇期間提出《全球人工智能治理倡議》(下稱“倡議”)，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理的中國方案，為全球人工智能治理提供了建設性解決思路。

以人為本智能向善

中國在倡議中提出，發(fā)展人工智能應堅持“以人為本”理念，以增進人類共同福祉為目標，以保障社會安全、尊重人類權益為前提，確保人工智能始終朝著有利于人類文明進步的方向發(fā)展。積極支持以人工智能助力可持續(xù)發(fā)展，應對氣候變化、生物多樣性保護等全球性挑戰(zhàn)。

中國科學院自動化研究所人工智能倫理與治理中心主任曾毅認為，人工智能作為社會發(fā)展的“賦能性”技術，首要服務于提升人類福祉，因此要確保人工智能技術的穩(wěn)健與安全。中國在倡議中明確提出“以人為本”，體現(xiàn)出這是一個面向全球和全人類的治理方案。

人工智能的發(fā)展，是否會打開令人意想不到的“潘多拉魔盒”?在對外經濟貿易大學數(shù)字經濟與法律創(chuàng)新研究中心主任張欣看來，人工智能特別是生成式人工智能的發(fā)展，既導致傳統(tǒng)技術風險加劇，又帶來了一系列新興風險，影響社會倫理秩序，帶來了一系列安全和倫理挑戰(zhàn)。

“人工智能技術風險具有隱蔽性、跨域性、全球性、長期性。盡管當前有一系列法律法規(guī)、倫理規(guī)范和技術標準對人工智能進行治理，但資本逐利的傾向可能導致技術異化，這就需要從國際層面展開持續(xù)性、系統(tǒng)性和協(xié)同性的治理努力。”張欣說。

在倡議中，中國明確提出，發(fā)展人工智能應堅持“智能向善”的宗旨，遵守適用的國際法，符合和平、發(fā)展、公平、正義、民主、自由的全人類共同價值，共同防范和打擊恐怖主義、極端勢力和跨國有組織犯罪集團對人工智能技術的惡用濫用。

事實上，今年以來，包括美國、英國、歐盟在內的多個國家和地區(qū)已著手開展人工智能的治理工作，并提出各自的治理方案。清華大學戰(zhàn)略與安全研究中心特約專家朱榮生分析指出，這些方案有的聚焦于治理原則，有的則是拋出行動準則，但國際社會目前最需要的是能夠突出反映國際共識、提綱挈領的文本，而中國的倡議恰恰為人工智能治理的共識性文本提供了重要基礎。

健全法制倫理先行

中國是人工智能大國。數(shù)據顯示，中國人工智能核心產業(yè)規(guī)模達到5000億元，企業(yè)數(shù)量超過4300家，創(chuàng)新成果不斷涌現(xiàn)。世界知識產權組織的數(shù)據顯示，2022年中國企業(yè)和機構申請了近3萬項人工智能相關專利，占全球人工智能專利申請的40%以上。

在技術和相關產業(yè)發(fā)展的同時，中國一直致力于提升人工智能技術的安全性、可靠性、可控性、公平性。

今年4月，中國國家互聯(lián)網信息辦公室發(fā)布《生成式人工智能服務管理辦法(征求意見稿)》，支持人工智能算法、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作，同時明確提供生成式人工智能產品或服務應當遵守法律法規(guī)的要求，尊重社會公德、公序良俗，禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

在倡議中，中國同樣提出逐步建立健全法律和規(guī)章制度，保障個人隱私與數(shù)據安全;堅持倫理先行，建立并完善人工智能倫理準則、規(guī)范及問責機制，形成人工智能倫理指南，建立科技倫理審查和監(jiān)管制度;堅持公平性和非歧視性原則，避免產生針對不同或特定民族、信仰、國別、性別等偏見和歧視等。

張欣表示，當前全球人工智能治理法治化特征日益凸顯，逐步轉向“軟法與硬法雙軌并行、剛柔并濟”的新型治理模式。“中國提出建立并完善人工智能倫理準則、規(guī)范及問責機制等倡議，既符合國際治理趨勢，又能有效應對人工智能技術帶來的新挑戰(zhàn)，體現(xiàn)了中國在全球人工智能治理秩序構建進程中的建設性貢獻”。

北京師范大學法學院博士生導師、中國互聯(lián)網協(xié)會研究中心副主任吳沈括指出，目前部分國家和地區(qū)面對人工智能的快速發(fā)展，在認知和治理能力上存在不足，還有部分國家利用技術優(yōu)勢，推行技術霸權，損害了其他國家和人民的發(fā)展利益。“各方應攜手落實中國倡議，妥善應對科技發(fā)展帶來的規(guī)則沖突、社會風險和倫理挑戰(zhàn)”。

平等發(fā)展彌合差距

國際貨幣基金組織的一項研究發(fā)現(xiàn)，人工智能等新技術可能使更多投資轉向已經實現(xiàn)自動化的發(fā)達經濟體，從而拉大富裕與貧困國家之間的差距。專家指出，在人工智能領域，發(fā)展中國家與發(fā)達國家之間存在“智能鴻溝”與治理落差，面臨著與發(fā)達國家在科技和產業(yè)發(fā)展方面的“代差”風險。

對此，中國在倡議中提出，各國無論大小、強弱，無論社會制度如何，都有平等發(fā)展和利用人工智能的權利。增強發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權，確保各國人工智能發(fā)展與治理的權利平等、機會平等、規(guī)則平等，開展面向發(fā)展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。

朱榮生表示，目前人工智能發(fā)展與治理存在著“強者先行、強者定法”的短期特征，一些技術基礎較為薄弱的發(fā)展中國家可能會落入“弱者落后、遵從強者”的困境。“中國支持發(fā)展中國家參與人工智能全球治理規(guī)則制定，并呼吁通過基礎設施、人才培訓、聯(lián)合研發(fā)、市場交流等方式與發(fā)展中國家展開國際合作和援助，這對于人工智能的全球治理具有重要意義。”

在首屆人工智能安全峰會上，中國提出，作為發(fā)展中國家的一員，中方愿與各方就人工智能安全議題加強交流和溝通，反映“全球南方”對新興技術的普遍關切，為推動形成普遍參與的國際機制和具有廣泛共識的治理框架貢獻智慧，促進人工智能技術更好造福于人類，促進全球可持續(xù)發(fā)展，共同構建人類命運共同體。

中國現(xiàn)代國際關系研究院研究員張力認為，倡議回應了國際社會尤其是廣大發(fā)展中國家對人工智能發(fā)展的普遍擔心和關注，充分考慮到廣大發(fā)展中國家擔憂人工智能技術發(fā)展會對其國家安全和主權造成威脅的訴求。中國在人工智能治理這一國際社會重大議題上為廣大發(fā)展中國家代言發(fā)聲，體現(xiàn)了中國推動完善全球治理的大國擔當。

多個國家和地區(qū)關注人工智能治理

歐盟

今年6月，歐洲議會全體會議表決通過《人工智能法案》提案的談判授權草案，這一法案進入歐盟立法嚴格監(jiān)管人工智能技術應用的最終談判階段。這是全球首部有關人工智能的法規(guī)。該法案草案的一個突出特點是注重基于風險來制定監(jiān)管制度，以平衡人工智能的創(chuàng)新發(fā)展與安全規(guī)范。

美國

今年10月30日，美國總統(tǒng)拜登簽署一項行政命令，為人工智能安全制定新標準。這一行政令要求，美國最強人工智能系統(tǒng)的研發(fā)人員需與政府分享其安全測試結果及其他關鍵信息;完善相關標準和測試工具，確保人工智能系統(tǒng)安全、可靠;制定嚴密的合成生物檢查新標準，防范使用人工智能設計危險生物材料的風險;建立檢測人工智能生成內容和驗證官方內容的標準和最佳實踐，以幫助民眾防范人工智能驅動的欺詐;建立先進的網絡安全計劃，開發(fā)人工智能工具查找和修補關鍵軟件漏洞;研發(fā)制定“國家安全備忘錄”，指導人工智能和安全方面的進一步行動。

其他國家

日本、新加坡、加拿大和德國等根據各國科技基礎能力與戰(zhàn)略發(fā)展需求形成了各有側重的立法方向。日本面臨人工智能安全帶來的法律問題，選擇從個人信息和數(shù)據保護入手，通過明確數(shù)據主體的權責劃分，推動政府和企業(yè)形成協(xié)同研發(fā)網絡，構建有利于人工智能安全發(fā)展的生態(tài)系統(tǒng)。德國的人工智能安全相關立法關注技術對經濟和生活的影響，重點關注自動駕駛、智能醫(yī)療等緊扣改善人類經濟和生活的主題。新加坡和加拿大則重點關注人工智能這一戰(zhàn)略性技術為經濟、社會賦能的價值，從數(shù)據、安全監(jiān)管入手開展相關立法。