通用人工智能發(fā)展和治理需同步

10月18日，在第三屆“一帶一路”國(guó)際合作高峰論壇上，中國(guó)提出《全球人工智能治理倡議》(以下簡(jiǎn)稱《倡議》)，這是我國(guó)繼今年7月出臺(tái)全球首部生成式人工智能規(guī)范性政策文件《生成式人工智能服務(wù)管理暫行辦法》后，在人工智能治理領(lǐng)域的又一重大舉措�！冻�議》提出了構(gòu)建開(kāi)放、公正、有效的全球人工智能治理機(jī)制，為相關(guān)國(guó)際討論和規(guī)則制定提供了藍(lán)本，對(duì)于促進(jìn)人工智能技術(shù)造福全人類，推動(dòng)構(gòu)建人類命運(yùn)共同體具有重要意義。

一、《倡議》提出的背景

(一)通用人工智能帶來(lái)重大發(fā)展機(jī)遇的同時(shí)，也伴隨著難以預(yù)測(cè)的重大風(fēng)險(xiǎn)，需要國(guó)際社會(huì)共同應(yīng)對(duì)。

通用人工智能是人工智能發(fā)展的終極目標(biāo)。目前對(duì)通用人工智能有兩種理解：通用性的人工智能(General Artificial Intelligence，GAI)是媒體和社會(huì)公眾的一般理解，指的是能夠處理多種任務(wù)的人工智能;人工智能專業(yè)領(lǐng)域的理解是人工通用智能(Artificial General Intelligence，AGI)，指的是在所有方面都達(dá)到和超越人類水平的智能系統(tǒng)，能夠自適應(yīng)地應(yīng)對(duì)外界環(huán)境挑戰(zhàn)，完成人類能完成的所有任務(wù)的人工智能，也稱強(qiáng)人工智能、超級(jí)人工智能等。前者應(yīng)該鼓勵(lì)，后者應(yīng)該嚴(yán)防。

近年來(lái)，大模型通過(guò)持續(xù)擴(kuò)大規(guī)模，出現(xiàn)了從量變到質(zhì)變的能力“涌現(xiàn)”現(xiàn)象，在語(yǔ)言理解生成、邏輯推理等方面表現(xiàn)出預(yù)料之外的能力，拉開(kāi)了邁向通用人工智能的序幕，成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，將帶來(lái)10年到20年左右的發(fā)展紅利期。

大模型取得的突破性進(jìn)展基本上是通過(guò)經(jīng)驗(yàn)?zāi)Ｊ饺〉玫�，其背后的智能發(fā)生和涌現(xiàn)機(jī)理尚不清晰。隨著智能水平的高速增長(zhǎng)，風(fēng)險(xiǎn)也同步增長(zhǎng)，已出現(xiàn)誤用、濫用等一系列風(fēng)險(xiǎn)和挑戰(zhàn)，當(dāng)前國(guó)際社會(huì)對(duì)如何構(gòu)建一個(gè)安全的人工智能系統(tǒng)仍知之甚少，人類面臨著全新挑戰(zhàn)。

通用人工智能(GAI)和人工通用智能(AGI)都是高度復(fù)雜的系統(tǒng)，特點(diǎn)是難以預(yù)測(cè)。特別的，GAI什么時(shí)候演化為AGI也是難以預(yù)測(cè)的。根據(jù)控制論的“阿什比定律”：任何有效的控制系統(tǒng)都必須和它控制的系統(tǒng)一樣復(fù)雜。如果人類實(shí)現(xiàn)了比自己更強(qiáng)大的AGI，從理論上說(shuō)不可能控制這些系統(tǒng)，極端情況是導(dǎo)致人類滅絕的“生存危機(jī)”。

因此，防范人工通用智能(AGI)不是未來(lái)的事情，現(xiàn)在就要開(kāi)始，不僅要研究應(yīng)對(duì)AGI的戰(zhàn)略，還要研究GAI演化為AGI的可能性及對(duì)策，這是世界各國(guó)共同面臨的事關(guān)人類未來(lái)的重大課題。

(二)通用人工智能技術(shù)發(fā)展將會(huì)進(jìn)一步拉大國(guó)家之間的智能鴻溝，全球人工智能治理進(jìn)入新階段，需要建立公平公正的全球人工智能治理體系。

隨著通用人工智能技術(shù)的不斷發(fā)展，各個(gè)國(guó)家在智能技術(shù)掌握與應(yīng)用能力上的差距將形成智能鴻溝，加劇技術(shù)發(fā)展的不平等問(wèn)題。在全球?qū)用嫔�，人工智能目前尚未形成統(tǒng)一標(biāo)準(zhǔn)和規(guī)范的人工智能治理體系。

與此同時(shí)，全球人工智能治理出現(xiàn)了單邊主義、國(guó)家主義、保護(hù)主義的趨勢(shì)，少數(shù)發(fā)達(dá)國(guó)家試圖掌控人工智能相關(guān)的法律法規(guī)、政策和原則，發(fā)展中國(guó)家話語(yǔ)權(quán)較弱，甚至無(wú)法參與相關(guān)討論。中國(guó)作為最大的發(fā)展中國(guó)家和人工智能發(fā)展大國(guó)，需要積極參與全球人工智能治理工作，提升發(fā)展中國(guó)家在全球人工智能治理中的影響力與話語(yǔ)權(quán)，推動(dòng)人工智能治理朝著更加公平公正的方向發(fā)展。

二、《倡議》的主要內(nèi)容

《倡議》內(nèi)容共十一條，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理的“中國(guó)方案”。

(一)明確發(fā)展原則，推動(dòng)人工智能向善而治。

人工智能的發(fā)展應(yīng)回歸人本主義，致力于解決人類面臨的共同挑戰(zhàn)�！冻�議》提出了人工智能發(fā)展的基本原則，推動(dòng)人工智能健康發(fā)展。

一是堅(jiān)持以人為本、智能向善，以增進(jìn)人類共同福祉為目標(biāo)，確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展，共同防范和打擊恐怖主義、極端勢(shì)力和跨國(guó)有組織犯罪集團(tuán)對(duì)人工智能技術(shù)的惡用濫用。

二是堅(jiān)持相互尊重、平等互利，鼓勵(lì)全球共同推動(dòng)人工智能健康發(fā)展，共享人工智能知識(shí)成果，開(kāi)源人工智能技術(shù)。尊重各國(guó)主權(quán)，技術(shù)服務(wù)應(yīng)充分尊重所在國(guó)的法律、法規(guī)，反對(duì)利用人工智能技術(shù)干涉內(nèi)政、妨礙他國(guó)社會(huì)制度及秩序。反對(duì)以意識(shí)形態(tài)劃線或構(gòu)建排他性集團(tuán)，惡意阻撓他國(guó)人工智能發(fā)展。

(二)打造安全體系，構(gòu)建安全可信的人工智能系統(tǒng)。

針對(duì)大模型發(fā)展面臨的隱私和數(shù)據(jù)泄露、誤用濫用、不透明、不公平、責(zé)任認(rèn)定等安全問(wèn)題，《倡議》通過(guò)“內(nèi)外兼修”的方式，推動(dòng)構(gòu)建安全可信的人工智能系統(tǒng)。

在外部措施方面，一是推動(dòng)建立風(fēng)險(xiǎn)等級(jí)測(cè)試評(píng)估體系，實(shí)施敏捷治理，分類分級(jí)管理，快速有效響應(yīng)。二是逐步建立健全法律和規(guī)章制度，保障人工智能研發(fā)和應(yīng)用中的個(gè)人隱私與數(shù)據(jù)安全，反對(duì)竊取、篡改、泄露和其他非法收集利用個(gè)人信息的行為。三是堅(jiān)持倫理先行，建立并完善人工智能倫理準(zhǔn)則、規(guī)范及問(wèn)責(zé)機(jī)制，形成人工智能倫理指南，建立科技倫理審查和監(jiān)管制度，明確人工智能相關(guān)主體的責(zé)任和權(quán)力邊界，充分尊重并保障各群體合法權(quán)益，及時(shí)回應(yīng)國(guó)內(nèi)和國(guó)際相關(guān)倫理關(guān)切。

在人工智能系統(tǒng)內(nèi)部安全能力提升方面，一是針對(duì)系統(tǒng)透明度問(wèn)題，倡議各研發(fā)主體不斷提高人工智能可解釋性和可預(yù)測(cè)性，提升數(shù)據(jù)真實(shí)性和準(zhǔn)確性，確保人工智能始終處于人類控制之下，打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術(shù)。二是針對(duì)偏見(jiàn)和不公平問(wèn)題，倡議堅(jiān)持公平性和非歧視性原則，避免在數(shù)據(jù)獲取、算法設(shè)計(jì)、技術(shù)開(kāi)發(fā)、產(chǎn)品研發(fā)與應(yīng)用過(guò)程中，產(chǎn)生針對(duì)不同或特定民族、信仰、國(guó)別、性別等偏見(jiàn)和歧視。

(三)倡導(dǎo)全球治理，推動(dòng)實(shí)現(xiàn)多邊的開(kāi)放性治理生態(tài)。

單絲不成線，孤樹(shù)不成林。人工智能的發(fā)展并不是一場(chǎng)“零和游戲”，人工智能治理需要全世界的廣泛參與，在充分尊重各國(guó)人工智能治理原則和實(shí)踐的前提下，形成具有廣泛共識(shí)的國(guó)際人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，推動(dòng)全球人工智能治理邁向更加完善的新階段。

《倡議》以開(kāi)放姿態(tài)，以關(guān)切全人類發(fā)展為初衷，抵制“俱樂(lè)部”式的霸權(quán)操縱模式，積極推動(dòng)真正的多邊對(duì)話的實(shí)現(xiàn)，促進(jìn)全球發(fā)達(dá)國(guó)家和發(fā)展中國(guó)家人工智能治理的協(xié)同發(fā)展。一是鼓勵(lì)各國(guó)積極對(duì)話和分享最佳操作實(shí)踐，推動(dòng)國(guó)際人工智能治理領(lǐng)域形成廣泛共識(shí)。二是建議增強(qiáng)發(fā)展中國(guó)家在人工智能全球治理中的代表性和發(fā)言權(quán)，開(kāi)展面向發(fā)展中國(guó)家的國(guó)際合作與援助，不斷彌合智能鴻溝和治理能力差距。積極支持在聯(lián)合國(guó)框架下討論成立國(guó)際人工智能治理機(jī)構(gòu)，協(xié)調(diào)國(guó)際人工智能發(fā)展、安全與治理重大問(wèn)題。三是倡導(dǎo)“以技術(shù)監(jiān)管技術(shù)”，積極發(fā)展用于人工智能治理的相關(guān)技術(shù)開(kāi)發(fā)與應(yīng)用，支持以人工智能技術(shù)防范人工智能風(fēng)險(xiǎn)，提高人工智能治理的技術(shù)能力。

結(jié)語(yǔ)

確保人工智能安全、健康、可控發(fā)展是人類共同的責(zé)任，《倡議》為人工智能治理提出了一個(gè)覆蓋治理多元主體，推動(dòng)搭建多方共建的可落地“中國(guó)方案”。智源研究院作為人工智能領(lǐng)域的新型研發(fā)機(jī)構(gòu)，將從技術(shù)研發(fā)角度推動(dòng)《倡議》的落地。一是堅(jiān)持開(kāi)源開(kāi)放原則，構(gòu)建全面開(kāi)源、共建共享、開(kāi)放透明的人工智能技術(shù)底座，持續(xù)開(kāi)展人工智能算法可解釋性、魯棒性、可信性等研究，不斷提升人工智能系統(tǒng)的透明性和可靠性。二是開(kāi)展大模型安全與價(jià)值觀對(duì)齊、大模型安全評(píng)測(cè)技術(shù)等人工智能治理技術(shù)研究，為全球人工智能治理提供強(qiáng)有力的技術(shù)工具鏈，促進(jìn)人工智能和人類智能的良性互動(dòng)和價(jià)值共塑，構(gòu)建人工智能和人類智能友好共處的人類命運(yùn)共同體。(北京智源人工智能研究院)