潮聲 | “人工智能嘴替”暗藏風(fēng)險(xiǎn)，AI技術(shù)濫用該如何監(jiān)管

人工智能(AI)會(huì)不會(huì)打開“潘多拉魔盒”?

近日，郭德綱憑借一口“地道英語(yǔ)”說(shuō)相聲，引起全網(wǎng)狂歡。不僅如此，美國(guó)歌手泰勒·斯威夫特、馬斯克、特朗普等名人也“說(shuō)得”一口流利中文。

網(wǎng)絡(luò)視頻截圖

AI制作的名人“惡搞”視頻已屢見不鮮，但近來(lái)關(guān)于日本首相岸田文雄和印尼總統(tǒng)佐科等兩段以假亂真的視頻，引起了多國(guó)關(guān)注和警惕。這些被網(wǎng)友稱為“人工智能嘴替”的AI視頻中，人物的表情、動(dòng)作自然真實(shí)，聲線和腔調(diào)都和本人高度相似。

從誕生至今60余年，AI在經(jīng)歷兩次發(fā)展浪潮后，以去年11月30日ChatGPT深度學(xué)習(xí)技術(shù)的推出為標(biāo)志，開始催生出各種各樣的創(chuàng)新應(yīng)用，迎來(lái)了應(yīng)用層面的大爆發(fā)。

如今，AI廣泛應(yīng)用于繪畫、配音、視頻、寫作等方面，在我們的生產(chǎn)、生活中變得越來(lái)越常見�？焖俚�代的技術(shù)不斷顛覆人們的想象，但隨之而來(lái)的技術(shù)濫用問(wèn)題也引發(fā)擔(dān)憂。AI技術(shù)有哪些風(fēng)險(xiǎn)?AI侵權(quán)如何界定?又該如何對(duì)AI技術(shù)加強(qiáng)監(jiān)管?

有人激動(dòng)有人憂，這是一把雙刃劍

最近，“郭德綱講英語(yǔ)”“霉霉說(shuō)中文”等AI視頻席卷互聯(lián)網(wǎng)，乍眼一看，不少網(wǎng)友直呼，“嘴型、手勢(shì)都對(duì)得上，太自然了，差點(diǎn)就信了。”“口型都改了，AI是真無(wú)敵。”據(jù)悉，該創(chuàng)作來(lái)自國(guó)產(chǎn)AI視頻翻譯工具HeyGen。

記者試用了這款工具，注冊(cè)、上傳視頻后，選取需要翻譯的語(yǔ)言，通過(guò)一鍵生成，便能獲得一段翻譯視頻。對(duì)比原片，“翻譯”后的新視頻不僅翻譯較地道，連聲線、情緒都近乎和原視頻一致，而且嘴形貼合，難辨真假。有些人看好其發(fā)展前景，“以后譯制片是不是可以用AI了?”AI以這種娛樂(lè)的方式破圈，真的是好事嗎?

“在這個(gè)網(wǎng)絡(luò)流量為主的時(shí)代，很多名人或許樂(lè)意通過(guò)AI工具為作品添把火，還有主播主動(dòng)使用AI工具，在全球各地實(shí)現(xiàn)跨文化經(jīng)商、交流。”成立于杭州的無(wú)界AI聯(lián)合創(chuàng)始人馬千里表示，無(wú)論是語(yǔ)言模型、圖片模型，還是語(yǔ)音合成技術(shù)，各個(gè)模塊已經(jīng)實(shí)現(xiàn)突破性進(jìn)展，幾乎達(dá)到了以假亂真的地步。

AI的飛速發(fā)展正在顛覆人類認(rèn)知。近日，OpenAI首席科學(xué)家Ilya Sutskever稱，ChatGPT可能已經(jīng)有了意識(shí)。在無(wú)界AI創(chuàng)始人、科幻作家長(zhǎng)鋏看來(lái)，目前的大語(yǔ)言模型的底層邏輯還是基于統(tǒng)計(jì)與信息加工，仍不具備意識(shí)的一些基本特征，比如主體意識(shí)，情感與記憶，趨利避害、想象力等，“不過(guò)，AI并不需要具有意識(shí)，就能擁有超級(jí)智能或通用人工智能(AGI)，能處理超級(jí)復(fù)雜的問(wèn)題并獨(dú)立做出決策，包括生產(chǎn)出具有創(chuàng)造性的內(nèi)容。”

盡管有名人主動(dòng)使用類似技術(shù)，比如紐約市長(zhǎng)亞當(dāng)斯，他使用AI工具說(shuō)普通話、烏爾都語(yǔ)和意第緒語(yǔ)，來(lái)為市民提供語(yǔ)音服務(wù)，但AI技術(shù)的濫用已成為懸在各國(guó)頭頂?shù)倪_(dá)摩克利斯之劍。

據(jù)《環(huán)球時(shí)報(bào)》11月6日?qǐng)?bào)道，日本一名25歲男子借助AI技術(shù)制作了日本首相岸田文雄發(fā)表講話，并帶有日本電視臺(tái)臺(tái)標(biāo)和“突發(fā)新聞”字樣的假視頻。該視頻引發(fā)了廣泛批評(píng)，日本電視臺(tái)表示“絕不容忍這種行為”，并將采取法律措施。日前，該男子已在社交媒體上發(fā)文致歉。此前，針對(duì)頻發(fā)的假視頻，日本總務(wù)省曾警告：“虛假和錯(cuò)誤信息的傳播會(huì)造成社會(huì)分裂，進(jìn)而導(dǎo)致民主危機(jī)。”

印尼社交媒體最近流傳一段印尼總統(tǒng)佐科以流利中文發(fā)表演講的視頻同樣引發(fā)關(guān)注，視頻中的佐科總統(tǒng)說(shuō)中文時(shí)，嘴型、表情基本能卡點(diǎn)對(duì)上，聲音、聲線也與佐科總統(tǒng)非常像，視頻的背景音還有觀眾的笑聲。印尼政府部門日前專門對(duì)此進(jìn)行了澄清，指出這段視頻是用深度偽造技術(shù)制作而成。

“人工智能嘴替”已在多個(gè)國(guó)家蔓延，大有燎原之勢(shì)，而AI技術(shù)的快速迭代，引發(fā)更多人的擔(dān)憂，“大家不覺(jué)得可怕嗎?AI越來(lái)越強(qiáng)大了。”“會(huì)不會(huì)有人用它來(lái)詐騙?”還有觀點(diǎn)表示，“希望AI技術(shù)發(fā)展能被控制在正軌，技術(shù)濫用，就是災(zāi)難。”

AI被控訴，相關(guān)法律亟待完善

近年來(lái)，AI被廣泛應(yīng)用于各項(xiàng)領(lǐng)域中，它為我們的工作帶來(lái)便利的同時(shí)，也引發(fā)技術(shù)濫用問(wèn)題，比如有不法分子為了牟利，利用AI技術(shù)進(jìn)行詐騙。

此外，AI技術(shù)還存在法律風(fēng)險(xiǎn)。今年以來(lái)，不少名人素材被頻頻用于商業(yè)廣告途徑，已有越來(lái)越多的名人向AI“宣戰(zhàn)”。近期，又有郭德綱、蔡明等相聲演員“說(shuō)”英文的視頻傳播，盡管老藝術(shù)家們沒(méi)有出面扯AI侵權(quán)的事，但法律事實(shí)已經(jīng)很清楚。

記者咨詢中國(guó)政策科學(xué)研究會(huì)特邀研究員、中國(guó)知名律師朱界平得知，“郭德綱、蔡明說(shuō)英文”等AI視頻屬于典型的侵犯肖像權(quán)行為。這個(gè)權(quán)利是每個(gè)自然人都享有的權(quán)利，屬于人格權(quán)的內(nèi)容之一，“同時(shí)大家還不能狹義地將肖像理解為面部形象，其內(nèi)容還包括面部肖像的以外的外部形象。比如可供識(shí)別的自然人的手、腳、背、甚至聲音等外部形象。”

生成式AI(AIGC)能自主生成文本、圖片、音頻、視頻、代碼等內(nèi)容，當(dāng)下火熱的ChatGPT就是最具代表性的生成式AI工具之一。圖源：視覺(jué)中國(guó)

除此之外，AI技術(shù)面臨的法律風(fēng)險(xiǎn)，還體現(xiàn)在知識(shí)產(chǎn)權(quán)的侵權(quán)風(fēng)險(xiǎn)，這也是今年法律圈的“熱門話題”。

8月24日上午，國(guó)內(nèi)首例涉及人工智能生成技術(shù)作品版權(quán)的案件在北京互聯(lián)網(wǎng)法院直播庭審，該案未當(dāng)庭宣判，卻引發(fā)了廣泛的討論。這一針清醒劑下去，藝術(shù)家、作家和演員控訴AI侵犯版權(quán)頻頻現(xiàn)身網(wǎng)絡(luò)江湖，但大多以和解告終。

“在AI生成物的法律屬性方面，我國(guó)司法實(shí)踐中對(duì)AI生成物的可著作權(quán)性尚無(wú)統(tǒng)一判斷標(biāo)準(zhǔn)，還需結(jié)合具體案情進(jìn)行分析。”北京中倫(杭州)律師事務(wù)所合伙人、AIPPI中國(guó)分會(huì)數(shù)字經(jīng)濟(jì)委員會(huì)共同主席王紅燕向記者指出，最新修訂的《著作權(quán)法》第三條增加了第九項(xiàng)“符合作品特征的其他智力成果”，實(shí)際上也是給AI生成物是否可以被認(rèn)定為《著作權(quán)法》意義下的作品留了窗口。

在生成式AI的法律規(guī)制方面，我國(guó)目前更多的是從宏觀政策的角度加以支持與規(guī)范。例如2023年6月，國(guó)家網(wǎng)信辦等三部門聯(lián)合發(fā)布并實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，這是我國(guó)第一部專門規(guī)范AI生成內(nèi)容的部門規(guī)章;2023年7月，國(guó)家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》，規(guī)定了生成式AI服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，一定程度上給AI使用劃定了“紅線”。

“不可否認(rèn)的是，前述法律規(guī)定仍然存在著效力層級(jí)不高、條款內(nèi)容不夠細(xì)化等問(wèn)題，與發(fā)展一日千里的人工智能技術(shù)相比，亟待進(jìn)一步完善。”王紅燕說(shuō)。

在國(guó)際層面，歐盟最新通過(guò)的《人工智能法案》(AI Act)圍繞人工智能產(chǎn)品和服務(wù)的開發(fā)、市場(chǎng)投放及使用明確了一個(gè)統(tǒng)一監(jiān)管框架，“但也存在著對(duì)AI系統(tǒng)的定義過(guò)于寬泛、未明確個(gè)人的權(quán)利和救濟(jì)途徑等問(wèn)題。而美國(guó)白宮發(fā)布了幾份關(guān)于AI 風(fēng)險(xiǎn)的指導(dǎo)性文件，但并沒(méi)有為 AI 風(fēng)險(xiǎn)制定統(tǒng)一的聯(lián)邦法規(guī)。”

由此可見，目前在全球范圍內(nèi)對(duì)于生成式AI的規(guī)制尚停留在公法領(lǐng)域下的監(jiān)管性要求，而對(duì)于AI侵權(quán)問(wèn)題等私法領(lǐng)域，依然沒(méi)有得到有效的規(guī)范和界定。

AI技術(shù)暗藏風(fēng)險(xiǎn)。圖源：視覺(jué)中國(guó)

AI技術(shù)暗藏風(fēng)險(xiǎn)，治理方案需要全球合作

目前，馬千里所在的公司也在積極應(yīng)對(duì)潛在的版權(quán)問(wèn)題，比如他們結(jié)合區(qū)塊鏈技術(shù)，對(duì)AI創(chuàng)作的圖片、漫畫與視頻作品進(jìn)行版權(quán)登記與保護(hù)。并且，“我們?cè)谟脩魠f(xié)議里進(jìn)行了完善，明確了用戶的權(quán)利與義務(wù)，用戶擁有相當(dāng)大的權(quán)利，同時(shí)也要承擔(dān)相應(yīng)的責(zé)任。”

從整個(gè)產(chǎn)業(yè)和企業(yè)發(fā)展角度，馬千里倒希望相關(guān)法律可以再等等，AI技術(shù)發(fā)展迅猛，很多應(yīng)用尚不成熟，仍處于探索階段，“等到它真的發(fā)展成熟，有許多社會(huì)價(jià)值被創(chuàng)造出來(lái)，再去考慮制定相關(guān)的法律法規(guī)可能會(huì)更合適。”盡管一些企業(yè)家認(rèn)為目前AI技術(shù)并不會(huì)造成重大災(zāi)難性危害，但同時(shí)也表示，隨著人工智能的快速發(fā)展，提前規(guī)劃是有意義的。

中國(guó)“市民卡工程之父”、浙江大學(xué)智能教育研究中心特聘研究員張旭光向記者表示，“數(shù)字科技是一個(gè)生命體(AIoT技術(shù)生態(tài))，生命體的最高層級(jí)是大腦，人工智能的發(fā)展是數(shù)字技術(shù)發(fā)展的必然趨勢(shì)。我們要用現(xiàn)代數(shù)字科技“生命體”演進(jìn)的發(fā)展眼光，在可預(yù)見的發(fā)展過(guò)程中超前部署。”

當(dāng)前，浙江省人工智能發(fā)展水平處于全國(guó)前列，當(dāng)科技浪潮翻涌之時(shí)，相關(guān)監(jiān)管迫在眉睫。如何加強(qiáng)對(duì)AI技術(shù)和應(yīng)用的監(jiān)管?張旭光指出了兩條路，一條是制定法律保障，另一條是技術(shù)制約。

張旭光說(shuō)，在法律法規(guī)保障層面，要進(jìn)一步持續(xù)完善人工智能等領(lǐng)域相關(guān)法律法規(guī)，但也要看到AI技術(shù)發(fā)展和應(yīng)用與法律法規(guī)保障彼此是一個(gè)“道高一尺，魔高一丈”的對(duì)立統(tǒng)一過(guò)程，不是一蹴而就的;在技術(shù)保障層面，用相關(guān)技術(shù)防范或制約AI犯罪，比如AI生成的視頻需帶有“AI生成”的提示和水印字樣;再如，有關(guān)權(quán)威部門或合法第三方平臺(tái)用區(qū)塊鏈等數(shù)字技術(shù)給生成的AI數(shù)字人頒發(fā)數(shù)字身份證等等。

“用技術(shù)制約技術(shù)，用魔法打敗魔法”，這也是王紅燕的心聲，“人類的魔法應(yīng)該是用更包容的創(chuàng)客精神來(lái)引領(lǐng)，最關(guān)鍵的一步，也就是人工智能相關(guān)項(xiàng)目的開放與開源勢(shì)在必行。”

2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)“2023世界互聯(lián)網(wǎng)大會(huì)領(lǐng)先科技獎(jiǎng)?lì)C獎(jiǎng)典禮”在烏鎮(zhèn)互聯(lián)網(wǎng)國(guó)際會(huì)展中心會(huì)議中心舉行。圖源：視覺(jué)中國(guó)

AI正在席卷而來(lái)，這場(chǎng)深刻的革命，將徹底改變我們這個(gè)時(shí)代和生活。在2023世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上，AI元素俯首皆是，AI安全也成為本屆峰會(huì)的關(guān)注焦點(diǎn)。作為AI大國(guó)，一直以來(lái)，中國(guó)高度重視AI難以預(yù)知的風(fēng)險(xiǎn)挑戰(zhàn)，積極履行國(guó)際責(zé)任，以“緊迫”的姿態(tài)，努力走在第一梯隊(duì)。

上個(gè)月，習(xí)近平主席在第三屆“一帶一路”國(guó)際合作高峰論壇期間提出《全球人工智能治理倡議》(下稱《倡議》)，全面探討了AI發(fā)展、安全及治理三大方面，針對(duì)各方關(guān)注的AI發(fā)展與治理問(wèn)題，提出了富有建設(shè)性的解決策略，此舉也為國(guó)際間的討論及規(guī)則制定提供了重要參考。

烏鎮(zhèn)峰會(huì)開幕式上，習(xí)近平主席發(fā)表視頻致辭時(shí)特別強(qiáng)調(diào)，要妥善應(yīng)對(duì)科技發(fā)展帶來(lái)的規(guī)則沖突、社會(huì)風(fēng)險(xiǎn)、倫理挑戰(zhàn)。中方愿同各方攜手落實(shí)《倡議》，促進(jìn)人工智能安全發(fā)展。“人工智能技術(shù)風(fēng)險(xiǎn)是全球性的，全球性的課題離不開中國(guó)這一大國(guó)，表達(dá)中國(guó)決心也是全球治理非常重要的決心。”王紅燕表示。

當(dāng)今世界變亂交織，百年變局加速演進(jìn)，人類社會(huì)走到了關(guān)鍵當(dāng)口。面對(duì)難以預(yù)測(cè)的風(fēng)險(xiǎn)挑戰(zhàn)，各國(guó)應(yīng)當(dāng)攜手合作，構(gòu)建起有效的治理機(jī)制，同時(shí)要明確邊界，設(shè)置好必要的護(hù)欄。本月初，在英國(guó)召開的首屆全球AI安全峰會(huì)上，中方立場(chǎng)尤其是《倡議》備受關(guān)注。作為主要倡導(dǎo)者之一，中國(guó)與美國(guó)、英國(guó)、歐盟在內(nèi)的超過(guò)25個(gè)與會(huì)國(guó)家和地區(qū)簽署了《布萊切利宣言》，一致同意通過(guò)國(guó)際合作，攜手建立人工智能監(jiān)管方法。

盡管沒(méi)有提出具體解決方案，在法律約束方面也有所欠缺，但作為全球AI規(guī)范的首要宣言，《布萊切利宣言》所傳達(dá)的未來(lái)導(dǎo)向、全球治理愿景以及對(duì)可持續(xù)發(fā)展的共識(shí)，是一種積極步伐。“《宣言》只是國(guó)際社會(huì)在AI監(jiān)管合作方面的第一步，未來(lái)，AI技術(shù)將持續(xù)演化，面臨新的挑戰(zhàn)和機(jī)遇。我們期待看到更多國(guó)際合作，為AI的未來(lái)開創(chuàng)新的篇章。”王紅燕說(shuō)。

我們也期待，通過(guò)國(guó)際間的交流與合作，共同制定出一套明確且具有廣泛共識(shí)的法律、倫理規(guī)范，確保AI技術(shù)合法、合理、合乎倫理地應(yīng)用。同時(shí)，也需要各國(guó)政府、國(guó)際組織、科研機(jī)構(gòu)以及行業(yè)組織貢獻(xiàn)智慧，攜手共進(jìn)，推進(jìn)AI全球治理，推動(dòng)AI技術(shù)造福全人類。