日前，2024世界人工智能大會暨人工智能全球治理高級別會議在中國上海舉辦，主題為“以共商促共享 以善治促善智”。

近年來，人工智能的新技術(shù)不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應(yīng)用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。同時，人工智能發(fā)展在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。作為負(fù)責(zé)任的人工智能大國，中國在大力推進(jìn)人工智能創(chuàng)新發(fā)展的同時，積極致力于為國際社會提供更多公共產(chǎn)品，以開放姿態(tài)開展人工智能國際交流合作，為全球人工智能發(fā)展和治理作出積極探索，貢獻(xiàn)了建設(shè)性思路和方案。

積極探索全球人工智能治理共識機(jī)制

“2024世界人工智能大會暨人工智能全球治理高級別會議有很多亮點值得關(guān)注。”復(fù)旦大學(xué)發(fā)展研究院副研究員姚旭接受本報記者采訪時說，一是各方搭臺。來自全球50多個國家地區(qū)的上千位人工智能治理和產(chǎn)業(yè)發(fā)展的領(lǐng)軍人物齊聚中國，積極參與這場討論人工智能技術(shù)和產(chǎn)業(yè)前沿發(fā)展趨勢的盛會，引發(fā)對人工智能的關(guān)注熱潮，線下參觀人數(shù)突破30萬人次，再創(chuàng)新高。二是產(chǎn)業(yè)唱戲。參加大會的知名人工智能企業(yè)數(shù)量、發(fā)布的人工智能新品數(shù)量、參展的展品數(shù)量都創(chuàng)歷年新高，全球頂級的人工智能科研機(jī)構(gòu)和企業(yè)充分交流，加速人工智能成果轉(zhuǎn)化。三是強(qiáng)調(diào)合作。大會發(fā)布《人工智能全球治理上海宣言》，為全球人工智能的治理范式和路徑提供了新思路，得到各界積極響應(yīng)。

中國一直是人工智能全球治理的積極倡導(dǎo)者和踐行者。去年10月，中國提出《全球人工智能治理倡議》，系統(tǒng)回答了為什么要加強(qiáng)、如何加強(qiáng)人工智能全球治理的重大時代課題，提出了中國方案，貢獻(xiàn)了中國智慧，為凝聚國際社會共識、推進(jìn)全球共享共治發(fā)揮了積極作用。日前，第78屆聯(lián)合國大會以協(xié)商一致方式通過了中方主提的“加強(qiáng)人工智能能力建設(shè)國際合作”決議，143個聯(lián)合國會員國參加聯(lián)署。這是全球首個聚焦人工智能能力建設(shè)的共識性文件。

對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣在接受本報記者采訪時表示，近年來，中國在全球人工智能治理方面作出了一系列積極貢獻(xiàn)。中國頒布的《生成式人工智能服務(wù)管理暫行辦法》是世界上首部以生成式人工智能為對象的正式立法。中國頒布的《科技倫理審查辦法（試行）》明確了科技倫理原則，是中國科技倫理治理的標(biāo)志性事件，意味著中國科技倫理的頂層設(shè)計和治理體系日趨完善。中國提出的《全球人工智能治理倡議》是在凝聚中國多年來人工智能治理成熟經(jīng)驗基礎(chǔ)上對全球人工智能治理共識機(jī)制的有力探索。

“近年來，中國在人工智能領(lǐng)域堅持統(tǒng)籌發(fā)展和安全，以發(fā)展促安全、以安全保發(fā)展，已取得令人矚目的成績。”姚旭介紹，2020年7月，中國發(fā)布《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》。2023年7月，中國的《生成式人工智能服務(wù)管理暫行辦法》正式發(fā)布，是全球范圍內(nèi)最早的針對生成式人工智能的監(jiān)管方案。2024年3月1日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布了《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求（TC260-003）》，對人工智能服務(wù)安全方面的基本要求做出了規(guī)定。

“此外，中國在人工智能全球治理中展現(xiàn)大國擔(dān)當(dāng)，和美國、法國等建立高層級對話機(jī)制。2023年11月，中美元首舊金山會晤期間，兩國就建立人工智能政府間對話機(jī)制達(dá)成重要共識。2024年5月，中美人工智能政府間對話首次會議成功舉行。2024年5月7日，中法兩國發(fā)布《中華人民共和國和法蘭西共和國關(guān)于人工智能和全球治理的聯(lián)合聲明》。”姚旭說。

推動全球人工智能治理法治化進(jìn)程

世界知識產(chǎn)權(quán)組織近日發(fā)布的報告顯示，2014年至2023年，中國生成式人工智能專利申請量超3.8萬件，居世界第一。高速發(fā)展催生了更為豐富的治理經(jīng)驗和治理策略，中國通過各種國際對話平臺與世界交流分享。

“近年來，中國的人工智能技術(shù)和產(chǎn)業(yè)都發(fā)展迅速，處于世界領(lǐng)先水平。”姚旭介紹，國家數(shù)據(jù)局局長劉烈宏在中國發(fā)展高層論壇2024年年會上表示，中國10億參數(shù)規(guī)模以上大模型數(shù)量已超100個。中國信息通信研究院最新發(fā)布的《全球數(shù)字經(jīng)濟(jì)白皮書（2024年）》顯示，全球人工智能大模型數(shù)量為1328個，中國大模型數(shù)量占比為36%，居世界第二。此外，中國正筑牢人工智能發(fā)展的人才培養(yǎng)底座。《紐約時報》援引保爾森基金會旗下智庫的研究稱，中國已經(jīng)成為人工智能人才的最大出產(chǎn)國，幾乎培養(yǎng)了全球一半的頂尖人工智能研究人員。

“人工智能快速發(fā)展一方面是基于科技產(chǎn)業(yè)精英主導(dǎo)的技術(shù)突破，另一方面也必須考慮應(yīng)用落地的普適性和易用性。”姚旭說，中國在人工智能技術(shù)發(fā)展和應(yīng)用的過程中，始終關(guān)注場景落地時降本增效。在自動駕駛、智能制造、氣象預(yù)測、安全巡檢等各種場景中，中國產(chǎn)學(xué)研各界正在加速強(qiáng)化國際合作，將中國人工智能技術(shù)落地方案和世界各國尤其是南方國家充分共享。此外，共建“一帶一路”國家在傳統(tǒng)基礎(chǔ)設(shè)施、數(shù)字基礎(chǔ)設(shè)施和數(shù)據(jù)基礎(chǔ)設(shè)施領(lǐng)域的協(xié)同共建，是推動普惠發(fā)展、彌合智能鴻溝的重要基石。

據(jù)人工智能、算法、自動化事件和爭議數(shù)據(jù)庫顯示，2021年新報告的人工智能事件和爭議數(shù)量是2012年的26倍。其中生成式人工智能引發(fā)的虛假信息問題尤為突出。由于虛假信息面向的是互聯(lián)網(wǎng)信息內(nèi)容領(lǐng)域，因此其產(chǎn)生的影響具有行業(yè)和場景的廣泛性。

“加強(qiáng)人工智能治理規(guī)則的全球協(xié)作日益成為各方共識。”張欣說，人工智能技術(shù)的突破式發(fā)展導(dǎo)致新舊風(fēng)險疊加，影響社會倫理秩序，帶來了一系列安全和倫理挑戰(zhàn)。例如，生成式人工智能的發(fā)展既導(dǎo)致傳統(tǒng)技術(shù)風(fēng)險加劇，又帶來了一系列新興風(fēng)險。尤其在人工智能研發(fā)和應(yīng)用環(huán)節(jié)對個人隱私和數(shù)據(jù)安全帶來了數(shù)據(jù)泄露、數(shù)據(jù)濫用、侵犯個人隱私等隱患。而與傳統(tǒng)技術(shù)風(fēng)險有所不同，人工智能技術(shù)風(fēng)險具有隱蔽性、跨域性、全球性、長期性，需要從國際層面展開持續(xù)性、系統(tǒng)性和協(xié)同性的治理努力。此外，由于人工智能的技術(shù)迭代以日為單位，若不在早期實施有效的介入治理，則可能出現(xiàn)后期風(fēng)險難以控制的治理困境。各國雖在人工智能治理思路和具體方案上存在差異，但從數(shù)據(jù)安全和個人隱私保護(hù)的視角對人工智能訓(xùn)練環(huán)節(jié)施加規(guī)制和約束已成為共識。

“全球人工智能治理還呈現(xiàn)‘法治化’特征，從早期以科技倫理、技術(shù)標(biāo)準(zhǔn)、自律承諾等為代表的軟法治理，逐步轉(zhuǎn)向一種更為成熟的‘軟法與硬法雙軌并行、剛?cè)岵?jì)’的新型治理模式。”張欣說，各國雖就人工智能治理提出了多元化的治理理念和治理路徑，但通過法治化道路為人工智能治理提供“制度圍欄”已在國際層面形成廣泛共識。中國推出了《科技倫理審查辦法（試行）》和《生成式人工智能服務(wù)管理暫行辦法》，提出了人工智能治理的中國方案。《全球人工智能治理倡議》中關(guān)于逐步建立健全人工智能領(lǐng)域的法律和規(guī)章制度的提議，不僅是為國際社會貢獻(xiàn)中國智慧和中國經(jīng)驗的重要舉措，也是中國在推動全球人工智能治理法治化進(jìn)程中扮演關(guān)鍵角色的重要體現(xiàn)。

各國需在形成充分共識基礎(chǔ)上通力協(xié)作

由于技術(shù)發(fā)展水平和文化背景差異，各國對人工智能風(fēng)險的感知也顯著不同。斯坦福大學(xué)人工智能研究所發(fā)布的《2023年人工智能指數(shù)報告》引用調(diào)查機(jī)構(gòu)易普索（IPSOS）2022年的調(diào)查指出，部分發(fā)展中國家對人工智能普遍更加樂觀。如78%的中國受訪者同意“使用人工智能產(chǎn)品和服務(wù)的好處多于壞處”的觀點，76%的沙特阿拉伯受訪者和71%的印度受訪者認(rèn)為人工智能產(chǎn)品“利大于弊”。德國、荷蘭、澳大利亞、比利時和加拿大等一些發(fā)達(dá)國家對人工智能產(chǎn)品和服務(wù)的評價則稍顯負(fù)面。

“當(dāng)前，全球人工智能治理面臨不少挑戰(zhàn)。”姚旭說，一是一些國家將人工智能等科技領(lǐng)域安全泛化，在合作當(dāng)中設(shè)置了諸多藩籬。二是人工智能全球治理的總體架構(gòu)尚不明確。各個層面建立何種機(jī)制更為有效尚未明確，全球范圍內(nèi)人工智能治理的制度競爭正變得愈發(fā)激烈。三是人工智能全球治理的思路尚未統(tǒng)一，具體的治理方案和標(biāo)準(zhǔn)上還有很多爭論，例如如何進(jìn)行人工智能安全分級標(biāo)準(zhǔn)界定，如何確立重點治理的人工智能風(fēng)險類別，如何將立法節(jié)奏和創(chuàng)新動力進(jìn)行適配等。

張欣表示，現(xiàn)階段，全球人工智能發(fā)展面臨的監(jiān)管挑戰(zhàn)集中體現(xiàn)在5個方面：一是步伐困境。人工智能監(jiān)管框架發(fā)展跟不上技術(shù)發(fā)展迭代的速度。二是技術(shù)鴻溝。人工智能模型越來越復(fù)雜，參數(shù)量越來越大，這導(dǎo)致原來構(gòu)建的基于透明度的人工智能治理框架應(yīng)對乏力。三是資本逐利。人工智能發(fā)展過程中資本的逐利可能導(dǎo)致技術(shù)異化。四是歸責(zé)框架仍不清晰，對人工智能產(chǎn)生的風(fēng)險和損害如何有效歸責(zé)仍然是一項亟待解決的問題。五是協(xié)作治理機(jī)制尚不健全。由于人工智能帶來的很多風(fēng)險具有全球性，各國需要在形成充分共識的基礎(chǔ)上通力協(xié)作。但目前的人工智能全球治理格局初步形成，仍然有碎片化特征，需要采取更多措施構(gòu)建共建共治共享的全球治理機(jī)制。

《人工智能全球治理上海宣言》提出，倡導(dǎo)開放與共享的精神，推動全球人工智能研究資源的交流與合作。建立合作平臺，促進(jìn)技術(shù)轉(zhuǎn)移與成果轉(zhuǎn)化，推動人工智能基礎(chǔ)設(shè)施公平分配，避免技術(shù)壁壘，共同提升全球人工智能的發(fā)展水平；倡導(dǎo)建立全球范圍內(nèi)的人工智能治理機(jī)制，支持聯(lián)合國發(fā)揮主渠道作用，歡迎加強(qiáng)南北合作和南南合作，提升發(fā)展中國家的代表性和發(fā)言權(quán)；鼓勵國際組織、企業(yè)、研究機(jī)構(gòu)、社會組織和個人等多元主體積極發(fā)揮與自身角色相匹配的作用，參與人工智能治理體系的構(gòu)建和實施。

作為全球最大的發(fā)展中國家，中國始終將發(fā)展中國家的期待與需求放在重要位置。《全球人工智能治理倡議》指出，增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，確保各國人工智能發(fā)展與治理的權(quán)利平等、機(jī)會平等、規(guī)則平等，開展面向發(fā)展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。

中國常駐聯(lián)合國代表傅聰介紹加強(qiáng)人工智能能力建設(shè)國際合作決議草案時表示，大多數(shù)國家特別是發(fā)展中國家尚未能真正接觸、使用人工智能并從中受益，全球數(shù)字鴻溝仍有擴(kuò)大之勢。在此背景下，中國順應(yīng)廣大國家特別是發(fā)展中國家的期待，倡導(dǎo)人工智能能力建設(shè)國際合作，平等發(fā)展和利用人工智能技術(shù)，共享人工智能知識成果，體現(xiàn)了中國對人工智能發(fā)展和治理的負(fù)責(zé)任態(tài)度。

清華大學(xué)人工智能國際治理研究院副院長肖茜日前表示，作為推動人工智能技術(shù)和治理發(fā)展的重要國家，中國在不同場合提出為發(fā)展而治理，以聯(lián)合國為核心的治理模式，豐富了人工智能全球治理的理論與實踐，使大多數(shù)還沒有享受人工智能發(fā)展紅利、沒有從人工智能發(fā)展中受益的廣大發(fā)展中國家看到了希望。她還表示，發(fā)展與安全作為人工智能治理的一體兩翼，應(yīng)當(dāng)平衡推進(jìn)。安全不是人工智能治理的全部，更不是發(fā)達(dá)國家俱樂部的專利。人工智能全球治理應(yīng)致力于在聯(lián)合國框架內(nèi)團(tuán)結(jié)全球更多國家，調(diào)動多元力量。國際社會在持續(xù)推進(jìn)人工智能安全治理進(jìn)程的同時，應(yīng)推動技術(shù)開源開放、人才交流互通，幫助更多的國家和人群享受人工智能發(fā)展成果。