博鰲圓桌丨AI安全和發(fā)展如何平衡？并非掣肘關(guān)系，不能一再重復(fù)無(wú)法落地的原則

在人工智能快速發(fā)展的當(dāng)下，如何平衡推進(jìn)其應(yīng)用與治理？3月26日，在博鰲亞洲論壇2025年年會(huì)上，各界專家對(duì)該問(wèn)題進(jìn)行了探討。

“在廣泛運(yùn)用Agent（智能體）之后，AI的安全風(fēng)險(xiǎn)至少上升了一倍。”清華大學(xué)講席教授、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長(zhǎng)、中國(guó)工程院院士張亞勤在會(huì)上表示，“智能體是很好的技術(shù)，它能夠自我規(guī)劃、學(xué)習(xí)、試點(diǎn)并達(dá)到自己的目的，但它本身會(huì)帶來(lái)很大的風(fēng)險(xiǎn)，一種是可控風(fēng)險(xiǎn)，一種是被‘壞人’所利用的風(fēng)險(xiǎn)，風(fēng)險(xiǎn)增加了兩倍。能力越大，它帶來(lái)的風(fēng)險(xiǎn)越高，特別是AI從信息智能到物理智能到生物智能，風(fēng)險(xiǎn)會(huì)增加很多倍，我們?cè)谟弥悄荏w的時(shí)候需要設(shè)置一些紅線。”

AI應(yīng)用與治理平衡推進(jìn)論壇現(xiàn)場(chǎng)。 澎湃新聞?dòng)浾?秦盛 攝

中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家曾毅表示：“去年我和張亞勤老師討論是不是應(yīng)該暫停6個(gè)月的人工智能大模型研究，先把安全護(hù)欄做好，很多人都誤解了這樣的倡議，以為是不要推進(jìn)人工智能的研究。其實(shí)這個(gè)倡議告訴大家的是我們構(gòu)建安全護(hù)欄的速度沒(méi)跟上人工智能發(fā)展的速度，但是去年的博鰲論壇上，全世界的科學(xué)家對(duì)于如何構(gòu)建安全護(hù)欄是不知道答案的。但是經(jīng)過(guò)了一年的探索，我們有了初步的答案。”

曾毅表示，模型能力提升并不代表安全能力自然地就好，現(xiàn)在有很多人工智能大模型，包括國(guó)內(nèi)的人工智能大模型，在認(rèn)知問(wèn)題、求解能力上與GPT系列可以達(dá)到同一水平，但在倫理框架上還有提升空間，“我們有一項(xiàng)新研究證明，當(dāng)你提升人工智能大模型安全能力的時(shí)候，對(duì)它求解能力的影響幾乎可以忽略。我們嘗試了十幾個(gè)人工智能大模型，可以把它的安全能力提升百分之二三十，對(duì)它的問(wèn)題求解能力的影響幾乎可以忽略，這說(shuō)明安全和發(fā)展之間不是掣肘的關(guān)系，可以做到在人工智能充分安全的情況下，它的能力幾乎不受損”。

他再次強(qiáng)調(diào)，去年大家都重視人工智能的安全，而今年，倫理安全應(yīng)該作為人工智能大模型發(fā)展的基因，應(yīng)該作為第一性原理，不可刪除，不可違背，同時(shí)可以做到穩(wěn)健發(fā)展。

中國(guó)社會(huì)科學(xué)院大學(xué)教授、國(guó)務(wù)院原副秘書(shū)長(zhǎng)江小涓表示，AI治理如何落地、如何實(shí)踐是目前最大的挑戰(zhàn)，“過(guò)去很多年我對(duì)AI治理方面的進(jìn)展是很遺憾的，我覺(jué)得進(jìn)展是很有限的，從十年前阿瑟馬人工智能原則提出來(lái)一直到現(xiàn)在，這個(gè)原則已經(jīng)討論十年了，一個(gè)月前巴黎峰會(huì)的六項(xiàng)原則依舊是繼承了過(guò)去的這些原則，但是落地非常有限”。

江小涓認(rèn)為，需要把問(wèn)題分成可以落地的方向來(lái)推進(jìn)，從經(jīng)濟(jì)學(xué)家的角度來(lái)看，一項(xiàng)技術(shù)是否可以接受其實(shí)只有兩個(gè)標(biāo)準(zhǔn)，一是能不能帶來(lái)生產(chǎn)力的提高，使其創(chuàng)造更多的財(cái)富，二是發(fā)展的結(jié)果能不能比較公平地分享。

“從這兩個(gè)原則來(lái)講，AI的發(fā)展第一沒(méi)有問(wèn)題，肯定是提高勞動(dòng)生產(chǎn)率了，但是第二個(gè)問(wèn)題是不是能夠比較好地被社會(huì)所有成員分享，這個(gè)問(wèn)題劃到經(jīng)濟(jì)學(xué)角度上講比較簡(jiǎn)單，就是就業(yè)是不是充分，分配是不是公平。如果這兩個(gè)問(wèn)題不能解決的話，我們有什么替代的政策，比如就業(yè)的沖擊出現(xiàn)后我們應(yīng)該有新的社會(huì)保障政策來(lái)執(zhí)行它，而不是一再重復(fù)那些不能落地的原則。每個(gè)時(shí)代有每個(gè)時(shí)代的價(jià)值觀，當(dāng)技術(shù)使這些價(jià)值觀必須改變的時(shí)候，我們要改變它，而不是一再地重復(fù)包容、共享，它是落不了地的。”江小涓如是說(shuō)。

對(duì)于DeepSeek帶來(lái)的影響，江小涓認(rèn)為，DeepSeek在從經(jīng)濟(jì)學(xué)的角度上來(lái)講使人們對(duì)AI大模型發(fā)展的擔(dān)憂有所減輕，把AI從壟斷變成了真正競(jìng)爭(zhēng)的產(chǎn)業(yè)，從技術(shù)化的能力變成產(chǎn)業(yè)化的能力，形成了傳統(tǒng)市場(chǎng)經(jīng)濟(jì)中的競(jìng)爭(zhēng)格局，“我非常相信在競(jìng)爭(zhēng)中，市場(chǎng)自發(fā)會(huì)解決很多問(wèn)題，而不一定要我們那么高層地去討論非常多的原則問(wèn)題”。