談到咖啡機(jī)都壞了！歐盟艱難談判達(dá)成《人工智能法案》，如何監(jiān)管？

·最大的通用人工智能系統(tǒng)，包括為聊天機(jī)器人ChatGPT提供支持的GPT將面臨新的透明度要求。除因國家安全豁免外，警方和政府使用面部識別軟件將受到限制。違反規(guī)定的公司可能面臨高達(dá)全球銷售額7%的罰款。

·在美國國會沒有采取任何有意義的行動的情況下，歐盟的法律將為西方世界隨后的監(jiān)管定下基調(diào)。但其效果仍然存疑，執(zhí)行情況尚不明朗。

經(jīng)過漫長而艱難的談判后，歐盟政策制定者于當(dāng)?shù)貢r(shí)間12月8日就《人工智能法案》達(dá)成初步協(xié)議，該法案是全球首次嘗試以全面的、基于倫理的方式監(jiān)管這項(xiàng)快速發(fā)展的技術(shù)。

《人工智能法案》為尋求利用人工智能潛在好處的國家設(shè)立了新的全球基準(zhǔn)，同時(shí)努力防范其可能存在的風(fēng)險(xiǎn)，例如自動化運(yùn)作、在網(wǎng)上傳播錯(cuò)誤信息和危及國家安全。該法案仍需經(jīng)過幾個(gè)立法步驟才能獲得最終批準(zhǔn)，但目前達(dá)成的協(xié)議意味著其關(guān)鍵輪廓已經(jīng)確定。

最大的通用人工智能系統(tǒng)，包括為聊天機(jī)器人ChatGPT提供支持的GPT將面臨新的透明度要求。除因國家安全豁免外，警方和政府使用面部識別軟件將受到限制。違反規(guī)定的公司可能面臨高達(dá)全球銷售額7%的罰款，可達(dá)3500萬歐元（3770萬美元）。

盡管該法案被譽(yù)為監(jiān)管方面的突破，但效果如何仍然存疑。其中的許多要求預(yù)計(jì)在12至24個(gè)月內(nèi)不會生效，這對于人工智能的發(fā)展來說是一個(gè)相當(dāng)長的時(shí)間。

負(fù)責(zé)談判的歐盟內(nèi)部市場專員蒂埃里·布雷頓在X上發(fā)帖，慶祝協(xié)議達(dá)成。

目前唯一達(dá)到閾值的模型是GPT-4

協(xié)議歷時(shí)3天談判，包括當(dāng)?shù)貢r(shí)間12月6日下午開始并持續(xù)到7日的22小時(shí)會議。據(jù)彭博社報(bào)道，談判代表們時(shí)不時(shí)地打瞌睡，自助咖啡機(jī)運(yùn)轉(zhuǎn)得太過頻繁，以致于出現(xiàn)了故障。8日，談判代表進(jìn)行了又一輪激烈的討價(jià)還價(jià)，終于在午夜之前宣布達(dá)成了協(xié)議。

最終協(xié)議并未立即公開，因?yàn)轭A(yù)計(jì)談判將繼續(xù)完成技術(shù)細(xì)節(jié)，可能會延遲最終的通過。歐洲議會和歐洲理事會將舉行投票，歐洲理事會由來自歐盟27個(gè)國家的代表組成。

根據(jù)彭博社看到的一份歐盟文件，通用人工智能系統(tǒng)的所有開發(fā)者都必須滿足基本的透明度要求，除非它們是免費(fèi)和開源的。這些要求包括：制定可接受的使用政策；提供有關(guān)如何訓(xùn)練模型的最新信息；報(bào)告用于訓(xùn)練模型的數(shù)據(jù)的詳細(xì)摘要；制定尊重版權(quán)法的政策。

文件稱，被視為構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”的模型將受到額外規(guī)則的約束。歐盟將根據(jù)用于訓(xùn)練模型的算力來確定其風(fēng)險(xiǎn)等級。

專家稱，目前唯一已達(dá)到構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”閾值的模型是OpenAI的GPT-4。歐盟執(zhí)行機(jī)構(gòu)可以根據(jù)數(shù)據(jù)集大小、是否在歐盟擁有至少10000名注冊商業(yè)用戶或注冊最終用戶數(shù)量以及其他指標(biāo)來指定哪些模型構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”。

這些功能強(qiáng)大的模型應(yīng)簽署行為準(zhǔn)則，同時(shí)歐盟委員會將制定更協(xié)調(diào)一致和長期的控制措施。不簽署行為準(zhǔn)則的開發(fā)者必須向委員會證明他們遵守《人工智能法案》。開源模型的豁免不適用于被認(rèn)為構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”的模型。

這些模型還必須：報(bào)告其能源消耗；在內(nèi)部或外部執(zhí)行紅隊(duì)或?qū)剐詼y試；評估和減輕可能的系統(tǒng)性風(fēng)險(xiǎn)，并報(bào)告任何事件；確保使用足夠的網(wǎng)絡(luò)安全控制措施；報(bào)告用于微調(diào)模型的信息及其系統(tǒng)架構(gòu)；如果歐盟制定了更節(jié)能的標(biāo)準(zhǔn)，須遵守這些標(biāo)準(zhǔn)。

令許多人驚訝的是，最具爭議性的談判并非圍繞生成式人工智能，而是實(shí)時(shí)掃描和識別人臉的工具。該議題在歐盟引發(fā)了一場長期的、情緒化的爭論。去年春天，歐洲議會投票決定全面禁止這些工具，而歐盟國家一直在推動國家安全和執(zhí)法方面的豁免。最終，雙方同意限制該技術(shù)在設(shè)有更多護(hù)欄的公共場所的使用。方案將明確規(guī)定執(zhí)法部門如何使用人工智能監(jiān)控?cái)z像頭，如何將其部署在關(guān)鍵基礎(chǔ)設(shè)施中。

法國和德國擔(dān)心影響本國AI企業(yè)競爭

歐洲一直是人工智能監(jiān)管最領(lǐng)先的地區(qū)之一，早在2018年就已經(jīng)開始著手制定未來的人工智能法案。近年來，歐盟領(lǐng)導(dǎo)人試圖將科技監(jiān)管提升到新的水平，以類似于醫(yī)療保健或銀行業(yè)的監(jiān)管。歐盟已經(jīng)頒布了與數(shù)據(jù)隱私、競爭和內(nèi)容審核相關(guān)的影響深遠(yuǎn)的法律。

《人工智能法案》初稿于2021年公布，最初的版本沒有提及通用人工智能。但去年11月底面世的ChatGPT展示了人工智能的先進(jìn)能力，引起全球轟動，使得監(jiān)管問題變得緊迫起來。

中國政府已出臺《生成式人工智能服務(wù)管理暫行辦法》，對數(shù)據(jù)使用和推薦算法施加了一些限制。在美國，拜登政府最近發(fā)布了一項(xiàng)行政命令，部分重點(diǎn)關(guān)注人工智能對國家安全的影響。美國一些城市和州已通過立法，限制人工智能在某些領(lǐng)域的使用，例如警方調(diào)查和招聘。一些監(jiān)管機(jī)構(gòu)正在利用現(xiàn)有法律來監(jiān)管人工智能，美國國會議員正在探索立法。英國、日本等其他國家采取了更加傾向不干涉的做法。

在美國國會沒有采取任何有意義的行動的情況下，歐盟的法律將為西方世界隨后的監(jiān)管定下基調(diào)。“歐洲已將自己定位為先鋒，了解其作為全球標(biāo)準(zhǔn)制定者角色的重要性。”負(fù)責(zé)組織談判的歐盟內(nèi)部市場專員蒂埃里·布雷頓（Thierry Breton）在一份聲明中表示。

新法案將受到全球密切關(guān)注，不僅會影響OpenAI、谷歌、Meta和微軟等主要人工智能開發(fā)企業(yè)，還將影響其他預(yù)計(jì)將在教育、醫(yī)療保健和銀行等領(lǐng)域使用該技術(shù)的企業(yè)。各國政府也越來越多地轉(zhuǎn)向人工智能，運(yùn)用在刑事司法和公共利益分配領(lǐng)域。

但在歐盟內(nèi)部，法國和德國曾表示擔(dān)心對通用人工智能模型實(shí)施過多監(jiān)管，可能淘汰法國的Mistral AI或德國的Aleph Alpha等公司。歐盟努力在保護(hù)本地區(qū)人工智能初創(chuàng)企業(yè)的愿望與潛在的社會風(fēng)險(xiǎn)之間取得平衡，這是談判的一個(gè)關(guān)鍵癥結(jié)。

法國數(shù)字部長讓-諾埃爾·巴羅（Jean-Noel Barrot）表示，法國政府將在未來幾周內(nèi)審查這一妥協(xié)方案，以確保“保留歐洲開發(fā)自己的人工智能技術(shù)的能力”。西班牙負(fù)責(zé)數(shù)字化和人工智能的國務(wù)秘書卡梅·阿蒂加斯（Carme Artigas）指出，根據(jù)協(xié)議，Mistral AI不需要滿足對通用人工智能的控制，因?yàn)樵摴救蕴幱谘邪l(fā)階段。

法案的執(zhí)行情況仍不明朗，其涉及27個(gè)國家的監(jiān)管機(jī)構(gòu)，并要求在政府預(yù)算緊張的情況下聘請新的專家。當(dāng)企業(yè)測試新規(guī)則時(shí)，可能會面臨法律挑戰(zhàn)。以前的歐盟立法，包括具有里程碑意義的《通用數(shù)據(jù)保護(hù)條例》因執(zhí)法不均而受到批評。

愛爾蘭公民自由委員會高級研究員克里斯·施里沙克（Kris Shrishak）向媒體表示：“歐盟的監(jiān)管能力受到質(zhì)疑。”“如果沒有強(qiáng)有力的執(zhí)行，這項(xiàng)協(xié)議就沒有任何意義。”