談到咖啡機都壞了！歐盟艱難談判達成《人工智能法案》，如何監管？

·最大的通用人工智能系統，包括為聊天機器人ChatGPT提供支持的GPT將面臨新的透明度要求。除因國家安全豁免外，警方和政府使用面部識別軟件將受到限制。違反規定的公司可能面臨高達全球銷售額7%的罰款。

·在美國國會沒有采取任何有意義的行動的情況下，歐盟的法律將為西方世界隨后的監管定下基調。但其效果仍然存疑，執行情況尚不明朗。

經過漫長而艱難的談判后，歐盟政策制定者于當地時間12月8日就《人工智能法案》達成初步協議，該法案是全球首次嘗試以全面的、基于倫理的方式監管這項快速發展的技術。

《人工智能法案》為尋求利用人工智能潛在好處的國家設立了新的全球基準，同時努力防范其可能存在的風險，例如自動化運作、在網上傳播錯誤信息和危及國家安全。該法案仍需經過幾個立法步驟才能獲得最終批準，但目前達成的協議意味著其關鍵輪廓已經確定。

最大的通用人工智能系統，包括為聊天機器人ChatGPT提供支持的GPT將面臨新的透明度要求。除因國家安全豁免外，警方和政府使用面部識別軟件將受到限制。違反規定的公司可能面臨高達全球銷售額7%的罰款，可達3500萬歐元（3770萬美元）。

盡管該法案被譽為監管方面的突破，但效果如何仍然存疑。其中的許多要求預計在12至24個月內不會生效，這對于人工智能的發展來說是一個相當長的時間。

負責談判的歐盟內部市場專員蒂埃里·布雷頓在X上發帖，慶祝協議達成。

目前唯一達到閾值的模型是GPT-4

協議歷時3天談判，包括當地時間12月6日下午開始并持續到7日的22小時會議。據彭博社報道，談判代表們時不時地打瞌睡，自助咖啡機運轉得太過頻繁，以致于出現了故障。8日，談判代表進行了又一輪激烈的討價還價，終于在午夜之前宣布達成了協議。

最終協議并未立即公開，因為預計談判將繼續完成技術細節，可能會延遲最終的通過。歐洲議會和歐洲理事會將舉行投票，歐洲理事會由來自歐盟27個國家的代表組成。

根據彭博社看到的一份歐盟文件，通用人工智能系統的所有開發者都必須滿足基本的透明度要求，除非它們是免費和開源的。這些要求包括：制定可接受的使用政策；提供有關如何訓練模型的最新信息；報告用于訓練模型的數據的詳細摘要；制定尊重版權法的政策。

文件稱，被視為構成“系統性風險”的模型將受到額外規則的約束。歐盟將根據用于訓練模型的算力來確定其風險等級。

專家稱，目前唯一已達到構成“系統性風險”閾值的模型是OpenAI的GPT-4。歐盟執行機構可以根據數據集大小、是否在歐盟擁有至少10000名注冊商業用戶或注冊最終用戶數量以及其他指標來指定哪些模型構成“系統性風險”。

這些功能強大的模型應簽署行為準則，同時歐盟委員會將制定更協調一致和長期的控制措施。不簽署行為準則的開發者必須向委員會證明他們遵守《人工智能法案》。開源模型的豁免不適用于被認為構成“系統性風險”的模型。

這些模型還必須：報告其能源消耗；在內部或外部執行紅隊或對抗性測試；評估和減輕可能的系統性風險，并報告任何事件；確保使用足夠的網絡安全控制措施；報告用于微調模型的信息及其系統架構；如果歐盟制定了更節能的標準，須遵守這些標準。

令許多人驚訝的是，最具爭議性的談判并非圍繞生成式人工智能，而是實時掃描和識別人臉的工具。該議題在歐盟引發了一場長期的、情緒化的爭論。去年春天，歐洲議會投票決定全面禁止這些工具，而歐盟國家一直在推動國家安全和執法方面的豁免。最終，雙方同意限制該技術在設有更多護欄的公共場所的使用。方案將明確規定執法部門如何使用人工智能監控攝像頭，如何將其部署在關鍵基礎設施中。

法國和德國擔心影響本國AI企業競爭

歐洲一直是人工智能監管最領先的地區之一，早在2018年就已經開始著手制定未來的人工智能法案。近年來，歐盟領導人試圖將科技監管提升到新的水平，以類似于醫療保健或銀行業的監管。歐盟已經頒布了與數據隱私、競爭和內容審核相關的影響深遠的法律。

《人工智能法案》初稿于2021年公布，最初的版本沒有提及通用人工智能。但去年11月底面世的ChatGPT展示了人工智能的先進能力，引起全球轟動，使得監管問題變得緊迫起來。

中國政府已出臺《生成式人工智能服務管理暫行辦法》，對數據使用和推薦算法施加了一些限制。在美國，拜登政府最近發布了一項行政命令，部分重點關注人工智能對國家安全的影響。美國一些城市和州已通過立法，限制人工智能在某些領域的使用，例如警方調查和招聘。一些監管機構正在利用現有法律來監管人工智能，美國國會議員正在探索立法。英國、日本等其他國家采取了更加傾向不干涉的做法。

在美國國會沒有采取任何有意義的行動的情況下，歐盟的法律將為西方世界隨后的監管定下基調。“歐洲已將自己定位為先鋒，了解其作為全球標準制定者角色的重要性。”負責組織談判的歐盟內部市場專員蒂埃里·布雷頓（Thierry Breton）在一份聲明中表示。

新法案將受到全球密切關注，不僅會影響OpenAI、谷歌、Meta和微軟等主要人工智能開發企業，還將影響其他預計將在教育、醫療保健和銀行等領域使用該技術的企業。各國政府也越來越多地轉向人工智能，運用在刑事司法和公共利益分配領域。

但在歐盟內部，法國和德國曾表示擔心對通用人工智能模型實施過多監管，可能淘汰法國的Mistral AI或德國的Aleph Alpha等公司。歐盟努力在保護本地區人工智能初創企業的愿望與潛在的社會風險之間取得平衡，這是談判的一個關鍵癥結。

法國數字部長讓-諾埃爾·巴羅（Jean-Noel Barrot）表示，法國政府將在未來幾周內審查這一妥協方案，以確保“保留歐洲開發自己的人工智能技術的能力”。西班牙負責數字化和人工智能的國務秘書卡梅·阿蒂加斯（Carme Artigas）指出，根據協議，Mistral AI不需要滿足對通用人工智能的控制，因為該公司仍處于研發階段。

法案的執行情況仍不明朗，其涉及27個國家的監管機構，并要求在政府預算緊張的情況下聘請新的專家。當企業測試新規則時，可能會面臨法律挑戰。以前的歐盟立法，包括具有里程碑意義的《通用數據保護條例》因執法不均而受到批評。

愛爾蘭公民自由委員會高級研究員克里斯·施里沙克（Kris Shrishak）向媒體表示：“歐盟的監管能力受到質疑。”“如果沒有強有力的執行，這項協議就沒有任何意義。”