圓桌｜“AI+金融”場景密集落地，監管如何既設“邊界”又裝“導航”？

近期，《國務院關于深入實施“人工智能+”行動的意見》正式發布，上海也明確提出，要在三到五年內建成具有全球影響力的金融科技中心，正以開放姿態打造AI與金融結合的“試驗田”和“示范區”。

那么，在“AI+金融”場景密集落地的當下，監管如何既設“邊界”又裝“導航”？9月10日，由上海交通大學上海高級金融學院主辦的“AI落地金融之路”——“2025 Inclusion·外灘大會”見解論壇召開，探索技術創新與風險管控平衡之道，以助力構建AI金融生態。

在圓桌討論中，華東政法大學國際金融法律學院教授徐明指出，AI作為新事物，當前主要面臨“問題新、風險大、監管難”三大挑戰。

其中，在“監管難”方面，徐明認為主要體現在三方面。首先，現在的法律制度和監管制度還沒有完全跟上，如何設計一個寬嚴相濟的法律制度是個挑戰。其次，AI無所不在，已深入百姓的尋常生活，涉及很多范圍、領域和部門，需要監管部門之間彼此協調，協調存在難度，協調也需要成本。最后，AI科技屬性很強、迭代更新很快，涉及大量新的技術和新的知識，監管者是否能及時跟進學習是監管者面臨的難題。

針對這些挑戰，徐明提出，需用綜合手段，在法律、監管、技術等方面統籌應對。宏觀上，要抓緊制定人工智能法，加快立法速度，明確責任主體、明確責任邊界、嚴格責任落實，實現寬嚴相濟；微觀層面，要細化各種技術標準、安全標準、監管標準，使人工智能在探索和實踐中可操作、可執行，要發揮行業、監管及相關部門的力量，主動應對人工智能帶來的挑戰。

聯和金融人工智能業務負責人、杭州海茵斯科技創始人聶金則梳理了AI在金融業的四大核心監管問題。

一是數據隱含歧視風險。AI做決策是由數據驅動，但數據中如果純數據有可能會隱含一些歧視問題，有可能推動社會的不平等，很有可能對公司主體有法律風險。二是AI決策的黑箱難題。2025年各國出臺的監管條例顯示，金融機構一旦開始使用AI模型或AI提供服務，模型所做出決策的可解釋性必須出具審計報告。三是隱私問題。聶金指出，為了增強AI模型的性能，打破數據孤島是非常重要的，打破的過程中如果用到很多數據，可能會模糊主體邊界，對用戶信息的隱私保護有一個比較大的挑戰，而這個挑戰如果放到跨國場景里就非常嚴重，會上升成安全問題。四是問責機制，AI可以作出決策，但這當中整個鏈條從訓練、測試到應用，應該有一個合理的問責機制。

“我覺得監管上一是守住底線；二是給予比較好的引導，為AI在金融大規模承制式應用鋪平道路。”針對這些挑戰，聶金說道。

恒生電子首席科學家、研究院院長白碩則從AI落地實施的實際問題出發，探討邊界問題。

“人工智能可以了解你的客戶，了解到比你還了解，它可以做到千人一面，但生成出來的東西最后一道關還要是人，這種場景是人最后兜底。”白碩指出，“這個邊界目前看還要持續相當一段時間”。”