當AI成為雙刃劍：上海如何破題未成年人網絡保護的“心智戰”

3月20日，以“惠企為民，凝聚向上力量”為主題的“清朗浦江·2025”網絡生態治理旬行動正式啟動。作為治理旬行動的重要組成部分，近日上海多區、多部門聯動開展未成年人網絡保護主題日活動。從算法治理到AI風險防御，從普法課堂到家庭聯動，通過政企協同、技術創新、教育賦能、法治護航等多維度實踐，探索構建清朗網絡空間，護航未成年人數字生活。

下好聯動“一盤棋”，多方協同打造“上海模式”

自2021年新修訂的《未成年人保護法》實施以來，上海市委網信辦陸續發布《上海網絡平臺青少年模式設置指南（3.0版）》《上海屬地網絡平臺履行未成年人網絡保護義務合規指引（試行）》等規定，會同相關部門推出未成年人網絡素養“菜單式”課程庫，指導屬地小紅書、得物、大眾點評、七貓、2345、虎撲等20多家重點平臺發布《未成年人網絡保護社會責任報告》，逐步形成多方參與、協同共治的“上海模式”。

3月25日，在由上海市文化和旅游局執法總隊主辦的“凈網護苗·政企同行——未成年人網絡保護沙龍”上，上海市委網信辦分享了網信部門統籌協調未成年人網絡保護工作，以“清朗”專項抓日常管理，以“亮劍”專項抓重點執法，在加強法治監管、強化社會共治、注重教育引導等三方面的工作實踐。上海市人民檢察院以問題頻發的網絡直播違法犯罪為切入口，指出直播中易出現的涉未成年人突出問題，并以寶山區為例，分享了通過文旅在內的多部門聯動，為未成年人在網絡空間合法權益保駕護航的成功案例與經驗。上海市公安局網安總隊則介紹了在未成年人網絡保護方面關于身份核驗機制、網絡直播平臺互動限制機制、關愛保護機制、平臺主播賬號注冊審核管理、心理健康網上工作站、防范網絡詐騙等六個方面工作內容。市文化旅游局執法總隊將未成年人網絡保護作為重點工作，通過分享典型案例，以“零容忍”的態度筑牢未成年人網絡保護防線，又以“有溫度”的執法護航企業健康發展，為未成年人營造清朗的網絡空間。

從“普法課堂”到“實戰演練”

主題課堂、海報巡展、相聲、情景辯論賽……提升未成年人網絡素養是治本之策，主題日活動期間，上海多區多部門紛紛探索未成年人網絡保護的“實戰演練”。

“這節課讓我對當下比較流行的網絡騙局有了更深的認識，如果以后遇到了類似的問題，我也有了應對方法。”3月21日，上海文來中學八（2）班學生唐沅菁在聽完“數字守護者”——“守未”急救員的公開課后表示，AI不是完美的，只要做到找準漏洞、三思后行，就能擊破看似完美的偽裝。

當天，“e起護‘行’·守‘未’成長”——閔行區未成年人網絡保護主題日活動在文來中學舉行。課堂上，AI模仿班主任的聲音給家長打去電話，同學們紛紛舉手說出自己的應對方法。文來中學八（2）班班主任徐田敏表示，課堂中的案例來自班上同學的真實經歷，這讓他意識到“網絡詐騙可能就在孩子們身邊”。

3月21日下午，“清朗浦江·2025”網絡生態治理旬行動——e起護“行”·守“未”成長未成年人網絡保護主題日活動在上海市文來中學舉行。

3月27日，“‘網’護小賢清朗‘童’行”——2025年奉賢區網絡生態治理旬主題日活動在陽光·胡橋聯合學校舉行。

3月27日下午，“‘網’護小賢清朗‘童’行”——2025年奉賢區網絡生態治理旬主題日活動在陽光·胡橋聯合學校舉行。

活動現場，同學們帶來相聲《“網”事知多少》和情景辯論賽《預防網絡沉迷主要靠自律還是他律？》，通過“創作式學習”和“互動式探討”，進一步認識和了解互聯網背后的隱形風險，深化對預防網絡沉迷問題的思考，從而自覺樹立網絡自我保護意識，做更加自信自律自強的“數字原住民”。

此外，3月26日，在由上海普陀區委網信辦、普陀區教育局主辦的“e路清朗護童行”——“清朗浦江·2025”網絡生態治理旬行動普陀區未成年人網絡保護主題日活動上，現場表演的原創網絡安全歌曲《科學上網 e起同行》，以及未成年人網絡防沉迷小品《親子對賭協議》啟發了與會的青少年樹牢網絡法治意識。

3月26日，由區委網信辦、區教育局主辦的“e路清朗護童行”——“清朗浦江·2025”網絡生態治理旬行動普陀區未成年人網絡保護主題日活動在半馬蘇河驛站·長風灣黨群服務中心舉行。

3月28日，“網”聚同心圓 “信”服溫暖家——“清朗浦江·2025”青浦區未成年人保護主題日活動在上海市青少年法治教育體驗基地（東方綠舟）舉辦，圍繞防范“未成年人網絡暴力”“個人信息泄露”等社會熱點問題，邀請500余名學生及社會各界人士參與沉浸式法治教育活動。

硬核科技扛起未成年人網絡保護“必答題”

面對AI技術重塑網絡生態的雙刃劍效應，上海多家互聯網平臺以硬核技術筑牢防線。

小紅書依托“小紅盾”構建網暴疏導機制，以技術手段化解網絡暴力風險；七貓著力打造專屬內容池，向未成年人提供精品學習資源；Soul軟件AI大模型支持“虛假人設防御戰”，通過自研虛假人設報警模型，全鏈路閉環織密未成年人社交防護網；閱文集團的“內容通脹防御戰”秉持“工具理性”理念守護創作“人味”；艾麒信息發起“AI黑產防御戰”，利用先進技術手段攔截誘導性內容……

值得注意的是，針對網絡沉迷等未成年人心理健康問題，2024年普陀區文明辦聯合上海師范大學心理學院開展了“陽光成長 心網相護”——普陀區未成年人心理健康輔導沙龍項目，將緩解未成年人網絡心理危機作為項目的一項重要內容。該項目2.0版于3月26日正式發布，將更加聚焦防范未成年人網絡沉迷等問題。

澎湃新聞了解到，為期10天的“清朗浦江·2025”網絡生態治理旬行動結束后，市委網信辦將在上海市網絡協同治理聯動機制的框架下，依托未成年人網絡保護專項協同機制，持續指導各區陸續開展針對未成年人網絡保護專項行動。其中青浦區將持續開展“青木護未”計劃等主題宣傳活動，廣泛發現和收集未成年人網絡侵害線索，建立長效機制，從嚴處置違法違規行為。普陀區將以推進未成年人網絡保護普法、未成年人網絡素養提升、網絡信息內容規范及未成年人網絡權益保護為重點，聚焦未成年人健康上網、個人信息保護、網站平臺健康發展等社會熱點問題，統籌開展?“未成年人網絡保護六個e計劃”，將推出“普法e課堂·校園防火墻計劃”“心靈e港灣·家庭成長計劃”“數字e未來·創新實驗室計劃”“護苗e同行·全民參與計劃”“清朗e行動·網絡專項治理計劃”“未愛e守護·政檢企護航計劃”。