AI換臉、網售低俗商品……上海網信辦發布網絡生態治理八個典型案例

在3月20日舉行的“清朗浦江·2025”網絡生態治理旬行動啟動儀式上，上海市網信辦發布“清朗浦江·2024”典型處置案例。去年上海開展優化營商網絡環境、抵制網絡暴力、整治“自媒體”無底線博流量等20多個專項行動，累計清理違法違規和不良信息1008萬余條，處置違規賬號349萬余個，網絡生態治理取得扎實成效。上海市網信辦從中選取8個典型案例進行發布，督促網站平臺和“自媒體”提升法治意識和自律水平，共同營造風清氣正的網絡空間。

案例1：“網絡水軍”團伙操縱賬號不當牟利

【案例簡介】2024年3月，上海市網信辦巡查發現，某平臺大量“自媒體”賬號集中發布“浦東機場核酸檢測”不實信息，內容表現手法雷同，用詞句式高度相似，賺取流量牟利。經公安部門偵查，成功搗毀一批專門利用AI制文、群控“自媒體”賬號、批量發布同質化文章炒作熱點事件的“網絡水軍”團伙，一舉抓獲違法犯罪嫌疑人36人，打掉網絡水軍團伙15個。截至目前，3人已被判決獲刑，其余相關涉案人員在進一步審理中。

案例2：“兼職找搭子”“魔都驛站吧”“愛吃草莓”等賬號大量發布虛假招募信息

【案例簡介】2024年3月，網上有“自媒體”賬號大量發布“xx圖書館300元/天 協助圖書歸類”“圖書館整理數據270元/天”等虛假招募信息，嚴重干擾網絡生態。上海市網信辦指導屬地平臺依法依約對“兼職找搭子”“魔都驛站吧”“愛吃草莓”等違規賬號予以永久封禁。

案例3：“泡泡糖5466”等賬號拼湊嫁接“小作文”賺取流量

【案例簡介】2024年初，網上出現“張總馬上退休，請6位中層吃飯，狂點2萬好酒好菜，沒結賬提前走人，我忍住火氣買單，第二天同事愣住”等職場段子?！芭菖萏?466”“夏雨欣妹妹”等“自媒體”賬號為博取流量，故意增加“上?！痹?，將此段子杜撰成“上海某局長的飯局”等小作文、短視頻，引發大量負面不實討論，破壞網絡生態。上海市網信辦協調相關部門對“泡泡糖5466”“夏雨欣妹妹”等一批賬號實施禁言等階段性處置措施。

案例4：“溫感質享女神店”“同人商行”等網絡店鋪違規售賣“濕感卡”“水感卡”等低俗卡片

【案例簡介】接網民舉報，部分商家在網上售賣“濕感卡”“水感卡”等商品，此類卡片加熱后會顯示低俗擦邊內容，對未成年人身心健康產生不利影響。上海市網信辦指導屬地電商、直播、社交等平臺，依法依約關閉“溫感質享女神店”“同人商行”等一批違規店鋪并要求全面清理不良信息。

案例5：“杰洛米”“存的欣_”等一批網絡賬號發表攻擊運動員拉踩引戰言論

【案例簡介】巴黎奧運會期間，有網民無底線炒作運動員負面話題，侮辱、詆毀、誹謗國家運動員，發表拉踩引戰言論，煽動網民情緒，嚴重破壞網上和諧的觀賽氛圍。上海市網信辦指導屬地平臺集中整治，依法依約對6000多個違規賬號采取警告、限制功能、禁言、永久封禁等階梯式處置措施。屬地重點平臺建立健全常態化治理機制，定期發布公告展示治理成果。

案例6：“mo**”等賬號發布網絡暴力信息侵害他人合法權益

【案例簡介】根據網民舉報，“mo**”“戈安*”“勇*”等賬號針對2024年4月杭州爬山失聯事件，在屬地某社交平臺評論區發布侮辱謾罵相關當事人的網暴侵權違法信息。上海市網信辦依法約談相關平臺負責人，指導平臺全面清理處置相關違法違規內容，對“mo**”“戈安*”“勇*”等一批賬號采取禁言、永久封禁等措施。

案例7：“乳韻之家”“星空財富”等賬號以發布負面信息為名要挾企業開展商業合作

【案例簡介】“乳韻之家”“乳業”等賬號多次發布涉某乳品企業負面信息，在企業聯系溝通時，賬號運營主體借機要求開展商業合作，遭到企業拒絕后，相關賬號繼續發布負面信息給企業施壓；“星空財富”“星空財研”等賬號發布涉某互聯網企業負面信息，在企業聯系溝通時，賬號運營主體提出開展商業合作可撤稿并加入“白名單”，要求企業盡快付款。上海市網信辦接到企業舉報并經查實，協調相關部門對以上賬號及其關聯賬號予以依法關閉，同步將涉嫌敲詐勒索的線索通報公安機關進一步處置。

案例8：“程序媛**”“小狗愛吃**”等賬號教授AI換衣、AI換臉等功能

【案例簡介】巡查發現，“程序媛**”“小狗愛吃**”等賬號發布視頻教程，教授用戶如何利用AI技術實現“給現代女神穿上肚兜”“一鍵去衣”等低俗效果；“AI科技雜燴”“火兒科技館”等網絡店鋪售賣“AI換衣”“AI換臉”相關軟件。鑒于“AI變裝”“AI換臉變聲”等技術不當濫用可能造成侵權行為或引發詐騙等違法犯罪，在上海市網信辦指導下，屬地電商平臺進行全面排查，清理相關商品，對“AI科技雜燴”“火兒科技館”等店鋪予以關閉，對“程序媛**”“小狗愛吃**”等一批賬號實施禁言等階段性處置措施；屬地社交平臺對利用AI進行創作的內容，添加風險提示標簽，讓用戶有明確感知。

（原題為《清朗浦江丨打擊 “網絡水軍”傳謠、AI換臉、網售低俗商品……上海市網信辦發布網絡生態治理八個典型案例》）