河北省邯鄲市復(fù)興區(qū)陽春小學(xué)的學(xué)生們展示網(wǎng)絡(luò)安全主題手抄報。郝群英攝（人民視覺）
通過諧音梗、縮寫詞等形式傳播不良網(wǎng)絡(luò)用語，宣揚畸形審美、低俗惡俗文化，利用未成年人打造爭議人設(shè)等方式博取關(guān)注……這些長期游走在監(jiān)管“灰色地帶”的網(wǎng)絡(luò)內(nèi)容，如今有了“界定標(biāo)尺”。
3月1日，由國家互聯(lián)網(wǎng)信息辦公室、國家新聞出版署、國家電影局、教育部、工業(yè)和信息化部、公安部、文化和旅游部、國家廣播電視總局聯(lián)合發(fā)布的《可能影響未成年人身心健康的網(wǎng)絡(luò)信息分類辦法》（以下簡稱《辦法》）正式施行，明確可能影響未成年人身心健康的網(wǎng)絡(luò)信息的4種類型及具體表現(xiàn)形式，同時針對算法推薦等風(fēng)險提出防控要求，切實守護青少年“數(shù)字健康”。
可能影響未成年人身心健康的網(wǎng)絡(luò)信息都有哪些？《辦法》施行后，各方又該如何協(xié)同打通未成年人網(wǎng)絡(luò)保護的“最后一公里”？帶著這些問題，筆者進行了采訪。
上網(wǎng)遇“灰色地帶”
作為互聯(lián)網(wǎng)的“原住民”，未成年人早已將上網(wǎng)作為生活的一部分。《第6次中國未成年人互聯(lián)網(wǎng)使用情況調(diào)查報告》顯示，我國未成年網(wǎng)民規(guī)模已上升至1.96億，未成年人互聯(lián)網(wǎng)普及率達97.3%。
互聯(lián)網(wǎng)為未成年人打開知識通道的同時，不良信息的滲透風(fēng)險也相伴而生。不同于法律明文禁止的違法信息，大量對未成年人存在潛在負(fù)面影響的內(nèi)容，長期處于模糊地帶，形成了“界定難、干預(yù)難、防控難”的治理困境。
北京市民王女士反映，這兩年，孩子在上網(wǎng)時，經(jīng)常會接觸到包含“炫富拜金”“挑動性別對立”“鼓吹讀書無用論”等不良導(dǎo)向的內(nèi)容?！斑@些內(nèi)容雖算不上違法，但會在潛移默化中扭曲孩子的價值觀，作為家長，想要屏蔽卻無從下手?！蓖跖扛嬖V筆者。
此類不良信息帶來的影響，目前在校園教學(xué)中也表現(xiàn)得尤為突出。廣東省某初中語文教師孔老師坦言，在日常批改作業(yè)和課堂教學(xué)中，總能看到學(xué)生濫用網(wǎng)絡(luò)熱?；虻退字C音梗。
“這些信息夾雜在正常的娛樂、學(xué)習(xí)內(nèi)容中，邊界非常模糊。當(dāng)我們結(jié)合語境判斷其是否屬于低俗內(nèi)容時，這些‘黑話爛?！鋵嵲缫堰M入孩子的腦海，成了日常表達的一部分。”孔老師說。
新載體、新技術(shù)的涌現(xiàn)，也給不法分子提供了可乘之機。他們深諳未成年人的興趣點，用推薦算法精準(zhǔn)推送不良文化。
“當(dāng)青少年點擊一條不良信息，算法便會記錄其行為，并將相似內(nèi)容持續(xù)推薦給他，形成信息‘繭房’。此后一段時間，青少年接觸到的很可能全是此類信息，從而陷入惡性循環(huán)。”北京郵電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長李小勇介紹。
近期，某平臺在治理中發(fā)現(xiàn)，部分用戶利用AI生成虛假的未成年人“賣慘”內(nèi)容，博取同情、不當(dāng)牟利；還有利用AI“魔改”經(jīng)典動畫、動漫及文學(xué)形象，炮制含有血腥、暴力、低俗等不良元素的內(nèi)容。這些行為均嚴(yán)重危害未成年人身心健康。
不少不良網(wǎng)絡(luò)信息還以“擦邊”等形式變換為“軟色情”“軟暴力”，有的則與未成年人喜愛的網(wǎng)絡(luò)流行文化相結(jié)合，以卡牌、動漫等為載體，加以包裝美化。
“一些學(xué)生模仿過度節(jié)食減肥、打唇釘?shù)扰c學(xué)生身份不符的行為，還有一些則沉迷網(wǎng)絡(luò)游戲，低俗網(wǎng)絡(luò)用語脫口而出?！敝貞c市某中學(xué)的劉老師表示，“這些內(nèi)容都披著‘潮流個性’的外衣，孩子們很難分辨對錯。”
場景隱蔽之外，干預(yù)滯后已成為家校面臨的共同困境。王女士無奈地說，孩子上網(wǎng)課、查資料都離不開電子產(chǎn)品，有時因缺乏自律，在學(xué)習(xí)過程中不知不覺便瀏覽起網(wǎng)頁，接觸到不良信息。對此，孔老師也深有感觸：“往往等我們發(fā)現(xiàn)問題時，孩子已經(jīng)形成了行為習(xí)慣，甚至出現(xiàn)了認(rèn)知偏差，干預(yù)滯后?！?/p>
“長期以來，行業(yè)尚未形成一套具有統(tǒng)一共識且高度細(xì)化的分類規(guī)范，面臨不良信息標(biāo)準(zhǔn)難以精確量化、復(fù)雜語境下邊界判定難等挑戰(zhàn)。”某平臺相關(guān)負(fù)責(zé)人表示，如何讓未成年人保護工作更加科學(xué)化、規(guī)范化，是整個行業(yè)一直都在思考的難點。
明確分類“標(biāo)尺”
近年來，我國持續(xù)加大對未成年人保護相關(guān)法律法規(guī)的出臺或修訂力度。2019年，國家網(wǎng)信辦指導(dǎo)主要短視頻與直播平臺試點上線青少年模式；新修訂實施的《中華人民共和國未成年人保護法》和《中華人民共和國網(wǎng)絡(luò)安全法》都對未成年人身心健康提出了明確的要求。
專家指出，此次《辦法》將法律法規(guī)中的原則性要求轉(zhuǎn)化為有操作性、針對性的具體規(guī)則，從4個維度對可能影響未成年人身心健康的網(wǎng)絡(luò)信息進行系統(tǒng)性的界定與科學(xué)分類，為平臺、內(nèi)容生產(chǎn)者提供指引。
第一類是可能引發(fā)或者誘導(dǎo)未成年人模仿或者實施不良行為的信息。例如，通過諧音梗、縮寫詞、拆解字、圖文結(jié)合等形式傳播不良網(wǎng)絡(luò)用語的；存在指責(zé)嘲諷、貶低歧視等涉網(wǎng)絡(luò)暴力不良信息的；誘導(dǎo)未成年人進行充值、打賞等非理性消費行為的。
第二類是可能對未成年人價值觀造成負(fù)面影響的信息。例如，宣揚奢靡享樂、消極頹廢等不良價值觀的；宣揚畸形審美、低俗惡俗文化的。
第三類聚焦不當(dāng)使用未成年人形象的問題，對當(dāng)前網(wǎng)絡(luò)中存在的利用未成年人進行刻意擺拍、利用未成年人牟利、打造爭議人設(shè)等亂象劃定了紅線，旨在保護未成年人免受商業(yè)炒作和不良內(nèi)容的利用與侵害。
第四類則與《中華人民共和國個人信息保護法》及《未成年人網(wǎng)絡(luò)保護條例》緊密銜接，強調(diào)了對不當(dāng)披露和使用未成年人個人信息行為的規(guī)制，凸顯了對未成年人隱私權(quán)的特殊保護。
“《辦法》以‘可能影響’為界定標(biāo)準(zhǔn)，體現(xiàn)出明顯的前瞻性?！比A東師范大學(xué)教育學(xué)部教授姚榮對筆者說，“《辦法》通過將誘導(dǎo)模仿高風(fēng)險行為、宣揚畸形審美等情形列入規(guī)制類型，使得風(fēng)險能夠在早期即被識別，符合未成年人保護中‘預(yù)防優(yōu)先’的原則。”
值得注意的是，在明確分類的基礎(chǔ)上，《辦法》并未對相關(guān)信息采取簡單的刪除處理，而是確立了“防范抵制+顯著提示”兩大核心治理手段——要求網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者以及網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者對相關(guān)信息采取必要的防范和抵制措施，同時在信息展示前作出顯著提示。
中國政法大學(xué)光明新聞傳播學(xué)院教授鄭滿寧稱，這體現(xiàn)了從事后懲戒轉(zhuǎn)向源頭治理、從被動處置轉(zhuǎn)向主動防控、從粗放監(jiān)管轉(zhuǎn)向分類施策的治理思路，“《辦法》為平臺設(shè)定了具體且可操作的義務(wù)，本質(zhì)上是將監(jiān)管要求嵌入內(nèi)容分發(fā)的關(guān)鍵環(huán)節(jié)”。
《辦法》還進一步壓實網(wǎng)站平臺的主體責(zé)任，要求將保護措施聚焦于內(nèi)容分發(fā)的關(guān)鍵環(huán)節(jié)?！掇k法》明確，不得在首頁首屏、彈窗、熱搜、榜單、推薦等處于產(chǎn)品或者服務(wù)醒目位置、易引起用戶關(guān)注的重點環(huán)節(jié)，呈現(xiàn)可能影響未成年人身心健康的信息。同時，《辦法》對提供算法推薦、生成式人工智能等技術(shù)的平臺提出了建立健全內(nèi)部安全管理制度和技術(shù)措施的要求，以防范技術(shù)濫用帶來的新型風(fēng)險。這些條款共同將平臺的內(nèi)容管理責(zé)任從原則性要求具體化為場景化、全鏈條的操作規(guī)范，有助于推動平臺從被動處理投訴向主動進行風(fēng)險防控轉(zhuǎn)型。
合力織密“安全網(wǎng)”
《辦法》的出臺，標(biāo)志著我國未成年人網(wǎng)絡(luò)保護法治體系在精細(xì)化方向上邁出了關(guān)鍵一步，實施后將有效提升治理效能。
“《辦法》為行業(yè)提供了清晰、權(quán)威、可落地的合規(guī)指引，有利于統(tǒng)一全行業(yè)保護標(biāo)尺，讓大家在統(tǒng)一的準(zhǔn)繩下齊心協(xié)力，有效消除保護盲區(qū)，這對整個行業(yè)的健康長遠發(fā)展具有重要推動作用?！蹦称脚_相關(guān)負(fù)責(zé)人認(rèn)為，《辦法》將推動平臺審核機制與技術(shù)升級，引導(dǎo)行業(yè)走向“科學(xué)前置管理”。
業(yè)內(nèi)人士分析稱，各類網(wǎng)絡(luò)產(chǎn)品與服務(wù)提供者應(yīng)當(dāng)以《辦法》為基準(zhǔn)，將相關(guān)要求細(xì)化為可執(zhí)行的審核標(biāo)準(zhǔn)。
姚榮表示，在產(chǎn)品層面，平臺應(yīng)盡快細(xì)化內(nèi)容標(biāo)識與提示機制，通過分級提示、風(fēng)險標(biāo)注與推薦控制等方式降低未成年人接觸高風(fēng)險信息的概率，同時提升提示的可理解性與教育性。
“平臺應(yīng)從‘防’與‘堵’轉(zhuǎn)向‘建’與‘引’，優(yōu)化青少年服務(wù)模式中的功能設(shè)置和算法推薦，開發(fā)更加多元、適合各學(xué)段青少年需求的垂直類媒介教育資源。”鄭滿寧建議。
封堵不良網(wǎng)絡(luò)信息傳播渠道，離不開監(jiān)管部門的嚴(yán)格管理與規(guī)范指引。
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，對違反《辦法》規(guī)定的，網(wǎng)信等有關(guān)部門可依據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《未成年人網(wǎng)絡(luò)保護條例》等法律、行政法規(guī)的規(guī)定予以處理。
中國政法大學(xué)未成年人事務(wù)治理與法律研究基地副主任苑寧寧稱，監(jiān)管部門還可以通過發(fā)布典型案例等方式，細(xì)化裁量標(biāo)準(zhǔn)，統(tǒng)一執(zhí)法尺度，特別是在認(rèn)定顯著提示的有效性、判定審核重點環(huán)節(jié)管控是否到位等實操層面提供明確指引。
立規(guī)只是起點，關(guān)鍵在于落實。要織密青少年網(wǎng)絡(luò)保護“安全網(wǎng)”，需要多方協(xié)同發(fā)力。
“家庭和學(xué)校應(yīng)建立分段、分時、分工的精細(xì)化協(xié)作機制。”鄭滿寧舉例稱，在業(yè)余時間和假期，家長應(yīng)承擔(dān)主要責(zé)任，轉(zhuǎn)變認(rèn)知范式，實現(xiàn)從“時長管控”到“質(zhì)量管控”和“內(nèi)容引導(dǎo)”的觀念躍遷。“家長可以對照《辦法》中列出的不良信息類型，在與孩子的日常交流中有意識地識別和討論相關(guān)情境?！?/p>
姚榮指出，學(xué)校層面應(yīng)強化網(wǎng)絡(luò)素養(yǎng)教育的系統(tǒng)化融入，將《辦法》所體現(xiàn)的風(fēng)險分層邏輯轉(zhuǎn)化為可教學(xué)、可討論的學(xué)習(xí)內(nèi)容，通過真實案例分析引導(dǎo)學(xué)生理解不同類型網(wǎng)絡(luò)信息的傳播機制與潛在危害，并通過情境化任務(wù)提高其辨別能力與應(yīng)對策略。“在這一過程中，應(yīng)注重批判性思維與價值判斷能力的同步培養(yǎng)，使學(xué)生不僅知道什么是風(fēng)險，更能夠解釋風(fēng)險為何產(chǎn)生。”
“展望未來，期待《辦法》與《未成年人網(wǎng)絡(luò)保護條例》及其他相關(guān)法律法規(guī)協(xié)同配合、有效實施，共同為未成年人在數(shù)字時代的健康成長構(gòu)筑起更加堅實、可靠的防護屏障?！痹穼帉幷f。（劉樂藝 南彤霏）
（責(zé)任編輯：蔡文斌）
晉公網(wǎng)安備 14090202000008號 
