河北省邯鄲市復(fù)興區(qū)陽春小學(xué)的學(xué)生們展示網(wǎng)絡(luò)安全主題手抄報(bào)。郝群英攝（人民視覺）
通過諧音梗、縮寫詞等形式傳播不良網(wǎng)絡(luò)用語，宣揚(yáng)畸形審美、低俗惡俗文化，利用未成年人打造爭議人設(shè)等方式博取關(guān)注……這些長期游走在監(jiān)管“灰色地帶”的網(wǎng)絡(luò)內(nèi)容，如今有了“界定標(biāo)尺”。
3月1日，由國家互聯(lián)網(wǎng)信息辦公室、國家新聞出版署、國家電影局、教育部、工業(yè)和信息化部、公安部、文化和旅游部、國家廣播電視總局聯(lián)合發(fā)布的《可能影響未成年人身心健康的網(wǎng)絡(luò)信息分類辦法》（以下簡稱《辦法》）正式施行，明確可能影響未成年人身心健康的網(wǎng)絡(luò)信息的4種類型及具體表現(xiàn)形式，同時(shí)針對(duì)算法推薦等風(fēng)險(xiǎn)提出防控要求，切實(shí)守護(hù)青少年“數(shù)字健康”。
可能影響未成年人身心健康的網(wǎng)絡(luò)信息都有哪些？《辦法》施行后，各方又該如何協(xié)同打通未成年人網(wǎng)絡(luò)保護(hù)的“最后一公里”？帶著這些問題，筆者進(jìn)行了采訪。
上網(wǎng)遇“灰色地帶”
作為互聯(lián)網(wǎng)的“原住民”，未成年人早已將上網(wǎng)作為生活的一部分?！兜?次中國未成年人互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告》顯示，我國未成年網(wǎng)民規(guī)模已上升至1.96億，未成年人互聯(lián)網(wǎng)普及率達(dá)97.3%。
互聯(lián)網(wǎng)為未成年人打開知識(shí)通道的同時(shí)，不良信息的滲透風(fēng)險(xiǎn)也相伴而生。不同于法律明文禁止的違法信息，大量對(duì)未成年人存在潛在負(fù)面影響的內(nèi)容，長期處于模糊地帶，形成了“界定難、干預(yù)難、防控難”的治理困境。
北京市民王女士反映，這兩年，孩子在上網(wǎng)時(shí)，經(jīng)常會(huì)接觸到包含“炫富拜金”“挑動(dòng)性別對(duì)立”“鼓吹讀書無用論”等不良導(dǎo)向的內(nèi)容?！斑@些內(nèi)容雖算不上違法，但會(huì)在潛移默化中扭曲孩子的價(jià)值觀，作為家長，想要屏蔽卻無從下手。”王女士告訴筆者。
此類不良信息帶來的影響，目前在校園教學(xué)中也表現(xiàn)得尤為突出。廣東省某初中語文教師孔老師坦言，在日常批改作業(yè)和課堂教學(xué)中，總能看到學(xué)生濫用網(wǎng)絡(luò)熱梗或低俗諧音梗。
“這些信息夾雜在正常的娛樂、學(xué)習(xí)內(nèi)容中，邊界非常模糊。當(dāng)我們結(jié)合語境判斷其是否屬于低俗內(nèi)容時(shí)，這些‘黑話爛梗’其實(shí)早已進(jìn)入孩子的腦海，成了日常表達(dá)的一部分。”孔老師說。
新載體、新技術(shù)的涌現(xiàn)，也給不法分子提供了可乘之機(jī)。他們深諳未成年人的興趣點(diǎn)，用推薦算法精準(zhǔn)推送不良文化。
“當(dāng)青少年點(diǎn)擊一條不良信息，算法便會(huì)記錄其行為，并將相似內(nèi)容持續(xù)推薦給他，形成信息‘繭房’。此后一段時(shí)間，青少年接觸到的很可能全是此類信息，從而陷入惡性循環(huán)。”北京郵電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長李小勇介紹。
近期，某平臺(tái)在治理中發(fā)現(xiàn)，部分用戶利用AI生成虛假的未成年人“賣慘”內(nèi)容，博取同情、不當(dāng)牟利；還有利用AI“魔改”經(jīng)典動(dòng)畫、動(dòng)漫及文學(xué)形象，炮制含有血腥、暴力、低俗等不良元素的內(nèi)容。這些行為均嚴(yán)重危害未成年人身心健康。
不少不良網(wǎng)絡(luò)信息還以“擦邊”等形式變換為“軟色情”“軟暴力”，有的則與未成年人喜愛的網(wǎng)絡(luò)流行文化相結(jié)合，以卡牌、動(dòng)漫等為載體，加以包裝美化。
“一些學(xué)生模仿過度節(jié)食減肥、打唇釘?shù)扰c學(xué)生身份不符的行為，還有一些則沉迷網(wǎng)絡(luò)游戲，低俗網(wǎng)絡(luò)用語脫口而出?！敝貞c市某中學(xué)的劉老師表示，“這些內(nèi)容都披著‘潮流個(gè)性’的外衣，孩子們很難分辨對(duì)錯(cuò)。”
場(chǎng)景隱蔽之外，干預(yù)滯后已成為家校面臨的共同困境。王女士無奈地說，孩子上網(wǎng)課、查資料都離不開電子產(chǎn)品，有時(shí)因缺乏自律，在學(xué)習(xí)過程中不知不覺便瀏覽起網(wǎng)頁，接觸到不良信息。對(duì)此，孔老師也深有感觸：“往往等我們發(fā)現(xiàn)問題時(shí)，孩子已經(jīng)形成了行為習(xí)慣，甚至出現(xiàn)了認(rèn)知偏差，干預(yù)滯后?！?/p>
“長期以來，行業(yè)尚未形成一套具有統(tǒng)一共識(shí)且高度細(xì)化的分類規(guī)范，面臨不良信息標(biāo)準(zhǔn)難以精確量化、復(fù)雜語境下邊界判定難等挑戰(zhàn)。”某平臺(tái)相關(guān)負(fù)責(zé)人表示，如何讓未成年人保護(hù)工作更加科學(xué)化、規(guī)范化，是整個(gè)行業(yè)一直都在思考的難點(diǎn)。
明確分類“標(biāo)尺”
近年來，我國持續(xù)加大對(duì)未成年人保護(hù)相關(guān)法律法規(guī)的出臺(tái)或修訂力度。2019年，國家網(wǎng)信辦指導(dǎo)主要短視頻與直播平臺(tái)試點(diǎn)上線青少年模式；新修訂實(shí)施的《中華人民共和國未成年人保護(hù)法》和《中華人民共和國網(wǎng)絡(luò)安全法》都對(duì)未成年人身心健康提出了明確的要求。
專家指出，此次《辦法》將法律法規(guī)中的原則性要求轉(zhuǎn)化為有操作性、針對(duì)性的具體規(guī)則，從4個(gè)維度對(duì)可能影響未成年人身心健康的網(wǎng)絡(luò)信息進(jìn)行系統(tǒng)性的界定與科學(xué)分類，為平臺(tái)、內(nèi)容生產(chǎn)者提供指引。
第一類是可能引發(fā)或者誘導(dǎo)未成年人模仿或者實(shí)施不良行為的信息。例如，通過諧音梗、縮寫詞、拆解字、圖文結(jié)合等形式傳播不良網(wǎng)絡(luò)用語的；存在指責(zé)嘲諷、貶低歧視等涉網(wǎng)絡(luò)暴力不良信息的；誘導(dǎo)未成年人進(jìn)行充值、打賞等非理性消費(fèi)行為的。
第二類是可能對(duì)未成年人價(jià)值觀造成負(fù)面影響的信息。例如，宣揚(yáng)奢靡享樂、消極頹廢等不良價(jià)值觀的；宣揚(yáng)畸形審美、低俗惡俗文化的。
第三類聚焦不當(dāng)使用未成年人形象的問題，對(duì)當(dāng)前網(wǎng)絡(luò)中存在的利用未成年人進(jìn)行刻意擺拍、利用未成年人牟利、打造爭議人設(shè)等亂象劃定了紅線，旨在保護(hù)未成年人免受商業(yè)炒作和不良內(nèi)容的利用與侵害。
第四類則與《中華人民共和國個(gè)人信息保護(hù)法》及《未成年人網(wǎng)絡(luò)保護(hù)條例》緊密銜接，強(qiáng)調(diào)了對(duì)不當(dāng)披露和使用未成年人個(gè)人信息行為的規(guī)制，凸顯了對(duì)未成年人隱私權(quán)的特殊保護(hù)。
“《辦法》以‘可能影響’為界定標(biāo)準(zhǔn)，體現(xiàn)出明顯的前瞻性?！比A東師范大學(xué)教育學(xué)部教授姚榮對(duì)筆者說，“《辦法》通過將誘導(dǎo)模仿高風(fēng)險(xiǎn)行為、宣揚(yáng)畸形審美等情形列入規(guī)制類型，使得風(fēng)險(xiǎn)能夠在早期即被識(shí)別，符合未成年人保護(hù)中‘預(yù)防優(yōu)先’的原則。”
值得注意的是，在明確分類的基礎(chǔ)上，《辦法》并未對(duì)相關(guān)信息采取簡單的刪除處理，而是確立了“防范抵制+顯著提示”兩大核心治理手段——要求網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者以及網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者對(duì)相關(guān)信息采取必要的防范和抵制措施，同時(shí)在信息展示前作出顯著提示。
中國政法大學(xué)光明新聞傳播學(xué)院教授鄭滿寧稱，這體現(xiàn)了從事后懲戒轉(zhuǎn)向源頭治理、從被動(dòng)處置轉(zhuǎn)向主動(dòng)防控、從粗放監(jiān)管轉(zhuǎn)向分類施策的治理思路，“《辦法》為平臺(tái)設(shè)定了具體且可操作的義務(wù)，本質(zhì)上是將監(jiān)管要求嵌入內(nèi)容分發(fā)的關(guān)鍵環(huán)節(jié)”。
《辦法》還進(jìn)一步壓實(shí)網(wǎng)站平臺(tái)的主體責(zé)任，要求將保護(hù)措施聚焦于內(nèi)容分發(fā)的關(guān)鍵環(huán)節(jié)?！掇k法》明確，不得在首頁首屏、彈窗、熱搜、榜單、推薦等處于產(chǎn)品或者服務(wù)醒目位置、易引起用戶關(guān)注的重點(diǎn)環(huán)節(jié)，呈現(xiàn)可能影響未成年人身心健康的信息。同時(shí)，《辦法》對(duì)提供算法推薦、生成式人工智能等技術(shù)的平臺(tái)提出了建立健全內(nèi)部安全管理制度和技術(shù)措施的要求，以防范技術(shù)濫用帶來的新型風(fēng)險(xiǎn)。這些條款共同將平臺(tái)的內(nèi)容管理責(zé)任從原則性要求具體化為場(chǎng)景化、全鏈條的操作規(guī)范，有助于推動(dòng)平臺(tái)從被動(dòng)處理投訴向主動(dòng)進(jìn)行風(fēng)險(xiǎn)防控轉(zhuǎn)型。
合力織密“安全網(wǎng)”
《辦法》的出臺(tái)，標(biāo)志著我國未成年人網(wǎng)絡(luò)保護(hù)法治體系在精細(xì)化方向上邁出了關(guān)鍵一步，實(shí)施后將有效提升治理效能。
“《辦法》為行業(yè)提供了清晰、權(quán)威、可落地的合規(guī)指引，有利于統(tǒng)一全行業(yè)保護(hù)標(biāo)尺，讓大家在統(tǒng)一的準(zhǔn)繩下齊心協(xié)力，有效消除保護(hù)盲區(qū)，這對(duì)整個(gè)行業(yè)的健康長遠(yuǎn)發(fā)展具有重要推動(dòng)作用。”某平臺(tái)相關(guān)負(fù)責(zé)人認(rèn)為，《辦法》將推動(dòng)平臺(tái)審核機(jī)制與技術(shù)升級(jí)，引導(dǎo)行業(yè)走向“科學(xué)前置管理”。
業(yè)內(nèi)人士分析稱，各類網(wǎng)絡(luò)產(chǎn)品與服務(wù)提供者應(yīng)當(dāng)以《辦法》為基準(zhǔn)，將相關(guān)要求細(xì)化為可執(zhí)行的審核標(biāo)準(zhǔn)。
姚榮表示，在產(chǎn)品層面，平臺(tái)應(yīng)盡快細(xì)化內(nèi)容標(biāo)識(shí)與提示機(jī)制，通過分級(jí)提示、風(fēng)險(xiǎn)標(biāo)注與推薦控制等方式降低未成年人接觸高風(fēng)險(xiǎn)信息的概率，同時(shí)提升提示的可理解性與教育性。
“平臺(tái)應(yīng)從‘防’與‘堵’轉(zhuǎn)向‘建’與‘引’，優(yōu)化青少年服務(wù)模式中的功能設(shè)置和算法推薦，開發(fā)更加多元、適合各學(xué)段青少年需求的垂直類媒介教育資源。”鄭滿寧建議。
封堵不良網(wǎng)絡(luò)信息傳播渠道，離不開監(jiān)管部門的嚴(yán)格管理與規(guī)范指引。
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，對(duì)違反《辦法》規(guī)定的，網(wǎng)信等有關(guān)部門可依據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《未成年人網(wǎng)絡(luò)保護(hù)條例》等法律、行政法規(guī)的規(guī)定予以處理。
中國政法大學(xué)未成年人事務(wù)治理與法律研究基地副主任苑寧寧稱，監(jiān)管部門還可以通過發(fā)布典型案例等方式，細(xì)化裁量標(biāo)準(zhǔn)，統(tǒng)一執(zhí)法尺度，特別是在認(rèn)定顯著提示的有效性、判定審核重點(diǎn)環(huán)節(jié)管控是否到位等實(shí)操層面提供明確指引。
立規(guī)只是起點(diǎn)，關(guān)鍵在于落實(shí)。要織密青少年網(wǎng)絡(luò)保護(hù)“安全網(wǎng)”，需要多方協(xié)同發(fā)力。
“家庭和學(xué)校應(yīng)建立分段、分時(shí)、分工的精細(xì)化協(xié)作機(jī)制。”鄭滿寧舉例稱，在業(yè)余時(shí)間和假期，家長應(yīng)承擔(dān)主要責(zé)任，轉(zhuǎn)變認(rèn)知范式，實(shí)現(xiàn)從“時(shí)長管控”到“質(zhì)量管控”和“內(nèi)容引導(dǎo)”的觀念躍遷?！凹议L可以對(duì)照《辦法》中列出的不良信息類型，在與孩子的日常交流中有意識(shí)地識(shí)別和討論相關(guān)情境?！?/p>
姚榮指出，學(xué)校層面應(yīng)強(qiáng)化網(wǎng)絡(luò)素養(yǎng)教育的系統(tǒng)化融入，將《辦法》所體現(xiàn)的風(fēng)險(xiǎn)分層邏輯轉(zhuǎn)化為可教學(xué)、可討論的學(xué)習(xí)內(nèi)容，通過真實(shí)案例分析引導(dǎo)學(xué)生理解不同類型網(wǎng)絡(luò)信息的傳播機(jī)制與潛在危害，并通過情境化任務(wù)提高其辨別能力與應(yīng)對(duì)策略?！霸谶@一過程中，應(yīng)注重批判性思維與價(jià)值判斷能力的同步培養(yǎng)，使學(xué)生不僅知道什么是風(fēng)險(xiǎn)，更能夠解釋風(fēng)險(xiǎn)為何產(chǎn)生?！?/p>
“展望未來，期待《辦法》與《未成年人網(wǎng)絡(luò)保護(hù)條例》及其他相關(guān)法律法規(guī)協(xié)同配合、有效實(shí)施，共同為未成年人在數(shù)字時(shí)代的健康成長構(gòu)筑起更加堅(jiān)實(shí)、可靠的防護(hù)屏障?！痹穼帉幷f。（劉樂藝 南彤霏）
（責(zé)任編輯：蔡文斌）
晉公網(wǎng)安備 14090202000008號(hào) 
