我國未成年網(wǎng)民規(guī)模不斷擴(kuò)大，目前未成年網(wǎng)民規(guī)模已上升至1.96億，未成年人互聯(lián)網(wǎng)普及率增長到97.3%。與此同時(shí)，不良內(nèi)容、網(wǎng)絡(luò)暴力、游戲沉迷等風(fēng)險(xiǎn)隨數(shù)字化浪潮席卷而來，數(shù)量龐大的未成年網(wǎng)民成為社會(huì)長期關(guān)注的焦點(diǎn)。

前述背景下，《未成年人網(wǎng)絡(luò)保護(hù)條例》于今年1月1日正式實(shí)施。其中，第二十條規(guī)定了未成年人用戶數(shù)量巨大或者對未成年人群體具有顯著影響的網(wǎng)絡(luò)平臺(tái)服務(wù)提供者應(yīng)該履行的六大義務(wù)。為進(jìn)一步壓實(shí)屬地網(wǎng)絡(luò)平臺(tái)主體責(zé)任，上海市委網(wǎng)信辦會(huì)同市信息安全測評認(rèn)證中心組織編寫了《指引》。上海市互聯(lián)網(wǎng)業(yè)聯(lián)合會(huì)（后簡稱“上網(wǎng)聯(lián)”）也發(fā)起“2024年社會(huì)責(zé)任和社會(huì)公益優(yōu)秀案例評選活動(dòng)”評選。

近日，前述評選結(jié)果出爐，共產(chǎn)生12個(gè)特別貢獻(xiàn)獎(jiǎng)、37個(gè)案例入選優(yōu)秀案例獎(jiǎng)、7個(gè)案例入選“中華文化傳承與交流”專項(xiàng)獎(jiǎng)、7個(gè)案例入選“未成年人網(wǎng)絡(luò)保護(hù)”專項(xiàng)獎(jiǎng)、19個(gè)案例入選媒體社會(huì)責(zé)任與社會(huì)公益獎(jiǎng)，以及31個(gè)案例入選優(yōu)秀案例入圍獎(jiǎng)。

值得一提的是，今年評選增設(shè)了兩個(gè)專項(xiàng)獎(jiǎng)。其中，“未成年人網(wǎng)絡(luò)保護(hù)”是國家和上海市委網(wǎng)信辦今年大力推進(jìn)的工作，不少企業(yè)建立并完善各具特色的保護(hù)體系，嗶哩嗶哩、小紅書、米哈游、得物、三七互娛、波克城市、上海軟件中心共7個(gè)企業(yè)獲得該專項(xiàng)獎(jiǎng)。上網(wǎng)聯(lián)對未成年人網(wǎng)絡(luò)保護(hù)非常重視，在上海市委網(wǎng)信辦的指導(dǎo)下，上網(wǎng)聯(lián)社會(huì)責(zé)任和社會(huì)公益委員會(huì)會(huì)同網(wǎng)信辦相關(guān)管理部門，對多家企業(yè)進(jìn)行了調(diào)研走訪，特別就未成年人網(wǎng)絡(luò)保護(hù)工作進(jìn)行了深入了解。

未成年人保護(hù)，平臺(tái)的作用不容忽視。一方面，企業(yè)憑借技術(shù)和平臺(tái)優(yōu)勢，能筑牢安全防線，落實(shí)防沉迷、過濾不良內(nèi)容，為未成年人營造健康網(wǎng)絡(luò)環(huán)境，守護(hù)身心健康。另一方面，企業(yè)能提供優(yōu)質(zhì)內(nèi)容，助力未成年人獲取知識(shí)、增強(qiáng)網(wǎng)絡(luò)辨別能力，樹立正確價(jià)值觀，履行社會(huì)責(zé)任。

未成年網(wǎng)民面臨多重風(fēng)險(xiǎn)：網(wǎng)絡(luò)暴力、不良內(nèi)容、游戲沉迷

在網(wǎng)絡(luò)的隱秘角落里，一場場不見硝煙的“戰(zhàn)爭”可能正在悄然上演——“掛人”、惡意丑化他人形象、無休止地辱罵、深挖并曝光所謂的“黑料”，這些網(wǎng)絡(luò)霸凌的手段正悄無聲息地沖擊著未成年人的生活。

不良內(nèi)容也在侵蝕著未成年網(wǎng)民。暴力、色情、低俗信息充斥網(wǎng)絡(luò)，通過短視頻、彈窗廣告、不良網(wǎng)站潛入他們的視野。

例如，據(jù)“網(wǎng)信中國”2024年12月通報(bào)的典型案例，有短視頻平臺(tái)部分賬號(hào)集納“沙雕動(dòng)畫”，包含大量血腥、驚悚等負(fù)面內(nèi)容。部分賬號(hào)惡意改編經(jīng)典動(dòng)畫，發(fā)布“暴力海綿寶寶”“驚悚米奇”等內(nèi)容。部分短視頻內(nèi)容借動(dòng)畫形式，模擬校園欺凌情節(jié)，美化自殺自殘行為，嚴(yán)重危害未成年人身心健康。網(wǎng)信部門對相關(guān)平臺(tái)予以行政處罰，關(guān)閉一批集納發(fā)布“沙雕動(dòng)畫”的違規(guī)賬號(hào)。

通報(bào)的案例還提到，有用戶在未成年人分享日常生活內(nèi)容頁面的評論區(qū)，惡意發(fā)布低俗表情包和“找同城”等不良交友信息，企圖對未成年人實(shí)施性引誘。在一些未成年人集中的頻道版塊、興趣圈子等環(huán)節(jié)，部分用戶使用分隔符、替代詞等方式，發(fā)布傳播低俗色情內(nèi)容等。

此外，隨著互聯(lián)網(wǎng)的普及和游戲產(chǎn)業(yè)的迅速發(fā)展，未成年人沉迷游戲的問題日益凸顯，引發(fā)了社會(huì)廣泛關(guān)注。據(jù)中國音像與數(shù)字出版協(xié)會(huì)發(fā)布的《2024中國游戲產(chǎn)業(yè)未成年人保護(hù)報(bào)告》顯示，75.1% 未成年人游戲用戶周游戲時(shí)長低于3小時(shí)，國內(nèi)未成年人的游戲時(shí)長和消費(fèi)已得到有效控制，但問題仍然存在。

該報(bào)告還顯示，近年來，網(wǎng)絡(luò)游戲防沉迷措施取得一定成效，2024年每周游戲時(shí)長3小時(shí)以上的未成年人占比為24.9%，較2021年下降37.2%。但依然有接近三成未成年人上學(xué)期間每日線上娛樂時(shí)間超過2小時(shí)，其中5小時(shí)以上占比達(dá)5%，未成年人超長時(shí)間網(wǎng)絡(luò)休閑娛樂情況應(yīng)當(dāng)引起重視。

與此同時(shí)，我國未成年網(wǎng)民數(shù)量相當(dāng)龐大，根據(jù)第 54 次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，截至 2024年6月，中國網(wǎng)民規(guī)模近 11 億人（10.9967 億人）。在2024年世界互聯(lián)網(wǎng)大會(huì)未成年人保護(hù)論壇上發(fā)布的《第六次中國未成年人互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告》顯示，我國未成年網(wǎng)民規(guī)模已上升至 1.96 億。

面臨諸多風(fēng)險(xiǎn)，未成年群體的網(wǎng)絡(luò)保護(hù)離不開法律法規(guī)的不斷完善，同時(shí)也需要平臺(tái)增強(qiáng)責(zé)任意識(shí)，加強(qiáng)技術(shù)層面的支撐。

2020年修訂的《中華人民共和國未成年人保護(hù)法》增設(shè)網(wǎng)絡(luò)保護(hù)專章，為未成年人網(wǎng)絡(luò)保護(hù)提供了堅(jiān)實(shí)的法律基礎(chǔ)。2024年1月1日，《未成年人網(wǎng)絡(luò)保護(hù)條例》正式施行。這是我國第一部專門性的未成年人網(wǎng)絡(luò)保護(hù)綜合立法，重點(diǎn)就規(guī)范網(wǎng)絡(luò)信息內(nèi)容、保護(hù)個(gè)人信息、防治網(wǎng)絡(luò)沉迷等作出規(guī)定。同時(shí)，對于網(wǎng)絡(luò)欺凌防治、規(guī)范未成年人網(wǎng)絡(luò)消費(fèi)等問題也提出了針對性要求。

在此背景下，上海多家企業(yè)平臺(tái)也采取了相應(yīng)行動(dòng)，本次入選“未成年人網(wǎng)絡(luò)保護(hù)”專項(xiàng)獎(jiǎng)的多家企業(yè)，均致力于保護(hù)未成年網(wǎng)民，構(gòu)建更安全的網(wǎng)絡(luò)環(huán)境。

創(chuàng)新技術(shù)手段：智能分析防御網(wǎng)暴，完善防沉迷機(jī)制

在網(wǎng)暴防護(hù)方面，小紅書推出的 “小紅盾” 防網(wǎng)暴工具，是平臺(tái)在未成年人保護(hù)領(lǐng)域的一大創(chuàng)新舉措。

“小紅盾”通過智能化分析，能夠主動(dòng)識(shí)別疑似網(wǎng)暴受害者和施暴者。對于潛在受害者，平臺(tái)定期發(fā)送提醒，引導(dǎo)其學(xué)習(xí)使用 “小紅盾” 功能，增強(qiáng)自我保護(hù)意識(shí)；對于施暴者，則發(fā)信提醒其理性發(fā)言，共同營造友善的社區(qū)氛圍。

“‘小紅盾’是小紅書不斷升級完善未成年人保護(hù)體系，提升未成年人保護(hù)能力，全力以赴做好網(wǎng)絡(luò)生態(tài)‘守門人’的重要抓手。通過技術(shù)識(shí)別、用戶體驗(yàn)、服務(wù)反饋等多方面創(chuàng)新，‘小紅盾’對施暴者形成了有效震懾、對被施暴者提供了有效保護(hù)，為守護(hù)未成年人健康成長，構(gòu)建“真誠分享，友好互動(dòng)”的社區(qū)氛圍貢獻(xiàn)了一份力量?！毙〖t書副總編輯朱厚真說。

在功能設(shè)計(jì)上，“小紅盾”具備批量舉報(bào)功能，方便用戶快速投訴不友善內(nèi)容?！耙绘I防護(hù)”功能可讓用戶在7x24小時(shí)內(nèi)屏蔽陌生人的評論、彈幕、@與私信；“評論防火墻”則在3x24小時(shí)內(nèi)將用戶筆記下的評論全部遞送平臺(tái)人工審核，避免了機(jī)器審核可能出現(xiàn)的一刀切問題。在服務(wù)反饋方面，平臺(tái)設(shè)立網(wǎng)暴專人專審隊(duì)列，確保用戶舉報(bào)在1天內(nèi)得到處理。2024年，“小紅盾” 全面升級，與北師大心理團(tuán)隊(duì)合作開通“紅薯地援助熱線”，為遭受網(wǎng)暴的用戶提供24小時(shí)心理咨詢服務(wù)。

小紅盾2.0上線后，成效顯著。平臺(tái)共收到來自26350名用戶的50924個(gè)網(wǎng)暴保護(hù)申請，平均受理率超85%。平均每月有21995名用戶使用一鍵防護(hù)功能，240名用戶使用評論防火墻隔離不友善評論。

同樣，在未成年人網(wǎng)絡(luò)保護(hù)方面，米哈游通過全方位落實(shí)未成年人防沉迷舉措持續(xù)努力構(gòu)建有效的未成年人保護(hù)體系。

“一直以來，米哈游持續(xù)踐行‘?dāng)?shù)實(shí)共善’的社會(huì)價(jià)值理念，致力于發(fā)揮游戲的正向連接作用，讓游戲的多元、正向價(jià)值照進(jìn)現(xiàn)實(shí)?！睋?jù)悉，米哈游旗下所有游戲產(chǎn)品均嚴(yán)格執(zhí)行實(shí)名驗(yàn)證、充值管理、時(shí)長限制以及適齡提示等相關(guān)規(guī)定，同時(shí)不斷完善未成年人防沉迷機(jī)制，通過企業(yè)與家長聯(lián)合護(hù)航，保障未成年人健康游戲。在信息收集、使用、共享等每一個(gè)環(huán)節(jié)，米哈游均明確了未成年人個(gè)人信息處理的規(guī)范要求，采用權(quán)限管理措施，確保未成年人個(gè)人信息得到妥善、安全的保護(hù)。

米哈游旗下社區(qū)“米游社”積極承擔(dān)起保護(hù)和引導(dǎo)青少年的社會(huì)責(zé)任，于2021年11月上線“青少年模式”功能，并制定相關(guān)社區(qū)內(nèi)容管理規(guī)定及違禁用戶公開機(jī)制，定期公示社區(qū)治理月報(bào)，對反復(fù)違規(guī)的用戶從嚴(yán)處置并第一時(shí)間核查和處理違規(guī)內(nèi)容。

增強(qiáng)內(nèi)容引導(dǎo)：建立防護(hù)體系，過濾不良信息

作為Z世代年輕人喜愛的視頻社區(qū)，B站（嗶哩嗶哩）上線了嚴(yán)謹(jǐn)?shù)谋O(jiān)護(hù)人授權(quán)流程，對未成年用戶開啟青少年模式，需監(jiān)護(hù)人提供身份信息、完成人臉驗(yàn)證以及親子關(guān)系答題驗(yàn)證，退出模式同樣如此。

在內(nèi)容層面，B站組建專業(yè)團(tuán)隊(duì)每日篩選優(yōu)質(zhì)內(nèi)容，聯(lián)合UP主圍繞安全、知識(shí)、美育等主題創(chuàng)作適合青少年的精品。自青少年模式上線后，不斷豐富產(chǎn)品功能和內(nèi)容池，并且建立了強(qiáng)大的內(nèi)容防護(hù)體系，積極攔截不良內(nèi)容。此外，B站還通過舉辦“護(hù)苗行動(dòng)”等活動(dòng)，提升社區(qū)治理認(rèn)知和未成年人保護(hù)意識(shí)等，自未成年人專項(xiàng)開展以來，B站已累計(jì)攔截處置涉未成年不良內(nèi)容33萬余條，處罰相關(guān)賬號(hào)4萬余個(gè)，并為未成年UP主提供嚴(yán)格的私信保護(hù)。

無獨(dú)有偶，得物作為潮流文化社區(qū)，也將未成年人網(wǎng)絡(luò)保護(hù)視為重要責(zé)任。得物建立了未成年人保護(hù)工作機(jī)制，通過內(nèi)容管控、產(chǎn)品設(shè)計(jì)、規(guī)則制定、技術(shù)開發(fā)等多方面舉措，全方位守護(hù)平臺(tái)未成年人的身心健康，成為上海首批發(fā)布《未成年人保護(hù)社會(huì)責(zé)任報(bào)告》的互聯(lián)網(wǎng)企業(yè)之一。

得物推出的未成年人模式，具備時(shí)間限制、監(jiān)護(hù)人密碼設(shè)置等功能，限制直播、打賞、充值等可能對未成年人不利的操作，同時(shí)過濾不良信息，建立專屬內(nèi)容池，引入優(yōu)質(zhì)內(nèi)容，并在社區(qū)版規(guī)中引導(dǎo)用戶發(fā)布正向內(nèi)容。此外，得物對平臺(tái)內(nèi)容進(jìn)行100%審核，通過機(jī)審、人審初審和復(fù)審三道防線，確保平臺(tái)內(nèi)容合法合規(guī)。

開展公益科普，提升未成年信息辨別能力

除了技術(shù)手段為未成年保駕護(hù)航，本次獲獎(jiǎng)的多家企業(yè)同步通過開展公益項(xiàng)目、科普活動(dòng)引導(dǎo)未成年人提升信息辨別能力，激發(fā)對科學(xué)技術(shù)的興趣。

同樣作為游戲企業(yè)的“波克城市”發(fā)起的“SDG HERO 游戲素養(yǎng)計(jì)劃”國際公益項(xiàng)目，為提升未成年人網(wǎng)絡(luò)素養(yǎng)開辟了新路徑。該項(xiàng)目以游戲?yàn)檩d體，通過互動(dòng)創(chuàng)新的方式，激發(fā)全球兒童和青少年的創(chuàng)新思維與行動(dòng)能力，讓他們參與到世界可持續(xù)發(fā)展中。

自2021年底啟動(dòng)以來，項(xiàng)目已在中國超20個(gè)省市和10 個(gè)海外國家開展，培養(yǎng)了600多名Game Master（游戲素養(yǎng)引導(dǎo)師），帶領(lǐng)近30000名兒童和青少年認(rèn)識(shí)并參與可持續(xù)發(fā)展。項(xiàng)目組建了專業(yè)的游戲素養(yǎng)引導(dǎo)師隊(duì)伍，采用PBL（Problem - Based Learning）方法，賦能一線社會(huì)工作者、教師和志愿者，引導(dǎo)青少年進(jìn)行游戲化學(xué)習(xí)。同時(shí)，開發(fā)了SDG Hero游戲素養(yǎng)工具箱，以桌游形式讓孩子們在玩樂中提升對網(wǎng)絡(luò)、游戲的認(rèn)知，學(xué)習(xí)可持續(xù)發(fā)展知識(shí)。此外，項(xiàng)目還通過錄制線上課程、出版科普圖書，將游戲思維和可持續(xù)發(fā)展知識(shí)傳播給更多群體。

三七互娛則通過一系列舉措提升青少年數(shù)字素養(yǎng)，攜手安徽師范大學(xué)等開展青少年數(shù)字素養(yǎng)狀況調(diào)研，搭建提升框架，針對數(shù)字意識(shí)、計(jì)算思維、數(shù)字化學(xué)習(xí)與創(chuàng)新、數(shù)字社會(huì)責(zé)任等維度采取措施。推出“共筑守護(hù)，心中有數(shù)”數(shù)字素養(yǎng)網(wǎng)絡(luò)公開課，以趣味動(dòng)漫視頻引導(dǎo)青少年提升信息辨別能力；利用“妙小程”開展數(shù)字素養(yǎng)公益課，強(qiáng)化青少年計(jì)算思維；打造《清風(fēng)俠沖沖沖》網(wǎng)絡(luò)素養(yǎng)知識(shí)學(xué)習(xí)平臺(tái)及線下兒童樂園，拓展信息獲取渠道；采用應(yīng)用戲劇形式帶領(lǐng)青少年創(chuàng)作主題即興短劇，培育數(shù)字社會(huì)責(zé)任。截至2024年，系列課程觸達(dá)超20萬人次，開展編程公益課逾18場，惠及超540人次，相關(guān)產(chǎn)品入選《未成年人網(wǎng)絡(luò)素養(yǎng)提升成熟適用產(chǎn)品推廣名單》。

此外，上海軟件中心參與的“上海城市職旅”公益活動(dòng)，為偏遠(yuǎn)地區(qū)的青少年帶來了一場科技盛宴。2024年8月，來自西藏、云南等地區(qū)的40余名學(xué)生代表走進(jìn)上海軟件中心，體驗(yàn)了一場別開生面的新技術(shù)科普。

活動(dòng)從“什么是密碼和區(qū)塊鏈”等基礎(chǔ)概念入手，通過《解密“區(qū)塊鏈”—— 建造一個(gè)沒有 “欺騙” 的世界》《神奇的密碼世界》等課程，為孩子們揭開現(xiàn)代科技的神秘面紗。課程以生動(dòng)有趣的方式，如借助上海密碼科普IP“商小密”，將密碼知識(shí)與傳統(tǒng)文化相結(jié)合，讓同學(xué)們對區(qū)塊鏈技術(shù)和商用密碼的發(fā)展歷史、算法原理等有了直觀認(rèn)識(shí)。

在這場守護(hù)未成年人網(wǎng)絡(luò)健康成長的行動(dòng)中，各方力量各展所長。無論是構(gòu)建內(nèi)容管理體系、創(chuàng)新防網(wǎng)暴工具，還是優(yōu)化游戲管理、開展公益項(xiàng)目和科普教育，都體現(xiàn)了社會(huì)各界對未成年人的關(guān)愛與責(zé)任。未來，需要更多的企業(yè)、機(jī)構(gòu)和社會(huì)力量加入，持續(xù)完善未成年人網(wǎng)絡(luò)保護(hù)機(jī)制，為未成年人營造一個(gè)更加安全、健康、有益的網(wǎng)絡(luò)環(huán)境。