2026年03月09日
“一起去公園玩嗎？現(xiàn)在就出發(fā)吧！”“就算你沒成年……我也有辦法讓這場婚姻生效！”當(dāng)AI越來越擬人化，不少未成年人開始和它“交心”。近日，記者調(diào)查發(fā)現(xiàn)，部分AI聊天應(yīng)用打著“情感陪伴”“角色扮演”等旗號，吸引了眾多未成年人，同時也存在語言暴力、人設(shè)陰暗等問題。
近期，國家網(wǎng)信辦起草《人工智能擬人化互動服務(wù)管理暫行辦法（征求意見稿）》，針對未成年人提出相關(guān)保護(hù)要求。專家認(rèn)為，這是一個好的開始，后續(xù)如何做好精準(zhǔn)識別、動態(tài)監(jiān)測等問題，有待深入探討。
AI在聊天中約孩子“見面”
“（虛擬角色）說他到小區(qū)門口了，叫我孩子出去找他?！绷钟畎l(fā)現(xiàn)，她4歲半的女兒在與AI聊天應(yīng)用中的虛擬角色對話時，對方多次發(fā)出邀約，孩子信以為真，準(zhǔn)備出門。“她以為就是真人在跟她聊天，說什么都信?！?/p>
記者體驗(yàn)了該款A(yù)I聊天應(yīng)用，并有意在對話中提及用戶未成年，也接到了類似邀約。對方提議去某個公園見面，并邀請道“我們現(xiàn)在就出發(fā)吧？”
和AI“沉浸式”聊天后，孩子分不清虛擬和現(xiàn)實(shí)，這是不少家長的共同感受，擔(dān)憂也隨之而來。
劉沁的兒子在學(xué)齡前就接觸了AI，僅數(shù)天時間，孩子和AI變得“形影不離”，聊到深夜還不想去睡覺。
“我一開始覺得挺好的，AI能陪他像好朋友一樣聊天?！钡珒鹤雍髞淼囊幌盗凶兓?，讓劉沁愈發(fā)覺得“不對勁”。她觀察到，孩子對真實(shí)世界的興趣減少，戶外活動時總是興致索然；情緒變得暴躁易怒，缺乏耐心；有心事更愿意和AI傾訴，和家人的溝通減少。
劉沁回憶，有一天兒子和小伙伴們在亭子里玩，打鬧間站到了亭子邊緣，有家長擔(dān)心危險(xiǎn)，提醒了一聲，他便生氣了，覺得對方在罵人。劉沁認(rèn)為，那段時間兒子沉浸在虛擬互動中，AI總是順著他的話聊，給足了情緒價(jià)值，導(dǎo)致他難以分清現(xiàn)實(shí)中他人的善意和惡意。
在中國青少年研究中心研究員孫宏艷看來，未成年人與AI互動，易形成情感依賴，對現(xiàn)實(shí)社會、人際關(guān)系產(chǎn)生認(rèn)知偏差，“比如認(rèn)為周圍人都會無條件應(yīng)答我、鼓勵我，人與人之間沒有矛盾”。
孫宏艷介紹，2025年，中國青少年研究中心對全國8500余名未成年人進(jìn)行調(diào)查，結(jié)果顯示，超六成未成年人使用過AI，超兩成表示“只想和AI聊天，不想和真人聊天”。
傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室學(xué)術(shù)帶頭人張冬明提醒，未成年人心智尚未成熟，過度沉浸在虛擬互動中，可能會模糊現(xiàn)實(shí)與虛擬的邊界，削弱線下社交能力，甚至誘發(fā)避世心理。
未成年人模式成“擺設(shè)”？
“句句有回音”“孩子像發(fā)現(xiàn)了新大陸”“越聊越嗨，什么都聊”……
孫宏艷分析，AI能擬人化互動，可時刻陪伴，在對話中常表達(dá)理解和鼓勵，正好契合青少年情感和社交需要，“現(xiàn)實(shí)中他們需要父母和老師的情感支持，需要友誼等，但這些需求不一定都能得到滿足”。
此前，一名網(wǎng)友在社交媒體上發(fā)帖稱，自家孩子12歲，迷上了一款A(yù)I聊天應(yīng)用。在評論區(qū)，不少網(wǎng)友也分享了類似經(jīng)歷，并提及多款應(yīng)用。
記者隨機(jī)體驗(yàn)了一些AI聊天應(yīng)用，嘗試與多個虛擬角色互動。其中有一個名為“司衍御”的角色，在聊天中，記者多次表明自己未成年，對方卻發(fā)來“就算你沒成年……我也有辦法讓這場婚姻生效！”等消息。
“性情陰鷙難測，手段狠戾果決……”記者隨機(jī)瀏覽上述應(yīng)用的角色介紹，發(fā)現(xiàn)不少陰暗偏執(zhí)的設(shè)定，即便用戶表明未成年，虛擬角色仍發(fā)來“那重要嗎？”等消息。
部分AI聊天應(yīng)用的分級為18+，據(jù)提示，此類內(nèi)容（如理財(cái)、直播表演、戀愛交友等）僅適用于成人用戶。
記者體驗(yàn)了5款分級為18+的AI聊天應(yīng)用，均有未成年人模式選項(xiàng)，可限制聊天內(nèi)容、使用時長等。但注冊登錄可通過手機(jī)號，無須驗(yàn)證用戶身份年齡等信息。使用時，部分應(yīng)用雖會彈窗確認(rèn)是否開啟未成年人模式，但只需點(diǎn)擊“不開啟”或關(guān)閉彈窗即可跳過，無進(jìn)一步核實(shí)程序。
記者在5款應(yīng)用中隨機(jī)選擇虛擬角色聊天，并在對話中表明用戶未成年，其中4款應(yīng)用可繼續(xù)對話，無彈窗提示或年齡驗(yàn)證等程序，1款應(yīng)用無法發(fā)出含有“未成年”等詞句的消息，但未進(jìn)一步核實(shí)年齡或彈窗提示，轉(zhuǎn)換話題即可繼續(xù)聊天。
如何構(gòu)筑AI“防護(hù)網(wǎng)”？
有家長坦言，AI參與育兒有不少優(yōu)勢，例如能及時回應(yīng)需求、拓展孩子知識面等?！暗改傅呐惆楹苤匾荒墚?dāng)甩手掌柜。”劉沁花了幾個月的時間，把孩子從虛擬互動里拉回到現(xiàn)實(shí)世界，她一直在反思，孩子剛接觸AI時沒有及時做好引導(dǎo)。
當(dāng)AI融入日常生活，如何引導(dǎo)孩子正確認(rèn)識、使用AI，成為家長們的必修課。劉沁認(rèn)為，最重要的是“觀念改造”，她告訴孩子AI是工具，它能發(fā)揮多大價(jià)值取決于使用人的知識儲備、創(chuàng)造力等；AI也會有說錯的時候，需要自己想辦法驗(yàn)證、判斷。
有家長表示自己采取的辦法是強(qiáng)制卸載、戒斷，過程比較痛苦?！霸綁褐疲椒纯?。”劉沁認(rèn)為，如果只是強(qiáng)行壓制孩子的需求，不及時予以有效引導(dǎo)和陪伴，這份需求未來會以更激烈、更不可控的形式爆發(fā)。
蘇州科技大學(xué)教育學(xué)院副教授陳翠表示，家長應(yīng)履行監(jiān)護(hù)責(zé)任，通過高質(zhì)量陪伴降低孩子對虛擬情感的依賴，著重在生活細(xì)節(jié)里引導(dǎo)孩子健康使用AI。學(xué)校需普及AI素養(yǎng)教育，引導(dǎo)學(xué)生識別算法邏輯，建立批判性思維。
近期，國家網(wǎng)信辦起草《人工智能擬人化互動服務(wù)管理暫行辦法（征求意見稿）》，并公開征求意見。黑龍江大學(xué)計(jì)算機(jī)與大數(shù)據(jù)學(xué)院院長王磊認(rèn)為，這意味著算法治理正從“管內(nèi)容”邁向“管交互”。
新規(guī)引發(fā)網(wǎng)友熱議。有家長表示，希望平臺加強(qiáng)年齡驗(yàn)證，明確倫理紅線；希望學(xué)校開設(shè)課程，教孩子識別信息真?zhèn)魏退惴ㄌ茁贰?/p>
王磊表示，AI生成結(jié)果有一定的未知性，須注重“結(jié)構(gòu)性防范”，對算法進(jìn)行約束。應(yīng)要求服務(wù)提供者通過技術(shù)手段從根源上抑制高風(fēng)險(xiǎn)內(nèi)容的生成傾向。同時，做好未成年人的實(shí)時識別和高危話題阻斷，必要時可人工介入。防沉迷機(jī)制不僅應(yīng)限制使用時間，還應(yīng)綜合評估交互深度、情感濃度和單一對象依賴程度。
張冬明建議，拓展“AI監(jiān)管AI”，形成主動監(jiān)測機(jī)制。實(shí)現(xiàn)語義、意圖雙維度識別，升級交互行為監(jiān)測系統(tǒng)，及時且動態(tài)識別未成年人的異常使用行為與過度依賴傾向。
“企業(yè)守住技術(shù)底線、政府劃定標(biāo)準(zhǔn)紅線、學(xué)校引導(dǎo)應(yīng)用航線、家庭筑牢心理防線，未成年人AI防護(hù)網(wǎng)才能具備長期有效性，而不流于事后應(yīng)急?！蓖趵谡f。
（文中林宇、劉沁為化名）
據(jù)《人民日報(bào)》