對未成年人來說，若缺乏有效監管、正確引導和防護，AI情感陪伴很可能成為一個深不見底的“數字陷阱”

　　近年來，隨著生成式人工智能（AI）的普及，AI情感陪伴類應用軟件迅速走紅。相關調查顯示，國內數款“沉浸式角色扮演”AI情感陪伴類應用軟件，不僅充斥著獵奇角色和危險劇情，還會在用戶“調教”后采用露骨言論進行誘導。更令人擔憂的是，這些應用軟件已經吸引大量未成年人使用，而軟件內置的青少年模式卻形同虛設。

　　AI情感陪伴類應用軟件最初的設計初衷，是以人工智能算法模擬人類的情感交互，為用戶提供聊天、心理疏導甚至戀愛模擬體驗。但對心智尚未成熟的未成年人來說，若缺乏有效監管、正確引導和防護，很可能掉入深不見底的“數字陷阱”。“算法式親密關系”一旦固化，會造成未成年人對現實社交的疏離，以及對自我認知的扭曲。為促使未成年人健康使用AI情感陪伴類應用軟件，應通過構建政府、企業、學校、家庭和社會多方協同的社會治理體系，為未成年人營造清朗安全的AI應用環境。

　　面對AI情感陪伴類應用軟件的擴張，監管體系亟須升級。相關部門應出臺“AI情感陪伴類應用軟件未成年人保護指南”，推進AI分級制度，明確平臺內容審核、數據保護、防沉迷機制等責任邊界，落實平臺算法備案審查制度，對算法推薦機制是否誘導成癮進行第三方機構評估。在此基礎上，應建立常態化監管機制，定期對相關企業和平臺服務商進行安全評估，并將結果向社會公示，接受公眾監督。

　　企業須將未成年人保護理念內置于技術研發和產品設計之初，做到“事前預防、事中過濾、事后干預”的全流程防護。在準入端，優化未成年人注冊、登錄驗證機制。通過實名認證、“一號一用”等多種方式，完善應用軟件的青少年模式。為防止未成年人偷用家長身份登錄，可以通過研發應用聲紋識別、行為分析等智能認證技術和預測系統，實現更精準的未成年人身份識別與動態年齡驗證。在內容端，融合關鍵詞過濾與深度學習語義理解等技術，對AI對話內容進行實時監測，精準攔截不良信息。在干預端，設立未成年人時長管理功能，開發家長監管模式，讓監護人能夠實時掌握未成年人使用軟件的情況。

　　推動家長、學校和社會多方協同共治。首先，家長需要履行監護職責，引導未成年人形成健康的AI使用習慣。家庭教育促進法規定，未成年人的父母或者其他監護人應當預防未成年人沉迷網絡。因此，家長有責任加強對未成年人身心需求的關注，提供高質量的陪伴和監督，筑牢用好AI的第一道防線。其次，學校可以通過開設“AI倫理與安全”相關主題講座、班會等，加強對學生使用AI的教育和引導，通過社會情感能力教育防止未成年人沉迷于AI情感陪伴。當學校和教師發現學生出現涉及AI應用軟件不良內容傳播時，應及時干預和告知家長。與此同時，凝聚社會合力，加大對“誘導青少年聊色情、獵奇話題”APP案例的警示宣傳力度，曝光不良運營手段，提高未成年人網絡風險防范意識和能力。

　　AI情感陪伴的出現，是時代發展的必然，它折射出人類情感需求與數字技術的交匯。AI情感陪伴不只是技術娛樂的新問題，更是社會治理的新挑戰。技術越溫柔，越需要理性約束，技術不應是隱匿于監管盲區的“數字荒野”，而應成為助力未成年人健康成長的“智慧花園”。

　　（作者系華東師范大學教育學部教育學系講師）

《中國教育報》2025年10月20日 第02版