在我國深入推進實施教育數字化轉型戰略的背景下，數字教育市場規模不斷攀高，產品形態加速升級。2022年在線教育、知識付費、在線閱讀、智慧教育、教育硬件等數字教育類產品用戶規模達3.14億人、市場規模達3620億元，增幅分別達到了5.36%和12.42%。國內僅教育類APP的數量就超過了15萬款。2023年ChatGPT火爆全球，百度（文心一言）、抖音（云雀大模型）、智譜AI（智譜清言）等國內8家大模型產品成為新一代AIGC的弄潮者，其中也涵蓋了多種數字教育應用內容。

以人工智能為核心的數字教育，既是教育強國發展的重大機遇，也是一種挑戰，需要加強監管。為此，國家相關部門出臺系列監管政策，規范內容使用邊界、平臺開發、行業應用等。如國家網信辦發布的《生成式人工智能服務管理暫行辦法》和中央網信辦發布的《全球人工智能治理倡議》。國際上，聯合國教科文組織在2023年初發布《數字平臺監管指南》的基礎上，9月推出《教育與研究領域生成式人工智能指南》，呼吁各國政府通過制定法規、培訓教師等，規范生成式人工智能在教育中的應用。

在監管政策落地推進中，一些治理困境逐漸顯露：現有的備案制度難以全景展現數字教育產品的使用過程，惰化思維、超綱教學、商業算法逐利等問題還處于社群舉報為主的階段；其他業務關聯部委的監管口徑對垂直行業應用指導有限；數字教育產品本身的形態推陳出新，從教育APP、小程序、云平臺、資源庫到大模型，亟須對教育規律下的線上線下認知發展進行系統性研究，來適應數字技術快速發展的時代帶來的監管新挑戰，克服一管就死、一放就亂的兩極現象。

    1挑戰    數字教育應用發展中的監管挑戰

數字技術變革教育的大趨勢下，備案和通知整改的弱監管被動狀態，將越來越不適應數字教育產品，在教學管評測全場景中復雜又深入的融合趨勢，更需要關注在服務過程中進行實時監管。當前，推進事前、事中、事后一體化監管主要面臨四類挑戰。

第一，監管類型不完備。在官方“教育移動互聯網應用程序備案管理”平臺上，僅對教育類APP、小程序進行備案管理。校園在用的教學云平臺、各類學科數字資源庫以及教育類大模型都還未進入監管范疇。同時，備案級管理信息僅限于查閱產品名稱、版本及變更、開發應用主體等信息，對數字教育產品中的過程性學情數據缺乏監管技術手段和數據要素獲取渠道。

第二，鏈路溯源不完整。在廣告、虛假宣傳、引誘使用、價格欺詐和強制收費等鏈接的自動偵測方面已有較好的技術支撐，但對于數字教育產品中涉及未成年學生教育及成長類數據的無序公開、隱私泄露等不當情況的追蹤技術還需加快攻關跟進，突破數據存儲分散、傳播環境復雜等現實痛點，才能保障線上學習環境的健康可持續發展。

第三，算法規則不科學。在商業算法重逐利和教育算法促認知的對弈中，前者帶來的信息認知繭房效應已經引起社會感知，但改進效果還不明顯：追求學習者偏好的推薦算法可能引發過早偏科，迎合博流量心理的生成算法會分散學習者在線注意力等。同時，在對育人導向的算法實現中，分年齡、分學科的科學設計還需更多的教育研究者共同參與，才能回歸到數字教育應用圍繞人才成長規律的主線上來。

第四，認知評估不全面。線下校園環境中的學業（含體質心理等）評估已是較為成熟的體系。但在線學習環境下，學習者的思考學習過程是否真實發生、個性化與規模化如何兼顧、學科內的前序知識與接續內容之間的關聯設計是否契合認知規律、數字教育類應用對學習者的社會情感等健全人格培養產生何種影響等領域的認知評估工作還有很大的待研究空間。    

    2可能性    數字智能技術提供的新型監管可能性

隨著分布式服務匯聚與編排、預訓練大模型、多模態語義理解、認知圖譜等數字智能技術的發展，為對數字教育服務進行更為深入的監管提供了新的可能。

一是，生成式語義挖掘技術的發展，將促進內容監管顆粒度更精準。傳統技術應用對靜態圖文的語義解析較為成熟，但對新出現的音視頻數字教育資源及生成式智能內容的篩查能力不足。數字智能技術在多粒度多模態表示技術的教育內容審查模型等領域的發展，將突破線上學科資源繁多，不當內容、不良信息隱匿性強的瓶頸，在實現人工智能驅動的數字教育內容深度語義理解、構建審查圖譜、增強審查依據的可解釋性方面有新的貢獻。

二是，污點傳播技術的發展，將促進數字資源可追蹤性提高。數字教育平臺中編碼維度不全、各級規則不一致難以共享、數據擴散路徑難以協同追溯的問題一直困擾著監管機構。在數字教育產品規模龐大、場景復雜，現有審查能力不足的現狀下，基于新的數據智能標注技術、多標簽圖片識別等的協同研究，將覆蓋提供者、使用者、監管者構建三維信息編碼庫，對未成年人數據使用不當問題，不當個人信息、學情傳播問題，異常頁面鏈接問題等動態監測需求，形成新的技術支撐力量，提升標記率和自動偵測率的精度升級。

三是，智能算法診斷技術的發展，將促進虛實融合學習場景更符合認知發展規律。由于數字教育應用的開發主體實際掌握著產品的算法話語權，備案信息與市場服務重點之間的鴻溝長期存在，監管主體難以直接糾正算法設計理念，多以事后不當行為約談、罰款、下架等方式治理，相對被動。在算法透明度研究的支持下，從數據層、代碼層、產品層構建算法透明度模型和自動糾偏機制，將有效抑制算法歧視、偏見、沉迷等問題，面向在線學習行為軌跡，刻畫個體+群體學情畫像，分學段、分場景、自適應地采集青少年認知發展的動態數據，提升認知評估精度。    

    3治理    技術向善原則下的治理建議

數字教育應當是公平包容、更有質量、適合人人、綠色發展、開放合作的教育。在以人工智能為代表的數字技術體系越來越深度融入教育教學活動的進程中，秉承技術向善、精準適切的原則推動數字教育應用的發展與治理，筆者提出4個方面的治理建議。

第一，治理理念上，呼應老百姓對個性化教育資源供給的需要，推動數字教育服務供給轉型。教育理念上，越來越多的家長在接受孩子的獨特性、培養路徑多元化方面有了共識。智能技術上，對學習者在感覺、知覺、記憶、思維、想象等能力方面不同學段、不同區域、不同學科中呈現出的認知規律差異有了更多的探知手段支撐。由此建議，在數字教育應用的治理理念上，回應老百姓對個性化培養所追求的數字教育資源供給需要，統籌國家智慧教育公共服務平臺中的數字資源供給體系，構建虛實融合的、開放的協作空間和靈活多元的協作機制；轉變教育供給模式，形成社會化協同的教育公共服務供給新形態，實現供給方式從面向群體的統一供給轉變為面向個體的基于全學習過程軌跡的適應性供給；供給形態從單一供給轉變為全社會協同供給。

第二，治理手段上，牢牢把握數字教育產品的算法話語權，推動數字教育應用設計的透明公平。數據、算法和算力是人工智能技術的核心三要素。其中，算法是數字教育應用的設計靈魂。過往出現的一味迎合用戶使用偏好，導致學習者偏科現象、超綱超標資源供給引發的家長焦慮、拍照搜題引發的思維惰化趨勢等就是治理領域缺乏對算法話語權有效調節手段的后果。因此，治理的核心內容重點為強化對算法設計邏輯的備案和巡檢；在當前事后治理的現狀下，鼓勵研究團隊加快對算法透明度模型的研究，減少算法歧視、偏見、沉迷等不當現象的發生率；加快對數字教育應用校園級使用的準入標準研究，將治理周期推進到事前有標準—事中有監測—事后有策略的全周期治理模式。

第三，治理規范上，行政機關、各類學校、師生家長和開發者團隊規約使用，推動數據要素有序流動和溯源可控。在兩年來的教育數字化戰略實施行動中，數據的采集工作已基本順暢，后續的數據要素治理工作將進入到“加工—融通—維護”等環節。由此建議，在數字教育應用的治理規范上，行政機關、各類學校、師生家長和開發者團隊四大類主體按照規約推進數據加工、數據融通和數據維護工作。加工方面，對各主體產生的元數據進行分類、命名、排序、匯總等步驟，以便于在不同類型的數據中進行統一的檢索和可視化。融通方面，通過分析工具來對元數據進行關聯分析、影響分析、統計分析等，以更好地理解數據之間的相互關系，發揮數據價值支撐治理決策。維護方面，由行政機關審批，開發者團隊定期執行數據的更新、安全監測等工作。在此基礎上，形成數據要素有序流動和溯源可控的良性局面。

第四，治理機制上，建立數字教育應用審核責任體系，推動分業務審核匯聚成多元共治的一盤棋保障格局。數字教育應用的使用場景對應線上學習環境或虛實融合環境。在網絡空間治理領域，涉及教學內容—信息保護—風險監管等多個分項業務范疇。在數字教育應用類治理機制上建議：數字教學內容監管方面，按照誰上線誰負責原則，實施上線必審、更新必審、審必到位。重點對影響學生獨立思考、無效重復性作業等不當學科教學內容和低俗惡俗、教唆誘導、校園欺凌等不良信息進行“技術監測+社群舉報”治理。在信息保護領域，按照國家相關法律法規要求，重點對未成年學生教育及成長類數據的無序公開、挖掘濫用、隱私泄露等不當傳播行為進行“標注技術研發+溯源”治理。在建立了風險預警能力及動態更新的數字教育應用黑白名單庫的綜合監管體系基礎上，積極鼓勵針對家庭、學校和社會場景，構建數字教育產品對認知發展的關鍵影響路徑識別庫，以客觀真實的在線學習行為軌跡和學情畫像，支撐推動技術向善原則下數字教育應用的健康可持續發展。

（作者系北京師范大學副教授、教育部教育信息化戰略研究基地[北京]副主任；本文系國家重點研發計劃項目“互聯網教育應用的行為感知與風險監測關鍵技術研究”[2022YFC3303500]課題成果）

《中國教育報》2024年01月08日第4版