■針對類似AI學習機等人工智能教育產品應用可能存在的潛在風險，要未雨綢繆，標本兼治

　　■探索利用AI促進教育創新的有效模式，促進AI教育產品應用的倫理性、包容性和公平性

　　以人工智能為代表的數字技術迅速發展，滲透到社會生活的各個環節、各個領域。在教育領域，一些中小學校周邊出現不少AI自習室，這不僅為學生提供了個性化的學習體驗，也引發了關于教育未來發展的廣泛討論。

　　AI自習室的核心是通過由AI算法和大模型支持的學習機與學習機上的智能助學系統，提供線下督學、托管等服務，打造“以智助學”的新型學習空間。它主要通過先進的人工智能技術，搭建沉浸式學習環境，為學生提供定制化的學習計劃和智能推薦學習資源，學生在其平臺還可以同時購買會員服務獲得更多的學習便利，實現學習資源按需供給。不僅如此，自習室中的AI學習機還可以幫助檢查作業中的基礎錯誤、知識點講解，增強互動性學習體驗，提升學生的學習效率，滿足學生多樣化需求。

　　但AI如同一把雙刃劍，在為教育注入變革能量的同時也會帶來諸多現實隱憂。AI自習室的出現，既能給學生帶來很多便利和好處，也有可能存在不少潛在風險。從教育公平的角度看，AI自習室過度依賴高端智能硬件設備和付費學習資源，盡管滿足了部分學生個性化學習的需求，也會使弱勢群體學生被排除在AI賦能的教育之外，這顯然不利于教育資源公平分配，可能會加劇學生之間的數字鴻溝和學習不平等。從“雙減”政策治理的角度看，隨著大批校外培訓機構的關停和轉型，隱形變異學科類校外培訓價格隨之“水漲船高”，部分機構由“地上”轉入“地下”，改頭換面，可能會以AI自習室的名義違規開展學科類校外培訓，這就增加了校外培訓治理的難度。并且，學生學習成績的提升，不僅僅取決于AI學習機本身的功能和質量，更重要的是教師的指導、學生的學習習慣和自律性以及家長的參與等。過度依賴AI學習室，可能會適得其反，成為學生新的負擔。從隱私安全的角度看，在AI自習室中，學生的一舉一動處于智能設備“監控”之下，學生處于AI空間之中，不經意間就會留下“痕跡”，這些在深度學習過程中保留下的敏感數據，可能會引起不法分子通過窺視、數據非法采集、算法深度挖掘等造成個人隱私侵權，對學生個人隱私安全造成不利影響。從“信息繭房”的角度看，AI自習室中的學生個性化學習的自動推送功能，可能會增加學生“懶惰”行為，使其喪失探索未知和創新的可能性。

　　聯合國教科文組織編制的《人工智能與教育：政策制定者指南》中提出，以合乎倫理、包容和公平的方式將人工智能應用于教育領域，影響著每一個可持續發展的目標。為此，我們要慎重看待AI自習室“伴學”的功能，針對類似AI學習機等人工智能教育產品應用可能存在的潛在風險，要未雨綢繆，標本兼治，探索利用AI促進教育創新的有效模式，促進AI教育產品應用的倫理性、包容性和公平性。

　　為確保AI教育產品安全可靠、高效服務教學，促進學生健康成長，應加強AI教育產品的治理。首先，建立全覆蓋的AI教育產品差異化準入審查制度。按照“凡進必審”“誰選用誰負責”等原則建立“雙審查”責任制，圍繞AI教育產品的需求設計、算法驗證、驗收評估等環節，對AI教育產品公平性、健康性、科學性和適宜性進行審查。其次，構建全方位、全過程的AI教育產品動態監測體系。對AI教育產品的研發、應用等全過程進行監測，其重點包括不當內容與違法信息傳播、個人隱私侵犯、數據泄露、算法歧視等。再次，完善綠色科學的AI教育產品倫理規約體系。在AI教育數據生成、記錄和共享過程中遵循“有用”“無害”的倫理訴求，在重組、分析和解釋教育數據時避免算法不合理帶來的“信息繭房”和“算法歧視”。最后，構建AI教育產品公平使用機制。優先在農村、邊遠、貧困地區配備教育數字化基礎設施，為弱勢群體學生提供AI教育產品應用指導，讓優質AI教育資源惠及更多學生群體。

　　（作者系華中師范大學教授）

《中國教育報》2024年12月25日 第02版