■教育積極應對人工智能挑戰系列評論之四

人工智能技術正在深刻改變人類社會生活、改變世界，并使得教育教學更加個性化、高效化和智能化，為我國數字教育變革注入新活力新動能。同時，人工智能技術帶來的錯用、濫用等新問題也已經引起教育戰線乃至全社會廣泛關注、討論甚至擔憂。對此，迫切需要從思想觀念、技術建設、制度機制和研究實踐等方面著手，加強人工智能教育應用規范管理，確保數字教育高質量發展方向。

樹立正確的人工智能發展觀，正視人工智能的教育應用。人工智能發展是大勢所趨，將帶來一場系統性的觀念變革，每個人都是“學生”，都需要學習。同時，人工智能的發展也是一把雙刃劍，正向影響和負向影響都很大。當前在人工智能和教育應用上還存在著重視不夠、認知偏差以及觀望心態。思想上，對人工智能教育應用的重要性及負面影響缺乏正確認識，對教育數字化轉型戰略意義認識不足。認知上，存在對人工智能過高期待、過分依賴等“全能論”，對其技術的決策和推理能力盲目信任，認為人工智能將徹底改變教育、取代教師等；還存在恐懼擔憂、不信任等“風險論”，擔心使用人工智能技術會導致個人信息泄露，怕承擔責任。心態上，存在“等靠要”等觀望思想、依賴思想和畏難情緒，缺乏改革自主性、主動性和創新性。這都制約著人工智能教育應用，以至于出現教育數字化轉型的社會熱、研究熱、上層熱、基層冷、教學冷“三熱兩冷”現象。

我們首先要樹立正確的人工智能發展觀，正視人工智能的“兩面性”，堅持發展與安全并重、創新與治理相結合，既要以積極態度和責任擔當主動擁抱，又要做好潛在風險研判和防范，防止錯用、濫用現象出現。

加強技術系統建設，確保人工智能安全向善。人工智能本質是服務于人的工具。人工智能技術既要發展也要安全更要向善，技術帶來的問題要靠技術解決。一是提高技術安全門檻，筑牢安全屏障，防止數據隱私泄露，降低人工智能被濫用的風險，增強教育使用人工智能技術的信任感。二是加強數據加密、權限控制、流動控制、共享控制等數據安全保護技術研發，實現數據從收集、存儲、處理到分析、使用等全生命周期保護，確保數據安全。三是堅持科技向善，做到為育人服務。依照有關法律法規采取必要措施，規避人工智能產生不當內容，如虛假消息、歧視性言論、侵犯個人隱私等風險；將人工智能發展與以學習者為中心理念相結合，優化算法，完善教育應用模型架構，使人工智能教育應用符合教育規律。四是加強技術研發和創新，提升人工智能算法透明度及其產品安全性和穩定性，確保意識形態等安全，營造可信任的人工智能發展技術環境。

建設人工智能教育應用機制，確保其健康長效發展。建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。人工智能教育應用是一項復雜持久的系統工程，目前正在拉開帷幕，需要從制度機制層面加強規范管理，實現健康有序持久發展。一是建立人工智能教育應用集決策、管理、實施和督導等于一體的有效機制，明確誰來管、管什么、怎么管，誰來干、干什么、怎么干，誰來督、督什么、怎么督，推動其健康發展和防止錯用、濫用等問題。二是以符合倫理要求的方式，建立人工智能教育應用的政策框架，規范關鍵步驟，避免可能出現的錯用、濫用問題，如意識形態風險、個人隱私安全、“數字繭房”，以及過度沉迷依賴、教育數字鴻溝等。三是從學生的根本利益出發，做好人工智能教育應用的宣傳、指導和培訓，讓想干、敢干、能干的人干得更好，讓觀望的人行動起來，讓擔憂的人放心干，形成公眾參與、齊抓共管、協同創新的人工智能育人新生態。

加強研究，做到未雨綢繆、積極應對和規范管理。人工智能教育應用是一個新生事物，將會出現許多未知新問題，人工智能應用教育往哪里走、怎么走、走到什么程度等都是嶄新課題，亟須加強研究。由于人工智能技術涉及計算機科學、語言學、心理學等諸多學科，需要多領域研究者共同合作。一是按照“實踐優于理論”原則，開展人工智能教育應用的比較研究、實驗研究、理論研究，及時總結典型經驗、實踐案例以及策略路徑，推動人工智能教育應用研究向理論與實踐雙輪驅動轉變，逐步形成中國自己的數字教育倫理規范體系，為世界人工智能教育及研究貢獻中國智慧。二是聚焦人工智能教育應用的重大命題開展研究，如人工智能數據安全、交易、保障，數字規制與數字能力之間的平衡，進學校、進課堂疏堵結合等，這些都是人工智能教育應用亟待研究解決的重大命題。三是探索人工智能育人新規律。當前，人工智能對教育的正向和負向影響尚處在萌芽狀態，產生的教育新現象、新問題尚未顯現，引發的教育新規律尚待揭示，需從數字教育學的視角進行理論研究和實踐突破，對過程中發現的新問題進行及時優化、糾偏。

（作者系教育部課程教材研究所研究員）

《中國教育報》2023年10月13日第2版