在我國深入推進實施教育數(shù)字化轉型戰(zhàn)略的背景下,數(shù)字教育市場規(guī)模不斷攀高,產品形態(tài)加速升級。2022年在線教育、知識付費、在線閱讀、智慧教育、教育硬件等數(shù)字教育類產品用戶規(guī)模達3.14億人、市場規(guī)模達3620億元,增幅分別達到了5.36%和12.42%。國內僅教育類APP的數(shù)量就超過了15萬款。2023年ChatGPT火爆全球,百度(文心一言)、抖音(云雀大模型)、智譜AI(智譜清言)等國內8家大模型產品成為新一代AIGC的弄潮者,其中也涵蓋了多種數(shù)字教育應用內容。
以人工智能為核心的數(shù)字教育,既是教育強國發(fā)展的重大機遇,也是一種挑戰(zhàn),需要加強監(jiān)管。為此,國家相關部門出臺系列監(jiān)管政策,規(guī)范內容使用邊界、平臺開發(fā)、行業(yè)應用等。如國家網(wǎng)信辦發(fā)布的《生成式人工智能服務管理暫行辦法》和中央網(wǎng)信辦發(fā)布的《全球人工智能治理倡議》。國際上,聯(lián)合國教科文組織在2023年初發(fā)布《數(shù)字平臺監(jiān)管指南》的基礎上,9月推出《教育與研究領域生成式人工智能指南》,呼吁各國政府通過制定法規(guī)、培訓教師等,規(guī)范生成式人工智能在教育中的應用。
在監(jiān)管政策落地推進中,一些治理困境逐漸顯露:現(xiàn)有的備案制度難以全景展現(xiàn)數(shù)字教育產品的使用過程,惰化思維、超綱教學、商業(yè)算法逐利等問題還處于社群舉報為主的階段;其他業(yè)務關聯(lián)部委的監(jiān)管口徑對垂直行業(yè)應用指導有限;數(shù)字教育產品本身的形態(tài)推陳出新,從教育APP、小程序、云平臺、資源庫到大模型,亟須對教育規(guī)律下的線上線下認知發(fā)展進行系統(tǒng)性研究,來適應數(shù)字技術快速發(fā)展的時代帶來的監(jiān)管新挑戰(zhàn),克服一管就死、一放就亂的兩極現(xiàn)象。
1挑戰(zhàn) 數(shù)字教育應用發(fā)展中的監(jiān)管挑戰(zhàn)
數(shù)字技術變革教育的大趨勢下,備案和通知整改的弱監(jiān)管被動狀態(tài),將越來越不適應數(shù)字教育產品,在教學管評測全場景中復雜又深入的融合趨勢,更需要關注在服務過程中進行實時監(jiān)管。當前,推進事前、事中、事后一體化監(jiān)管主要面臨四類挑戰(zhàn)。
第一,監(jiān)管類型不完備。在官方“教育移動互聯(lián)網(wǎng)應用程序備案管理”平臺上,僅對教育類APP、小程序進行備案管理。校園在用的教學云平臺、各類學科數(shù)字資源庫以及教育類大模型都還未進入監(jiān)管范疇。同時,備案級管理信息僅限于查閱產品名稱、版本及變更、開發(fā)應用主體等信息,對數(shù)字教育產品中的過程性學情數(shù)據(jù)缺乏監(jiān)管技術手段和數(shù)據(jù)要素獲取渠道。
第二,鏈路溯源不完整。在廣告、虛假宣傳、引誘使用、價格欺詐和強制收費等鏈接的自動偵測方面已有較好的技術支撐,但對于數(shù)字教育產品中涉及未成年學生教育及成長類數(shù)據(jù)的無序公開、隱私泄露等不當情況的追蹤技術還需加快攻關跟進,突破數(shù)據(jù)存儲分散、傳播環(huán)境復雜等現(xiàn)實痛點,才能保障線上學習環(huán)境的健康可持續(xù)發(fā)展。
第三,算法規(guī)則不科學。在商業(yè)算法重逐利和教育算法促認知的對弈中,前者帶來的信息認知繭房效應已經(jīng)引起社會感知,但改進效果還不明顯:追求學習者偏好的推薦算法可能引發(fā)過早偏科,迎合博流量心理的生成算法會分散學習者在線注意力等。同時,在對育人導向的算法實現(xiàn)中,分年齡、分學科的科學設計還需更多的教育研究者共同參與,才能回歸到數(shù)字教育應用圍繞人才成長規(guī)律的主線上來。
第四,認知評估不全面。線下校園環(huán)境中的學業(yè)(含體質心理等)評估已是較為成熟的體系。但在線學習環(huán)境下,學習者的思考學習過程是否真實發(fā)生、個性化與規(guī)模化如何兼顧、學科內的前序知識與接續(xù)內容之間的關聯(lián)設計是否契合認知規(guī)律、數(shù)字教育類應用對學習者的社會情感等健全人格培養(yǎng)產生何種影響等領域的認知評估工作還有很大的待研究空間。
2可能性 數(shù)字智能技術提供的新型監(jiān)管可能性
隨著分布式服務匯聚與編排、預訓練大模型、多模態(tài)語義理解、認知圖譜等數(shù)字智能技術的發(fā)展,為對數(shù)字教育服務進行更為深入的監(jiān)管提供了新的可能。
一是,生成式語義挖掘技術的發(fā)展,將促進內容監(jiān)管顆粒度更精準。傳統(tǒng)技術應用對靜態(tài)圖文的語義解析較為成熟,但對新出現(xiàn)的音視頻數(shù)字教育資源及生成式智能內容的篩查能力不足。數(shù)字智能技術在多粒度多模態(tài)表示技術的教育內容審查模型等領域的發(fā)展,將突破線上學科資源繁多,不當內容、不良信息隱匿性強的瓶頸,在實現(xiàn)人工智能驅動的數(shù)字教育內容深度語義理解、構建審查圖譜、增強審查依據(jù)的可解釋性方面有新的貢獻。
二是,污點傳播技術的發(fā)展,將促進數(shù)字資源可追蹤性提高。數(shù)字教育平臺中編碼維度不全、各級規(guī)則不一致難以共享、數(shù)據(jù)擴散路徑難以協(xié)同追溯的問題一直困擾著監(jiān)管機構。在數(shù)字教育產品規(guī)模龐大、場景復雜,現(xiàn)有審查能力不足的現(xiàn)狀下,基于新的數(shù)據(jù)智能標注技術、多標簽圖片識別等的協(xié)同研究,將覆蓋提供者、使用者、監(jiān)管者構建三維信息編碼庫,對未成年人數(shù)據(jù)使用不當問題,不當個人信息、學情傳播問題,異常頁面鏈接問題等動態(tài)監(jiān)測需求,形成新的技術支撐力量,提升標記率和自動偵測率的精度升級。
三是,智能算法診斷技術的發(fā)展,將促進虛實融合學習場景更符合認知發(fā)展規(guī)律。由于數(shù)字教育應用的開發(fā)主體實際掌握著產品的算法話語權,備案信息與市場服務重點之間的鴻溝長期存在,監(jiān)管主體難以直接糾正算法設計理念,多以事后不當行為約談、罰款、下架等方式治理,相對被動。在算法透明度研究的支持下,從數(shù)據(jù)層、代碼層、產品層構建算法透明度模型和自動糾偏機制,將有效抑制算法歧視、偏見、沉迷等問題,面向在線學習行為軌跡,刻畫個體+群體學情畫像,分學段、分場景、自適應地采集青少年認知發(fā)展的動態(tài)數(shù)據(jù),提升認知評估精度。
3治理 技術向善原則下的治理建議
數(shù)字教育應當是公平包容、更有質量、適合人人、綠色發(fā)展、開放合作的教育。在以人工智能為代表的數(shù)字技術體系越來越深度融入教育教學活動的進程中,秉承技術向善、精準適切的原則推動數(shù)字教育應用的發(fā)展與治理,筆者提出4個方面的治理建議。
第一,治理理念上,呼應老百姓對個性化教育資源供給的需要,推動數(shù)字教育服務供給轉型。教育理念上,越來越多的家長在接受孩子的獨特性、培養(yǎng)路徑多元化方面有了共識。智能技術上,對學習者在感覺、知覺、記憶、思維、想象等能力方面不同學段、不同區(qū)域、不同學科中呈現(xiàn)出的認知規(guī)律差異有了更多的探知手段支撐。由此建議,在數(shù)字教育應用的治理理念上,回應老百姓對個性化培養(yǎng)所追求的數(shù)字教育資源供給需要,統(tǒng)籌國家智慧教育公共服務平臺中的數(shù)字資源供給體系,構建虛實融合的、開放的協(xié)作空間和靈活多元的協(xié)作機制;轉變教育供給模式,形成社會化協(xié)同的教育公共服務供給新形態(tài),實現(xiàn)供給方式從面向群體的統(tǒng)一供給轉變?yōu)槊嫦騻€體的基于全學習過程軌跡的適應性供給;供給形態(tài)從單一供給轉變?yōu)槿鐣f(xié)同供給。
第二,治理手段上,牢牢把握數(shù)字教育產品的算法話語權,推動數(shù)字教育應用設計的透明公平。數(shù)據(jù)、算法和算力是人工智能技術的核心三要素。其中,算法是數(shù)字教育應用的設計靈魂。過往出現(xiàn)的一味迎合用戶使用偏好,導致學習者偏科現(xiàn)象、超綱超標資源供給引發(fā)的家長焦慮、拍照搜題引發(fā)的思維惰化趨勢等就是治理領域缺乏對算法話語權有效調節(jié)手段的后果。因此,治理的核心內容重點為強化對算法設計邏輯的備案和巡檢;在當前事后治理的現(xiàn)狀下,鼓勵研究團隊加快對算法透明度模型的研究,減少算法歧視、偏見、沉迷等不當現(xiàn)象的發(fā)生率;加快對數(shù)字教育應用校園級使用的準入標準研究,將治理周期推進到事前有標準—事中有監(jiān)測—事后有策略的全周期治理模式。
第三,治理規(guī)范上,行政機關、各類學校、師生家長和開發(fā)者團隊規(guī)約使用,推動數(shù)據(jù)要素有序流動和溯源可控。在兩年來的教育數(shù)字化戰(zhàn)略實施行動中,數(shù)據(jù)的采集工作已基本順暢,后續(xù)的數(shù)據(jù)要素治理工作將進入到“加工—融通—維護”等環(huán)節(jié)。由此建議,在數(shù)字教育應用的治理規(guī)范上,行政機關、各類學校、師生家長和開發(fā)者團隊四大類主體按照規(guī)約推進數(shù)據(jù)加工、數(shù)據(jù)融通和數(shù)據(jù)維護工作。加工方面,對各主體產生的元數(shù)據(jù)進行分類、命名、排序、匯總等步驟,以便于在不同類型的數(shù)據(jù)中進行統(tǒng)一的檢索和可視化。融通方面,通過分析工具來對元數(shù)據(jù)進行關聯(lián)分析、影響分析、統(tǒng)計分析等,以更好地理解數(shù)據(jù)之間的相互關系,發(fā)揮數(shù)據(jù)價值支撐治理決策。維護方面,由行政機關審批,開發(fā)者團隊定期執(zhí)行數(shù)據(jù)的更新、安全監(jiān)測等工作。在此基礎上,形成數(shù)據(jù)要素有序流動和溯源可控的良性局面。
第四,治理機制上,建立數(shù)字教育應用審核責任體系,推動分業(yè)務審核匯聚成多元共治的一盤棋保障格局。數(shù)字教育應用的使用場景對應線上學習環(huán)境或虛實融合環(huán)境。在網(wǎng)絡空間治理領域,涉及教學內容—信息保護—風險監(jiān)管等多個分項業(yè)務范疇。在數(shù)字教育應用類治理機制上建議:數(shù)字教學內容監(jiān)管方面,按照誰上線誰負責原則,實施上線必審、更新必審、審必到位。重點對影響學生獨立思考、無效重復性作業(yè)等不當學科教學內容和低俗惡俗、教唆誘導、校園欺凌等不良信息進行“技術監(jiān)測+社群舉報”治理。在信息保護領域,按照國家相關法律法規(guī)要求,重點對未成年學生教育及成長類數(shù)據(jù)的無序公開、挖掘濫用、隱私泄露等不當傳播行為進行“標注技術研發(fā)+溯源”治理。在建立了風險預警能力及動態(tài)更新的數(shù)字教育應用黑白名單庫的綜合監(jiān)管體系基礎上,積極鼓勵針對家庭、學校和社會場景,構建數(shù)字教育產品對認知發(fā)展的關鍵影響路徑識別庫,以客觀真實的在線學習行為軌跡和學情畫像,支撐推動技術向善原則下數(shù)字教育應用的健康可持續(xù)發(fā)展。
(作者系北京師范大學副教授、教育部教育信息化戰(zhàn)略研究基地[北京]副主任;本文系國家重點研發(fā)計劃項目“互聯(lián)網(wǎng)教育應用的行為感知與風險監(jiān)測關鍵技術研究”[2022YFC3303500]課題成果)
《中國教育報》2024年01月08日第4版
工信部備案號:京ICP備05071141號
互聯(lián)網(wǎng)新聞信息服務許可證 10120170024
中國教育報刊社主辦 中國教育新聞網(wǎng)版權所有,未經(jīng)書面授權禁止下載使用
Copyright@2000-2022 www.aaallgj.com All Rights Reserved.