人工智能(AI)賦能教育，讓教育插上了騰飛的翅膀。教育人工智能實(shí)現(xiàn)了人存在方式的轉(zhuǎn)變、優(yōu)質(zhì)教育資源的共享、學(xué)習(xí)方式的革新等。如上海普陀的課堂以微視頻的形式，呈現(xiàn)數(shù)學(xué)、物理、化學(xué)和信息技術(shù)等學(xué)科上百個(gè)知識(shí)點(diǎn)，既實(shí)現(xiàn)了區(qū)域內(nèi)教育優(yōu)質(zhì)化和均衡化，又滿(mǎn)足學(xué)生的個(gè)性化學(xué)習(xí)需求。教育人工智能在促進(jìn)學(xué)習(xí)環(huán)境、教學(xué)方式和課堂管理的轉(zhuǎn)型升級(jí)，形成精準(zhǔn)化和個(gè)性化的教育服務(wù)體系等方面發(fā)揮著巨大作用，但也產(chǎn)生了“自主性弱化”“知識(shí)至上”“情感忽略”等倫理風(fēng)險(xiǎn)。

教育人工智能的倫理困境

首先，數(shù)據(jù)化表征異化人的本質(zhì)。教育的對(duì)象是人。馬克思認(rèn)為：“人的本質(zhì)不是單個(gè)人所固有的抽象物，在其現(xiàn)實(shí)性上，它是一切社會(huì)關(guān)系的總和。”可見(jiàn)，人是現(xiàn)實(shí)的、豐滿(mǎn)的、完整的存在者，而不是抽象的、簡(jiǎn)化的數(shù)字或符號(hào)。數(shù)據(jù)是人工智能的養(yǎng)料，教育人工智能是通過(guò)精細(xì)行為識(shí)別系統(tǒng)將教育活動(dòng)中的人和事進(jìn)行數(shù)字化表征。如某些智能學(xué)情分析系統(tǒng)對(duì)學(xué)生在課堂上的“聽(tīng)講”“書(shū)寫(xiě)”“瞌睡”“回答問(wèn)題”和“互動(dòng)”五種典型行為進(jìn)行數(shù)字化表征，并開(kāi)展實(shí)時(shí)的統(tǒng)計(jì)分析，以此作為開(kāi)展教育活動(dòng)的依據(jù)。教育人工智能通過(guò)數(shù)據(jù)認(rèn)識(shí)教育主體，分析教育活動(dòng)，人、行為或活動(dòng)都是數(shù)據(jù)。數(shù)據(jù)化將人的本質(zhì)簡(jiǎn)單化、線(xiàn)性化和機(jī)械化。當(dāng)然，將教育中的人或活動(dòng)進(jìn)行數(shù)字化表征能創(chuàng)造更高的教育效益。但教育人工智能的數(shù)字化表征不僅侵犯了個(gè)體的隱私權(quán)，更嚴(yán)重是造成了人生命價(jià)值的破壞。

其次，精準(zhǔn)供給削弱師生的自主性。自主性是人作為行動(dòng)主體的人的基本特征之一，它是人類(lèi)運(yùn)用主觀能動(dòng)性、不斷實(shí)現(xiàn)自我超越、推動(dòng)社會(huì)發(fā)展的重要保證。因此，培養(yǎng)和發(fā)揮自主性既是學(xué)校教育的目標(biāo)，也是促進(jìn)學(xué)生學(xué)習(xí)的重要手段。人工智能在教育領(lǐng)域的運(yùn)用使教育產(chǎn)品的開(kāi)發(fā)和使用專(zhuān)業(yè)化、便捷化。教學(xué)過(guò)程中，教師只需要簡(jiǎn)單、機(jī)械地選擇、運(yùn)用這些教育產(chǎn)品，無(wú)需根據(jù)教育的情境、學(xué)生的需要和教學(xué)內(nèi)容等要素，自主選擇、自主決策、自主鉆研，這導(dǎo)致教師的專(zhuān)業(yè)性日益喪失。在促進(jìn)學(xué)生學(xué)習(xí)方面更是如此。教育人工智能能夠通過(guò)檢測(cè)學(xué)生的腦電波，感知學(xué)生的直覺(jué)偏好，分析學(xué)生的知識(shí)獲取方式;同時(shí)，根據(jù)學(xué)生的學(xué)習(xí)數(shù)據(jù)，明確學(xué)生在學(xué)習(xí)過(guò)程中的缺陷和不足，教育人工智能可以根據(jù)學(xué)生的薄弱環(huán)節(jié)精準(zhǔn)推送相應(yīng)的知識(shí)點(diǎn)。學(xué)生只需坐等教育人工智能的定時(shí)定量定點(diǎn)的給喂。長(zhǎng)此以往，學(xué)生對(duì)這種智能機(jī)器提供的知識(shí)來(lái)源越來(lái)越依賴(lài)，自主性也越來(lái)越缺失。

再其次，知識(shí)至上窄化育人內(nèi)涵。聯(lián)合國(guó)教科文組織在《反思教育: 向“全球共同利益”的理念轉(zhuǎn)變?》中強(qiáng)調(diào)，當(dāng)今的教育要超越識(shí)字和算術(shù)，以學(xué)習(xí)環(huán)境和新的學(xué)習(xí)方法為重點(diǎn)，以人文主義為教育觀和發(fā)展觀，注重學(xué)生文化素養(yǎng)，培養(yǎng)學(xué)生尊重生命和人格尊嚴(yán)，堅(jiān)持權(quán)利平等、社會(huì)正義、文化多樣性、國(guó)際團(tuán)結(jié)以及能為可持續(xù)的未來(lái)分擔(dān)責(zé)任。換言之，當(dāng)下的教育不應(yīng)只關(guān)注知識(shí)，而忽視文化素養(yǎng)的養(yǎng)成。廣泛運(yùn)用于“教、學(xué)、評(píng)、測(cè)、練”的各個(gè)教學(xué)環(huán)節(jié)中的教育人工智能，歸根到底是一種針對(duì)“知識(shí)”的教學(xué)系統(tǒng)。它根據(jù)學(xué)生的學(xué)習(xí)情況，精準(zhǔn)地判斷學(xué)生學(xué)習(xí)上存在的薄弱環(huán)節(jié)，明確哪些地方需要查缺補(bǔ)弱，然后，根據(jù)這些數(shù)據(jù)提供精準(zhǔn)化的教學(xué)內(nèi)容。教育人工智能實(shí)現(xiàn)了知識(shí)的精準(zhǔn)化傳授，提高了注知識(shí)教學(xué)的效果，但是也在某種程度上忽視發(fā)展和培養(yǎng)學(xué)生面向未來(lái)的六項(xiàng)關(guān)鍵技能(即6C)：品德、公民、溝通能力、批判性思維和解決問(wèn)題能力、合作能力、創(chuàng)造和想象能力，在教育過(guò)程中見(jiàn)“教書(shū)”不見(jiàn)“育人”。

另外，人機(jī)交互弱化情感體驗(yàn)。情感在促進(jìn)學(xué)生開(kāi)展深度學(xué)習(xí)方面具有重要價(jià)值。研究發(fā)現(xiàn)，個(gè)人的情感狀態(tài)影響學(xué)習(xí)效果，而且個(gè)人的情感狀態(tài)和對(duì)方的情感表達(dá)會(huì)影響互動(dòng)的頻率和層次。也就是說(shuō)，教師的熱情與學(xué)生情感的愉悅水平成正相關(guān)，教師向?qū)W生傳遞積極的情感信息，學(xué)生就能獲取積極的情感體驗(yàn)，這有利于學(xué)生以更好的狀態(tài)進(jìn)行深度學(xué)習(xí)。教育人工智能在語(yǔ)音語(yǔ)調(diào)、體態(tài)語(yǔ)等富含情感要素的傳遞方面存在先天不足，即使當(dāng)下人工智能在某些領(lǐng)域已經(jīng)超越了人類(lèi)，但是，它仍然無(wú)法獲取、無(wú)法具備未被人類(lèi)進(jìn)行形式化表達(dá)的人類(lèi)情感，如自適應(yīng)學(xué)習(xí)系統(tǒng)、自動(dòng)化輔導(dǎo)學(xué)習(xí)機(jī)器人和幼兒早教機(jī)器人等都無(wú)法進(jìn)行情感表達(dá)。因此，在教學(xué)過(guò)程中，智能人無(wú)法、也沒(méi)有向?qū)W生傳達(dá)情感，無(wú)意中剝奪了學(xué)生的情感體驗(yàn)，同時(shí)也影響了學(xué)習(xí)效果。

人工智能技術(shù)與倫理規(guī)范協(xié)同發(fā)展保障“良心”

審視教育人工智能的倫理危機(jī)不是摒棄教育人工智能，而是通過(guò)對(duì)其倫理審視促進(jìn)教育人工智能的更好發(fā)展，推動(dòng)智能化手段與教育的深度融合。由于人工智能技術(shù)的不成熟和人工智能倫理保障機(jī)制未建立等原因，導(dǎo)致教育人工智能倫理問(wèn)題隨著人工智能技術(shù)的快速發(fā)展而日益凸顯。面對(duì)教育人工智能存在的各種倫理問(wèn)題，我們無(wú)需自塑為“盧德主義者”來(lái)抵制教育人工智能以消除可能存在的風(fēng)險(xiǎn)。因?yàn)椋祟?lèi)無(wú)法改變技術(shù)進(jìn)步的歷史進(jìn)程，而技術(shù)也完全可被人類(lèi)規(guī)訓(xùn)。因此，我們?cè)陂_(kāi)發(fā)、應(yīng)用和治理教育人工智能，實(shí)現(xiàn)人工智能與教育的深度融合過(guò)程中，要堅(jiān)持“以人為本”“合目的性與合規(guī)律性相統(tǒng)一”和“發(fā)展性”的基本原則，堅(jiān)持人機(jī)協(xié)同發(fā)展，圍繞“機(jī)芯”和“人心”兩個(gè)維度，用“良心”造“良芯”。

人工智能的不科學(xué)、不合理開(kāi)發(fā)和運(yùn)用是造成教育人工智能的倫理困境的直接原因。人工智能技術(shù)與教育人工智能倫理規(guī)范協(xié)同發(fā)展是從源頭保障教育人工智能開(kāi)發(fā)與使用的安全性和規(guī)范性，使其符合“良心”的要求。“良心”強(qiáng)調(diào)教育人工智能產(chǎn)品的開(kāi)發(fā)和設(shè)計(jì)要合乎倫理規(guī)范，并且確保智能技術(shù)得到善用，為師生的發(fā)展與成長(zhǎng)服務(wù)。一是加強(qiáng)教育人工智能倫理研究。要加強(qiáng)教育人工智能的倫理研究，為倫理規(guī)范的制定提供指導(dǎo)性意見(jiàn)。二是制定教育人工智能行業(yè)倫理規(guī)范。2019年5月，OECD發(fā)布了首個(gè)由各國(guó)政府簽署的AI原則，即“負(fù)責(zé)任地管理可信AI的原則”。這些原則之后被G20采納，并于同年6月，在日本筑波市舉行的G20部長(zhǎng)級(jí)會(huì)議上提出了“G20人工智能原則”，包括“可信人工智能的負(fù)責(zé)任管理原則”和“實(shí)現(xiàn)可信人工智能的國(guó)家政策和國(guó)際合作的建議”。同時(shí)，《人工智能北京共識(shí)》也明確了人工智能的使用倫理與規(guī)范。可見(jiàn)，各國(guó)政府或組織已經(jīng)初步嘗試構(gòu)建人工智能的倫理規(guī)范。教育人工智能應(yīng)該根據(jù)教育行業(yè)的獨(dú)特性，指向促進(jìn)師生的成長(zhǎng)與發(fā)展，結(jié)合教育人工智能的技術(shù)特點(diǎn)，設(shè)計(jì)切實(shí)可行的教育人工智能行業(yè)倫理規(guī)范。三是加強(qiáng)教育人工智能立法。加強(qiáng)教育人工智能事前、事中和事后立法，通過(guò)法律法規(guī)規(guī)范教育人工智能產(chǎn)品的設(shè)計(jì)、開(kāi)發(fā)與利用，避免人工智能技術(shù)對(duì)教育活動(dòng)造成破壞，規(guī)避教育人工智能的可能風(fēng)險(xiǎn)。

教育主體與智能技術(shù)協(xié)同發(fā)展確保“良芯”

化解教育與人工智能的融合過(guò)程中的倫理危機(jī)，一是建立教育人工智能的道德算法。為防御教育人工智能的倫理風(fēng)險(xiǎn)，需要借助深度神經(jīng)網(wǎng)絡(luò)，給教育人工智能構(gòu)置道德算法，即“通過(guò)算法給智能機(jī)器嵌入人類(lèi)的價(jià)值觀和規(guī)范，以此讓它們具有和人類(lèi)一樣的同情心、責(zé)任心、羞恥感等倫理道德。”讓教育人工智能的算法遵循“善法”，如此可使教育人工智能在協(xié)助教師開(kāi)展教育活動(dòng)中進(jìn)行道德決策，實(shí)施具有“教育性”的教學(xué)。

二是要樹(shù)立和諧與優(yōu)化共生的理念。人工智能無(wú)論如何發(fā)展都是“服務(wù)于人”。因此，我們要摒棄“機(jī)器——人”二元對(duì)立的觀念，既要擺脫對(duì)人工智能的盲目崇拜，又需克服對(duì)人工智能的奴性心理。在教育人工智能的開(kāi)發(fā)和應(yīng)用過(guò)程中，自覺(jué)提升自身的數(shù)據(jù)素養(yǎng)、網(wǎng)絡(luò)素養(yǎng)、媒體素養(yǎng)等，遵循人工智能的運(yùn)作規(guī)律和教學(xué)規(guī)律，增強(qiáng)應(yīng)用教育人工智能解決教育教學(xué)問(wèn)題的能力，從而實(shí)現(xiàn)人與人工智能和諧共生，實(shí)現(xiàn)機(jī)器與人的協(xié)同共進(jìn)。

三是在人工智能中設(shè)置預(yù)警機(jī)制。內(nèi)置預(yù)警機(jī)制，實(shí)現(xiàn)風(fēng)險(xiǎn)預(yù)警，防范未來(lái)的風(fēng)險(xiǎn)，使未來(lái)可能出現(xiàn)的通用人工智能和超級(jí)人工智能能夠服務(wù)于全人類(lèi)的利益。通過(guò)開(kāi)發(fā)設(shè)計(jì)“良芯”，保障“技術(shù)向善”，克服教育人工智能的倫理風(fēng)險(xiǎn)，發(fā)揮好教育人工智能“向善”潛力，服務(wù)于教育事業(yè)的發(fā)展。

(作者單位：杭州師范大學(xué)教育學(xué)院,本文系浙江省教育科學(xué)規(guī)劃課題成果[編號(hào)：GH2020576])