人工智能技术反噬教育公平现象及其矫正

发布时间:2025-08-30 00:01  浏览量:1

感谢您关注“永大英语”!

马思腾 时广军 王 琦

摘要:教育公平是教育领域中的重点和难点问题之一,传统教育模式下的一对多“师—生”关系,难以为处境不利学生带来最佳增值发展,不利于弥合教育差距。人工智能技术为教育场域增添了新的主体,且有望通过自适应学习模型为学习者提供精准反馈,赋能高质量个性化学习过程,从而突破学习者先赋因素和学情基础差异的影响,提升后致因素的作用,促进教育公平。但这一预期影响路径的实现有赖于“师—生—机”三主体的充分均衡发展。从现实条件来看,人工智能技术的大数据模型、算力与算法区分、教师的TPACK水平差异,以及学生反馈素养差别,均可导致基于自适应学习模型支持个性化学习过程中的反馈失调问题,无法满足“最少受惠者”利益,引发对教育公平的反噬现象。为此,应从树立普惠式技术供给理念、为教师提供技术教学能力培训、注重学生反馈素养提升和搭建配套技术监管体系四个方面消解反馈失调现象,防范人工智能技术反噬教育公平的风险。

关键词:人工智能技术;教育公平;“师—生—机”协同;自适应学习模型;反馈

一、 引言

信息技术是拓展教育形式的重要途径。近年来人工智能技术的迅猛发展为教育领域带来了更多可能性(Kaya et al., 2024)。2022年,科技部等六部门印发《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》指出,要在教育领域持续挖掘人工智能的应用机会,积极探索在线课堂、虚拟课堂、虚拟仿真实训、虚拟教研室、新型教材、教学资源建设、智慧校园等场景(科技部等六部门, 2022)。人们寄希望于人工智能技术在教育中的应用赋能教育高质量发展,解决教育领域中的疑难问题。

教育公平是社会公平的基石(薛二勇 等, 2021),也是教育领域中的重点和难点问题之一。尽管我国已经采取了多种措施提升教育公平指数,但是教育的不公平性仍然是社会各界热议的话题。人工智能技术具备与以往信息技术完全不同的特征,能否借助新技术促进教育公平取得突破性进展,已经引起了学界的广泛讨论。有学者认为,人工智能技术具备精准拟真和多元个性的智慧学习特征,并可通过自适应系统支持个性化学习(胡小勇 等, 2022),因此有望同时解决教育的规模化和个性化问题(石倩 & 万秀兰, 2024),深度推进教育公平。但也有学者指出,人工智能技术在教育中的应用,可能无法成为解决教育难题的“阿拉丁神灯”(王佑镁 等, 2023a),甚至会对教育公平产生反噬作用(张新民 & 张稷锋, 2023)。在大力推进人工智能技术在教育中的应用之前,分析人工智能技术影响教育公平的路径与条件,结合现有技术发展进程系统研判人工智能技术对教育公平的影响,尤其是可能引发的公平风险,引导技术更好地服务于教育教学,是重要又迫切的问题。

二、 文献综述:理论观点梳理及研究限度

在分析人工智能技术对教育公平的正向影响时,已有研究认为,由于人工智能技术具备高算力的特性,可通过自适应学习技术(董晓辉 等, 2017),为学习者精准推送个性化学习内容(鲍日勤, 2018),通过优化教育过程弥合教育结果差距,促进教育公平。但是自适应学习模型是否真正促进了学习收益,仍然存在争议(江波 等, 2023),有实验结果显示在学校场域中使用基于自适应学习系统的学习者比未使用的学习者英语得分优秀率更低(李建伟 等, 2020)。在分析人工智能技术对教育公平的负向影响时,已有研究主要从两个角度切入。一是“数字鸿沟”。这一术语最早用以描述社会中那些热衷于使用信息技术与不太使用信息技术的人群之间的社会分化现象(Gunkel, 2003)。

许多研究延续“数字鸿沟”的论证,从使用者背景差异的角度,解析人工智能技术对教育公平的负向影响(Blanchard, 2015)。有研究指出,数字弱势群体,如没有网络覆盖的贫困地区学生等,无法同数字相对优势人群一样享受新技术资源(孙田琳子, 2023)。二是“算法偏见”。相关观点认为,人工智能技术的算法存在由开发者带来的先在偏见,包括性别、种族和阶层歧视等(Madaio et al., 2022),造成了不公平态度的广泛传播。破解人工智能技术对于教育公平的负面影响,学界多从技术向善和人的向善两个方向展开(王佑镁 等, 2022)。技术向善的破解之道将算法改进作为规避技术反噬公平现象的重要手段(王佑镁 等, 2023b; Baker & Hawn, 2022),强调从技术供给端优化数字教育资源(Lin et al., 2020)。人的向善的应对之策主张技术进步不足以消除所有伦理问题,应从主体性视角展开人工智能技术伦理风险治理(张黎 等, 2023)。技术改进和人的主观能动性的完善两个维度均被视为消解技术反噬教育公平现象的重要手段。

综合来看,目前的研究在分析人工智能技术提升教育公平的路径时,多从自适应学习模型能够支持学生个性化学习,从而有助于提高学生学习效果这一角度入手,但是在探讨人工智能技术对教育公平的预期风险以及应对之策时,往往又跳出了这一路径,从更加宏观的视角展开研究。有关人工智能技术能否基于自适应学习模型支持个性化学习,实现对教育公平的预期正向影响,以及如何促成预期的实现,并未系统论证。基于此,本文从人工智能技术支持下的“师—生—机”协同作用影响学生学习效果的角度切入,结合这一正向预期的实现条件,分析人工智能技术为什么会对教育公平产生反噬风险,并依据具体的发生机理探讨矫正措施,为降低技术对教育公平的反噬风险提供政策参考。

三、先赋与后致:人工智能技术反噬教育公平的现象释义

人工智能技术的精准拟真和个性化推送等特性为教育公平的推进带来了新的曙光,人们期望通过自适应学习模型,在学校规模化教育模式下支持学生个性化学习,因材施教,弥合差距,达成每个学生均能得到最佳增值发展的教育结果公平状态。但是这一美好预期的实现有赖于严格的前提条件,当前提条件缺失时,这一预期正向影响会适得其反,人工智能技术对教育公平的弥合力也随之消失。按照罗尔斯第二正义原则,差别的存在需要而且能够合理地期望符合所有人的利益,尤其是“最少受惠者”的利益。如果一种新技术的应用不仅没有合理地期望符合最少受惠者的利益,反而拉开了最少受惠者与处境相对优势者间的差距,那么这是对教育公平的反噬。

(一) 反噬前提:人工智能技术促进教育公平的正向预期

瑞典教育家托尔斯顿•胡森(Husén, T.)指出教育公平包括起点公平、过程公平和结果公平三个阶段(Husén, 1975, pp. 182-186),这一分类也得到了我国学者的广泛认可(秦树泽, 2023)。在此分析框架中,过程公平特别是结果公平应当作为关注的重点(褚宏启, 2020),结果公平并非指学习结果的同质化,而是尽可能降低学生的先赋因素以及学情特点对于学习结果的影响,增强学校教育这一后致因素对于学习效果的作用。其中,先赋因素包括学生的家庭经济背景、社会文化资本、性别特征、学生所在的地理位置(如城乡分布)等学生个人无法决定的特征,学生的学情特点包括已有的学科知识经验以及数字素养特征等。克服这些因素对于学生学习结果的影响,需要充分发掘处境不利(先赋条件弱势和当前的学习结果不利)学生的学习潜能,让每一位学生因最适配的教育过程得到最佳的增值发展。

这需要教育者根据不同学生的先赋因素以及学情特点提供个性化教学,换句话说,因材施教才能真正实现教育公平(潘信林 & 罗妍, 2024)。在传统规模化教育模式下,每一位教师在授课过程中均需要面对多位学生,其数量远超教师自身的认知负荷,因此教师的授课内容与形式很难与每个学生的个体特点相匹配,而处境不利学生更容易被忽视,这一现实困境制约着因材施教理念的落实,不利于教育公平。

人工智能技术的自适应学习模型可以根据每个学习者个体的认知水平、学习能力等,动态调整与学习者相适应的学习方式,为个体提供交互式和个性化的学习路径,以促进学习效果的提升(陈恩红 等, 2021)。为此,人们积极开发人工智能技术中的自适应学习技术,并期望通过人工智能技术赋能学习者的个性化学习,降低学习者先赋因素对教育结果的影响,弥合学习结果差距,实现教育公平(张海 等, 2020)。但是,人工智能技术对教育公平的影响仍然是基于技术模型的理想预测,在现实条件下能否顺利实现很少被审慎评估。事实上,正是这一乐观预期使人工智能技术具备了反噬教育公平的前提。

(二) 预期路径:基于自适应学习模型的“师—生—机”协同作用

由以上分析可知,人工智能技术的自适应学习模型,由于可为学生提供个性化学习支持而被认为有望促进教育公平。这一过程看似仅涉及技术和学生两大主体,并不需要教师参与。这是因为技术可以直接面向个体学习者,并不必然发生在学校场域,亦不必须有教师协同。但是,在讨论人工智能对教育公平的影响时,落脚点是在学校教育场域中的学习者群体。此时,教师成为不可或缺的角色。因此,分析人工智能技术的自适应学习模型对教育过程和教育结果的影响时,亦应从“师—生—机”协同的角度展开。其中,“机”既包括专门的人工智能教育应用,如学习任务推送系统、学习行为分析系统等,也包括教师和学生在学校教学和学习时使用的通用人工智能技术,如ChatGPT等。

具体而言,在学校教育场景中,基于自适应学习模型的“师—生—机”协同赋能个性化学习,遵循以下步骤:其一,人工智能技术和教师获取(或学习者输入)并分析学习者的学情信息,作为反馈的数据基础。其二,人工智能技术根据学情信息,依托内置的大数据模型和算法技术,检索互联网资源,形成量身定制的学习内容和学习任务,为学生提供个性化的精准推送,并结合实时学情数据动态调整推送的学习内容与任务。其三,教师作为人工智能技术的使用者,一方面,结合学情解析教学内容,并将教学需求反馈给人工智能技术;另一方面,根据教学内容与自身的教学经验,对人工智能技术提供的反馈进行加工,调整反馈内容与形式,纠偏可能产生的不准确信息。其四,学生接收反馈,根据接收到的反馈做出适应性改变,改进学习效果。其五,学生改进后的学习效果塑造了新的学情信息,再次输入给教师和人工智能技术,形成“师—生—机”协同反馈赋能个性化学习作用链(如图1所示)。

由上述作用链可知,反馈是人工智能技术影响教育公平的重要途径,人工智能技术对教育公平的预期影响就在于改进传统教学模式,以自适应学习模型中的个性化精准反馈为目标,通过上述三主体循环反馈赋能个性化学习链条,优化学生的学习过程,尤其是满足“师—生”双主体的教育模式中最少受惠者的利益,改进学习结果,形成促进教育公平的差距弥合力。

(三) 反噬表现:先赋因素的扩大与后致因素的削弱

上述对教育公平的正向影响能否实现,取决于人工智能技术能否通过基于自适应学习模型的“师—生—机”协同作用,克服先赋因素和学情基础对学习者发展水平的制约。在协同作用中,反馈失调现象的出现,使得人工智能技术无法突破这些制约惠及不利处境的学生,加剧了先赋因素与学情基础对于教育结果的影响,同时也削弱了后致因素对教育的作用,最终形成反噬教育公平的差距扩张力。

首先是与技术相关的反馈失调导致的先赋因素被放大。一是学生的家庭经济背景因素,经济条件较好的学生更容易获得智能设备、优质网络以及付费技术的支持,而经济条件较差的学生可能因缺乏相应资源,难以公平地使用这些技术(黎明 等, 2024)。二是学生所处地区因素,发达地区的学校更容易部署高效的人工智能教育工具(马欢, 2024),如智能作业系统、在线课堂等,而基础设施薄弱的地区或学校,即便引入了硬件设备,也会因系统稳定性和资源匹配问题难以充分利用。三是性别或种族等人种学因素,许多研究论证了人工智能算法中存在性别歧视问题(甘湉 & 马亮, 2024),如在教育领域中,男生更容易被推荐技术或科学类课程,女生则更可能被推荐语言或文科类课程,导致他们的学习方向局限于既有的性别刻板印象,限制了其多样性发展。现实的技术条件制约,会导致技术赋能的教学模式中,学生的家庭经济水平、所处地区、性别、种族等先赋因素的差异被进一步放大,扩大教育结果差异,反噬教育公平。

其次是与教师相关的反馈失调导致的后致因素被削弱。随着技术的飞速发展,教师对学生的教学权力开始被AI削弱(刘三女牙 & 郝晓晗, 2024),从教育的主导者逐渐演变为“人机协同”教学的设计者和学习的辅助者,成为承担设计人工智能赋能的教学任务,并辅助学习者使用人工智能技术展开学习的角色。在这一过程中,教师的教育教学能力作为影响教育结果的重要后致因素,其效用亦被削弱,取而代之的是教师使用人工智能技术加工反馈的能力。技术教学能力较强的教师,能够通过人工智能进行精准教学,帮助学生最大化提升学习效果;技术教学能力不足的教师可能滥用或误用人工智能技术,无法有效利用人工智能为学生提供反馈,甚至对学习结果产生负面影响。而教师的技术教学能力容易被教师自身的先赋因素(如经济水平、城乡归属等)影响(袁磊 & 刘沃奇, 2024),导致其作为学生发展影响因素的后致效应再一次被间接削弱。

最后是与学生相关的反馈失调导致的学情基础差异加剧。生成式人工智能技术作为通用人工智能,其反馈质量有赖于人类输入的指令质量,并且可开展基于人类反馈的强化学习(Yu et al., 2024)。学生输入的信息质量与其学情基础密切相关,数字素养好、逻辑性强的学生,其输入的信息质量更高,更易被人工智能技术识别,从而输出更精准的反馈信息。反之,数字素养相对较差、逻辑性较弱的学生,则难以接收到人工智能技术提供的精准反馈信息,并做出适应性改变,由此造成学习结果的马太效应。

四、反馈失调:人工智能技术反噬教育公平的原因分析

基于人工智能技术的自适应学习模型促进教育公平,需要“师—生—机”三要素协同反馈,以完成对学生的个性化学习支持。然而,在技术提供反馈、教师加工反馈、学生接收反馈的任一环节中,“师—生—机”三要素均存在现实条件与理想状态的不匹配性,致使预期的精准反馈演变为反馈失调。

(一) 赋能与竞技:人工智能技术发展的抱负与局限

人工智能技术是遵照一定算法,基于大数据训练的教学或学习模型,包括大数据模型、算力以及算法三个部分(肖睿 等, 2020)。为学生个性化教学提供精准反馈,为教育高质量发展“赋能”,必须建立在完备的反馈输入与精准的反馈输出基础上,这就要求人工智能技术汲取所有教育参与者的相关数据,通过广泛可访问的算力和无偏见的算法逻辑,在一个全面的数据模型中,筛选出与学习者个体特征相匹配的教育资源,达成在大规模教育模式中展开个性化教学的理想样态。但实际上,现有的大数据学习分析技术和学习设计技术,其针对性的资源推送能力,不能完全满足精准反馈的需求,并且在不同的人工智能技术应用中存在差距(陈明选 & 周亮, 2023),即使当前人工智能技术呈现出“竞技式”发展态势,仍未能解决现实问题,反而造成了反馈失调,对教育公平产生了不良影响。

第一,人工智能技术训练模型的数据基础,存在部分教育者和受教育者相关信息缺失的问题。从全球视野来看,南半球和北半球人口在数据接入端口上存在差距(Wimpenny et al., 2022)。从国家间角度来看,相较于发达国家,发展中国家在人工智能技术训练模型中的数据丰富程度显著不足(Wilfred et al., 2020)。即使在同一国家内部,农村地区相较于城市地区的数据,也更少被纳入训练模型(Khan et al., 2018)。从群体差异来看,处境不利学生或教师的信息更难以被收入,而技术开发人员可能也没有批判性地评估人工智能数据信息的公平性(Lynch et al., 2022),这导致人工智能技术为学习者提供的反馈中,本身就蕴含了不公平的因素。

第二,人工智能技术的尖端算力被资本垄断,使得其抓取信息并提供精准反馈,从而在自适应学习模型中提升学生学习收益的能力不再惠及大众。随着摩尔定律日益趋近极限,人工智能技术的芯片制程再次受到成本制约(戚聿东 & 徐凯歌, 2021),尖端算力被少数具有强大经济实力的资本集团控制。如谷歌开发的TPUs是专门为机器学习任务设计的硬件加速器,仅供谷歌集团内部使用,外部开发者则只能租用云平台,限制了低成本技术开发商的可及途径。算力不足的技术无法为学习者提供相对精准的反馈信息,扩大了教育结果的差距。

第三,不同人工智能技术的算法不同,更完备的算法体系被“科技巨头”控制,导致为学生提供精准反馈的算法出现差距。比如当前最新的生成式人工智能技术,虽然其技术架构是公开的,但除“科技巨头”外,很少有企业可以承担训练模型的高昂成本(陈永伟, 2023)。被核心算法和高水平模型训练驱动的人工智能技术,在教育应用中会更好地为学生提供反馈信息。反之,未能经过核心算法训练的人工智能技术则空有其表,使用这些技术不仅增加学习者的时间成本,还可能对学习效果产生负面反馈,如为学习者提供错误答案,甚至使学习者产生依赖性,削弱其自主学习能力。

综上所述,在关注人工智能技术的第一类要素即数据要素时,技术的训练模型存在数据偏见问题,即发展中国家、落后地区和弱势群体数据易被忽视。当分析第二类要素即算力要素时,由于摩尔定律趋近极限,算法改进必须考虑成本问题,导致人工智能技术的更新被资本垄断。而第三类因素即算法要素,则由于“科技巨头”对公司产品的技术保护,最终形成了技术垄断。上述三条路径,从不同角度引发了不同人工智能技术为学生提供精准反馈时信息输入的不完备性,最终反噬教育公平。

(二) 转译与中介:教师TPACK水平的愿景与差距

教师是学生基于自适应学习模型展开个性化学习的重要支持者。根据行动者网络理论,教师被认为是学生使用人工智能技术进行学习的重要转译者,其面向学生的“转译”功能决定了对技术反馈的加工效果,而这与教师的教学和技术知识息息相关。为了分析和阐释技术支持学习情境下教师所应具备的能力素质,庞亚•米什拉(Mishra, P.)和马修•科勒(Koehler, M.)在李•舒尔曼(Shulman, L. S.)提出的教学内容知识框架基础上开发了整合技术的学科教学知识(technological pedagogical content knowledge,TPACK)模型(Mishra & Koehler, 2006)。据此模型分析,在人工智能技术时代,教师所需知识包括内容知识(CK)、技术知识(TK)和教学知识(PK),由这三类知识两两交叉形成的跨学科知识,以及由三类知识统合形成的信息技术教学与内容综合性知识(Chai et al., 2011)。由此,教师才能有效加工反馈促进学习效果提升。但是,教师在TPACK各个维度的发展并不充分且存在差异(肖立 & 黄嘉莉, 2024; 崔羽杭 等, 2024),低TPACK水平的教师无法成为行动者网络中的合格转译者,难以高质量完成加工反馈的任务,进而造成人工智能技术反噬教育公平现象的蔓延。

首先,教师如果没有技术应用的经验及技术知识(TK),那么在与“非人类行动者”即人工智能技术互动时,就无法成为转译中的主导者(欧阳忠明 & 李书涵, 2020),其教学权力会完全让位于人工智能技术,教师加工反馈的作用难以体现。教育实践中,教师的技术经验的确存在差异,部分技术弱势教师难以辅助学生开展人工智能技术支持情境下的个性化学习过程。如有调查发现农村教师的技术知识显著落后于城市教师(张靖 & 郭炯, 2023),这意味着农村教师难以为农村地区的学生有效加工反馈信息,扩大了城乡教育结果差距。

其次,如果教师不具备良好的内容知识(CK)和教学知识(PK),即使能够成为转译者,也很难将学生的学习任务“问题化”,从而无法辅助学生的个性化学习。根据舒尔曼(Shulman, 1986)的教学内容知识框架,教师的内容知识是指教师在特定学科或领域中的知识,关注教师对所教学科内容和概念的理解。教学知识是指通用的教育学知识如教学设计知识、学生发展知识、课程知识等(Flores-Lueg, 2022)。调查显示,这两类知识在教师间一直存在差异(廖绒绒, 2023; 万昆 & 饶爱京, 2023),掌握程度较低的教师难以通过“问题化”过程加工反馈信息,从而影响学生接受反馈的效果。

最后,由于信息技术教学与内容综合性知识在不同教师间存在差距,加重了教师转译过程的差距,导致教师在技术帮助下加工反馈效果的分化。许多研究论证了上述差距,如相比女教师,男教师的技术教学知识和技术内容知识得分更高(王宇, 2023),这些差距不仅与性别有关,也和教师之前的教育背景相关(Li et al., 2022)。

综合来看,在基于人工智能技术展开教学的行动者网络中,教师只有在TPACK的各个维度得到充分发展,在面向学生展现学习任务时,才能成为有效加工反馈的转译者,提升学生的学习效果,实现人工智能技术促进教育公平的愿景。但是当前教师TPACK水平在各个维度上的发展并不充分,并且存在较大差异,导致教师加工反馈信息的能力存在较大差异,从而难以弥合技术赋能下学生学习效果差异,为教育不公平的蔓延带来了深层次的风险(如图2所示)。

(三) 适应与拒斥:学生反馈素养的期望与不足

面对人工智能技术的反馈信息,学生接收反馈并由此做出适应性改变的能力显著影响学习效果。戴维•卡利斯(Carless, D.)和戴维•邦德(Boud, D.)构建了一个技术支持学习情境下的学生反馈素养模型,包含感知反馈、评价判断、管理情绪以及采取行动四个部分(Carless & Boud, 2018; 董艳, 2020)。这些要素共同影响学生接收反馈的效果,并决定学习效果的改进方向。理想状态下,学生应具备高水平的反馈素养,能有效接收并适应人工智能技术和教师提供的反馈,并积极做出适应性改变。但调查显示,学生的反馈素养在性别、年级、区域等方面存在差异(陈小红 等, 2023),且这种差异同样会导致基于人工智能技术的学习效果差异。如有研究发现,相比于普通高校的学生,双一流高校的学生使用生成式人工智能技术对其批判性思维与自主学习能力的提升更为显著(戚佳 等, 2024),由此可见,学生反馈素养的差异造成了人工智能技术反噬教育公平现象的进一步深化。

首先,学生感知反馈信息的准备水平存在差异,处境不利学生感知反馈的能力相对落后。学生的先验知识和兴趣影响其对反馈信息的注意方向,而他们的认知能力决定了信息接收容量。根据认知负荷理论,同一时间内学生能够处理的信息有限(Sweller, 1988),且不同个体的认知负荷存在差异,当接收到的信息超越个体的认知负荷时,就产生了信息过载问题,此时,学生无法有效提取服务于个性化学习的反馈信息。

其次,学生评价反馈能力存在差异,处境不利学生难以批判性地吸收反馈信息。当前,人工智能技术尚处在发展阶段,其产生的反馈信息存在真假掺杂的问题。不同学生判断信息真实性的能力存在差异,一些无法分辨的学生接收到了错误的反馈信息,以此为依据调整学习方向,使学习路径日益偏离,扩大了学生接收反馈信息后学习效果的差距。

再次,学生在收到反馈信息后,在情感态度上对于反馈信息的接受程度,以及应用反馈信息的态度同样存在差异。虽然有学生以开放的心态和积极的情绪接受人工智能的反馈信息,对技术有用性和易用性做出了较高的评判,并迅速调整自己的学习策略,但亦有信息闭塞、能力有限的学生,抗拒人工智能教育技术中有效信息的输入,不认可技术的有用性和易用性。有研究发现,处境不利学生对教育情境的感知会比一般学生更加消极(张权力 等, 2021),这些学生无法依据反馈信息调整自己的学习方向。

最后,学生对反馈信息的能动转化存在差距。当学生感知、接受并认可来自人工智能教育应用和教师的反馈信息后,仍然需要恰当的动机、把握合适的机会并采用适当的方式做出相应行为改变(Shute, 2008)。但是不同学生的相关能力同样存在差异,PISA数据表明,处境不利学生的动机和效能感得分显著低于处境良好学生(赵德成 等, 2020),因此,他们更难根据接收到的反馈信息做出适应性改变。

综合而言,由于处境不利学生在感知反馈、评价反馈、情绪管理和适应改变等反馈素养上准备不足,人工智能技术基于自适应学习模型提供的精准反馈极易演变为单一信息循环,产生“回音室效应”(姜婷婷 & 许艳闰, 2021)。信息茧房中的学生无法了解他人的发展水平,也无法通过茧房之外的信息影响行动水平,固化了学习结果的分异,导致了人工智能技术反噬教育公平现象的深化。

五、协同提升:人工智能技术反噬教育公平现象的矫正对策

人工智能技术在教育中的应用加剧了教育公平风险,如何防范技术对公平的负面影响,是需要面对且深入解析的难题。通过归因分析可以发现,防止“师—生—机”协同作用中的反馈失调有助于破解人工智能技术在教育应用过程中对公平的反噬现象。鉴于此,应纠偏技术发展理念与发展路线,提升教师TPACK水平,加强学生反馈素养的培育,并通过完善技术供给的配套保障和监管体系建设,提高反馈精度,优化基于人工智能技术自适应学习支持的“师—生—机”互动过程,以实现改进学习效果、促进教育公平的正向预期。

(一) 技术发展理念从竞技式转向普惠式,让技术服务惠及大众

人工智能“竞技式”的技术更新,虽从长远看有望增加为学习者提供反馈的精准性,但在现实条件的约束下,容易导致技术供给只求新不求稳,只求算法与算力的尖端,不考虑使用成本与面向对象,造成资源浪费等问题。因此,技术供给理念不应一味追求“高精尖”,而应综合考虑技术的面向范围,提升技术供给的普惠性与实用性,打破技术壁垒,让学习者公平可及地享受人工智能技术带来的教育效果增益。

首先,人工智能技术构建教育大数据模型时,应当充分考虑处境不利学生的信息收集。“数字鸿沟”的存在不仅让数字弱势群体难以接触人工智能教育应用,也使得技术大数据模型难以纳入处境不利学生的相关信息,造成人工智能技术信息反馈的数据偏见。应当通过数据增强和科学的数据管理计划消解少数群体代表性不足的情况,加强对已有文本数据中的各类隐性偏见的对抗性学习,提升训练数据中样本的多样性,为精准反馈构建完备的数据基础。

其次,扭转算力至上的高精尖技术供给理念,重视技术供给的普惠性。创造新“鳍片结构”,以期再度拯救摩尔定律,让人工智能技术在教育领域的开发与更新尽可能与高投入、高资本解绑,提升人工智能技术的普惠性,增强顶级算力的可及性,让人工智能技术普遍拥有足以提供精准反馈的高性能算力。

最后,弱化技术供给的竞争性,打破算法孤岛,进行技术整合。在竞争形势下,人工智能技术的算法更新被封闭,阻断了与其他技术或平台的整合,导致技术的孤立和碎片化,不利于教育过程和教育结果的公平性。因此,应当转变技术供给理念,打破技术壁垒,创设更多更优质的开源数据开发平台,使基于尖端算法提供的精准反馈能够惠及全体学生。

(二) 提高教师TPACK水平,优化教师反馈加工能力

作为加工反馈改进学习效果的重要角色,教师TPACK的差异成为技术反噬教育公平的放大器。要避免这种放大效应,就应提升教师的TPACK水平,在向学生推广人工智能技术支持下的“师—生—机”互动学习模式之前,丰富教师的技术知识,提高教师基于人工智能技术的教学能力,以即时修正人工智能技术的反馈偏差,促进学习增效。

其一,开展技术应用培训,为教师提供人工智能技术相关知识(TK)培训。通过开展专项讲座,编写和提供关于人工智能技术教育应用的教材、手册或操作指南等措施,为教师全方位提供人工智能技术赋能教育教学的知识,防止教师的教学权力完全让位于人工智能技术,提升教师的转译能力,提升教师对人工智能技术提供的反馈信息的加工效能。

其二,为教师提供丰富的人工智能技术在教育中的应用场景,拓展教师的技术实践经验。人工智能技术如若在教育场景中直接面向学生,极易导致学生包括认知惰性在内的各类偏差性学习行为,教师如果缺乏使用人工智能技术的相应经验,则无法识别并矫正偏差行为。因此,学校和教育行政部门应当为教师购买相关的人工智能技术应用软件以及相应的体验课程,为教师提供智能教学方式的自主选择空间(宋凡 & 龚向和, 2024),让教师在实践中感知人工智能技术在教育中应用的优缺点,从而有能力修正技术对学生产生的负性反馈。

其三,培养教师使用人工智能技术开展教学的能力,提升加工反馈的精准性。即使教师的技术知识达到基本均衡水平,结合人工智能技术进行教育教学的能力仍可能存在差异。因此,不仅要让教师掌握相关技术,还应帮助其将这些技术有效融入日常教学,提升其跨学科教学能力,从而更好地利用最新的人工智能技术改进教学效果,优化反馈质量,增强技术对教育公平的促进作用。

(三) 加强学生反馈素养培育,提升反馈接收效用

学生拥有着复杂的行为模式与情绪系统,影响着他们对学习任务的完成情况,在技术供给时应当予以充分考虑。因此,人工智能技术在为学生提供反馈时,不应只提供知识性学习内容,还应综合考虑学生的认知能力、思维水平、动机意愿与情绪情感状态等反馈素养,以提升学生接收反馈改进学习结果的效用。

一是人工智能技术在提供反馈内容以及教师在加工反馈内容时,应从学生先验经验和认知负荷的角度,考虑学生接受反馈的兴趣与能力。现有的人工智能技术根据学生前期知识掌握情况,给出下一步的学习内容,设计学习进度,但缺少对学生认知负荷的考量,削弱了技术对学习效果的影响,甚至造成相同知识基础学生的不同学习结果。因此,应当统筹考虑不同学生的认知能力,重点加工契合处境不利学生认知能力的反馈信息,减小教育结果差距。

二是注重培养学生的批判性思维能力,避免人工智能技术的不良反馈对学生产生负面影响。人工智能技术发展的初期阶段,存在大量的“AI幻觉”现象。如果学生没有一定的批判性思维能力,对人工智能技术提供的反馈内容照单全收,将在错误的学习道路上越走越偏。因此,应设置专门课程,培养学生的批判性思维能力,防止学生接收人工智能技术提供的不实反馈信息,加剧教育不公平。

三是应在“师—生—机”协同作用过程中关注学生情绪情感状态和动机水平。根据人本主义学习理论,知识学习只是学习过程的一部分,更有意义的学习是让学习者情绪情感和价值观都产生变化的学习,这种情绪情感还会影响学习者反馈适应的能动性和适应效果。因此,收集不同年龄段学生的情绪情感状态数据,建立情绪情感认知数据库,将有助于超越“莫拉维克悖论”,进一步帮助学生更好地接收反馈信息,改进学习效果。

(四) 完善技术供给配套保障和监管体系建设,提高反馈精度

达成人工智能技术基于自适应学习模型促进教育公平的正向预期,不仅要从“师—生—机”协同作用的角度出发提高反馈精度,还需完善技术供给的配套机制建设,避免人工智能技术在教育领域的冒进式推广,加快技术水平和技术应用的配套评价体系和监管体系建设,消解反馈失调,提升促进教育公平的差距弥合力。

第一,稳步调节人工智能技术在教育实践中的推进步伐,减少负性反馈,削弱反噬教育公平的扩张力。在人工智能技术飞速发展过程中,人工智能教育应用层出不穷,但是质量良莠不齐。因此,要改进技术供给质量,研究多样化混合推荐策略,真正满足教育场域中学生的使用需求。而在技术水平未尽如人意时,应适当调节甚至放慢技术供给速度,优先设置技术供给标准,保障人工智能技术影响教育公平的底线。

第二,谨慎将人工智能技术供给水平作为学校的考核评估指标,提高技术的精准反馈,提升技术对教育公平的弥合力。技术供给程度具有量化易评估的特性,因此成为不少学校项目评估中的考核指标。许多技术开发商以此为契机,以营利为目的,不遗余力向学校等教育机构推销带有人工智能技术名号的相关产品,学校则仅根据经费情况和考核需求进行采买,未能考虑产品质量和给学生带来的效果增益,错失了借助人工智能技术促进教育公平的良机。因此,应慎重考虑在各类考核中添加“技术供给程度”相关指标,不将采购设备作为评价要素,保证学校根据实际使用效果采买相关技术设施设备。在使用端保障技术对教育的正向影响,从开发端倒逼精准反馈技术的研发,提高人工智能技术对教育公平的正向影响。

第三,构建人工智能技术在教育应用过程中的配套开发与推广监管体系,加强政策约束,形成促进教育公平的合力。当前,我国虽然已经颁布了有关人工智能技术的发展规划,但配套的政策保障尚不完善,更缺乏细致完备的监管体制(王建梁 & 刘天雨, 2023),未形成对学生权益的基本保障。因此,应完善并细化基于人工智能技术的教育应用政策标准,构建多层次技术供给配套法律和政策规范,保障学习者在学习过程中使用人工智能技术的基本权益。

六、结语

人工智能技术对于教育公平的影响同时存在正负属性,其正面属性是人们不断发展并且拓展人工智能技术应用的动力,而面对其负面属性,则应当深入分析、尽早布局。数字鸿沟和算法偏见等学界讨论较多的“天然”负面属性值得重视,同时预期中的正面属性能否实现,是否会发生反噬现象而溃变为实际上的负面属性,亦需警惕。自适应学习模型是人工智能技术对于教育公平影响的预期正向路径,但当前人工智能技术中的大数据模型、算力与算法的差距,使用人工智能技术进行辅助教学的教师TPACK差异,以及应用人工智能技术开展学习的学生在反馈素养方面的差异,均会导致此链条中的反馈有所偏差,出现反馈失调,使得预期中的教育结果的差距弥合无法实现,从而反噬教育公平。

为了有效减少人工智能技术带来的负面效应,亟须开展技术供给的内容创新与机制优化。应摆脱“竞技式”“技术至上”等追求高精尖技术供给理念的束缚,在教师中优先进行技术使用的推广和技术应用能力培训,提升学生接收和应用技术反馈信息的综合能力,加强人工智能技术在教育应用中的配套考核与约束政策体制供给。这些举措能为技术供给带来转变与调适的方向,有助于矫正人工智能教育技术引发的反噬公平问题,同时也在一定程度上规避技术带来的其他伦理风险。

从预期正向影响路径切入分析人工智能技术对教育公平的反噬现象,有助于打破对技术应用的盲目乐观想象,提升技术更新和推广的审慎态度。但是,这一相对微观的切入点显然无法对人工智能技术与教育公平的关系进行全面探讨,仍有下述问题有待进一步讨论:第一,教育公平是否应成为人工智能技术追求的最重要的教育价值?如何凸显这一价值导向?第二,除自适应学习模型外,人工智能技术还能通过哪些机制弥合学习结果差距,促进教育公平?第三,不同国家或地区,人工智能技术对教育公平是否有不同影响?未来的研究可通过价值分析、实证研究、国际比较等方法,更加全面和深入地探索人工智能技术与教育公平的关系,推动人工智能技术全面惠及教育公平。

参考文献

鲍日勤. (2018). 人工智能时代的教与学变迁与开放大学2.0新探. 远程教育杂志(3), 25-33.

陈恩红, 刘淇, 王士进, 黄振亚, 苏喻, 丁鹏, 马建辉, & 竺博. (2021). 面向智能教育的自适应学习关键技术与应用. 智能系统学报(5), 886-898.

陈明选, & 周亮. (2023). 数智化时代的深度学习:从浅层记忆走向深度理解. 华东师范大学学报(教育科学版)(8), 53-62.

陈小红, 王琳, & 李燕玲. (2023). 中学生批判性思维的培养——基于S市学生的调查. 心理月刊(1), 167-170.

陈永伟. (2023). 超越ChatGPT:生成式AI的机遇、风险与挑战. 山东大学学报(哲学社会科学版)(3), 127-143.

褚宏启. (2020). 新时代需要什么样的教育公平:研究问题域与政策工具箱. 教育研究(2), 4-16.

崔羽杭, 陈嘉仪, & 时利利. (2024). 高校英语教师TPACK能力现状调查研究. 现代英语(10), 70-72.

董晓辉, 杨晓宏, & 张学军. (2017). 自适应学习技术研究现状与展望. 电化教育研究(2), 91-97, 121.

董艳. (2020). 学生反馈素养论纲:内涵、模型与发展. 开放教育研究(5), 26-39.

甘湉, & 马亮. (2024). 算法性别歧视:特征、类型与治理. 山东行政学院学报(2), 97-105.

胡小勇, 孙硕, 杨文杰, & 丁格莹. (2022). 人工智能赋能教育高质量发展:需求、愿景与路径. 现代教育技术(1), 5-15.

江波, 章恒远, & 魏雨昂. (2023). 如何判定自适应学习系统的有效性——基于因果结构分析框架. 现代远程教育研究(2), 95-101.

姜婷婷, & 许艳闰. (2021). 窄化的信息世界:国外信息茧房、选择性接触与回音室研究进展. 图书情报知识(5), 134-144.

科技部等六部门. (2022-7-29). 科技部等六部门关于印发《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》的通知. 中华人民共和国中央人民政府网站. https://www.gov.cn/zhengce/zhengceku/2022-08/12/content_5705154.htm

李建伟, 葛子刚, & 张爱阳. (2020). 自适应学习系统在成人本科学士学位英语学习中的应用研究. 现代教育技术(3), 59-65.

黎明, 徐政, 葛力铭, & 徐中平. (2024). “人工智能+”赋能高等教育:理论逻辑、现实困境与实践路径. 科学管理研究(5), 57-65.

廖绒绒. (2023). 新文科建设背景下英语专业教师学习共同体的PCK发展研究. 海南师范大学学报(社会科学版)(2), 73-80, 122.

刘三女牙, & 郝晓晗. (2024). 生成式人工智能助力教育创新的挑战与进路. 清华大学教育研究(3), 1-12.

马欢. (2024). 教育数字歧视的规制逻辑:从技术理性、价值理性到制度理性. 现代远程教育研究(3), 46-54.

欧阳忠明, & 李书涵. (2020). 欧洲代际学习项目的跨个案研究. 宁波大学学报(教育科学版)(6), 8-17.

潘信林, & 罗妍. (2024). 建立健全更加公平的教材供给机制. 全球教育展望(11), 43-54.

戚佳, 徐艳茹, 刘继安, & 薛凯. (2024). 生成式人工智能工具使用对高校学生批判性思维与自主学习能力的影响. 电化教育研究(12), 67-74.

戚聿东, & 徐凯歌. (2021). 后摩尔时代数字经济的创新方向. 北京大学学报(哲学社会科学版)(6), 138-146.

秦树泽. (2023). 教育公平视域下家庭教育的有效性审视——兼评《家庭教育促进法》. 清华大学教育研究(4), 73-79.

石倩, & 万秀兰. (2024). 培养“为未来做好准备”的数字化学习者——新加坡《教育技术规划》的实施路径与影响因素探析. 浙江师范大学学报(社会科学版)(1), 97-107.

宋凡, & 龚向和. (2024). 替代还是赋能:人工智能教学对教师教学权的冲击及其应对. 中国远程教育(4), 15-27.

孙田琳子. (2023). 技术民主化视域下教育元宇宙的治理逻辑——兼论一场教育思想实验何以可能. 电化教育研究(10), 63-69.

万昆, & 饶爱京. (2023). 促进跨学科学习的发生机制、模型构建与实证研究. 中国电化教育(8), 59-67.

王建梁, & 刘天雨. (2023). 三螺旋理论视角下新加坡人工智能教育战略研究. 比较教育学报(3), 111-122.

王佑镁, 王旦, & 柳晨晨. (2022). 从科技向善到人的向善:教育人工智能伦理规范核心原则. 开放教育研究(5), 68-78.

王佑镁, 王旦, 梁炜怡, & 柳晨晨. (2023a). “阿拉丁神灯”还是“潘多拉魔盒”:ChatGPT教育应用的潜能与风险. 现代远程教育研究(2), 48-56.

王佑镁, 王旦, 王海洁, & 柳晨晨. (2023b). 算法公平:教育人工智能算法偏见的逻辑与治理. 开放教育研究(5), 37-46.

王宇. (2023). 西安市初中农村数学教师TPACK发展的现状调查与应对策略研究. 西安文理学院学报(自然科学版)(2), 99-104.

肖立, & 黄嘉莉. (2024). 数字化时代欠发达地区乡村中小学教师TPACK的组态构型与提升策略. 教育科学研究(2), 20-26.

肖睿, 肖海明, & 尚俊杰. (2020). 人工智能与教育变革:前景、困难和策略. 中国电化教育(4), 75-86.

薛二勇, 傅王倩, & 李健. (2021). 论在线教育发展的公平问题. 中国电化教育(3), 1-7, 70.

袁磊, & 刘沃奇. (2024). 民族地区教师数字素养的发展现状与提升路径——基于广西9市教师样本的实证分析. 民族教育研究(1), 117-124.

张海, 崔宇路, 余露瑶, 季孟雪, & 王以宁. (2020). 人工智能视角下深度学习的研究热点与教育应用趋势——基于2006~2019年WOS数据库中20708篇文献的知识图谱分析. 现代教育技术(1), 32-38.

张靖, & 郭炯. (2023). 农村中小学教师数字素养提升:价值意蕴、现实困境及策略探析. 电化教育研究(8), 122-128.

张黎, 周霖, & 赵磊磊. (2023). 生成式人工智能教育应用风险及其规避——基于教育主体性视角. 开放教育研究(5), 47-53.

张权力, 陈星霖, 沈悦, & 王宏梅. (2021). 积极心理学视角下高校贫困生成长需求的关照研究——基于高校贫困生发展资源模型的建构与分析. 福建教育学院学报(1), 23-28.

张新民, & 张稷锋. (2023). 论教育技术向善:基于技术反噬公平的视角. 四川师范大学学报(社会科学版)(3), 107-116.

赵德成, 周瑶, & 李睿淼. (2020). 处境不利学生的发展及其影响因素——基于我国四省市PISA2015数据的分析. 教育学报(6), 85-95.

Baker, R. S., & Hawn, A. (2022). Algorithmic bias in education. International Journal of Artificial Intelligence in Education, 32(4), 1052-1092.

Blanchard, E. G. (2015). Socio-cultural imbalances in AIED research: Investigations, implications and opportunities. International Journal of Artificial Intelligence in Education, 25, 204-228.

Carless, D., & Boud, D. (2018). The development of student feedback literacy: Enabling uptake of feedback. Assessment & Evaluation in Higher Education, 43(8), 1315-1325.

Chai, C. S., Koh, J. H. L., Tsai, C. C., & Tan, L. L. W. (2011). Modeling primary school pre-service teachers’ Technological Pedagogical Content Knowledge (TPACK) for meaningful learning with information and communication technology (ICT). Computers & Education, 57(1), 1184-1193.

Flores-Lueg, C. (2022). Reflective processes promoted in the practicum tutoring and pedagogical knowledge obtained by teachers in initial training. Education Sciences, 12(9), 583.

Gunkel, D. J. (2003). Second thoughts: Toward a critique of the digital divide. New Media & Society, 5(4), 499-522.

Husén, T. (1975). Social influences on educational attainment: Research perspectives on educational equality. OECD Publications Center.

Kaya, F., Aydin, F., Schepman, A., Rodway, P., Yetişensoy, O., & Demir Kaya, M. (2024). The roles of personality traits, AI anxiety, and demographic factors in attitudes toward artificial intelligence. International Journal of Human-Computer Interaction, 40(2), 497-514.

Khan, S., Hwang, G. J., Abbas, M. A., & Rehman, A. (2018). Mitigating the urban-rural educational gap in developing countries through mobile technology-supported learning. British Journal of Educational Tecahnology, 9, 735-749.

Li, S. Q., Liu, Y. X., & Su, Y. S. (2022). Differential analysis of teachers’ technological pedagogical content knowledge (TPACK) abilities according to teaching stages and educational levels. Sustainability, 14(12), 7176. HTTPS://DOI.ORG/10.3390/SU14127176

Lin, X. F., Tang, D. D., Shen, W. P., Liang, Z. M., Tang, Y. E., & Tsai, C. C. (2020). Exploring the relationship between perceived technology-assisted teacher support and technology-embedded scientific inquiry: The mediation effect of hardiness. International Journal of Science Education, 42(8), 1225-1252.

Lynch, P., Singal, N., & Francis, G. A. (2022). Educational technology for learners with disabilities in primary school settings in low-and middle-income countries: A systematic literature review. Educational Review, 76(2), 405-431.

Madaio, M., Egede, L., Subramonyam, H., Vaughan, J. W., & Wallach, H. (2022). Assessing the fairness of AI systems: AI practitioners’ processes, challenges, and needs for support. Proceedings of the ACM on Human-Computer Interaction, 6, 1-26.

Mishra, P., & Koehler, M. J. (2006). Technological pedagogical content knowledge: A framework for teacher knowledge. Teachers College Record, 108(6), 1017-1054.

Shulman, L. S. (1986). Those who understand: Knowledge growth in teaching. Educational researcher, 15(2), 4-14.

Shute, V. J. (2008). Focus on formative feedback. Review of educational research, 78(1), 153-189.

Sweller, J. (1988). Cognitive load during problem solving: Effects on learning. Cognitive science, 12(2), 257-285.

Wilfred, N., Ian, O., & Kathleen, M. S. (2020). The use of health-related technology to reduce the gap between developed and undeveloped regions around the globe. American Society of Clinical Oncology Educational Book, 40, 1-10.

Wimpenny, K., Finardi, K. R., Orsini-Jones, M., & Jacobs, L. (2022). Knowing, being, relating and expressing through third space global south-north COIL: Digital inclusion and equity in international higher education. Journal of Studies in International Education, 26(2), 279-296.

Yu, T., Yao, Y., Zhang, H., He, T., Han, Y., Cui, G., Hu, J., Liu, Z., Zheng, H. T., Sun, M., & Chua, T. S. (2024). Rlhf-v: Towards trustworthy mllms via behavior alignment from fine-grained correctional human feedback. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (pp. 13807-13816). Seattle.

The Phenomenon of Artificial Intelligence Technology Undermining Educational Equity and Its Correction

Ma Siteng Shi Guangjun Wang Qi

Abstract: Educational equity is one of the key and challenging issues in education. The traditional “one to many” teacher-student relationship often fails to provide disadvantaged students with optimal value-added development, which cannot bridge educational gaps. As a new subject emerging in education, artificial intelligence (AI) technology holds the potential to provide learners with precise feedback through adaptive learning models, thereby empowering high-quality personalized learning processes and overcoming the impact of learners’ ascribed factors and foundational differences in learning conditions, enhancing the role of acquired factors, so as to promote educational equity. The realization of this vision depends on the full and balanced development of the three key subjects—teachers, students, and AI. However, in practical terms, issues such as the big data models, computational power and algorithm differentiation of AI, variations in teachers’ TPACK levels and disparities in students’ feedback literacy can all lead to feedback imbalances in personalized learning supported by adaptive learning models, which fails to meet the interests of the “least beneficiaries” and triggers a backlash against educational equity. To this end, efforts should focus on four aspects: establishing a concept of inclusive technology supply, providing teachers with technical pedagogical training, emphasizing the improvement of students’ feedback literacy, and constructing supporting technology policy supervision systems, so as to prevent the risk of artificial intelligence technology backlashing against educational equity.

Key words: artificial intelligence technology; educational equity; “teacher-student-AI” collaboration; adaptive learning model; feedback

注:北京市教育科学“十四五”规划2023年度优先关注课题“基础教育阶段北京市国际学校的需求与发展质量研究”(课题编号:ACEA23006)。

(本文首次发表在《中国远程教育》2025年第7期)