人工智能技术正全面融入教育领域的各个环节,这种深度融合既为教育带来了变革,也引发了诸多伦理问题。为应对这一挑战,政府相继出台了一系列政策文件,如中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》,旨在明确技术发展应遵循的伦理原则与行为规范。与此同时,学术界围绕人工智能教育应用的伦理风险及治理展开了多维度探讨:谢娟提出在人工智能与教育融合过程中要坚持伦理先行原则;杨俊锋等构建了人工智能教育应用伦理规范指标体系[2];王佑镁等提出以敏捷治理方法灵活、快速地对伦理风险作出反应;沈苑、汪琼将价值敏感设计作为伦理困境的有效突破口,完善人工智能与教育融合发展的伦理治理路径[4。总体来看,现有研究多借鉴法律、管理等领域的治理模式来探讨人工智能教育应用的伦理治理,尚未建立起系统化的人工智能教育应用伦理治理的理论体系。基于此,本文在剖析人工智能教育应用伦理治理的价值意蕴及现实困境的基础上,提出人工智能教育应用伦理治理的实践路向,以期推动人工智能在遵循伦理规范的前提下赋能教育发展。

一、人工智能教育应用伦理治理的价值意蕴

(一)加强伦理治理可以明确人工智能在教育中的角色定位

伦理治理作为重要保障,通过构建明确的应用规范,可以准确定位人工智能在教育中的角色并有效发挥其作用。人工智能的介入改变了教育领域传统的“教师一学生”二元关系,形成了“教师一人工智能一学生"的三元协同互动模式。5在这种模式下,教师的角色从传统的知识传授者转变为人工智能的协作者,学生则可能将人工智能视为自己的“教师”[这种异化现象会导致师生间的情感交流被机器替代,进而弱化教育中本应具备的人文关怀。从伦理治理的视角来看,相关主体需要重新审视人工智能在教育中的角色,应将其视为增强而非替代师生间情感交流的桥梁;通过合理设计和应用,使人工智能成为促进师生互动的“情感催化剂”,有效建立师生间的信任,弥补技术介人可能带来的情感缺失。伦理治理可以限定人工智能在教育教学中的应用领域及其边界,使其遵循“教师主导、学生主体、智能辅助"的应用原则,确保教师在教育过程中的引导作用,避免学生成为人工智能的附庸。

(二)加强伦理治理可以引导教育领域人工智能的规范应用

当前,人工智能应用失范现象已成为教育领域的一个现实挑战。在此背景下,加强伦理治理成为人工智能赋能教育的必然要求。强化伦理治理有助于明确规定技术开发者、使用者和监管者在人工智能应用中的责任,为技术应用建立必要的伦理规范,从而保障数据收集与使用的合法性、算法设计的公平性与透明度,确保人工智能应用遵循“以人为本”的基本原则,从而保障教育领域人工智能的健康发展与合理应用。

(三)加强伦理治理可以使人工智能教育应用回归育人本质

人工智能凭借其强大的功能可以对教育过程进行优化,为学生提供个性化的学习路径。但是人工智能应用于教育领域也隐藏着巨大的风险。隐藏在人工智能算法中的推荐机制可能窄化学习范围,而由机器代替人类进行选择和决策的过程则极大地限制了人的自主性。当个体被置于算法的主导之下时,其全面发展的可能性将被削减。因此,伦理治理通过引导技术应用回归育人本质,既能拓展人的全面发展路径,又能丰富人的全面发展内涵。同时,在人工智能教育应用伦理框架下,将智能素养和数字素养纳入全面发展的体系,可以有效应对技术所带来的负面影响[8,帮助学生从被动适应转向主动驾驭,最终促进学生的全面发展。

二、人工智能教育应用伦理治理的现实困境

(一)治理主体认知局限

虽然学术界已经开始关注人工智能教育应用的伦理风险,但实践中相关治理主体对如何识别技术应用中的侵权行为、如何维护主体权益等问题尚未有清晰认知。尤其是教师与学生作为教育领域人工智能应用主体,因欠缺相关知识,导致其不知如何有效参与伦理治理。这一现状带来两个方面的困境:一是教师与学生作为利益相关者在人工智能教育应用伦理治理中的缺位会导致他们的基本诉求被忽视;二是教师与学生缺乏风险抵御能力,易对人工智能技术产生认知偏差。当人工智能在解决具体教育问题时,其输出的结果可能以隐蔽的方式将技术内部固有的偏见与不公平性呈现出来。因此,相关治理主体如果不能意识到上述问题并有效地引导和约束人工智能教育应用,那么人工智能教育应用伦理治理则难以取得实效。

(二)价值属性与工具属性的失衡

在工具理性背景下,优化教学效果、提升学生成绩成为人工智能教育应用的首要目标。这种倾向往往导致师生过度关注人工智能的工具属性,而忽视其价值属性,从而使伦理治理陷入困境。在以效率为导向的目标下,人工智能应用往往要求师生按照技术生成的教学方案开展教学活动9,师生在这种机械化、程序化的教学过程中难以发挥他们的创造性与灵活性。长此以往,师生的个性发展被忽视,最终导致育人目标出现偏移。同时,以人工智能所提供的量化结果作为评价伦理治理效果的依据,容易使人工智能伦理治理始终处于唯分数、唯升学率等思想的禁锢之中,加剧教育的功利化倾向。

(三)治理主体的责任边界不明确

主体责任的划分是人工智能教育应用伦理治理的重要部分。各主体需要明确自身在伦理治理中的具体职责。然而,目前实践中尚未形成明确的责任划分,这不仅使各治理主体无法有效地管理人工智能在教育中的应用,还可能导致各治理主体之间的矛盾,从而影响伦理治理的效果。一方面,伦理问题成因的复杂性让治理责任的边界变得模糊。人工智能教育应用的伦理困境源于多方面原因,不仅涉及技术本身,也涉及技术的使用及管理等。面对人工智能带来的问题,仅靠教育主管部门或学校的科层式管理难以奏效。随着人工智能在教育领域的深度应用,伦理治理越来越需要更多的社会性支持。1]另一方面,各治理主体之间的利益纠纷增加了责任划分的难度。人工智能教育应用伦理治理涉及政府、研发机构以及学校等多个主体,各治理主体从伦理、技术及社会的多重角度进行利益权衡,彼此之间不断进行博弈,导致伦理问题难以解决。]

(四)伦理规范不具体

伦理规范是人工智能教育应用伦理治理的依据。虽然《新一代人工智能治理原则一发展负责任的人工智能》新一代人工智能伦理规范》《关于加强科技伦理治理的意见》等政策文件为人工智能教育应用伦理治理提供了参考,但其仍面临诸多挑战。一方面,共识性的伦理规范并未充分考虑教育领域的独特性。过度依赖人工智能可能会削弱学生的自主学习能力与社会情感能力,甚至影响其身心健康发展。12人工智能教育应用的伦理问题并不完全等同于一般的伦理问题[13],将一般的伦理规范应用于教育领域会出现“水土不服”的现象,无法解决独属于教育领域的伦理问题。另一方面,缺乏具体且具有可操作性的伦理规范,导致各治理主体对人工智能伦理问题的理解存在差异。例如,“福祉”主要是指教育人工智能在设计、开发和应用过程中能实现教育教学活动中所有相关人员教育利益的最大化。[14而某些研发机构对"福祉"的理解比较片面,忽视了教育利益最大化的核心要求,仅追求市场利益的最大化。

三、人工智能教育应用伦理治理的实践路向

(一)强化人工智能伦理教育:深化治理主体认知

随着人工智能与教育的深度融合,开展人工智能伦理教育已成为重要议题。人工智能伦理教育应以“伦理先行"为基本原则,承担规范人工智能应用、构建良好伦理秩序的重任[15,培养各治理主体的伦理意识和治理能力。一方面,学校作为开展人工智能伦理教育的核心场所,应根据不同教育阶段,构建分层次、系统化的人工智能伦理课程体系。基础教育阶段,课程内容应侧重人工智能伦理的基本概念、价值观念以及简单应用场景的伦理分析,使学生能初步了解人工智能的伦理问题,培养其伦理意识与道德判断能力。高等教育阶段,学校应根据学科专业的特点,设计具有针对性的课程模块,深入探讨人工智能在教育领域应用的具体伦理挑战以及解决方案,积极展开实践活动,提升学生参与人工智能伦理治理的能力。另一方面,人工智能伦理教育应充分发挥家庭和社会的协同作用,使学校、家庭、社会形成教育合力,为人工智能伦理教育提供更加丰富多样的资源和平台,共同营造良好的治理环境。

(二)平衡人工智能的价值属性与工具属性:树立“以人为本”的治理理念

人工智能价值属性与工具属性的失衡本质上是对"以人为本”治理理念的忽视,没有满足人的全面发展以及更高层次社会发展的需要。1因此,必须将“以人为本"作为伦理治理的根本遵循。这就要求技术开发、应用与监管等环节都需要以人的全面发展为根本目的,避免技术对人的身心健康造成负面影响,实现人的利益最大化。7实践中,需要构建一套以人的利益为导向的治理框架,确保价值属性对工具属性的全面引领,这一过程涉及对人工智能教育应用的全程监督。首先,在技术研发阶段,应以教育主体的需求为出发点,充分考虑学生和教师的使用体验与实际需求。研发过程中遵循人的发展的基本规律,确保技术设计能契合教育本质和目标。其次,在技术应用阶段,应重点关注在数据分析、评估机制等方面是否出现损害教育主体利益的问题,确保技术服务于教育主体的发展。再次,在监管与评估阶段,应将教育主体的满意度、教育公平的实现、能力提升等非量化因素作为评估指标。

(三)明确治理主体的责任边界:构建多元主体协同治理路径

多元主体协同治理强调打破传统治理主体“各自为政"的模式,使各利益主体共同参与人工智能教育应用伦理治理。在多元主体协同治理中,政府应充分发挥引导作用。政府通过构建明确且具有前瞻性的治理框架,确立人工智能教育应用准则、制定人工智能教育应用规范,为其他治理主体提供清晰的行动指南,使他们在参与治理时有章可循。同时,政府应发挥其监督和管理职能,对人工智能教育应用过程进行监督,确保其符合伦理规范,并对违反伦理原则的行为依法进行惩处。此外,政府还需要搭建沟通协调平台,促进各治理主体之间的有效交流与合作,使各主体能在协同过程中维护自身利益,形成持久、稳定的关系,共同识别、分析和解决人工智能教育应用的伦理问题,不断提高伦理治理的实效。18]

(四)制定具体可操作的人工智能教育应用伦理规范:明晰伦理治理的具体策略

人工智能教育应用伦理规范的制定应立足教育实践,确定明确且可操作的策略,为各类教育应用场景提供具体可行的解决方案。首先,需要明确人工智能在促进教育公平、保障学生权益等方面的责任和义务,并结合教育实践中的具体问题,对伦理规范进行细化。例如,“促进学生发展”要求人工智能必须面向每一位学生,尤其是弱势群体、特殊群体等,充分保障每位学生的合法权益,促进他们的全面发展。其次,需要清晰界定人工智能教育应用伦理规范的作用范围。一方面,伦理规范需要针对不同场景设置差异化的伦理要求与监管强度;另一方面,伦理规范必须贯穿人工智能的研发设计、推广应用与后期维护等全过程,每一个环节都应该严格遵循相应的伦理规范。再次,伦理规范的内容应随着技术的迭代与发展持续变化,保持其前瞻性和灵活性,实现对人工智能教育应用的持续引导。19]

四、结语

人工智能技术推动教育数字化纵深发展的同时给教育领域带来了诸多风险与挑战,伦理治理正是回应这些风险与挑战的重要路径。本文尝试在技术创新与教育需求之间寻求应用的平衡点,使人工智能真正成为赋能教育的工具。未来,人工智能教育应用的伦理治理仍要在理论构建、技术监管等方面进一步探索,以持续推动人工智能与教育的深度融合。

参考文献

[1]谢娟.人工智能与教育融合创新何以“伦理先行”—兼论生成式人工智能教育应用的伦理路径J.现代远程教育研究,2024(6):11-19.

[2]杨俊锋,褚娟,张斌贤.人工智能教育应用伦理规范指标构建研究[J].电化教育研究,2024(10):19-27.

[3]王佑镁,王旦,梁炜怡,等.敏捷治理:教育人工智能伦理治理新模式[J].电化教育研究,2023(7):21-28.

[4]沈苑,汪琼.人工智能教育应用的价值敏感设计[J].电化教育研究,2023(7):44-50,74.

[5]张海波,杨兆山.ChatGPT的教育挑战与应答[J].四川师范大学学报(社会科学版),2023(4):107-114.

[6AlexGuilherme.AIandEducation:theImportanceofTeacherandStudentRelationsJ].AI&Society,20l9(1):47-54.

[7]吴河江,涂艳国.超越工具理性:生成式人工智能的教育价

值[J].教育研究,2024(11):149-159.

[8]吴砥,吴河江.通用大模型教育应用的潜在风险及其规避一基于技术伦理的视角[J].华东师范大学学报(教育科学版),2024(8):64-75.

[9]陈倩倩,逐行,张立新,等.生成式人工智能教育应用的价值冲突与调适路径[J].现代教育技术,2025(6):5-13.

[10]张文霞,卢阳旭,何光喜.关于科技伦理治理的几点认识[J].科技中国,2022(8):88-90.

[11]18陈翠荣,崔红岩.博弈论视角下教育人工智能伦理风险治理困境及化解策略研究[J].中国地质大学学报(社会科学版),2025(3):131-144.

[12余慧菊.面向数字儿童的人工智能应用:典型场景、潜在风险及治理路径[J.北京教育学院学报,2025(2):12-17.

[13王斌伟,付圣莹.人工智能教育应用中的伦理风险及其应对[J].学术研究,2025(4):1-9.

[14]邓国民,李梅.教育人工智能伦理问题与伦理原则探讨[J].电化教育研究,2020(6):39-45.

[15支振锋,刘佳琨.伦理先行:生成式人工智能的治理策略J」.云南社会科学,2024(4):60-71.

[16]冯锐,孙佳晶,孙发勤.人工智能在教育应用中的伦理风险与理性抉择[J].远程教育杂志,2020(3):47-54.

[17]王佑镁,王旦,柳晨晨.从科技向善到人的向善:教育人工智能伦理规范核心原则[J].开放教育研究,2022(5):68-78.

[19张路遥,潘宇婷,马忠亮.数字技术的伦理风险与治理路径[J].科技管理研究,2024(22):233-242.