美国教育部致力于支持技术赋能教学以创新教育系统。人工智能作为一项快速发展的基础技术，受到教育领域广泛关注，不断被嵌入教育技术系统中。然而，其强大功能背后也伴随“算法偏见”等新的公平和伦理问题出现，人们对人工智能的兴趣和担忧同步上升。教育界有责任利用先进技术提升教育质量，并防范可能出现的技术使用风险。
人工智能的本质和局限性
报告从三个角度讨论了人工智能概 念。首 先，从 类 人 推 理（human-like reasoning）角度来看，人工智能是计算机系统的一种理论和发展，能够执行通常需要人类智能完成的任务，如视觉感知、语音识别、学习、决策和自然语言处理等。[1]基于人工智能的教育应用程序能够与师生交谈，共同引导开展课堂活动，能更广泛地影响学生和教师行为。其次，从技术本质来看，人工智能是一种基于理论或数据模式推断而独立完成目标的计算方法。不同于传统教育技术，人工智能模型能够支持更自然的人机交互。[2] 人工智能的模式识别能力和自动推荐将影响学生学习和教师教学决策，比如根据学生需求调整教学顺序，为学生提供反馈和提示等。最后，从智力增强角度来看，人工智能是一种以人为中心的伙伴关系模型，这种定义强调人工智能作为一种辅助工具，以人类的“智能”和“决策制定”为中心，人与人工智能合作以增强认知，包括学习、决策和新体验等。[3]
虽然人工智能具备超越传统技术的“类人”能力，但也存在一定局限性。首先，人工智能处理信息方式与人类有本质差别，人工智能基于算法和程序的逻辑推理，依靠流程和规则处理信息；人类思考是基于大脑神经元之间的神经传递，神经元之间相互作用构成复杂的神经反应网络。应该重视这些差异，否则会在制定政策过程中偏离目标。其次，人工智能模型开发过程中提供给算法的数据可能存在不良关联、偏见或误导，可能导致算法歧视。最后，人工智能不具备人类广泛的情境判断能力。人工智能在检测模式和自动化决策时通常缺乏应用情境的相关数据，因此，有时无法根据情境变化做出适切的决策。
人工智能对教育的影响
报告从学习、教学、评价和研发四个方面分析了人工智能对教育的影响，并分析了人工智能未来的发展方向。
（一）人工智能使学习更具适应性
1. 人工智能提升适应性的途径
适应性是技术改善学习的关键方式，通常也被称之为个性化，个性化意味着给予学习者“发言权”和“选择权”，人工智能可以从五方面提升学习适应性。第一，从缺乏型到资产型。传统教育技术通过查缺补漏的方式为学生提供指导。如果以学生的长处为导向，发现学生特长和能力，即“资产”，则可以正向辅助学生学习。人工智能以“资产”为导向，更能全面掌握学生基本情况，从而促进教育公平。第二，从个体认知到涉及社会及多方面的学习。学习不仅包括认知，也包含社会学习能力、自我调节能力、推理、解释和证明能力等其他关键技能。人工智能可以帮助学生实现多种技能的增强学习。第三，从一般学生扩展到特殊学生。人工智能模型能够处理多种学习路径和多种交互方式，从而可以为一些特殊学生，比如神经多样性学习者（neurodiverse learners），提供不同的学习路径，采用适合其特征的学习方式，使学生从中受益。第四，从固定任务到主动开放的创造型任务。人工智能模型可以帮助学生完成开放的创造型任务，促进学生创造和创新能力培养。第五，从正确答案到多样化目标。正确答案并非是唯一的学习目标，人工智能模型可以引导学生熟练进行团队协作和领导团队，尝试完成多样化的目标。
2. 问题挑战和应对举措
目前人工智能作为辅助工具已大规模应用于教学实践，但也伴随一些挑战和问题。教育技术系统实现学习个性化的方式主要是调整课程难度和顺序，但是，个性化不仅仅是调整课程内容，而是多方面统筹的“个性化”。虽然生成式人工智能功能强大，但其模型比人类学习愿景范围更窄，即人工智能所提供的信息基础无法完全覆盖人类的求知欲。此外，人类教师具备人工智能无法取代的优势，比如，人类教师可以理解文化响应性（culturally responsive）和 维 持 性教 学（culturally sustaining），能 更好把握每个学生个性化的“可教时刻”（teachable moment）。
针对以上问题和挑战，在技术层面，应梳理人工智能模型的优势和局限性，关注与未来学习愿景契合的人工智能模型。在决策层面，决策者需要谨慎选择人工智能模型，使用系统思维，允许人类参与其中，使教育工作者和其他成年人可以有效地进行教学和学习。在使用层面，需要让学生了解人工智能的优势和风险，批判性地审视人工智能在教育和社会中的应用，确定其在自身生活和职业中的作用和价值。
（二）人工智能为教师教学赋能
1. 人工智能提升教学质量
麦肯锡的一份调研报告提出，人工智能可以通过减少教师的行政或文书工作中的低级负担来改善教学工作，并建议将所节省的时间用于更有效指导学生。[4]因此，人工智能可用于处理一些低级的细节任务以减轻教学负担并增加对学生的关注。其次，人工智能可以拓展教师对学生的作用范围。比如教师并不能随时随地在学生身边提供帮助，但是可以借助人工智能生成性评价结果，了解学生情况并及时反馈，由此扩展了教师的认知范围。最后，人工智能可以使教师专业发展更加高效。最新研发技术已经能够记录教师课堂内容并为教师推荐教学方案，课堂模拟工具也不断多样化，可以帮助教师在真实情境中练习技能。
2. 人工智能对教师工作的挑战
第一，平衡人机决策。教师需要在教学中决定哪些内容可以完全委托给人工智能，并监控人工智能系统，干预其决定。这给教师带来额外的决策挑战。第二，避免监控的同时简化教学工作。技术可以简化工作，但也可能会造成对教师行为数据的监控。监控情况越严重，则教师对人工智能的信任程度越低。第三，保护学生优势的同时保护学生隐私。人工智能不可避免地会获取学生的人口统计信息，因此必须考虑学生隐私保护问题。学生与人工智能的交互必须受法律保护，在人工智能模型开发中，其基础数据可能并不具有代表性。因此，必须充分考虑公平、安全性和有效性等问题。
3. 应对举措
（三）人工智能促进形成性评价
1. 形成性评价的改进方向
2017 年《美国国家教育技术计划》讨论了技术如何从 7 个维度改进形成性评价：启用增强型问题、测量复杂能力、提供实时反馈、增加可访问性、适应学习者的能力和知识、学习过程中的嵌入式评价和持续学习评价。形成性评价是学校探索人工智能在教学和学习中应用的主要领域。形成性评价并不单表示测试或测量，也包含根据评价结果对教学和学习过程产生的反思和改变，即反馈循环（feedback loop）。教育工作者可以将他们长期以来对形成性评价的愿景与人工智能所拥有的最新性能结合起来，增强反馈循环，促进教学改进。人工智能增强的形成性评价可以节省教师时间，使教师可以用更多时间帮助学生。因此，部署人工智能增强的形成性评价的一个重要原则必须是以教师为中心。
2. 人工智能促进形成性评价的发展方向和挑战
人工智能在形成性评价中有三个重点发展领域，一是高度重视重要事务的评价，尤其是不易进行评价的事务，以及民众期盼能够纳入反馈循环中的事务。二是提升寻求帮助和提供帮助的事务，寻求和给予帮助对于成长型思维的形成至关重要，也是反馈循环概念的核心。三是提倡教师和学生积极参与和设计反馈循环，使评价更简洁、方便和有价值。偏见和公平是评价工具设计和使用中的重要问题，人工智能算法所参考的数据集不能代表所有的学习者群体，因 此 存 在 算 法 歧 视（algorithmic discrimination）。算法歧视不仅涉及形成性评价的测量方面，也涉及反馈循环，以及根据形成性评价结果采取的教学干预和支持。报告中建议，利用评价专业知识以减少偏见，审慎对待偏见和公平性。目前，心理测量学领域已经开发出相应工具，这在解决人工智能在教育中的偏见和公平性方面可能有一个良好的开端。[5]
（四）人工智能促进教育情境研发
1. 人工智能需要平衡技术和情境研发
2010 年发布的《美国国家教育技术计划》所提出的创建个性化学习系统更多侧重技术层面。[6] 而现在人工智能技术促进个性化教学则更侧重于情境研究，开发能更广泛响应学习者特征和状态的平台。人工智能研发的情境深度和技术进步速度之间存在一定张力，一方面，人工智能需要快速推进新技术或扩展新应用程序；另一方面，人工智能创新研发需要尽早在过程中引进更多情境。因此，研发人员需要审慎处理技术和情境之间的平衡。
2. 关注未来重点教育情境研发
人工智能的未来研发应从狭隘的技术问题转向更丰富的情境问题，比如，关注学习者的差异性，关注学生在学习环境中与同龄人的互动，家校社之间的关系、文化资产、教学资源，教师资源、教学政策与系统构建等。为了更充分地代表教学和学习的背景，研究人员必须与教育相关者合作，了解哪些背景与教学和学习最相关，以及如何有效纳入人工智能模型。
人工智能可以从四方面推进情境研发。一是关注长尾（long tail）场景。长尾场景主要指种类繁多、发生概率较低或者突发的场景。应利用大数据和人工智能更多地关注教育技术使用的“长尾场景”，解决数字公平和包容问题。二是基于设计的研究合作。扩大人工智能设计人群，增加学生、教师和其他教育成员的参与度。三是联系公共政策。在人工智能伦理、安全和监管政策基础上，开展教育领域人工智能研究。四是重新思考教师专业发展。开发教师专业发展系统，以适应技术在教学专业中日益重要的核心作用。
人工智能在教育中应用的未来发展建议
报告在讨论人工智能技术对学习、教学、评价和研发影响基础上，分别从人工智能技术开发设计层面和制度层面提出了共七条政策建议。
在人工智能技术开发层面，第一，强调“人在回路中”（Humans-in-the-Loop）。报告认为人工智能无法取代教师，美国教育部呼吁所有相关方采纳“人在回路中”作为一个关键标准。在应用人工智能时，教师和其他人必须“处于回路中”，以便观察人工智能模式和自动化教育过程。第二，将人工智能模型与共同的教育愿景结合起来。教育决策者、研究人员和评价人员不仅要根据结果来评价教育技术的质量，还要衡量人工智能工具和系统的核心模型与教学和学习共同愿景的一致程度。第三，使用现代学习原则设计人工智能。基于已经确立的现代学习原则、教育从业者的经验积累，并利用教育评价界的专业知识来检查算法偏见和提高公平性。第四，将研发重点放在解决情境问题和增强信任与安全性上。关注人工智能系统如何适应情境，研究人员及其资助者应优先考虑人工智能如何处理学习的多样性，充分考虑情境因素，并关注如何提高人工智能在教育系统的信任和安全性。
在制度层面，第一，优先加强信任。在协会、会议和专业组织中建立信任，建立新兴教育技术的可信度标准，以便教育工作者、创新者、研究人员和政策制定者团结协作。第二，教育工作者知情并参与。教育领导者必须优先使教育相关方知情并参与，以便调查人工智能何以满足特定的教学需求，并预判可能增加的风险。教育工作者需要能够检查并解释人工智能系统，并指导人们发挥人工智能的更大价值。教育技术办公室可以在提供信息和促进参与方面发挥主导作用，配合教育系统各级组织活动的开展。第三，制定专门的教育指南和防护措施。虽然数据隐私法规已经涵盖了教育技术，数据安全已经是学校教育技术领导者的优先事项。为了应对人工智能不断迭代而具备的新功能以及相应的风险，需要对数据安全和隐私教育进行修改和增强。生态系统中所有相关方需共同制定一系列指南和防护措施，以实现人工智能在教育领域安全有效的应用。（本文系中国教育科学研究院 2023年度基本科研业务费专项资金项目“基础学科人才培养高大衔接路径研究”阶段性成果，项目编号：GYJ2023040）
参考文献
[1] IEEE-USA Board of Directors. Artificial intelligence research, development and regulation[EB/OL].(2017-02-10)[2023-03-28].http://globalpolicy.ieee.org/wp-content/uploads/2017/10/IEEE17003.pdf
[2] Friedman, L., Blair Black, N., Walker, E., &Roschelle, J. Safe AI in education needs you. Association of Computing Machinery blog[EB/OL].(2021-11-08)[2022-06-27]. https://cacm.acm.org/blogs/blog-cacm/256657-safe-ai-in-education-needs-you/fulltext
[3] Gartner. Gartner glossary: Augmented intelligence[EB/OL]. (2019-10-08) [2022-06-27]. https://www.gartner.com/en/information-technology/glossary/augmented-intelligence
[4] Bryant, J., Heitz,C., Sanghvi, S., & Wagle, D.. How artificial intelligence will impact K-12 teachers. McKinsey[EB/OL]. (2020-01-14)[2023-03-05].https://www.mckinsey.com/industries/education/our-insights/how-artificial-intelligence-will-impact-k-12- teachers
[5] Kaplan, R.M., &Saccuzzo, D.P. Psychological testing: Principles, applications, and issues. Cengage Learning[M]. 2017
[6] U.S. Department of Education, Office of Educational Technology. Transforming American Education: Learning Powered by Technology[R]. 2010:78
（本文来源于《上海教育》杂志2023年7月10日出版，版权所有，更多内容，请参见杂志。作者系中国教育科学研究院比较教育研究所，吴云雁）
联系客服
