早期教育中 AI 数据收集的伦理问题

人工智能在课堂中的整合已不再局限于学生主导的生成式 AI 使用和 AI 驱动型学校。华盛顿大学 (UW) 最近提出的一项研究凸显了对早期教育进行学术研究的渴望与隐私权及知情同意权这一基本权利之间的关键紧张关系。

当研究人员计划为学前教师配备第一人称视角摄像头以训练 AI 模型时，家长们随之而来的强烈反对揭示了人们对教育场景中 AI 数据收集实施方式的深层不信任。

拟议的研究：目标与方法论

由华盛顿大学的 Dr. Gail Joseph 和 Cultivate Learning 团队领导的研究旨在“更好地了解儿童的日常学习体验，并开发能够帮助评估课堂互动质量的 AI 工具”。

为了实现这一目标，研究人员计划使用教师佩戴的摄像头和固定视频摄像头，在每次访问中捕捉长达 150 分钟的视频，每月最多四次。该方法论涉及一个两步过程：

虽然研究人员表示，视频片段将用于训练“安全、私密的 AI 模型”，并且“在可能的情况下”会模糊面部并编辑掉姓名，但这些数据还计划与其它研究人员共享，以支持未来的研究。

家长反抗的主要驱动因素之一是同意流程的结构。该计划是以退出机制 (opt-out) 模型而非加入机制 (opt-in) 模型呈现的。这意味着，除非家长采取积极措施阻止，否则他们会被自动纳入研究中。

这种方法引发了若干伦理担忧：

语言障碍：一位家长报告称，表格没有以移民和非英语母语者的母语提供，这可能导致无法理解文件的那些人无法使用“退出机制”这一功能。
缺乏透明度：包括 National Education Policy Center 的 Faith Boninger 在内的专家指出，文件中的措辞含糊不清。具体而言，关于数据未来用途的“不限于”这一短语，暗示了一种开放式的许可，允许以尚未构想的方式使用儿童的肖像。
缺乏排除机制的清晰度：关于如何处理选择退出的儿童，存在困惑。虽然大学方面表示，如果一个家庭选择退出，整个班级都将被排除在外，但家长们反映被告知，会在选择退出的儿童身上贴上贴纸，以便研究人员识别他们。

除了隐私担忧外，拟议的实施方案还引发了关于学前班课堂内社会动态的问题。正如社区讨论中所提到的，使用贴纸来标记选择退出研究的儿童，可能会导致这些儿童遭受社会排斥或污名化，实际上在早期社会发展最为关键的场所，将他们贴上了“不同”的标签。

有人认为，该研究的目标——提高师生互动质量——是一个值得追求的学术目标。然而，华盛顿大学未能实施严格、透明且基于加入机制 (opt-in) 的同意流程，将一项潜在有价值的研究转变为了一场隐私噩梦。

正如 Computer Science Teachers Association 的执行董事 Jake Baskin 所强调的：“每当我们把摄像头和 AI 带入课堂时，保护学生和教师的数据必须是最高优先级。”

在收到家长们强烈的反馈后，华盛顿大学已正式终止了该项研究，并从其网站上删除了该研究的描述。这一事件为研究人员和 AI 开发人员敲响了警钟：提高教育质量的目标不能凌驾于知情、透明且具有包容性的同意权这一基本必要性之上。