学生学习速率的惊人规律性
An astonishing regularity in student learning rate | Kenneth R. Koedinger, Paulo F. Carvalho, Ran Liu, Elizabeth A. McLaughlin | PNAS(美国科学院院刊),2023 年,第 120 卷,第 13 期,e2221311120,https://doi.org/10.1073/pnas.2221311120
文章类型:研究论文(RESEARCH ARTICLE)|心理与认知科学(PSYCHOLOGICAL AND COGNITIVE SCIENCES) 编辑:Douglas Medin(美国西北大学,Evanston, IL);2022 年 12 月 25 日收稿,2023 年 2 月 10 日接受;2023 年 3 月 20 日发表。 作者单位:a. 人机交互研究所(Human-Computer Interaction Institute),卡内基梅隆大学(Carnegie Mellon University),匹兹堡,PA 15213;b. Engineering 部门,Amira Learning 公司,西雅图,WA 98101。 作者贡献:K.R.K.、P.F.C. 与 R.L. 设计研究;K.R.K.、P.F.C. 与 R.L. 实施研究;K.R.K.、P.F.C. 与 R.L. 分析数据;K.R.K.、P.F.C. 与 E.A.M. 撰写论文。 其他说明:作者声明无竞争性利益。本文为 PNAS 直接投稿(Direct Submission)。通讯作者邮箱:[email protected]。本文含在线支持信息(supporting information)。版权所有 © 2023 作者,由 PNAS 出版;本文按知识共享署名-非商业性使用-禁止演绎 4.0 许可证(CC BY-NC-ND)以开放获取形式发布。
摘要
我们借助一套用于探索学生如何学习的科学基础设施,开发了技能习得的认知模型与统计模型,并用它们来理解学习者之间根本性的相似与差异。我们的核心问题是:为什么有些学生学得比别人快?——事实果真如此吗?我们对学生在任务组上的表现数据进行了建模,这些任务评估同一技能成分,并针对学生的错误提供后续教学。我们的模型同时为学生和技能估计初始正确率与学习速率,即每次练习机会之后正确率的提升幅度。我们将模型应用于 27 个数据集、共 130 万条观测数据,这些数据来自小学至大学阶段数学、科学与语言课程中学生与在线练习系统的交互。尽管有讲课、阅读材料等前置言语教学可供使用,学生在练习开始前的初始表现却相当有限,正确率约为 65%。尽管身处同一门课程,学生的初始表现差异巨大:处于下半部分的学生正确率约为 55%,处于上半部分者约为 75%。与此形成鲜明对照、也大出我们意料的是,我们发现学生在估计学习速率上惊人地相似:通常每次机会正确率约提高 0.1 个对数发生比(log odds),即约 2.5%。这些发现给学习理论提出了一个挑战:如何解释学生初始表现的巨大变异与学生学习速率的惊人规律性这一奇特组合。
关键词:学习速率(learning rate)|学习曲线(learning curves)|刻意练习(deliberate practice)|逻辑回归增长建模(logistic regression growth modeling);教育公平(educational equity)
重要意义(Significance)
既往研究通常使用自我报告数据,它们假设:通往专长之路需要大量练习,而且不同学习者以不同的速率获得能力。我们对 27 个数据集拟合了认知模型与统计增长模型,这些数据集包含对学业情境中学习与表现的观测;结果我们发现,有证据支持第一个假设、而反对第二个假设。学生确实需要大量练习,每个知识成分约需 7 次练习机会;但学生在学习速率上并未表现出实质性差异。这些结果给学习理论提出了挑战——如何解释学生学习速率上这种惊人的相似性。它们还提示:教育成就差距来自学习机会的差异,而更好地获得这类机会有助于缩小这些差距。
引言
人类能够进行广泛而灵活的多种学习适应。这种适应性在与高显示度职业(如技术创新或音乐作曲)相联系的专长发展中尤为明显,但也体现在人类所掌握的各类学业科目中——阅读、写作、数学、科学、第二语言等等。更好地理解人类学习在学业课程情境中如何运作,具有科学上的意义,因为学业学习是人类这一物种尤为独特的能力;也具有实践上的意义,因为这种理解可用于发展更有效的教育。新技术常常使更好的科学成为可能,教育技术正是如此:进入本世纪以来,教育技术不断提供前所未有的海量细粒度学业学习数据。借助美国国家科学基金会(National Science Foundation, NSF)对 LearnLab(learnlab.org)的中心级资助,我们建立了一套社会-技术基础设施,用以系统地获取这类数据,既用它来优化交互式学习技术,也用它来探究有关学生学习的科学问题。
LearnLab 的早期目标是:识别学业课程中学习的心理单元;利用这些洞见设计并验证改进的教学,方法是把随机对照实验嵌入课程之中;以及构建学习者模型,以揭示学习者之间重要的相似与差异。过去的研究产出了一些方法,用以发现并验证关于学生在学业课程中所获心理单元的、经过改进的认知模型(如文献 1)。这些改进后的认知模型被用于重新设计课程单元,而把重新设计(处理组)与原设计(对照组)进行比较的随机分配现场实验表明,学习结果得到了提升(如文献 2 和 3)。这些认知模型的一个关键理论假设是:把学习分解为离散的单元,即知识成分(knowledge component,KC),可以产生能够与学生跨情境、跨时间的表现数据进行检验的预测。跨多个数据集的研究支持这一知识成分假设(如文献 1 和 4)。
在本文中,我们将这些认知模型与统计增长模型相结合,以探究学业学习者之间重要的相似与差异。我们的研究问题是:
- 所需练习:学生需要多少次练习机会才能达到 80% 正确率的掌握水平?
- 初始表现变异:学生的初始表现差异有多大?
- 学习速率变异:学生的学习速率差异有多大?
研究问题 1 探讨的是:在练习开始之前,学生通常已接受前置言语教学(如课程讲授和/或阅读作业),除此之外学生还需要多少练习。我们发现,学生在练习开始时并未达到掌握水平,而练习本身——学生在其中获得对自己表现的反馈,并利用情境敏感的言语教学与示例——带来了大量学习。我们发现,一个典型的学生需要约 7 次学习机会才能掌握一个典型的知识成分。然而,我们发现不同学生所需的练习机会数差异巨大。于是,问题 2 和问题 3 进一步探究:这一差异是否更多源于初始表现的差异,和/或源于表现随每次后续学习机会提升速率的差异。
对学生学习速率变异进行严格而广泛的估计,有助于推进若干重要的科学争论。关于专长的研究(文献 5)表明,即使是历史上的天才也需要多年的练习来发展其专长。Ericsson(文献 6)估计,高水平的专长大约需要 10,000 小时的练习才能养成,并声称尚未发现重大例外。换言之,无论你是谁,你都需要大量重复的练习机会来发展专长。与此相对,其他研究者(如文献 7 和 8)提出,仅凭练习时间不足以解释所获专长的多少,而且给定相同的练习时间,有些人可能学得更多(或更少)。这场争论归结为:每次练习机会的学习速率在个体之间是相对恒定的,还是存在实质性变异。由于可用数据的局限,要解决或细化这场争论一直很困难。助长这场争论的既有数据来自少量被试,大多是自我报告因而易受主观误差影响,且稀疏而粗糙(每名被试的数据点很少)。与之相比,我们积累的数据集直接追踪练习,因而客观且细粒度(每名学生约 200 条观测),持续数小时或数周,且学生规模庞大(近 7,000 名学生)。
在刻意练习争论之外,我们发现一些研究者指出学生学习速率存在巨大差异(文献 9、10),另一些研究者则指出学生学习速率差异甚小(文献 11)。例如,美国国家科学院(National Academy of Sciences)的一份报告指出,“高能力学习者的学习速率高于其他学生”(文献 9,第 131 页)。与该报告相反,Bloom(文献 11)提出,“只要提供有利的学习条件,大多数学生在……学习速率……方面会变得非常相似”(第 x 页)。虽然 Bloom 及其同事确实证明了一种刻意练习形式的有效性,但他们并未提供证据来证明其关于学习速率一致性的论断;国家科学院的报告也没有指出学习速率变异的证据。本项目提供了一个检验这些相互竞争论断的机会。
重要的是,国家科学院报告中的论断针对的是高能力学习者,暗示差异源于学习者自身的特征。与之可以对照的是另一个几乎必然为真的论断:处于更有利条件中的学习者,其学习速率高于处于较不利条件中的学习者。我们 NSF 资助的 LearnLab 研究所用的教育技术可以说提供了有利的学习条件,因为它们贯彻了基于研究的原则(如带反馈的多样化练习、解释性教学),而且许多系统已经通过迭代的、数据驱动的认知任务分析与实验方法得到改进(文献 12)。LearnLab 的一个关键目标,用国家科学院报告的话说,就是识别出“学习速率高于其他学生”的高能力学习者(文献 13,第 37 页)。我们原本有意识别学生在自我调节学习技能或背景知识上的差异——这些差异会导致学习速率的差异,并可能通过针对“学会学习”的教学支持加以干预。因此,当结果开始显现、提示学生学习速率存在惊人的规律性时(文献 14),我们相当意外。
日常经验可能诱使人认为,不同的人学习快慢显然差异很大。例如,在代数课程结束时,有些学生拿到 A(优),看起来比拿低分的其他学生学得更快。然而,这类差异也可以替代性地解释为:并非学习速率的差异,而是个体所经历的高质量学习机会数量的差异。在我们积累的多样化数据来源中,学生经历的学习机会数量是已知的,因此我们能够洞悉:学生能力差异更多地源于环境机会的差异,还是学生固有的学习速率差异。具体而言,我们用 27 个数据集对学习进行建模,这些数据集包含来自 6,946 名学习者的 130 多万条学生表现观测,涵盖数学、科学与语言学习共 12 门不同的课程,覆盖从小学高年级到大学的教育阶段,并涉及智能辅导系统(intelligent tutoring system,ITS)、教育游戏与在线课程等多种教育技术(SI 附录,表 S1)。
这些数据集中记录的学生表现,是否可视为人类学习的一般代表?这些数据集由学生在学业课程的自然情境中使用教育技术而产生。这些课程包含常见形式的教学,如讲课和指定阅读,它们通常先于学生在教育技术中的练习。虽然学生的练习历来大多在纸上完成,但我们猜想——正如在现代心理学实验中被试与技术交互一样——技术交互本身并未实质性地改变所涉及的心理过程。因此,这些数据集可以说很好地代表了在数学、科学与语言学习的学业情境中所展现的复杂人类学习。
这些教育技术情境是否可视为 Bloom 意义上的“有利学习条件”?这些情境是“做中学”(learning-by-doing)路径的典范,该路径以不同变体被反复提倡,并获得了大量实验支持,包括“基于掌握的学习”(mastery-based learning,文献 15)、“主动学习”(active learning,文献 16)、“测试效应”(testing effect,文献 17)、“形成性评价”(formative assessment,文献 18)与“刻意练习”(deliberate practice,文献 5、19、20)。这些情境之所以提供有利的学习条件,不仅因为其对主动学习的支持,还因为学习交互中一些更具体的特性,其中每一种都有其科学依据。所有这些教育技术都:a) 在问题解决或表现情境中针对错误提供即时反馈(文献 21、22);b) 按需提供解释性的、针对具体情境的教学(如文献 23),必要时还包括一个正确作答的示例(文献 24–26);c) 强烈鼓励或强制学生在继续之前输入或观察一个正确作答;d) 提供通过基于数据的认知任务分析而设计的定制任务,用以练习与课程目标一致、旨在改进学生思维的具体认知能力(如文献 27、28);e) 给予重复机会,以确保学生在多样的任务中掌握这些认知能力(如文献 29),这些任务要求产生适当泛化而不过度泛化的知识与技能习得(如文献 30)。
将认知模型整合进逻辑回归增长模型以刻画学习
为了对学生表现与学习进行建模,我们使用了带认知模型成分与增长成分的混合效应逻辑回归。如图 1 第一行所示,我们把学生 i 在任务 j 上的成功建模为与一个线性函数成比例:该函数的截距代表初始知识(initial-knowledge,图中以橙色显示),斜率代表每次学习机会的学习速率(learning-rate,图中以绿色显示)。初始知识与学习速率又被进一步分解(图 1 第二行),以提供一个总体估计以及源于学生和知识成分(KC)的变异。这些因素在混合效应逻辑回归(图 1 中等式右侧)中产生六个参数(预测变量),其中结果变量(pij)是学生 i 做对任务 j 的概率(等式左侧,按逻辑回归惯例以对数发生比的形式呈现)。六个预测变量包括两个固定效应——总体初始知识(θ)与总体学习速率(δ)——以及四个随机效应——学生初始知识(θi)、学生学习速率(δi)、KC 初始知识(βk)与 KC 学习速率(γk)(模型的精确 R 语言描述见 SI 附录)。三个学习速率参数(绿色)与学生在知识成分 k 上已经历的机会数(Tik)相乘。
图 1| 我们在逻辑回归中对学生在任务 j 上跨越刻意练习机会(Tik)的成功(pij)进行建模,估计其初始知识与学习速率。这些估计各自被分解为总体、学生(i)与知识成分(k)层面的元素。每个任务(j)所需的知识成分由一个认知模型矩阵(qjk)规定。
学习速率与机会的乘积构成了该模型的增长成分。另一个关键成分是认知模型,由矩阵 qjk 表示。该矩阵指明:对每个任务 j 而言,完成该任务需要哪些知识成分(注 )。一般而言,认知模型是对一个或多个认知过程的解释,它能产生可与人类数据相匹配的预测(文献 31)。在来自智能辅导系统的数据集中,这些认知模型以计算模型的形式实现(见 SI 附录表 S1 中“Ed Tech”一栏的“ITS”)。qjk 矩阵提供了认知模型的一种简化表示,便于进行统计分析。许多先前的研究通过比较 qjk 矩阵的不同备选版本,对这些认知模型或知识成分(KC)模型进行了评估与改进(文献 27、28、32–35)。表 1 以针对同样六个任务的四个不同 qjk 矩阵展示了这一 KC 模型改进过程。如前所述,一次任务观测往往只是问题解决中的一个步骤,例如问题 2 8 − 30 会如表 1 前两行所示被观测为两个步骤。
注 *:一般形式的统计模型允许一个任务被标注为多个 KC,但这类模型产生的预测往往不优于单一 KC 模型,而单一 KC 模型在解释上更为简洁。
表 1|同一组任务的四种备选认知模型(以 qjk KC 模型表示)
| 任务 j(观测的问题步骤) | Q0:Arith | Q1:Mult | Q1:Sub | Q2:MultLR | Q2:MultOR | Q2:Sub+ | Q2:Sub− | Q3:I1 | Q3:I2 | Q3:I3 | Q3:I4 | Q3:I5 | Q3:I6 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 2*8−30 → 16−30 | 1 | 1 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 |
| 16−30 → −14 | 1 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 0 |
| 30−2*8 → 30−16 | 1 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 |
| 30−16 → 14 | 1 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 |
| 10−3*7 → 10−21 | 1 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 1 | 0 |
| 10−21 → −11 | 1 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 1 |
注:列组 Q0、Q1、Q2 与 Q3 代表不同的知识成分(KC)模型。每行代表一个任务。数字 1 表示:在给定的知识成分模型中,该列 KC 是该(行)任务所必需的。例如,在 Q0 中,所有任务都需要算术(Arith);而在 Q2 中,假设任务根据所涉运算及其使用情境,需要四种不同的 KC。
每个备选的 qjk 都引入了关于什么使任务变得困难(见图 1 中的 βk 项)以及什么产生跨相关任务练习机会的学习迁移(γk 项)的不同假设。Q0 体现的假设是:所有算术任务都需要同一个知识成分(KC),它预测所有任务难度相近,且在任一任务上的练习都会提升在另一任务上的表现。Q1 把乘法与减法区分为不同的 KC。还可以进一步假设,如 Q2 那样:学会解决第三类任务(30 − 2 * 8 → 30 − 16)和第五类任务需要额外的运算顺序知识(MultOR),而第一类任务(2 * 8 − 30 → 16 − 30)可以用朴素的自左至右策略(MultLR)解决。Q3 体现的假设是:每个任务都有其固有的难度,且任务之间不存在学习迁移。当 qik 为单位矩阵时(如 Q3),图 1 中的初始知识项便等价于项目反应理论(item response theory,文献 36)。我们的模型与另一些使用项目反应理论的推广形式来对学生作答数据建模的工作类似(如文献 37、38)。
KC 模型可以通过比较哪个 qjk 矩阵对学生数据给出最佳预测拟合来选择。必须谨慎使用能够防止因复杂度增加(Q0–Q4)而导致过拟合的拟合优度度量:或者对更多参数加以惩罚(如使用赤池信息准则 AIC 或贝叶斯信息准则 BIC),或者通过交叉验证在保留数据上进行检验。DataShop 便于开展此类比较,其使用的是图 1 模型的一个不含学生学习速率项(δi)的简化版本。如“材料与方法”部分所述,我们为每个数据集选择了最佳的 KC 模型。
结果
学习增长模型的示例与评估
图 2A 展示了来自我们其中一个数据集(SI 附录表 S1 中的 ds394)的学习曲线(金色):纵轴为总体平均正确概率(pij),它随横轴上相继的机会(Tik)递增。模型预测以绿色显示。由模型导出的个别学生曲线见图 2B。在这种非线性尺度下,很难直观比较学生的学习速率(例如,学生 S1 比 S2 快吗?),因为机会之间的增幅(例如 S3 从机会 1 到 2 为 2.9%)在机会数更高处变小(从 6 到 7 为 2.0%)。如图 2C 所示,用对数发生比重新标定成功概率后,二者呈线性关系,学生学习速率的细微差异便一目了然(例如,S2 比 S1 和 S3 更陡)。图 2D 以对数发生比为单位,展示了全部三名学生的初始知识估计(黄色截距)与学习速率估计(蓝色斜率)。
图 2| 数据集 394 的学习曲线示例。(A) 对所有学生与 KC 取平均的学习曲线及模型预测。(B) 由模型导出的、随机抽取的三名学生的学习曲线,显示了两个不同机会处的非线性百分点斜率。(C) 同样的曲线以对数发生比尺度呈现,标注了截距值(黄色)与线性斜率(蓝色)。(D) 学生 i 在机会 T 处的预测成功(pi),表示为截距与斜率的函数。
我们进行了若干比较,以评估纳入学生学习速率这一项的价值,以及用离散机会而非时间来度量学习速率的价值。许多改进基于 KC 的认知模型的先前研究(文献 1、39)使用的都是图 1 模型的一个不含学生学习速率项(δi)的简化版本。这一简化模型后来被称为加性因子模型(Additive Factors Model,AFM)(注 †)。图 1 中包含个体学生学习速率参数(δi)的模型则称为个体 AFM(individual AFM,iAFM)(文献 14)。如果 iAFM 是检测学生学习速率变异的好模型,那么它应当优于 AFM,至少在相当数量的数据集上如此。可以肯定的是,iAFM 的这种更优表现,就学生学习速率变异的大小问题而言是中性的——这是我们下文将明确讨论的主题。
注 †:这些因子之所以是“加性”的,是因为与任务难度和迁移中的 KC(即“因子”)相关联的对数发生比取值是相加的。这种对数发生比的加法,与更复杂的联结因子模型(Conjunctive Factors Model,文献 39)中 KC 因子相关概率的乘法形成对照。
基于赤池信息准则(AIC),AFM 在 27 个数据集中的 6 个上是最佳拟合模型;基于贝叶斯信息准则(BIC),AFM 在 27 个中的 12 个上是最佳拟合模型;而 iAFM 在 27 个中的 21 个(基于 AIC)或 27 个中的 15 个(基于 BIC)上是最佳拟合模型。我们采用 Wagenmakers(文献 40)的近似方法,由 BIC 导出贝叶斯因子(Bayes factor)。在 27 个数据集中,15 个显示出支持 iAFM 为生成模型的强证据或更强证据(贝叶斯因子 > 1),而 11 个显示出支持 AFM 为生成模型的强证据或更强证据(贝叶斯因子 < −1)。这些结果表明,学生学习速率的变异在一些数据集中存在且可被检测;在其他数据集中,它要么不存在,要么太小而无法检测。正如我们后文将详细阐述的,即便学生学习速率变异可被检测到,它也并不特别大。
为了检验“学生在教育技术内部是因 KC 特异的练习机会而学习”这一假设,我们对比了另一个模型。基于时间的加性因子模型(time-based Additive Factors Model,Time-AFM)实现了一个备择假设:学生从技术之内与之外的一般性经验积累中学习,并用流逝的日历时间来预测每次表现观测。在该模型中,我们把 iAFM 与 AFM 所用的练习机会计数(Tik)替换为一个日历时间变量。也就是说,为预测学生 i 在任务 j 上的表现(pij),我们使用自该学生首次接触与任务 j 相关联的知识成分 k 以来所流逝的日历时间 Cik。在 Time-AFM 中,Cik 取代了 AFM 中的 Tik。结果表明,尽管与 AFM 和 iAFM 有相当大的重叠,基于时间的 AFM 仅在 20 个数据集中的 1 个上是最佳拟合模型(另有 7 个数据集缺少合适的时间记录而无法进行该比较)。因此,我们有明确的证据表明:用技术内部 KC 特异的练习机会来刻画学习增长,优于用一个同样反映一般增长机会与技术之外学习机会的日历时间变量。
学生以约 65% 的正确率起步,并需要约 7 次练习重复
利用 iAFM 的建模结果,我们考察了学生典型的初始表现。这一考察与如下问题相关:前置言语教学——最典型的形式是阅读材料和讲课——是否足以达到合理的掌握水平(定义为 80% 正确率)(文献 15)。一种可能是:言语教学足以让一般学生达到掌握水平,而刻意练习只是起到强化已学内容的作用,使表现更快、更流利。反过来也可能:言语教学不足以达到合理的正确率,因而需要刻意练习。作为初始表现的度量,我们使用每个数据集的总体 iAFM 截距(见图 1 中的 θ)。SI 附录表 S1 给出了每个数据集的总体截距(初始知识估计)。27 个数据集的总体截距(θ)的中位数为 0.638 对数发生比(均值 = 0.501,95% CI = [0.285, 0.718]),换算为 65.42% 的正确率(均值 = 61.79%,95% CI = [56.77%, 66.82%])。也就是说,尽管在我们的数据中,学生在刻意练习体验之前已经接受过阅读和讲课形式的言语教学,典型学生开始练习时的水平仍远低于掌握水平。
在确认仅凭言语教学学生未能达到掌握水平之后,我们考察了学生通常需要多少刻意练习。各数据集总体学习速率(δ)的中位数为每次机会 0.09 对数发生比(均值 = 0.15,95% CI = [0.08, 0.22]),从 65% 的中位截距(θ)换算,即一次练习机会带来 2.5 个百分点的提升。我们利用每个数据集的总体参数估计(θ 与 δ)[按公式 (log-odds(0.80) − log-odds(θ))/δ]来确定来自该数据集的典型学生需要多少机会才能达到掌握水平。在全部数据集中,达到掌握水平所需机会数的中位数为 7.24(均值 = 12.27,95% CI = [7.09, 17.45])。换言之,学习典型知识成分的典型学生,在非交互式言语教学(即文本或讲课)之后,往往还需要 7 次额外的练习机会才能达到掌握水平。
学生初始知识差异巨大
我们利用 iAFM 的模型拟合,考察了学生初始知识的差异有多大。对每个数据集,我们计算了学生截距(θ + θi)的标准差,发现各数据集的中位数标准差为 0.651(均值 = 0.724,标准差 = 0.283),对数发生比下的中位数四分位距为 0.830(均值 = 0.988,标准差 = 0.430)(注 ‡)。如果我们把学生截距处于下半部分与上半部分的学生截距中位数进行比较,这一巨大变异会更加直观。换算为百分比后可以看到(表 2 第一列),初始知识处于下半部分的学生的正确率中位数为 55%,处于上半部分的学生为 75%。
为了凸显初始知识巨大变异的后果,我们比较了初始知识处于底部一半与顶部一半的学生达到 80% 掌握水平所需的估计机会数(见表 2 第二列)。我们沿用上述计算机会数的公式,但把总体初始知识(θ)替换为学生初始知识估计(θi)的第 25 与第 75 百分位数。初始知识处于底部一半的学生约需 13.13 次机会才能达到掌握水平,而处于顶部一半的学生约需 3.66 次机会。换言之,典型的低初始知识学生达到掌握水平所需的时间,是典型高初始知识学生的三倍以上——对于已经满足课程先修要求并接受过言语教学的学生而言,这是一个巨大的差异。
注 ‡:我们使用四分位距(第 75 与第 25 百分位数之差)来报告参数估计的变异性,以减少对其他变异性度量所固有的分布假设的依赖。
表 2|iAFM 模型下,各数据集初始正确率与达到掌握水平所需机会数的中位数(含标准差):按初始知识的低(第 25 百分位)与高(第 75 百分位)分组(假定总体学习速率 δ),以及按学习速率分组(假定总体初始知识 θ)
| 百分位数 | 初始正确率 (%)〔初始知识〕 | 达到 80% 掌握的机会数〔初始知识〕 | 正确率提升 (%)*〔学习速率〕 | 达到 80% 掌握的机会数〔学习速率〕 |
|---|---|---|---|---|
| 25 | 55.21 (15.84) | 13.13 (19.52) | 1.70 (3.80) | 7.89 (22.41) |
| 50 | 66.05 (12.91) | 6.54 (14.10) | 2.25 (4.02) | 7.27 (14.18) |
| 75 | 75.17 (10.45) | 3.66 (8.22) | 2.56 (4.12) | 6.94 (10.91) |
注:* 初始正确率与第一次机会之间的差异:提升在对数发生比上是线性的,但随着表现接近 100% 正确,百分比增幅会变小。第 2、3 列基于初始知识百分位数分组,第 4、5 列基于学习速率百分位数分组。
学生学习速率惊人地相似
学生的初始知识差异巨大,但我们发现学生的学习速率在学生之间惊人地相似。这一对比可以在基于模型的学生学习曲线中看到,例如上文图 2C 所示的曲线。图 3 上排展示了四个数据集的此类曲线,它们代表了不同的课程内容、教育阶段与教育技术类型。全部 27 个数据集的 KC 与模拟数据学习曲线见 SI 附录图 S6–S10。初始知识的变异体现在这些曲线截距的宽范围上;学生学习速率的相似性则体现为这些曲线大体平行。虽然存在一些变异的情形(例如,第四个面板的 ds372 中可见一些不平行的直线),但在大多数数据集中,大多数学生每次机会表现的对数发生比提升都惊人地相似。这种学生学习速率上的相似性,不仅与学生初始知识大得多的变异形成对照,也与知识成分(KC)学习速率上更大的变异形成对照,见图 3 中排。KC 层面的学习速率变异有助于消除一种疑虑,即我们之所以没有看到学生学习速率的变异,是因为我们的数据或模型不足以检测这种变异。事实上,我们看到了 KC 层面学习速率的大量变异,以及模拟学生曲线中明显的变异(图 3 底行),这表明在这些数据集中,我们的学习模型是能够检测到学习速率变异的;该模型依托一个经实证改进的、关于领域能力的认知模型,并将其嵌入混合效应逻辑回归增长模型之中。
图 3| 以对数发生比尺度呈现的、把练习机会与正确百分比的表现准确性联系起来的学习曲线。上排图形为学生学习曲线,显示学生学习速率变异很小(即各条线大多平行),与初始表现的巨大变异形成对比。中排图形为知识成分(KC)学习曲线,由于这些线不平行,表明学习速率的变异是可能存在且可测量的。底排图形表明,当由模拟确定高学生学习速率变异与低学生初始表现变异确实存在时,模型能够准确地识别出它们。
学生低学习速率变异在全部数据集中都很常见,图 4 中大体平行的直线即为明证;该图展示了其余 23 个数据集的学习曲线。这些曲线也呈现出各数据集一致存在的、大得多的学生初始知识变异。请注意,SI 附录图 S6–S10(第三列)中的模拟结果证实:当高学生学习速率变异(以及低学生初始知识变异)确实存在时,我们的建模方法能够检测到它们。
图 4| 跨越三个领域和多个年级,学生学习速率几乎未见变异,但学生初始知识却存在巨大差异。这些学习曲线以对数发生比尺度把练习机会与正确百分比的表现准确性联系起来。
为了对学习速率估计的相对变异获得统计学上的直观感受,我们对每个数据集计算了学生(δi)与 KC(γk)学习速率的标准差和四分位距。各数据集学生学习速率标准差的中位数为 0.015(均值 = 0.022;标准差 = 0.019),四分位距为 0.018(均值 = 0.028,标准差 = 0.024);而各数据集 KC 学习速率标准差的中位数大了几个数量级,为 0.102(均值 = 0.175;标准差 = 0.177),四分位距则大出 7 倍,为 0.132(均值 = 0.175,标准差 = 0.147)。为了帮助确立学生学习速率的低变异性是稳健的——而不是例如仅在 KC 学习速率吸纳了其变异性时才出现——我们考察了去掉 KC 学习速率参数的影响。我们发现,个体学习速率估计仍相当接近,其变异性几乎没有变化:四分位距为 0.021,而完整模型为 0.018 对数发生比。
回到表 2,我们对学生学习速率的微小变异性(相对于学生初始知识的变异性)给出一个具体的感受。对于第 3、4 列,我们在每个数据集内按学生学习速率估计的百分位数将学生分组(而第 1、2 列则按学生初始知识估计的百分位数分组)。以百分比计,学生学习速率变异的四分位距(见第 3 列)每次机会仅约 1%(2.56% 至 1.70%),而初始知识的变异约为 20%(75.17% 至 55.21%)。我们针对学生学习速率的每个百分位数,计算了学生达到掌握水平所需的机会数:把每个数据集的掌握标准(80% = 1.4 对数发生比)减去该数据集的总体初始知识(θ),再除以该组学生(即学习速率的每个百分位数)学生学习速率参数(δi)的中位数。第 4 列表明,学习速率处于底部一半的典型学生(较慢的学习者)达到掌握水平约需 8 次(中位数 = 7.89)机会,而学习速率处于顶部一半的典型学生(较快的学习者)约需 7 次(中位数 = 6.94)机会。换言之,典型的较慢学习者只需多一次机会,就能与典型的较快学习者并驾齐驱。相比之下,我们在初始表现上观察到的差异要大得多:初始表现底部一半比顶部一半落后约 10 次机会(13.13 对 3.66)。在学习速率上为保持同步(即跨越四分位距)所需的一次机会之差,比在初始知识上为迎头赶上(即跨越四分位距)所需的 10 次机会之差小一个数量级。
也许在某些特定的情境下会显现出更高的学生学习速率变异。例如,高初始表现者也许无法在较容易的 KC 上展示其学习潜能,而当我们只测量他们在较难 KC 上的速率时,更高的学习速率就会显现出来。反过来,低初始表现者也许在更容易、更力所能及的 KC 上表现出更高的速率。事实上,当我们进行这样的分析时,并没有看到这种模式。无论只用难的 KC、只用容易的 KC,还是用全部 KC 来测量,估计的学生学习速率都保持相当接近。SI 附录提供了更多细节。
为了进一步探究特定情境下出现高学生学习速率变异的可能性,我们按领域(6 个语言、16 个数学、5 个科学)以及按基于年级的学生子群体(8 个小学、8 个初中/高中、11 个大学)分解分析了这种变异。我们使用每个数据集内部学生学习速率超参数估计的四分位距,并计算领域与年级子群体的中位数。有趣的是,6 个语言领域数据集的学生学习速率变异(四分位距中位数为 0.045 对数发生比)似乎大于 16 个数学与 5 个科学领域数据集(四分位距中位数分别为 0.017 与 0.008 对数发生比)。由年级带来的学生学习速率变异则更为一致:小学高年级的四分位距中位数为 0.015 对数发生比,初中/高中为 0.018 对数发生比,大学为 0.018 对数发生比。
讨论
我们着手利用积累起来的细粒度纵向数据,来更好地理解学业学习的进程。虽然我们原本希望创建一种识别高能力学习者并理解其特征的方法,但我们反而在交互式教育技术的有利条件下,发现了学生之间极为相似的学习速率。在此过程中,我们还证明了另外三条规律性。第一,跨各类课程,我们发现初始练习表现相当有限,正确率约 65%(即不及格水平),尽管讲课与阅读等前置言语教学普遍可得。第二,我们发现,达到合理的掌握水平(80% 正确率)需要大量重复练习,通常约 7 次练习机会。这些结果与下述学习理论相一致:从示例与动手操作中进行归纳在人类学习中十分突出(文献 12、41)。第三,尽管进入数据采集课程的学生已经满足先修要求(大学课程)或年龄-年级要求(K-12 课程),并且接受过言语教学,其初始表现仍然高度多变。
我们观察到的近乎恒定的学生学习速率,会不会是我们的数据或测量模型的局限所致?前两个结果——需要练习、以及基于机会的练习带来掌握——表明我们的数据具有足以评估学习速率的表现变化。学生初始表现的高变异性表明,我们的混合效应增长模型(iAFM)能够在个体学生差异存在时将其区分开来。KC 层面学习速率的高变异性表明,iAFM 能够在学习速率差异存在时将其区分开来。因此,数据或测量模型的局限,似乎并不能很好地解释我们观察到的近乎恒定的学生学习速率。
一些读者可能会反对说,近乎恒定的学生学习速率不现实地意味着人人都能掌握高等微积分或解读抽象数据。诚然,并非人人都拥有有利的学习条件,也并非人人都愿意投入所需的大量练习机会。然而,我们的结果表明:如果学习者能够获得有利的学习条件,并投入所需的众多机会,他们就能掌握高等微积分。另一些读者可能会以“没有大量机会也能学习”的直觉提出异议,例如“我没怎么练习就学会了英语”或“我不去听课也学会了微积分”。这类说法可能高估了成就,而低估了内隐的做中学(即开口说英语或动手解微积分题)以及校外的非正式学习(例如与朋友讨论微积分)。
虽然我们对 27 个数据集的研究覆盖了多种多样的学业情境,但我们的结果仍可能无法推广到所有提供有利学习条件的学业情境。研究支持带优质反馈的重复练习的有利性——正如这些教育技术所提供的;然而,还有一些反馈形式,如同伴互动或课堂对话,在我们的数据集中体现不足。
学习速率测量的隔离
“不同学生学习速率不同”的直觉,可能源自这样一些情境:它们未能像交互式学习技术那样,在有利的学习条件下提供同等程度的受控考察。如果不去控制或考虑驱动学生表现的其他因素,此处揭示的学习速率的惊人规律性便不会显现。我们必须把表现变化隔离出来,使之仅归因于那些在性质与数量上均等同的特定学习机会。
第一种有问题的概念化,是以日历时间来度量学习速率,例如“成为专家需要 10 年”(文献 6)。这种概念化虽然方便,却忽略了在同样的时间内,有些人拥有的学习机会远多于他人。利用通过交互式学习技术捕获的学习数据,我们能够得到比以往更准确的学习机会核算;而且事实上,我们发现这些学习机会对学习结果的预测力远高于日历时间(基于时间的模型 Time-AFM 的预测拟合系统性地较差)。
第二种有问题的学习速率概念化,是比较接受不同类型教学支持的个体。诚然,大量证据表明,多种多样的教学干预都能极大地提升学生的学习(如文献 25、42)。然而,这类差异是更好的教学设计所带来的后果,而非学生之间的差异。交互式学习技术提供了一种有效手段,用以控制学生所经历学习机会的性质。由于这些技术中固有的材料与算法的驱动,所有学生接受的实质性教学交互是相同的。
第三种有问题的概念化,是仅仅在总体上比较个体表现,而不考虑由先前经验差异所特别导致的稳定表现差异。我们的统计建模方法通过纳入一个总体学生表现潜变量作为每名学生的基线,考虑了稳定的表现差异;随后,我们把学习速率度量为高于该基线的每机会表现提升。
第四种有问题的概念化,是在宽泛的主题或领域层面度量学习——仿佛学习机会锻炼的是一种一般官能(如“数学”或“科学推理”)。相反,我们以更细粒度的知识成分来建模和度量学习。这种知识成分(KC)建模已被证明比一般官能的路径更准确地预测人类学习数据(文献 4)。因此,对我们路径至关重要的,是识别出具有质量尚可的 KC 模型的数据集,即研究者已用实证方法评估并改进过这些 KC 模型的数据集。事实上,当我们用不太准确的 KC 模型对同样的数据集拟合统计模型(iAFM)时,总体学习速率的估计会下降,学生学习速率变异的估计会更小(SI 附录)。这一分析表明了 KC 模型改进(文献 4、35)对于使学生学习速率变异可被检测的重要性。事实上,当我们使用糟糕的 KC 模型——特别是表 1 中以 Q0 示意的单一 KC 模型——时,含学习速率的模型(iAFM)从未优于不含它的模型(AFM)。
对精确、计算化学习理论的启示
综合来看,我们的发现为精确的人类学习理论提出了一个有益的挑战。尽管近年来进步巨大,认知神经科学与人工智能都尚未就人类如何学习复杂的学术概念与技能给出完整而精确的解释。学习曲线曾被用作学习理论发展的灵感来源,但过去的工作聚焦于对练习带来的反应时下降进行建模(文献 43、44)。如果表现正确率容易达到、而大多数学习表现为正确表现的加速,那么这类理论或许已经足够。我们的结果则表明并非如此。鉴于我们发现典型学生以约 65% 的正确率开始基于练习的学习,而且需要大量练习(每个知识成分通常约 7 次机会)才能达到 80% 的正确率,学习理论显然还必须解释表现正确率的变化。
我们的结果提示了三个具体的理论挑战。一个精确的学习理论应当解释并说明:1) 在初始的前置言语教学之后,刻意练习机会所带来的表现正确率的持续变化;2) 学生初始表现的巨大变异;3) 学生学习速率跨练习机会的小得多的变异。下面我们逐一简述。
解释刻意练习的收益
前置的讲课与阅读似乎只能带来有限的表现正确率,这一点令人惊讶:一方面,教育工作者仍在为制作讲课与文本付出巨大努力;另一方面,大多数学习者都主张显性学习是最佳的学习方式(文献 45)。书籍以及后来的讲课录音在历史上促进了知识的更广泛传播,但即便在交互式练习可行且有效的在线课程情境中,对讲课录像的强调至今仍然存在(参见文献 20)。与前置言语教学后正确率有限这一现象相一致的一个理论假设是:人类学习并不仅仅是关于言语教学的显性加工、编码与提取,而同样多甚至更多的是内隐的、非言语的做中学——发生在可获得交互反馈的多样化练习任务之中(文献 12)。
我们观察到,给予学习者设计良好的带反馈练习机会会带来表现正确率的提升,但学习者通常需要许多这样的机会。这类基于交互练习的理论,得到了专长发展的实证研究(文献 5)、测试效应的实验研究(文献 17)与主动学习研究(文献 46)的支持。人类技能习得的理论模型在定性预测上大体一致:技能要被准确习得、事实要在长间隔后被稳固回忆,都需要许多学习机会(文献 47、48)。
解释学生初始知识截距的巨大差异
一类关于认知技能习得的通用计算理论(如文献 47、49–52)提出,专长是通过经验发展起来的。这种经验产生新的技能,储存于由条件性知识成分构成的程序性记忆系统中,后者通常实现为“如果-那么”(if-then)产生式规则。这类理论对学生先前领域知识的巨大差异提供了一个直截了当的解释:一些学生比其他学生拥有更多与领域相关的先前经验。这些过往经验在我们的数据集观察窗口开始之前,就产生了领域特定的学习机会(例如,在学校学到分数之前,在家做煎饼时与父母讨论分数)。
这一“先前机会”假设曾被用来解释心理旋转任务重复练习中儿童(初始反应时更高)与成人(初始反应时更低)反应时学习曲线数据的大截距差异(文献 53):在“成人比儿童多出约 2,000 次先前练习机会”这一单一假设下,两组的学习曲线相互吻合。学徒学习者(Apprentice Learner,AL)理论(文献 54)曾用于支持这一先前机会假设,它准确预测了错误率学习曲线中的个体截距差异。作为一个功能完备的学习计算模型,AL 从辅导交互中学习——这类交互类似于产生我们数据集的交互式教育技术所提供的交互——因而它在做出这些预测时,每名学生只需一个代表未观测到的先前练习的参数。与统计模型(如文献 43、55、56)不同,AL 不需要关于知识成分难度与学习速率的参数,因为这类差异是从其内在学习机制所产生的表现错误下降中涌现出来的(例如,学习如何做事以产生产生式规则的“那么”部分,以及学习从何处获取所需信息、何时做事以产生产生式规则的“如果”部分)。
先前机会假设提示了一个具体却颇具挑战性的实证检验:如果研究者能够追踪并计数学生在进入课程之前经历的与领域相关的学习机会,那么他们应当发现:a) 学生之间在这些先前机会上存在巨大差异;b) 这些差异能够在很大程度上解释我们所观察到的课程内练习开始时的巨大初始表现差异。
走向解释学生学习速率的微小差异
我们可以从先前技能习得理论(如文献 47、49)所设定的学习机制中,推断出关于学生学习速率变异的预测。编译(compilation)学习机制(文献 49)假设,领域特定的技能由预先存在的领域特定陈述性知识、以及把这些陈述性记忆解释为新的领域特定技能的预先存在的领域一般程序性知识习得而来。如果我们假设这种领域一般性背景知识在质量或数量上存在个体变异,那么由这些技能习得理论便可以推出:我们应当观察到学习速率的个体差异。类似的论证也适用于组块化(chunking)机制(文献 57)以及学徒学习者(AL)中的归纳学习机制(文献 53)。
这类背景知识在领域中是间接使用的,或作为回答问题的支持(例如,解方程中的负数概念),或作为加工学习材料的一部分(例如,用于理解解方程题目说明的阅读技能)。它可以与先前领域知识区分开来,后者被直接用于在教学领域回答问题或执行推理步骤(例如,代数解方程中“等式两边同加一个数”)。大量先前机会的差异,看来不仅应当产生如上所述的先前领域知识差异,也应当产生背景知识的差异;进而,背景知识的差异应当产生学习速率的差异(参见文献 58、59)。
虽然我们确实发现了初始知识的巨大差异,但学习速率的差异却相当小。为什么会这样?基于我们对学徒学习者(AL)学习过程的观察,并与其他理论中的技能习得机制相一致(文献 47、49),我们提出一个“析取学习路径”(disjunctive learning path)假设。AL 规定了一种学业学习机制:学习者利用背景知识去搜索并归纳出他们所经历示例的心理推导或解释(参见文献 60、61)。可以肯定的是,这些心理解释被建模和构想为大多是非言语的、归纳性的大脑过程(参见文献 12),而非“解释”一词可能唤起的显性言语推理。AL 会对同一示例步骤产生许多备选的解释,尤其是当给模拟学习者提供该背景知识的不同子集时。因此,AL 预测:在背景知识的不同取样下,学生的学习会产生不同的心理表征,却有相似的表现结果。例如,一名学生可能已有背景知识去自我解释一个涉及负数减法的代数示例,而另一名学生没有,但会用数轴概念策略来补偿,从而自我解释同一个示例。
与这一析取学习路径假设相一致,一项神经影像研究表明,学生以相当不同的心理表征在数学问题解决中达到了等同的表现(文献 62)。以言语表征施教的学生解题同样有效,但其左侧前额叶皮层的激活更高;而以符号表征施教的学生则表现出双侧顶叶皮层更高的激活。
我们在语言数据集中观察到的、高于数学与科学数据集的学习速率变异,也与析取学习路径假设相一致。数学与科学领域允许多条学习路径,因为其学科内容包含可泛化的技能与可被重新发现的原则,逐字记忆的事实比语言领域更少(参见文献 12)。语言领域的学习因而更依赖机械记忆(rote memory)来习得任意映射(例如,在英语中,海洋用“the”指称而湖泊不用)。因此,机械记忆加工的变异在这些领域产生的学习速率变异,可能大于数学与科学领域——在后者,机械记忆的局限可以通过一般技能归纳或意义建构过程来补充或补偿。
更一般地说,我们的教育系统在为学生提供足以学习的背景知识方面可能是相当一致的:例如,学生进入代数课程时,已拥有关于整数、有理数与算术的足够背景知识,从而能够从良好的示例、练习与教学反馈中学习。此外,给定有利的学习条件,学生的学习对背景知识中的小缺口可能相当稳健。借助良好的教学——例如交互式学习技术系统所提供的优质刻意练习——学生可以在学习过程中补偿一些缺口。我们建议通过进一步的理论发展与学习曲线建模来检验这些假设。
实践启示
学习速率问题之所以具有实践上的重要性,是因为它关系到有关教育与公平的根本问题:任何人都能学会任何自己想擅长的事吗?还是必须依赖天赋,比如“数学细胞”或“语言天赋”?我们的证据表明:给定有利于刻意练习的学习条件,并给定学习者在足够的学习机会中投入努力,的确,任何人都能学会任何自己想学的东西。如果属实,这一结论对教育公平而言是好消息——只要我们的教育系统能够提供所需的有利条件,并能激励学生投入其中。用于产生我们数据集的多种设计良好的交互式在线练习技术,指明了一种可扩展的策略来提供这些有利条件。重要的是,这些技术经过精心工程化,具备刻意练习的关键特征,包括精心定制的任务设计、多样情境中的充分重复、对学习者作答的反馈、以及学习者需要时嵌入的教学。与此同时,学生如果不使用这些技术,就不会从中学到东西。近期一些研究通过提供人类辅导来提升学生投入困难的刻意练习机会的动机,表明通过缩小机会差距来缩小成就差距是有希望的(文献 63、64)。
材料与方法
数据集
本项目之所以成为可能,是因为有 LearnLab 的 DataShop——全球最大的学生学习数据库(文献 65)。我们使用了 DataShop 中的 27 个数据集(表 2;见文献 66),涵盖各类领域(如几何、分数、物理、统计、英语冠词、中文词汇)、各类教育阶段(如 5 至 12 年级、大学、成人学习者)与各类情境(如课内 vs. 课外作为家庭作业)。一般而言,学生按自己的节奏完成课程材料,并按需获得以提示与反馈形式提供的帮助。在许多情况下,会预先设定一段时间用于完成任务(如一节或多节课)。
在这些教育技术中,学生通过回答问题来执行任务,或在某些情况下以逐步的方式输入问题的解答。所有输入要么是选择题作答,要么是可自动评分的简短建构性作答,后者有时借助人工智能算法完成。有些学生作答针对的是四选一的多选题,但大多数要求的学生作答是开放式的。这些作答包括文本框,学生在其中输入数字(如 “72.3”)、表达式(如 “(972+b)/5”)或一个词(如某个汉字的拼音拼写)。它们还包括图形用户界面操作,例如点击数轴上的一个位置(ds445)或绘制一个力矢量(ds104)。一些多选题的选项多于四个,例如列出约 12 种对英语冠词选择的可能解释。示例任务见 SI 附录(SI 附录,图 S1–S5)。当学生在第一次尝试中不求助提示而答对时,其对任务的作答会被自动标记为正确;否则,该任务作答被标记为错误。为了估计某一任务机会上的表现,只考虑学生的第一次尝试,尽管学生后续的尝试与系统反馈是学习的关键促成因素。我们把学习定义为表现的积极变化,并把学习操作化为:在执行与特定知识成分相关联的任务的相继机会上,错误率的下降(或正确率的上升)。
数据集选择标准
在 DataShop 可用的数百个数据集中,我们选定了 27 个纳入分析(SI 附录,表 S1 与 S2)。要从一个数据集中获得准确的参数估计,关键是拥有一个高质量的知识成分(KC)模型(参见文献 1、4)。因此,我们寻找其 KC 模型满足一套关于质量与可解释性的精确标准的数据集。要被纳入,一个数据集必须有一个优于至少两个极端备选模型的关联 KC 模型(极端备选模型定义为:在三折按项目分块的交叉验证中测试集均方根误差最低者),即一个把每个不同任务都编码为不同 KC 的项目模型(如表 1 中的 Q3),以及一个把所有单元任务都编码为单一 KC 的官能模型(如表 1 中的 Q0)。为便于直接解释,我们只考虑每个单元任务带单一 KC 标签的 KC 模型(见注 *)。对于拥有多于上述三个 KC 模型的数据集,我们选择在按项目分层的交叉验证中总体预测拟合最佳的 KC 模型(始终在同一学生观测样本上进行比较)。
我们考察了 KC 模型的质量对我们所呈现结果的影响。更好的 KC 模型往往既提高总体学习速率(参见文献 12),又轻微提高学生学习速率的变异性。尽管如此,无论选择哪个 KC 模型,我们的主要结果——尤其是低学生学习速率变异性——依然成立(详见 SI 附录)。
我们剔除了两个初始总体成功率高于 80% 的数据集,因为它们留下的观察学习的空间较小。在选定的 27 个数据集中,我们注意到一些特定的 KC 关联的数据点太少。因此,在每个数据集中,只有当一个 KC 至少拥有 10 名学生的数据、且每名学生至少有两次学习机会时,该 KC 才被纳入。13 个数据集纳入了全部 KC;在其余 14 个数据集中,952 个 KC 平均有 2.7 个被剔除。
数据、材料与软件可用性
所有数据可从 SI 附录表 S3 中的链接获取;所有分析脚本见:https://pslcdatashop.web.cmu.edu/Files?datasetId=4629(文献 66)。
致谢
我们感谢 Carnegie Learning, Inc. 提供本研究使用的部分数据集;感谢美国国家科学基金会对数据基础设施创建与研究实施的支持,资助包括来自社会、行为与经济科学学部的项目(SBE 0354420 与 SBE 0836012)、来自先进网络基础设施学部的项目(OAC 1443068),以及来自行为与认知科学学部的项目(BCS 1824257)。
(参考文献共 66 条,此处从略。)
译注:1) 所提供的 PDF 提取文本仅包含正文、图注、表注与参考文献,未包含 PNAS 在线的 SI 附录内容(表 S1–S3、图 S1–S10),故 SI 附录未译。2) 原文“found the median standard across datasets to be 0.651”疑为“median standard deviation(中位数标准差)”之笔误,译文按“中位数标准差”处理。3) “材料与方法”中“(Table 2 see 66)”疑为排版残缺,按“(表 2;见文献 66)”处理。4) 表 1 的列分组结构(Q0–Q3)依据正文描述由文本流还原,数值经与原文逐行核对。5) 原文第 5 页图 2 中的轴标签数值(如 4.3%、2.9%、0.19% 等)属图形内嵌文字,未计入正文翻译。6) 原文研究问题编号后偶有换行符残留(如 “1. Practice needed”),系 PDF 提取所致,不影响内容。



