基于多层注意力网络的可解释认知追踪方法

1. ＤＯＩ：１０．７５４４ｉｓｓｎ１０００－１２３９．２０２１．２０２１０９９７ / ５８（１２）：２６３０２６４４，２０２１计算机研究与发展ｆＣｏｍｐｕｔｅｒＲｅｓｅａｒｃｈａｎｄＤｅｖｅｌｏｐｍｅｎｔＪｏｕｒｎａｌｏ基于多层注意力网络的可解释认知追踪方法，，，孙建文１２周建鹏１２刘三女牙１２何绯娟３唐云４１（华中师范大学人工智能教育学部２（教育大数据应用技术国家工程实验室（华中师范大学）武汉４３００７９）３（西安交通大学城市学院计算机系４（华中师范大学心理学院武汉４３００７９）西安７１００１８）武汉４３００７９）（ｓｕｎｃｎｕ．ｅｄｕ．ｃｎ）ｊｗ＠ｃＨｉｅｒａｒｃｈｉｃａｌＡｔｔｅｎｔｉ oｎＮｅｔｗo ｒｋＢａｓｅｄＩｎｔｅｒｐｒｅｔａｂｌｅＫｎoｗｌｅｄｇｅＴｒａｃｉｎｇ，，，ＳｕｎＪｉａｎｗｅｎ１２，ＺｈｏｕＪｉａｎｐｅｎｇ１２，ＬｉｕＳａｎｎüｙａ１２，ＨｅＦｅｉｕａｎ３，ａｎｄＴａｎｇＹｕｎ４ｊ１２（ＦａｃｕｌｔｔｉｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅｉｎＥdｕｃａｔｉｏｎ，ＣｅｎｔｒａｌＣｈｉｎａＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙｏｆＡｒｆｙ，Ｗｕｈａｎ４３００７９）（ＮａｔｉｏｎａｌＥｎｇｉｎｅｅｒｉｎｇＬａｂｏｒａｔｏｒｙｆｔｉｏｎａｌＢｉｇＤａｔａ（ＣｅｎｔｒａｌＣｈｉｎａＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｏｒＥdｕｃａｙ），Ｗｕｈａｎ４３００７９）３（ＤｅｐａｒｔｍｅｎｔｏｆＣｏｍｐｕｔｅｒ，Ｘｉ ' ａｎＪｉａｏｔｏｎｇＵｎｉｖｅｒｓｉｔｔｌｌｅｇｅ，Ｘｉ ' ａｎ７１００１８）ｙＣｉｙＣｏ４（ＳｃｈｏｏｌｏｆＰｓｙｃｈｏｌｏｇｙ，ＣｅｎｔｒａｌＣｈｉｎａＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ，Ｗｕｈａｎ４３００７９）ｅｄｉｃｔＡｂｓｔｒａｃｔＫｎｏｗｌｅｄｇｅｔｒａｃｉｎｇｉｓａｄａｔａ－ｄｒｉｖｅｎｌｅａｒｎｅｒｍｏｄｅｌｉｎｇｔｅｃｈｎｏｌｏｇｙ，ｗｈｉｃｈａｉｍｓｔｏｐｒｌｅａｒｎｅｒｓ 'ｋｎｏｗｌｅｄｇｅｍａｓｔｅｒｒｆｕｔｕｒｅｐｅｓｅｄｏｎｔｈｅｉｒｈｉｓｔｏｒｉｃａｌｌｅａｒｎｉｎｇｄａｔａ．Ｒｅｃｅｎｔｌｒｆｏｒｍａｎｃｅｂａｙｏｙ，ｗｉｔｈｔｈｅｓｕｐｐｏｒｔｏｆｄｅｅｐｌｅａｒｎｉｎｇａｌｒｉｔｈｍｓ，ｄｅｅｐｌｅａｒｎｉｎｇ－ｂａｓｅｄｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇｈａｓｂｅｃｏｍｅａｇｏｏｂｌｅｍｓｔｃｕｒｒｅｎｔｒｅｓｅａｒｃｈｈｏｔｓｐｏｔｉｎｔｈｅｆｉｅｌｄ．Ａｉｍｉｎｇａｔｔｈｅｐｒｈａｔｄｅｅｐｌｅａｒｎｉｎｇ－ｂａｓｅｄｋｎｏｗｌｅｄｇｅ ‘ ’ ，ｅｌｓｇｅｎｅｒａｌｌｖｅｂｌａｃｋ－ｂｏｘａｔｔｒｉｂｕｔｅｓｔｈｅｄｅｃｉｓｉｏｎ－ｍａｋｉｎｇｐｒｏｃｅｓｓｏｒｒｅｓｕｌｔｓｌａｃｋｔｒａｃｉｎｇｍｏｄｙｈａｏｖｉｄｅｈｉｎｔｅｒｅｔａｂｉｌｉｔｔｉｓｄｉｆｆｉｃｕｌｔｔｏｐｒｉｌｕｅｅｄｕｃａｔｉｏｎｓｅｒｖｉｃｅｓｓｕｃｈａｓｌｅａｒｎｉｎｇａｔｔｒｉｂｕｔｉｏｎｐｒｙ，ａｎｄｉｇｈ－ｖａｏｎｇｃａｕｓｅｂａｃｋｔｒａｃｋｉｎｇ，ａＨｉｅｒａｒｃｈｉｃａｌＡｔｔｅｎｔｉｏｎｎｅｔｗｏｒｋｂａｓｅｄＫｎｏｗｌｅｄｇｅＴｒａｃｉｎｇａｎａｌｉｓａｎｄｗｒｙｓｍｏｄｅｌ（ＨＡＫＴ）ｉｏｐｏｓｅｄ．Ｂｙｍｉｓｐｒｎｉｎｇｔｈｅｍｕｌｔｉ－ｄｉｍｅｎｓｉｏｎａｌａｎｄｉｎ－ｄｅｐｔｈｓｅｍａｎｔｉｃａｓｓｏｃｉａｔｉｏｎｂｅｔｗｅｅｎｑｕｅｓｔｉｏｎｓ，ａｎｅｔｗｏｒｋｓｔｒｕｃｔｕｒｅｃｏｎｔａｉｎｉｎｇｔｈｒｅｅ－ｌａｙｅｒａｔｔｅｎｔｉｏｎｏｆｑｕｅｓｔｉｏｎｓ，ｓｅｍａｎｔｉｃｓａｎｄｒａｐｈａｓｅｓｔａｂｌｉｓｈｅｄ，ｗｈｅｒｅｇｔｔｅｎｔｉｏｎｎｅｕｒａｌｎｅｔｗｏｒｋａｎｄｓｅｌｆ－ａｔｔｅｎｔｉｏｎｍｅｃｈａｎｉｓｍａｒｅｅｌｅｍｅｎｔｓｉ，ｕｔｉｌｉｚｅｄｆｓｔｉｏｎｒｓｔｉｏｎｓｒｏｒｑｕｅｅｐｒｅｓｅｎｔａｔｉｏｎｌｅａｒｎｉｎｇｓｅｍａｎｔｉｃｆｕｓｉｏｎａｎｄｑｕｅｅｔｒｉｅｖｅ．Ａｒｅｇｕｌａｒｉｚａｔｉｏｎｏｉｍｐｒｏｖｅｍｏｄｅｌｉｎｔｅｒｅｔａｂｉｌｉｔｓｉｎｔｒｏｄｕｃｅｄｉｎｔｏｔｈｅｌｏｓｓｆｕｎｃｔｉｏｎ，ｗｉｔｈｗｈｉｃｈａｔｒａｄｅ－ｏｆｆｔｅｒｍｔｐｒｙｉ，ｅｄｉｃｔｉｖｅｐｅｒｆｏｒｍａｎｃｅａｎｄｉｆａｃｔｏｒｉｓｉｎｃｏｒｒａｔｅｄｔｏｂａｌａｎｃｅｐｒｎｔｅｒｅｔａｂｉｌｉｔｆｍｏｄｅｌ．Ｂｅｓｉｄｅｓｗｅｐｏｐｒｙｏｄｅｆｉｎｅａｎｉｎｔｅｒｅｔａｂｉｌｉｔａｓｕｒｅｍｅｎｔｉｎｄｅｘｆｏｒｔｈｅｐｒｅｄｉｃｔｉｏｎｒｅｓｕｌｔｓ — ｆｉｄｅｌｉｔｉｃｈｃａｎｐｒｙｍｅｙ，ｗｈｌｕａｔｅｔｈｅｍｏｄｅｌｉｎｔｅｒｅｔａｂｉｌｉｔｉｎａｌｌｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｏｎ６ｂｅｎｃｈｍａｒｋｔｉｔａｔｉｖｅｌｐｒｙ．Ｆｙ，ｔｑｕａｎｙｅｖａｄａｔａｓｅｔｓｓｈｏｗｔｈａｔｏｕｒｍｅｔｈｏｄｅｆｆｅｃｔｉｖｅｌｏｖｅｓｔｈｅｍｏｄｅｌｉｎｔｅｒｅｔａｂｉｌｉｔｙｉｍｐｒｐｒｙ．收稿日期：２０２１－１０－１１；修回日期：２０２１－１１－１６基金项目：国家科技创新２０３０新一代人工智能重大项目（２０２０ＡＡＡ０１０８８０４）；国家自然科学基金项目（６２０７７０２１，６１９７７０３０，６１９３７００１，６１８０７０１１）；陕西省自然科学基础研究计划项目（２０２０ＪＭ－７１１）；陕西省教育科学“ 十三五” 规划课题（ＳＧＨ２０Ｙ１３９７）；西安交通大学城市学院课程思政专项研究项目（ＫＣＳＺ０１００６）；华中师范大学研究生教学改革研究项目（２０２０ＪＧ１４）ＴｈｉｓｗｏｒｋｗａｓｓｕｐｐｏｒｔｅｄｂｙｔｈｅＭａｏｒＰｒｏｇｒａｍｏｆＮａｔｉｏｎａｌＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙＩｎｎｏｖａｔｉｏｎ２０３０ｏｆＣｈｉｎａｆｏｒＮｅｗＧｅｎｅｒａｔｉｏｎｊｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｅ（２０２０ＡＡＡ０１０８８０４），ｔｈｅＮａｔｉｏｎａｌＮａｔｕｒａｌＳｃｉｅｎｃｅＦｏｕｎｄａｔｉｏｎｏｆＣｈｉｎａ（６２０７７０２１，６１９７７０３０，ｏｆＡｒｇｅｎｃ６１９３７００１，６１８０７０１１），ｔｈｅＮａｔｕｒａｌＳｃｉｅｎｃｅＢａｓｉｃＲｅｓｅａｒｃｈＰｒｏｇｒａｍｏｆＳｈａａｎｘｉＰｒｏｖｉｎｃｅ（２０２０ＪＭ－７１１），ｔｈｅＳｈａａｎｘｉＰｒｏｖｉｎｃｉａｌｉｅｎｃｅＲｅｇｕｌａｔｉｏｎｓ “ ＴｈｉｒｔｅｅｎｔｈＦｉｖｅ－Ｙｅａｒ ” ＰｌａｎＰｒｏｅｃｔ（ＳＧＨ２０Ｙ１３９７），ｔｈｅＳｐｅｃｉａｌＲｅｓｅａｒｃｈＰｒｏｅｃｔｏｆＸｉ ' ａｎＥｄｕｃａｔｉｏｎＳｃｊｊＪｉａｏｔｏｎｇＵｎｉｖｅｒｓｉｔｉｔｌｌｅｇｅ（ＫＣＳＺ０１００６），ａｎｄｔｈｅＴｅａｃｈｉｎｇＲｅｆｏｒｍＲｅｓｅａｒｃｈＰｒｏｅｃｔｆｏｒＰｏｓｔｒａｄｕａｔｅｓｏｆＣｅｎｔｒａｌＣｈｉｎａｙＣｙＣｏｊｇｉｖｅｒｓｉｔ２０２０ＪＧ１４）．ＮｏｒｍａｌＵｎｙ（通信作者：何绯娟（ｈｆｉｌ．ｘｔｕ．ｅｄｕ．ｃｎ）ｊ＠ｍａｊ

2. 孙建文等：基于多层注意力网络的可解释认知追踪方法２６３１Ｋｅｒｄｓｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ；ｉｎｔｅｒｅｔａｂｉｌｉｔｉｅｒａｒｃｈｉｃａｌａｔｔｅｎｔｉｏｎ；ｑｕｅｓｔｉｏｎｓｅｍａｎｔｉｃ；ｆｉｄｅｌｉｔｐｒｙ；ｈｙｙｗo 摘要认知追踪是一种数据驱动的学习主体建模技术，旨在根据学生历史答题数据预测其知识掌握状态或未来答题表现．近年来，在深度学习算法的加持下，深度认知追踪成为当前该领域的研究热点．针对深度认知追踪模型普遍存在黑箱属性，决策过程或结果缺乏可解释性，难以提供学习归因分析、错因追溯等高价值教育服务等问题，提出一种基于多层注意力网络的认知追踪模型．通过挖掘题目之间多维度、深层次的语义关联信息，建立一种包含题目元素、语义和记录等３层注意力的网络结构，利用图注意神经网络和自注意力机制等对题目进行嵌入表示、语义融合和记录检索．特别是在损失函数中引入提升模型可解释性的正则化项与权衡因子，实现对模型预测性能与可解释强度的调控．同时，定义了预测结果可解释性度量指标———保真度，实现对认知追踪模型可解释性的量化评估．最后，在６个领域基准数据集上的实验结果表明：该方法有效提升了模型的可解释性．关键词认知追踪；可解释性；多层注意力；题目语义；保真度中图法分类号ＴＰ３９１现规模化教育与个性化培养的有机结合” 是《中国教［］［］［］提出ＤＫＶＭＮ［１２］，ＳＫＶＭＮ１３，ＨＭＮ１４，ＳＡＫＴ１５，［］［］［］纵观认ＫＱＮ１６，ＧＫＴ１７，ＡＫＴ１８等一系列新模型．云计算、大数据、人育现代化２０３５》的战略任务之一．知追踪的整个发展历程，ＫＴ模型从技术上可分为３工智能等技术的发展，正推动教育从数字化、网络化类［８］：基于概率的模型［１０，１９］、基于逻辑函数的模向智能化加速跃升，智慧教育成为新一代技术环境型［５，２０－２１］和基于深度学习的模型（以下称之为深度认下的教育信息化新范式［１］，为突破个性化学习技术知追踪模型）［１１－１２，１５，１７，２２］．深度学习具有强大的拟合瓶颈，实现“ 因材施教” 的千年梦想提供了历史机遇．非线性函数和特征提取能力，使其适合用于建模复教育情境可计算、学习主体可理解、学习服务可定制杂的认知过程，相比于概率类和基于逻辑函数的模 “ 利用现代技术加快推动人才培养模式改革，实［２］，学习主体是型往往具有更高的预测性能，尤其是对于海量数据教育系统的核心要素，对学习主体的精准洞察是开集其优势更加明显［２３］．但目前大多数深度认知追踪展“ 因材施教” 的前提．认知追踪（ｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ，模型均采用具有“ 黑盒” 性质的神经网络技术进行建ＫＴ）作为一种数据驱动的学习主体建模技术，在大规模开放在线课程（ｍａｓｓｉｖｅｏｐｅｎｏｎｌｉｎｅｃｏｕｒｓｅｓ，模，使其预测过程或结果的可解释性较差，难以满足ＭＯＯＣ）、智能导学系统（ｉｎｔｅｌｌｉｅｎｔｔｕｔｏｒｉｎｇｓｓｔｅｍ，ｇｙＩＴＳ）等数字学习平台蓬勃发展、海量学习过程数据近年来，深度认知追踪模型缺乏可解释性的问题开始受到研究者的重视．其中比较有代表性的工爆发式增长等多重效应的加持下，成为近年国内外作是将注意力机制应用于认知追踪以提升模型预测是实现个性化学习面临的三大挑战智能教育领域的研究热点［３－８］．认知追踪的思想源于美国著名心理学家［９］Ａｔｋｉｎｓｏｎ，１９９５年被美国卡耐基梅隆大学的Ｃｏｒｂｅｔｔ等人［１０］引入智能导学系统，并提出贝叶斯教育领域强调归因分析的需求．结果的可解释性［１５，１８，２２，２４］．其基本思想在于：学生的历史答题记录反映了当前答题表现，而不同历史答题记录对当前答题的影响是不同的；通过注意力机制使模型学习当前题目与历史答题记录的相关性权认知追踪方法（Ｂａｙｅｓｉａｎｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ，ＢＫＴ），其任务是根据学生过去的答题记录，对学生重，从而根据相关历史记录的题目信息以及答题情的知识掌握状态进行建模，目标是预测学生答对下用注意力机制的认知追踪模型只关注当前题目与历一道题目的概率．２０１５年，美国斯坦福大学的Ｐｉｅｃｈ史记录的浅层相关性信息，而忽略了当前题目与历等人［１１］首次将深度神经网络技术用于认知追踪，况为模型的预测结果提供一定的解释．但是目前利史题目之间的多语义深层关联．由于这些模型仅引提出一种基于循环神经网络的深度认知追踪方法入题目技能关系，只能将模型所学注意力权重归（ｄｅｅｐｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ，ＤＫＴ），在模型预测性能上取得显著提升．ＤＫＴ的提出顺应了人工智能的技因于题目在技能维度的相似性．然而，能够反映当前术发展趋势，吸引了多个领域学者的研究兴趣，先后录，还有其他类型的相似题目，如协同相似［２５］（即从题目答题表现的不仅仅是技能相同题目的答题记

3. 计算机研究与发展２０２１，５８（１２）２６３２学生题目交互数据中挖掘的相似）、模板相似［２５］、难度相似［２６］等．具体地，１）将认知追踪问题域中不同类型实体及其关系表示为异质图，并从中抽取对应不同语义的二题目之间的深层语义关联可从２个层面进行挖［］部图；２）基于图注意神经网络２７构建元素级注意掘：１）在哪些语义维度具有关联以及不同语义维度力，学习不同二部图中题目节点嵌入；３）利用语义级关联强度如何；２）在特定语义维度由哪些元素进行注意力将多种语义维度的题目嵌入融合成最终题目 “ 语义 ” 指衡量题目关联以及不同元素的作用如何．［］嵌入；４）基于自注意力机制２８构建记录级注意力，具有关联的方面，如“ 具有相同技能的题目是有关联检索并融合相关历史答题信息，进而预测当前题目的” 和“ 具有相同难度的题目是有关联的” 属于不同的答对概率． “ 元素” 指在特定语义维度关联题目的实体，的语义．本文贡献主要体现在３个方面：如题目通过技能进行关联，则技能被称为元素，题目１）针对当前深度认知追踪模型对预测结果普因此，为了通过学生进行关联，则学生被称为元素．遍缺乏可解释性或仅通过建模题目之间浅层关系提建模当前题目与历史答题记录的相关性及其多语义供解释的问题，提出了一种通过多层注意力网络挖深层关联，提出了一种多层注意力网络，包含记录级掘题目多语义深层关联信息的方法，能够显著提升注意力、语义级注意力和元素级注意力，如图１所示模型对预测结果的可解释性．（相比于其他基于注意力机制的认知追踪模型，增加２）提出了评估认知追踪模型预测结果是否具了语义级和元素级注意力）．记录级注意力通过历史有可解释性的基本思想，由此设计了提升模型可解题目和当前题目的向量表示计算历史记录的相关性释性的损失函数以及预测结果可解释性度量指标．权重，然后按照权重综合历史记录的答题信息对当３）在多个基准数据集上进行了充分实验，并与前答题做预测．语义级注意力能够计算不同语义维度对题目最终向量表示的重要性权重，并根据权重将不同类型的语义信息融合．元素级注意力旨在学习特定语义下不同元素反映题目特征的重要性权重，并按照权重将元素信息聚合到题目上．通过融合多层注意力，不仅可以得到哪些答题记录对当前答题预测具有更高的权重信息，还能获得在计算这些权重时哪些语义信息起到了更大的作用，以及在特定语义下哪些元素更能反映题目的特征．由此，可以结合多层注意力权重分布对模型完整的决策过程进行可视化分析与呈现，详见３．５．１节决策过程分析．基于题目嵌入或注意力机制等相关的认知追踪模型进行了比较分析，验证了所提模型在预测性能上的有效性以及预测结果的可解释性．１相关工作１．１基于深度学习的认知追踪目前的深度认知追踪模型主要包括ＤＫＴ［１１］，［］［］ＤＫＶＭＮ１２，ＳＡＫＴ１５及其改进模型．ＤＫＴ利用循环神经网络来建模学生答题序列，并使用高维连续的隐向量表示认知状态．但是，ＤＫＴ仅使用题目对应［］的技能编号作为输入，忽略了其他题目信息．ＥＫＴ２２，［］［］［］［］ＤＨＫＴ２９，ＰＥＢＧ３０，ＧＩＫＴ３１，ＣｏＫＴ２５等模型在ＤＫＴ的基础上扩展了题目嵌入模块，利用题目文本信息或题目与学生、技能之间的交互信息增强题目表示．ＤＫＶＭＮ基于记忆网络建模学生答题序列，利用键、值矩阵分别表示题目的隐藏技能和技能的掌握状态．针对ＤＫＶＭＮ无法建模学习过程中长期依［］赖的问题，ＳＫＶＭＮ１３将ＬＳＴＭ与ＤＫＶＭＮ结合，提出ＨＯＰ－ＬＳＴＭ机制来解决．针对ＤＫＶＭＮ仅使用单层记忆网络的不足，ＨＭＮ［１４］引入层次记忆网Ｆｉ１ＨｉｅｒａｒｃｈｉｃａｌａｔｔｅｎｔｉｏｎｓｔｒｕｃｔｕｒｅｏｆＨＡＫＴｇ．图１ＨＡＫＴ多层次注意力结构络分别建模工作记忆和长期记忆，并设计了相应的划分机制和衰减机制．ＳＡＫＴ通过自注意力网络建模学生答题序列，显式地建模当前答题与历史答题本文提出一种基于多层注意力网络的认知追踪模型，能够为模型的决策过程和预测结果提供解释．［］［］记录的相关性．ＲＫＴ２４和ＡＫＴ１８分别通过引入题目文本信息、题目上下文信息等进一步改进了ＳＡＫＴ，

4. 孙建文等：基于多层注意力网络的可解释认知追踪方法２６３３并基于学到的注意力权重对预测结果进行解释性分［］哪些部分．２０１７年，谷歌团队提出的自注意力机制２８析．总的来说，当前大多数深度认知追踪模型在预测更是成为目前大规模预训练语言模型的基础．研究性能上可取得较好的效果，但可解释性普遍较低．者将注意力机制用于图神经网络提出了ＧＡＴ［２７］，［］ＨＡＮ３９等图表示学习模型，能够学习不同邻居节１．２可解释深度认知追踪深度认知追踪模型已然成为认知追踪领域的研点对中心节点的重要性．究热点，其可解释性研究则方兴未艾．随着可解释性日益成为人工智能领域的研究热点［３２－３３］，认知追踪２模型领域也越来越关注模型的可解释性研究，并形成初步成果．根据解释的对象，可将相关研究分成２类：本节首先对认知追踪问题进行形式化定义，介面向学生认知状态的解释和面向模型预测过程的解绍相关概念的符号表示，然后整体描述模型框架，最释．面向认知状态的解释旨在显式地建模认知状态，后依次介绍模型的各个组成模块以及损失函数．即模型内部存在可理解的参数对应每个技能的掌握２．１问题定义状态（标量值）．由于深度认知追踪模型均使用隐向一方面，认知追踪问题域中的多种实体及其关量表示认知状态，而向量内部的参数难以解释．为使系组成了异质图Ｇ＝（Ｅ，Ｒ），其中Ｅ和Ｒ分别表示深度认知追踪模型输出可理解的认知状态，目前通实体和关系集合 . 实体主要包括学生、题目以及题目常的做法是将其与经典的认知诊断模型结合（如的属性标签（即技能、模板等），关系主要为学生题［３４－３７］ＩＲＴ模型），其主要方式是将深度模型的输出目和题目属性等 . 通过异质图可以挖掘题目之间的作为ＩＲＴ模型的输入，进而利用ＩＲＴ模型做预测．多语义深层关联 . 另一方面，一个学生的答题序列由由于ＩＲＴ模型的约束，深度模型的输出可以对应若干时间步对应的答题记录按照时序关系排列而ＩＲＴ模型中可解释的参数（比如可理解的认知状成，时间步ｔ的答题记录可以表示为ｘｔ＝（ａｔ），ｑｔ，度模型已训练好的答题预测模块中的题目嵌入更换０表示答ｑｔ表示题目编号而ａｔ表示答题正确性（错，在引入题目多语义关联后，认知追１表示答对） . 为技能嵌入并将对应题目嵌入的部分参数置零，由踪任务可以被形式化表述为：已知异质图Ｇ，当给定另外，一些研究者将深态、学生能力、题目难度等）．［１２，２２］面向预．学生历史答题序列Ｘ＝｛ｘ１，ｘ２，…，ｘｔ－１ } 和当前题测过程的解释旨在解释模型为什么做出这样的预测．目前常用的方法主要是基于注意力机制的解释，目ｑｔ，要求预测学生正确回答ｑｔ的概率，即Ｐ（ａｔ＝，，）１｜ＧＸｑｔ . ［］［］［］包括ＥＫＴ［２２］，其ＳＡＫＴ１５，ＲＫＴ２４和ＡＫＴ１８等．２．２整体框架此将新的输出视为技能的掌握状态值共同点都是通过计算当前答题与历史记录的相关本文提出基于多层注意力网络的认知追踪模性，进而解释模型在预测时关注哪些记录．然而，这型，包含元素级、语义级和记录级３层注意力．图２些模型仅建模题目之间的浅层关联信息，忽略了题展示了模型的整体框架，包括题目嵌入模块、知识检本文所提模型除了运用目之间的多语义深层关联．索模块和答题预测模块．自注意力机制建模答题序列，还引入了另外２层注首先，从异质图Ｇ中抽取不１）题目嵌入模块．意力机制建模题目之间的多语义深层关联．其优点同语义对应的二部图并构建相应的邻接矩阵；然后，在于不仅能够挖掘更深层的信息，而且使模型的整通过可学习嵌入层为每个节点生成初始特征向量；个预测过程都具备可解释性．除此之外，也有研究者接着，基于图注意神经网络分别构建不同语义维度使用分层相关性传播方法（ＬＲＰ）对认知追踪模型进的元素级注意力，学习不同元素的重要性权重，并按行事后可解释分析，计算模型输出与输入的相关性照所学权重将邻居元素节点的特征向量聚合到题目来解释其预测结果［３８］．１．３基于注意力机制的神经网络由于注意力机制的有效性，其在涉及序列建模节点得到题目嵌入．最后，利用语义级注意力学习不同语义对题目相关性计算的重要性权重，并融合不同语义维度的题目嵌入获得最终题目嵌入．的任务中得到广泛应用．其基本思想是：在预测输出基于自注意力机制构建记录２）知识检索模块．时，重点关注输入的相关部分．因此，它在一定程度级注意力，显式地建模当前题目与历史记录的相关上为模型提供了可解释性，因为人们可以通过模型性，并根据相关性权重融合不同历史答题信息获得所学权重理解模型在进行预测时更关注输入数据的学生状态向量．

5. 计算机研究与发展２０２１，５８（１２）２６３４Ｆｉ２ＴｈｅｏｖｅｒａｌｌｆｒａｍｅｗｏｒｋｏｆＨＡＫＴｇ．图２ＨＡＫＴ模型框架图使用多层感知器（ｍｕ３）答题预测模块．ｌｔｉｌａｙｅｒｒｃｅｐｔｉｏｎ，ＭＬＰ）建模题目嵌入和学生状态向量的ｐｅ交互过程并预测当前题目的答对概率．２．３题目嵌入模块２．３．１语义抽取在异质图中，题目间通过不同元素关联隐含不义 Φ 对应二部图中的节点对（ｉ，ｊ）（其中ｉ表示中心节点，ｊ表示邻居节点），利用注意力机制学习不同邻居节点ｊ对中心节点ｉ的归一化权重 α ｉ Φ ｊ：（ｔｔｎｅｌｅｍ（ｈｉ Φ ，ｈｊ Φ ；１） α ｉ Φ ｊ＝ａ Φ ）其中，ａｔｔｎｅｌｅｍ表示元素级注意力权重的具体计算过程 . 首先将中心节点ｉ与其所有邻居ｊ的特征向量同的语义信息，例如“ 题目技能题目” 表示具有相各自拼接并通过非线性变换求得权重值；然后通过同技能的题目．从异质图中选取４种关系，每种关系其完整的计算过程为ｓｏｆｔｍａｘ函数将其归一化 . ｅｘｐ（ｗｉｊ）， α ｉ Φ ｊ＝ｅｘｐ（ｗｉｋ）对应一个二部图，每个二部图对应一个邻接矩阵．（被）答对由训练集学生与其回答１）学生 ←— — — → 题目 . 正确的题目构成的二部图，隐含的语义（记为Ｕｃ）为：被同一学生均回答正确的题目是有关联的 . （被）答错由训练集学生与其回答２）学生 ←— — — → 题目 . 错误的题目构成的二部图，隐含的语义（记为Ｕｗ）为：被同一学生均回答错误的题目是有关联的 . （被）关联由所有题目与其关联的３）题目 ←— — — → 技能 . 技能构成的二部图，隐含的语义（记为Ｓ）为：具有相同技能的题目是有关联的 . （被）关联由所有题目与其关联的４）题目 ←— — — → 模板 . 模板构成的二部图，隐含的语义（记为Ｔ）为：具有相同模板的题目是有关联的 . ∑ Φ ｋ ∈ Ｎｉ（２） Φ ］）ｗｉｋ＝ σ （ v Φ Ｔ ·［ｈｉ Φ ‖ ｈｋ其中， v Φ 是 σ 表示激活函数， ‖ 表示向量拼接符号，对应语义 Φ 的可学习注意力向量，Ｎｉ Φ 表示节点ｉ的邻居节点集合 . 对于语义 Φ ，按照归一化权重 α ｉ Φ ｊ聚合邻居节点的特征向量获得中心节点的嵌入ｅｉ Φ ：ｅｉ Φ ＝ σ （ ∑ α ｉ Φ ｊｈｊ Φ ），（３） Φ ｊ ∈ Ｎｉ给定语义集合｛ Φ １， Φ ２，…， Φ Ｐ }，求得题目ｉ在 Φ １ Φ ２不同语义维度的嵌入｛ｅｉ，ｅｉ，…，ｅｉ Φ Ｐ } . ２. ３ . ３语义级注意力为了求得最终题目嵌入，需要将不同语义维度２. ３ . ２元素级注意力的题目嵌入进行融合 . 对于同一道题目，不同语义的在二部图中聚合邻居元素节点的特征向量获取重要性可能是不同的；对于不同的题目，相同语义的题目嵌入时，不同邻居的作用是不同的，因此设计元重要性也可能是不同的 . 由此，提出语义级注意力学素级注意力来学习不同邻居的重要性 . 首先，通过可习不同语义对特定题目的重要性 . 将元素级注意力学习嵌入层生成所有节点的初始特征向量（节点ｉ所学不同语义维度的题目嵌入作为输入，语义级注在语义 Φ 下的初始特征向量记为ｈ） . 然后，给定语意力计算不同语义对题目ｉ的归一化权重： Φ ｉ

6. 孙建文等：基于多层注意力网络的可解释认知追踪方法２６３５ Φ １ Φ ２ Φ Ｐｔｔｎｓｅｍ（ｅｉ Φ １，ｅｉ Φ ２，…，ｅｉ Φ Ｐ），（４） β ｉ， β ｉ，…， β ｉ＝ａ其中，ａｔｔｎｓｅｍ表示语义级注意力权重的具体计算过ｅｘｐ（ｗｉ）， γ ｉ＝ｔ－１（） ∑ ｅｘｐｗｋ程 . 首先将不同语义维度的题目嵌入分别进行非线Ｑ性变换；然后将变换后的题目嵌入与可学习注意力ｗｉ＝ Φ ｊｉ β ｅｘｐ（ｗｉ Φ ｊ）＝Ｐ， d ■ 其中，ＷＱ ∈ＲＲ d × d 和ＷＫ ∈ＲＲ２ d × d 分别是自注意力机最后，将历史交互向量按照注意力权重加权求和，得到记录级注意力模块的输出向量ｏｔ ∈ＲＲ d ，即ｋ＝１ｗｉ Φ ｋ＝ v ｓＴｅｍ · ｔａｎｈ（Ｗｅｉ Φ ｋ＋ｂ），（５）与当前答题相关的学生状态向量：ｔ－１其中，Ｗ是权重矩阵，ｂ是偏差向量， v ｓｅｍ是语义级注意力向量，均为模型可学习参数 β . ｉ Φ ｊ越高，表明在衡量题目关联程度时语义 Φ ｊ的作用更大 . 最后，按照所求注意力权重将题目 β ｉ Φ ｊ在不同语义维度的嵌入加权求和，得到题目的最终嵌入ｅｉ：Ｐ Φ ｊ Φ ｊｉｉｅｉ＝ ∑ β ｅ . （６）ｊ＝１２．４知识检索模块通过题目嵌入模块，可以获得任意一道题目ｉ的向量表示ｅｉ . 对于第ｔ个时间步的题目嵌入，记为为了融入答题情况ａｔ，将题目嵌入ｅｔ与相同 d ｅｔ . 维的零向量拼接，获得交互向量ｘｔ ∈ＲＲ２ d ：［ｅｔ ‖０］，ａｔ＝１，［０‖ ｅｔ］，ａｔ＝０. ｏｔ＝ ∑ γ ｉＷＶｘｉ，（９）ｉ＝１其中，ＷＶ ∈ＲＲ d × d 是自注意力机制中ｖａｌｕｅ的映射矩阵 . ２. ４ . ３前馈层为了进一步增强特征的交互能力和模型的拟合能力，将记录级注意力的输出通过ｐｏｉｎｔ－ｗｉｓｅ前馈层进行非线性变换．前馈层由２个线性变换组成，中间包含ＲｅＬＵ激活函数，其计算过程为２. ４ . １交互向量生成｛Ｔ制中ｑｕｅｒｙ和ｋｅｙ的映射矩阵 . ， Φ ∑ ｅｘｐ（ｗｉｋ）ｘｔ＝Ｋ（Ｗｅｔ） · Ｗｘｉ向量 v ｓｅｍ的内积作为权重；最后利用ｓｏｆｔｍａｘ函数将其归一化 . 语义 Φ ｊ对题目ｉ的权重的计算过程为（８）ｋ＝１（）（）（）（）ｈｔ＝Ｗ２ＲｅＬＵ（Ｗ１ｏｔ＋ｂ１）＋ｂ２，（１０）（）（）其中，Ｗ１ ∈ＲＲ d × d 和Ｗ２ ∈ＲＲ d × d 为可学习权重矩（）（）阵，ｂ１ ∈ＲＲ d 和ｂ２ ∈ＲＲ d 为可学习偏差向量 . ２．５答题预测模块预测模块拟合知识检索模块的输出向量ｈｔ与（７）相比于循环神经网络，自注意力机制在序列建模中具有更好的灵活性和有效性，且模型内部生成的注意力权重可以为模型预测结果的解释提供基础 . 因此，与ＳＡＫＴ［１５］一样，本文使用自注意力机制为了将答题交互的相对位置建模学生的答题序列 . 信息编码进模型，定义位置嵌入矩阵Ｐ ∈ＲＲｌ ×２ d 来题目嵌入ｅｔ之间的交互函数，预测学生正确回答当前题目的概率 . 使用多层感知器（ＭＬＰ）实现：（）－１（）ｚｌｅＬＵ（Ｗｌｚｌ＋ｂｌ），ｚｔ０＝［ｈｔ ‖ ｅｔ］，（１１）ｔ＝Ｒｔ（（Ｌ）Ｌ－１Ｌ）（ｉd （Ｗｚｔ＋ｂ），１２）ｙｔ＝Ｓｉｇｍｏ其中，ｌ表示多层感知器的第ｌ ∈ ｛１，２，…，Ｌ－１ } 层，（）（）Ｗｌ ∈ＲＲ d × d 和ｂｌ ∈ＲＲ d 分别是第ｌ层的权重矩阵和偏差向量，ｙｔ是预测概率 . ２．６损失函数及改进策略引入答题序列的位置信息，在加ｌ为最大序列长度 . 尽管在基于注意力机制的认知追踪模型中，相入位置信息后，交互向量表示为ｘｔ＝ｘｔ＋Ｐｔ，Ｐｔ表关性权重可以为预测结果的解释提供基础，但是有示位置嵌入矩阵中第ｔ行，即第ｔ个时间步的位置权重并不意味着一定能够产生易于人们理解的解释嵌入 . 过程．例如，如果模型赋予权重较大的几个历史记录２. ４ . ２记录级注意力的答题情况都是错误（正确）的，但是模型却预测当记录级注意力计算当前题目与历史答题记录的前题目会答对（答错），那么所学权重就很难对预测相关性权重，进而通过聚合历史交互向量得到当前结果形成合理的解释．由此本文提出评估预测结果的学生状态向量 . 将当前时间步的题目嵌入ｅｔ（ｔ表是否具有可解释性的基本思想：模型预测结果与其示当前时间步）映射为查询向量（ｒｑｕｅｙ），将历史交所关注历史记录的真实答题结果的一致性反映了预互向量ｘｉ（ｉ＝１，２，…，ｔ－１）映射为键向量（ｋｅｙ）和测结果的可解释性．值向量（计算当前题目与时间步ｉ的历史答ｖａｌｕｅ） . 题记录的注意力权重 γ ｉ：基于该思想在损失函数中引入可解释性正则化项，使得模型在训练时兼顾预测性能和可解释性．

7. 计算机研究与发展２０２１，５８（１２）２６３６具体地，假设模型预测第ｔ个时间步的答题，历史答指标等进行介绍，然后对各模型预测性能进行对比分题情况为｛ａ１，ａ２，…，ａｔ－１ }，计算得到前ｔ－１个时间步的相关性权重为｛将历史答题 γ １， γ ２，…， γ ｔ－１ } . 析，最后对模型可解释性分别进行定性和定量分析．ｔ－１情况加权求和得到ｓｔ＝ ∑ γ ａ，则ｓｉｉｔ反映了历史ｉ＝１记录的综合答题情况（在考虑当前题目与历史记录相关性的情况下） . 基于上述评估预测结果可解释性３．１数据集及对比模型介绍本文在认知追踪领域６个常用的数据集上进行实验，分别是ＡＳＳＩＳＴ０９，ＡＳＳＩＳＴ１２，ＡＳＳＩＳＴ１７，，ＥｄＮｅｔＳｔａｔｉｃｓ２０１１和Ｅｅｄｉ．ＡＳＳＩＳＴ系列数据集是的思想可知：对于当前时间步ｔ的答题预测，若ｓｔ由ＡＳＳＩＳＴｍｅｎｔｓ在线辅导平台收集，其中ＡＳＳＩＳＴ０９是目前认知追踪领域最常用的基准数据与模型预测值ｙｔ越接近，则预测结果的可解释性越好 . 因此，本文将模型的损失函数分成２部分：１）旨集；Ｓｔａｔｉｃｓ２０１１收集于某大学静力学课程的辅导系统；ＥｄＮｅｔ是由在线辅导平台Ｓａｎｔａ自２０１７至２０１９在降低模型预测值ｙｔ与真实值ａｔ的二元交叉熵，年收集的数据集；Ｅｅｄｉ是ＮｅｕｒＩＰＳ２０２０教育数据挖掘挑战赛使用的数据集，由在线教育平台Ｅｅｄｉ自提升模型的预测性能；２）旨在减小模型预测值ｙｔ与结果的可解释性 . 同时使用超参数 λ 来权衡模型的２０１８至２０２０年收集．参照现有研究工作，本文对数据集进行预处理：预测性能与可解释性，则损失函数的整体计算过程：由于ＡＳＳＩＳＴ１２，ＥｄＮｅｔ和Ｅｅｄｉ数据集太大，从中 L ＝（１－ λ ） L ｐｒｅｄ＋ λ L ｅｘｐ，随机抽取５０００名学生的数据进行实验［３１］．对于历史答题结果加权值ｓｔ的根均方差，提升模型预测 L ｐｒｅｄ＝－ ∑ （ａｌｏｇｙｉｉ（１３）１－ａｉ）ｌｏｇ（１－ｙｉ）），＋（ｉ ∈ ＩＢ（１４）ＡＳＳＩＳＴ系列数据集，删除脚手架问题关联的记［４０］录．对于所有数据集，删除技能标签为空的记录［１８］．对于以技能编号而不是题目编号为输入的模型（即其中，ＩＢ表示一个批次（ｂａｔｃｈ）中的所有交互，｜ＩＢ｜ＤＫＴ，ＤＫＶＭＮ和ＳＡＫＴ），将一道题目的多个技能组合成一个新技能作为输入［４０］．对于Ｓｔａｔｉｃｓ２０１１，将原题目编号和步骤编号合成新的题目编号作为输是总交互数，即一个批次中所有序列长度之和 . 为了入，且对同一题目连续多次作答的情况只保留第一训练模型参数，使用Ａｄａｍ梯度下降算法最小化上次作答记录．将８０％的答题序列作为训练集，其余 L ｅｘｐ＝（ ■ ∑ ｙｉ２－ｓｉ） / ＩＢ，（１５）ｉ ∈ ＩＢ［］最后，从测试集中删除训练集２０％作为测试集３１．中未出现题目的相关记录．预处理后数据集的统计述损失函数 L ．３实验加载数据时，删除长度小于３的答信息如表１所示．题序列；同时考虑到运行效率问题，将长度超过２００本节首先对实验所用数据集、对比模型和评价的答题序列拆分成多个长度为３～２００的序列［１８］．Ｔａｂｌｅ１Ｓｕｍｍａｒｔａｔｉｓｔｉｃｓ o ｆＰｒ o ｃｅｓｓｅｄＤａｔａｓｅｔｓｙＳ表１预处理后的数据集统计信息数据集统计指标ＡＳＳＩＳＴ０９ＡＳＳＩＳＴ１２ＡＳＳＩＳＴ１７ＥｄＮｅｔＳｔａｔｉｃｓ２０１１Ｅｅｄｉ学生数４１６０５０００１７０６５００２３３１５０００题目数１５６８０３６０５６１１５０１１７７５６３３２６７０６技能数１６７２４２８６１８３７１０６１０５０模板数６５５５２７２答题总次数２５９１０５９４０１７９２４８９８９１６５８８２０１１２９２１７５１９８９语义Ｕｃ对应二部图中边的条数１３７４０３５０５９５８７９０９６７７３１６４７０１４３３８０９６８语义Ｕｗ对应二部图中边的条数７０２５６２１１２３０７４２２８３８３０９０２０９９０２１６１５６语义Ｓ对应二部图中边的条数１８９３７０３６０５６１１５０２６３４５７３３２９４６４语义Ｔ对应二部图中边的条数１５６８０３６０５６每道题目的平均回答次数１６．５２６．１２１６．５１４０．９１７８．４２８．２每个技能的平均练习次数１５５１．５３８８５．０２８９５．２９０３．０１０６５．３７１６．２

8. 孙建文等：基于多层注意力网络的可解释认知追踪方法由于本文所提模型结合题目嵌入和注意力机制，因此为了验证模型在预测性能和可解释性方面的有效性，本文从３方面选取对比模型：经典类模型２６３７１Ｉ（ｔ），ｎ ∑ １，｜ｓｔ－ｙｔ｜≤ θ ，Ｆｉdｅｌｉｔｙ＝（１６）０，｜ｓｔ－ｙｔ｜＞ θ ，其中，ｎ表示总预测次数，即测试集中所有序列长度［］其中，ＡＫＴ１８）．ＤＫＴ和ＤＫＶＭＮ分别使用循环神之和 . Ｆｉdｅｌｉｔｙ越大，表明模型可解释性越好 . 经网络和键值记忆网络建模学生序列，是深度认知Ｉ（ｔ）＝｛［］［］［］（ＤＫＴ１１，ＤＫＶＭＮ１２）、题目嵌入类模型（ＤＨＫＴ２９，［］［］［］ＰＥＢＧ３０，ＧＩＫＴ３１）和注意力类模型（ＳＡＫＴ１５，３．３实验设置追踪方向目前最常用的２个基准模型，其均以题目对于对比模型：ＰＥＢＧ ① 和ＧＩＫＴ ② 的官方代码对应的技能编号作为输入．ＤＨＫＴ，ＰＥＢＧ和ＧＩＫＴ均从网上获取，其余模型代码根据其论文描述进行是目前预测性能较好的基于题目嵌入的深度认知追复现．其中，ＰＥＢＧ公开代码中在计算题目属性值时踪模型，均以题目技能关系挖掘题目相似性并学习使用了测试集数据，存在数据泄露的问题，因此在本题目嵌入，再结合ＤＫＴ或ＤＫＶＭＮ做预测．ＳＡＫＴ文中使用修正后的版本．所有对比模型的超参数或和ＡＫＴ均基于自注意力机制，ＳＡＫＴ使用技能编者采用其论文中的最佳设置，或者在验证集（训练集号作为输入，ＡＫＴ以题目编号作为输入并结合Ｒａｓｃｈ的１０％）上进行最优超参数搜索．本文模型ＨＡＫＴ ③ 模型和答题序列的上下文信息学习题目嵌入．ＳＡＫＴ部分超参数设置为：题目嵌入模块中，题目嵌入维度和ＡＫＴ均只有记录级注意力，本文模型则进一步扩为１２８，图注意力网络的注意力头数目为４；知识检展了语义级注意力和元素级注意力，用于建模多语义索模块中，知识状态向量维度为１２８，自注意力网络深层关联以增强模型可解释性．除了上述对比模型，的注意力头数目为８；答题预测模块中，多层感知机本文还将输入技能编号的ＤＫＴ，ＤＫＶＭＮ和ＳＡＫＴ层数为２、中间层维度为１２８；在模型训练阶段，学习分别拓展为输入题目编号的ＤＫＴ－Ｑ，ＤＫＶＭＮ－Ｑ和率设为０．其余超参数００１，批大小ｂａｔｃｈｓｉｚｅ＝３２．ＳＡＫＴ－Ｑ．ＤＫＴ－Ｑ与ＤＫＴ的不同之处仅在于输入（包括解释性正则化项权衡因子 λ ）在不同数据集取部分由独热编码换成可学习嵌入层，而ＤＫＶＭＮ－Ｑ值不一，均通过超参数搜索确定．另外，２．３．１节中介和ＳＡＫＴ－Ｑ在结构上未作改动．由绍的４种语义（Ｕｃ，Ｕｗ，Ｓ，Ｔ）并非全部用于实验．３．２评价指标于数据集特征（如除了ＡＳＳＩＳＴ０９和ＡＳＳＩＳＴ１２，其３．２．１预测性能评价指标他数据集不包含“ 模板” 特征，对应语义Ｔ）以及数据认知追踪任务可以看成是一个二值分类问题，分布差异，其对应的最佳语义组合是不同的．通过实即预测题目回答的正确性（正确或错误）．因此，参照验确定每个数据集的最佳语义组合为ＡＳＳＩＳＴ０９和绝大多数现有研究工作，本文使用ＡＵＣ作为衡量ＡＳＳＩＳＴ１２：Ｓ＆Ｔ，其余数据集：Ｕｃ＆Ｕｗ＆Ｓ．模型预测性能的指标．３．４预测性能分析３．２．２可解释性评价指标为了进一步量化模型的可解释性，基于２．６节表２展示了各个模型在６个数据集上的ＡＵＣ值（取５次重复实验的均值）．分析表２数据可得：模型在输出结果上多大程度上与复杂模型相近，被１）对比以技能编号为输入的模型ＤＫＴ，ＤＫＶＭＮ，ＳＡＫＴ及其对应的以题目编号为输入的变体模型ＤＫＴ－Ｑ，ＤＫＶＭＮ－Ｑ，ＳＡＫＴ－Ｑ发现，仅广泛用于度量机器学习模型的可解释性［３３，４１］ . 首先输入题目编号或仅输入技能编号的模型均不能稳定定义可解释的预测结果：对于时间步ｔ的预测，若模地占有优势．以ＤＫＴ和ＤＫＴ－Ｑ为例，在ＡＳＳＩＳＴ１７，型预测结果ｙｔ与历史答题情况的加权值ｓｔ的差距小于等于指定阈值 θ ，则认为该预测结果是可解释ＥｄＮｅｔ和Ｓｔａｔｉｃｓ２０１１这３个数据集上，ＤＫＴ－Ｑ显著优于ＤＫＴ，而在其他３个数据集上则相反．其原的，否则认为不可解释 . 进一步定义保真度：在所有因是这３个数据集中题目的平均交互次数明显更少的预测结果中，可解释的预测结果所占的比例 . 因（参照表１），表明学生题目的交互数据很稀疏，从此，保真度的计算：而导致以题目编号为输入的ＤＫＴ－Ｑ表现更差．关于预测结果可解释性评估的基本思想，提出可解保真度指可解释释性度量指标：保真度（Ｆｉdｅｌｉｔｙ） . ｔｔｉｔｈｕｂ．ｃｏｍ / ｌｆ－１ ① ｈ / / / ＰＥＢＧｐｓ：ｇｙｔｔｉｔｈｕｂ．ｃｏｍ / Ｒｉｍｏｋｕ ② ｈ / / / ＧＩＫＴｐｓ：ｇｔｔｉｔｈｕｂ．ｃｏｍ / ｏｈｎ１２２６９６６７３５ ③ ｈ / / / ＨＡＫＴｐｓ：ｇｊ

9. 计算机研究与发展２０２１，５８（１２）２６３８Ｔａｂｌｅ２Ｐｒｅｄｉｃｔｉ oｎＰｅｒｆ o ｒｍａｎｃｅ oｎ６Ｄａｔａｓｅｔｓ表２在６个数据集上的预测性能比较数据集上的ＡＵＣ值模型分类模型名称ＡＳＳＩＳＴ０９ＡＳＳＩＳＴ１２ＡＳＳＩＳＴ１７ＥｄＮｅｔＳｔａｔｉｃｓ２０１１ＥｅｄｉＤＫＴ０．７６７６０．７３０５０．７１８６０．７０１５０．８４０３０．７６２４ＤＫＴ－Ｑ０．７１４１０．７０５００．７５４１０．７３６７０．８８５３０．７４０２ＤＫＶＭＮ０．７７６２０．７２２００．７１５９０．６８４６０．８３５００．７４６６ＤＫＶＭＮ－Ｑ０．６８３１０．６９３６０．７３６４０．７３３８０．８６２５０．６６７６ＤＨＫＴ０．７６９９０．７５５８０．７６６１０．７６５８０．８７３８０．７９１１ＰＥＢＧ０．７７０７０．７５２００．７６１２０．７６３７０．８３４１０．７７６１ＧＩＫＴ０．７８５９０．７５９４０．７７２３０．７６４００．８９０７０．７８８１ＳＡＫＴ０．７５７７０．７２６２０．７０７７０．６８９５０．８２５２０．７４８６ＳＡＫＴ－Ｑ０．７４９４０．７３８２０．７５２５０．７６０３０．８６４９０．７７８９ＡＫＴ０．７８８８０．７６６５０．７６２００．７６４７０．８７１８０．７８９０ＨＡＫＴ０．７９０２０．７６７７０．７６６５０．７６１９０．８８３４０．７８４５经典类题目嵌入类注意力类注：最优模型由黑体数字标记，次优模型由下划线标记．２）通过题目技能关系同时引入题目和技能信息的模型（即ＤＨＫＴ，ＰＥＢＧ，ＧＩＫＴ，ＡＫＴ和ＨＡＫＴ）３．５可解释性分析３．５．１决策过程分析总体上比上述仅使用技能信息或仅使用题目信息的ＨＡＫＴ能够通过其内部计算的注意力权重分模型预测性能更好．以ＤＫＴ，ＤＫＴ－Ｑ和ＤＨＫＴ为布对预测过程和结果提供可解释性分析．相比基于例，ＤＨＫＴ在６个数据集上的ＡＵＣ均值分别比单层注意力机制的模型（如ＥＫＴ，ＲＫＴ，ＡＫＴ等），这ＤＫＴ和ＤＫＴ－Ｑ高３．３个百分点和３．１个百分点．ＨＡＫＴ整合多层注意力的权重分布能够生成更精说明，通过同时引入题目和技能信息，保留题目之间确、完整的模型决策过程．具体地，ＨＡＫＴ不仅能检的差异性和相似性，能够使模型的预测更准确．索出哪些历史题目与当前题目关联，还能得到它们３）本文模型ＨＡＫＴ在ＳＡＫＴ的基础上扩展题目嵌入模块，相比ＳＡＫＴ取得了显著的提升，并是如何进行关联的．通过案例来分析ＨＡＫＴ的可解释性．且总体上也略优于其他基于题目嵌入的模型，尤其从测试集中随机选择一名学生（记为ｕ１），图３是ＤＨＫＴ和ＰＥＢＧ．这表明，相比于后者单纯引入对模型预测学生回答第２０道题目（即ｑ２０）时生成的技能维度关联，ＨＡＫＴ通过引入题目的多语义关联多层注意力权重分布以及题目之间的关联图进行可使得模型可以更准确地挖掘题目之间的语义关系，视化 . 为了方便展示，仅呈现权重较大的部分历史题从而学到更优的题目嵌入．在ＡＳＳＩＳＴ０９和ＡＳＳＩＳＴ１２目（即ｑ１８和ｑ１９）及权重较大的部分相关语义（Ｓ表数据集上ＨＡＫＴ表现最佳，其他数据集上与最优示技能维度，Ｕｃ表示学生维度）和元素（如ｓ１和ｕ１模型的差距约０．５个百分点，这说明ＨＡＫＴ在提升等） . 分析图３得：１）根据记录级注意力权重分布，模型在预测当模型可解释性的同时也具有较高的预测性能．４）本文实现的ＳＡＫＴ在所有数据集上预测性［１８］能均低于ＤＫＴ，这一结果与ＡＫＴ前答题时ｑ１８和ｑ１９被赋予最大的权重且其真实答题一文中的结果情况均为“ 正确”；模型预测当前答题正确的概率为一致．其可能的原因是，一方面认知追踪领域的数据这说明模型当前预测结果０. ７５（即答对概率较高） . 量较小，另一方面该领域数据集中相似题目往往依与权重较大的历史记录的答题情况一致，即模型能次出现，使得题目之间的依赖距离较短．因此，自注从历史记录中找到与当前答题相关的记录，并综合意力机制无法发挥其特有的优势．同样，相比于历史答题情况对当前答题做预测 . ＤＨＫＴ和ＧＩＫＴ主要基于循环神经网络，ＨＡＫＴ２）尽管通过记录级注意力能够检索出哪些历完全基于自注意力机制，这可能也是ＨＡＫＴ在部史记录对当前答题影响更大，但是这些历史题目与分数据集预测性能略低于两者的原因．当前题目是如何进行关联的无法得知 . 进一步，通过

10. 孙建文等：基于多层注意力网络的可解释认知追踪方法２６３９语义级注意力权重分布可知，对于相关历史题目关联性，即关联性标签为１，否则关联性标签为０. 然这说明它们的关联主要源ｑ１９，语义Ｕｃ的权重较大 . 于其具有相似的答题交互记录 . 那么与哪些学生的后，定义单次预测中较大权重历史记录与当前题目是否具有相关性：若权重最大的前ｋ个历史记录中交互体现了它们的关联呢？通过元素级注意力权重至少有一个与当前预测题目具有语义关联性，则当分布可知，学生ｕ３和ｕ４的权重较大，这说明由于这次预测命中相关题目，记为１，否则为０；最后，计算命些学生均答对了ｑ１９和ｑ２０，使得模型认为这２道题中相关题目的预测数占所有预测数的比例（命中率） . 目具有关联 . 以ＡＳＳＩＳＴ０９数据集为例，所选语义组合为Ｓ＆Ｔ，３）由此，综合３层注意力可得模型预测当前答即技能维度和模板维度 . 取ｋ＝３，命中率为９０. ５％题的决策过程，可由图３中实线呈现，同时实线部分（若随机选择３个历史记录则命中率为４３．７％），即也表明了历史记录与当前题目的语义关联：由于当在９０％以上的预测中，模型赋予权重最大的３个历前题目与历史题目ｑ１９具有相似的交互记录且与ｑ１８史记录，至少有１个历史记录与当前预测题目有显具有相同的技能，且ｑ１８和ｑ１９均回答正确，因此模型式的语义关联（即有相同技能或相同模板）．因此，预测当前题目答对的概率较高 . ＨＡＫＴ不仅能够捕获题目之间的相关性，并且对模型决策过程的解释具有较高的可靠性．３．５．２一致性分析为了进一步验证案例分析中的观察（即：模型当前的预测结果与相关性权重较大的历史记录的答题情况具有更高的一致性），对模型预测值和历史相关题目答题结果进行一致性分析．参考ＥＫＴ［２２］：１）对于某个学生在某一时间步的预测，首先计算历史答题记录对应的注意力权重，然后将这些答题记录按照注意力权重大小等分成高、中、低３组，最后将每一组的答题得分（正确为１，错误为０）各自按照注意力权重进行加权求和．２）对于每一组，计算该学生所有时间步对应的加权求和值与模型预测值之间的根均方差（表示在考虑当前题目的情况下历史答题情况与当前预测值ｒｏｃｅｓｓＦｉ３Ｖｉｓｕａｌｉｚａｔｉｏｎｏｆｍｏｄｅｌ ' ｓｄｅｃｉｓｉｏｎｐｇ．图３模型决策过程可视化的一致性）．３）将所有学生对应的根均方差以散点图和盒此外，为了验证模型在决策可解释性方面的可从图４中可以看式图的形式展示出来，如图４所示．靠性，本文进一步探究：在所有答题预测中，权重较出，在所有数据集中，高注意力权重组对应的根均方大的历史记录与当前题目存在语义关联的比例有多差均值明显小于其他组（即其答题情况与预测结果大？首先，定义题目的语义关联性：若２道题目至少的一致性最好），且中注意力权重组对应的根均方差在一个语义层面具有相同的元素，则它们具有语义均值同样明显小于低注意力权重组．

11. 计算机研究与发展２０２１，５８（１２）２６４０Ｆｉ４Ａｎａｌｓｉｓｏｆｔｈｅｃｏｎｓｉｓｔｅｎｃｙｂｅｔｗｅｅｎｈｉｓｔｏｒｉｃａｌａｎｓｗｅｒｓａｎｄｐｒｅｄｉｃｔｅｄｐｒｏｂａｂｉｌｉｔｇ．ｙｙ图４历史答题情况与预测概率的一致性分析进一步，采用双样本Ｔ检验对３组的差距进行３．５．３可解释性度量显著性分析 . 对高、中组和中、低组分别进行检验分为了进一步评估和对比各模型对于预测结果的析得ｐ值均远远小于显著性基准值０. ０１，说明３组可解释性，在所有数据集上实验并绘制模型保真度的差距是显著的 . 这一发现表明，从统计意义上来说随可解释性阈值 θ 的变化曲线，如图５所示．其中，相关权重更大的历史答题与模型当前的预测结果具ＨＡＫＴ（ λ ）表示解释性正则化项中权衡因子为 λ 的模型，ＨＡＫＴ（０）则表示无解释性正则化项的版本；有更高的一致性 . 这说明不同历史记录对当前答题预测的影响是不一样的，所以引入注意力机制能有效利用这一规律，从而提升模型的预测性能和可解从图５中可看到：ＳＡＫＴ和ＡＫＴ是对比模型．１）在其中４个数据集上，ＨＡＫＴ（０）的保真度释性 . 均高于ＳＡＫＴ和ＡＫＴ，说明在不加解释性正则化Ｆｉ５Ｖａｒｉａｔｉｏｎｏｆｆｉｄｅｌｉｔｆｅａｃｈｍｏｄｅｌｗｉｔｈｉｎｔｅｒｒｅｔａｂｉｌｉｔｈｒｅｓｈｏｌｄｇ．ｙｏｐｙｔ图５模型保真度随可解释性阈值的变化

12. 孙建文等：基于多层注意力网络的可解释认知追踪方法２６４１项的情况下，本文所提模型通过建模题目的多语义大，以ＡＳＳＡＵＣ减小而保真度增大．ＩＳＴ０９数据集关联一定程度上提升了模型的可解释性．为例，当 λ 从０增大到０．３时，ＡＵＣ从７９．０２％降至２）当加入解释性正则化项且权衡因子 λ 增大７８．８１％（下降０．２个百分点），而保真度从８９．７１％时，保真度也随之明显上升，这说明引入解释性正则升至９５．这说明模型可５２％（上升５．７１个百分点）．化项显著提升了模型对预测结果的可解释性．注意解释性与预测性能难以同时提升，两者需要平衡．到ＡＫＴ的保真度总体上较低，潜在原因是ＡＫＴ相ＨＡＫＴ可以通过改变权衡因子调控模型的预测性比ＳＡＫＴ和ＨＡＫＴ具有更深的自注意力层和更复能和可解释性，在模型预测性能略有下降的情况下，杂的结构，由此降低了可解释性．显著提升其可解释性．为了进一步观察ＨＡＫＴ中权衡因子 λ 如何影在本文所用数据集中，同时考虑模型预测性能响预测性能和可解释性，将不同 λ 值（固定 θ ＝０. ２０）和可解释性的情况下，权衡因子 λ 的较优取值处于对应的ＡＵＣ和保真度以散点图的形式呈现（如图６０．０５～０．２之间，此时预测性能略有下降而保真度有所示）．从图６中可以观察到：总体上看，随着 λ 增较明显的提升．ｒｅｄｉｃｔｉｖｅｐｅｒｆｏｒｍａｎｃｅａｎｄｉＦｉ６Ｔｈｅｉｍｐａｃｔｏｆｔｒａｄｅ－ｏｆｆｆａｃｔｏｒ λ ｏｎｐｎｔｅｒｒｅｔａｂｉｌｉｔｇ．ｐｙ图６权衡因子 λ 对预测性能和可解释性的影响下明显提升了其可解释性．设计了评估模型预测结４总结果可解释性的量化指标．在６个领域基准数据集上进行了预测性能对比实验和可解释性分析，验证了针对现有深度认知追踪模型对预测结果普遍缺本文所提模型同时具有较高的预测性能和可解释性．乏可解释性或者部分模型仅建模题目之间浅层关系深度认知追踪是当前国内外智能教育领域的研的不足，本文提出一种基于多层注意力网络挖掘题究热点之一，可有效支撑学习者建模、学习路径规目多语义关联的认知追踪模型，进一步提升了模型划、学习资源适配等个性化服务．未来，人工智能技的预测性能和可解释性．在损失函数中引入解释性术的持续、快速发展，不断为深度认知追踪方法创新正则化项及权衡因子，在预测性能略有下降的情况提供新的动能．比如旨在突破人工智能非线性瓶颈

13. 计算机研究与发展２０２１，５８（１２）２６４２的下一代人工智能———精准智能［４２］，为处理复杂对象可解释性、泛化性与可复现性等难题提供了可能，也为进一步改进深度认知追踪技术带来新的机遇．［８］ＬｉｕＱｉ，ＳｈｅｎＳｈｕａｎｇｈｏｎｇ，ＨｕａｎｇＺｈｅｎｙａ，ｅｔａｌ．Ａｓｕｒｖｅｙｏｆｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｊ］．ａｒＸｉｖｐｒｅｐｒｉｎｔ，ａｒＸｉｖ：２１０５．１５１０６，２０２１［９］ＡｔｋｉｎｓｏｎＲＣ，ＰａｕｌｓｏｎＪＡ．Ａｎａｐｐｒｏａｃｈｔｏｔｈｅｐｓｌｏｇｙｙｃｈｏｏｆｉｎｓｔｒｕｃｔｉｏｎ［Ｊ］．ＰｓｌｏｇｉｃａｌＢｕｌｌｅｔｉｎ，１９７２，７８（１）：ｙｃｈｏ作者贡献声明：孙建文提出研究问题，设计研究４９６１框架，撰写和修改论文，管理研究过程；周建鹏主要［１０］ＣｏｒｂｅｔｔＡＴ，ＡｎｄｅｒｓｏｎＪＲ．Ｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ：Ｍｏｄｅｌｉｎｇ负责数据处理、形式化建模、实验设计分析与论文起ｔｈｅａｒｏｃｅｄｕｒａｌｋｎｏｗｌｃｉｓｉｔｉｏｎｏｆｐｅｄｇｅ［Ｊ］．ＵｓｅｒＭｏｄｅｌｉｎｇｑｕ草；刘三女牙主要提供研究思路与方法指导；何绯娟主要提供研究经费支持，完善研究思路与框架，指导论文修改等；唐云主要提供文献调研、认知建模理论与实验结果分析等指导性支持．ｅｒ－ＡｄａｐｔｅｄＩｎｔｅｒａｃｔｉｏｎ，１９９５，４（４）：２５３２７８ａｎｄＵｓ［１１］ＰｉｅｃｈＣ，ＢａｓｓｅｎＪ，ＨｕａｎｇＪ，ｅｔａｌ．Ｄｅｅｐｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ２９ｔｈＩｎｔＣｏｎｆｏｎＮｅｕｒａｌＩｎｆｏｒｍａｔｉｏｎ / ＰｒＰｒｏｃｅｓｓｉｎｇＳｙｓｔｅｍ（ＮＩＰＳ）．Ｃａｍｂｒｉｄｇｅ，ＭＡ：ＭＩＴ，２０１５：５０５５１３［１２］ＺｈａｎｇＪｉａｎｉ，ＳｈｉＸｉｎｇｉａｎ，ＫｉｎｇＩ，ｅｔａｌ．Ｄｙｎａｍｉｃｋｅｙ－ｖａｌｕｅｊ参考文献ｍｅｍｏｒｔｗｏｒｋｓｆｏｒｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ / ＰｒｙｎｅｎｔＣｏｎｆｏｎＷｏｒｌｄＷｉｄｅＷｅｂ（ＷＷＷ）．ＮｅｗＹｏｒｋ：２６ｔｈＩ［１］ＺｈｅｎｇＱｉｎｇｈｕａ，ＤｏｎｇＢｏ，ＱｉａｎＢｕｙｕｅ，ｅｔａｌ．Ｔｈｅｓｔａｔｅｏｆｔｈｅａｒｔａｎｄｆｕｔｕｒｅｔｅｎｄｅｎｃｆｓｍａｒｔｅｄｕｃａｔｉｏｎ［Ｊ］．ＪｏｕｒｎａｌｏｆｙｏＣｏｍｐｕｔｅｒＲｅｓｅａｒｃｈａｎｄＤｅｖｅｌｏｐｍｅｎｔ，２０１９，５６（１）：２０９２２４（ｉｎＣｈｉｎｅｓｅ）（郑庆华，董博，钱步月，等．智慧教育研究现状与发展趋势［Ｊ］．计算机研究与发展，２０１９，５６（１）：２０９２２４）［２］ＹａｎｇＺｏｎｇｋａｉ．Ｔｈｅｃｈａｌｌｅｎｇｅｓｏｆｐｅｅａｒｎｉｎｇａｎｄｒｓｏｎａｌｉｚｅｄｌｔｈｅｉｒｓｏｌｕｔｉｏｎｓ［Ｊ］．ＣｈｉｎｅｓｅＳｃｉｅｎｃｅＢｕｌｌｅｔｉｎ，２０１９，６４（Ｚ１）：４９３４９８（ｉｎＣｈｉｎｅｓｅ）（杨宗凯．个性化学习的挑战与应对［Ｊ］．科学通报，２０１９，６４（Ｚ１）：４９３４９８）ＡＣＭ，２０１７：７６５７７４［１３］ＡｂｄｅｌｒａｈｍａｎＧ，ＷａｎｇＱｉｎｇ．Ｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇｗｉｔｈｓｅｑｕｅｎｔｉａｌｋｅｙ－ｖａｌｕｅｍｅｍｏｒｔｗｏｒｋｓ［Ｃ］ / ｏｃｏｆｔｈｅ / ＰｒｙｎｅｎｔＣｏｎｆｏｎＲｅｓｅａｒｃｈａｎｄＤｅｖｅｌｏｐｍｅｎｔｉｎＩｎｆｏｒｍａｔｉｏｎ４２ｎｄＩＲｅｔｒｉｅｖａｌ（ＳＩＧＩＲ）．ＮｅｗＹｏｒｋ：ＡＣＭ，２０１９：１７５１８４［１４］ＬｉｕＳａｎｎüｙａ，ＺｏｕＲｕｉ，ＳｕｎＪｉａｎｗｅｎ，ｅｔａｌ．Ａｈｉｅｒａｒｃｈｉｃａｌｍｅｍｏｒｔｗｏｒｋｆｏｒｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｊｒｔ / ＯＬ］．ＥｘｐｅｙｎｅＳｙｓｔｅｍｓｗｉｔｈＡｐｐｌｉｃａｔｉｏｎｓ，２０２１［２０２１－０９－０１］．ｈｔｔｄｏｉ． / / ｐｓ：１０．１０１６ｅｓｗａ．２０２１．１１４９３５ｏｒ / / ｊ．ｇ［１５］ＰａｎｄｅｙＳ，ＫａｒｉｓＧ．Ａｓｅｌｆ－ａｔｔｅｎｔｉｖｅｍｏｄｅｌｆｏｒｋｎｏｗｌｅｄｇｅｙｐＣ］ / ｏｃｏｆｔｈｅ１２ｔｈＩｎｔＣｏｎｆｏｎＥｄｕｃａｔｉｏｎａｌＤａｔａｔｒａｃｉｎｇ［ / ＰｒＭｉｎｉｎｇ（ＥＤＭ）．Ｗｏｒｃｅｓｔｅｒ，ＭＡ：ＩＥＤＭＳ，２０１９：３８４３８９［３］ＨｕＸｕｅｇａｎｇ，ＬｉｕＦｅｉ，ＢｕＣｈｅｎｙａｎｇ．Ｒｅｓｅａｒｃｈａｄｖａｎｃｅｓｏｎ［１６］ＬｅｅＪ，ＹｅｕｎｇＤＹ．Ｋｎｏｗｌｅｄｇｅｑｕｅｔｗｏｒｋｆｏｒｋｎｏｗｌｅｄｇｅｒｙｎｅｒａｃｉｎｇｍｏｄｅｌｓｉｎｅｄｕｃａｔｉｏｎａｌｂｉｔａ［Ｊ］．Ｊｏｕｒｎａｌｋｎｏｗｌｅｄｇｅｔｇｄａｔｒａｃｉｎｇ：Ｈｏｗｋｎｏｗｌｅｄｇｅｉｎｔｅｒａｃｔｓｗｉｔｈｓｋｉｌｌｓ［Ｃ］ / ｏｃｏｆ / ＰｒｔｅｒＲｅｓｅａｒｃｈａｎｄＤｅｖｅｌｏｐｍｅｎｔ，２０２０，５７（１２）：ｏｆＣｏｍｐｕｔｈＩｎｔＣｏｎｆｏｎＬｅａｒｎｉｎｇＡｎａｌｔｉｃｓ＆Ｋｎｏｗｌｅｄｇｅ（ＬＡＫ）．ｔｈｅ９ｙ２５２３２５４６（ｉｎＣｈｉｎｅｓｅ）（胡学钢，刘菲，卜晨阳．教育大数据中认知跟踪模型研究进展［Ｊ］．计算机研究与发展，２０２０，５７（１２）：２５２３２５４６）［４］ＬｉＸｉａｏｇｕａｎｇ，ＷｅｉＳｉｉ，ＺｈａｎｇＸｉｎ，ｅｔａｌ．ＬＦＫＴ：Ｄｅｅｐｑｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇｍｏｄｅｌｗｉｔｈｌｅａｒｎｉｎｇａｎｄｆｏｒｔｔｉｎｇｇｅｂｅｈａｖｉｏｒｍｅｒｉｎｇ［Ｊ］．ＪｏｕｒｎａｌｏｆＳｏｆｔｗａｒｅ，２０２１，３２（３）：ｇＮｅｗＹｏｒｋ：ＡＣＭ，２０１９：４９１５００［１７］ＮａｋａｇａｗａＨ，ＩｗａｓａｗａＹ，ＭａｔｓｕｏＹ．Ｇｒａｐｈ－ｂａｓｅｄｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ：Ｍｏｄｅｌｉｎｇｓｔｕｄｅｎｔｐｒｏｆｉｃｉｅｎｃｉｎｇｇｒａｐｈｙｕｓｔｗｏｒｋ［Ｃ］ / ｏｃｏｆｔｈｅ１８ｔｈＩｎｔＣｏｎｆｏｎＷｅｂｎｅｕｒａｌｎｅ / ＰｒＩｎｔｅｌｌｉｅ（ＷＩ）．Ｐｉｓｃａｔａｗａｙ，ＮＪ：ＩＥＥＥ，２０１９：１５６１６３ｇｅｎｃ［１８］ＧｈｏｓｈＡ，ＨｅｆｆｅｒｎａｎＮ，ＬａｎＡＳ．Ｃｏｎｔｅｘｔ－ａｗａｒｅａｔｔｅｎｔｉｖｅ８１８８３０（ｉｎＣｈｉｎｅｓｅ）ｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ２６ｔｈＡＣＭＳＩＧＫＤＤＩｎｔｋｎｏｗｌｅｄｇｅｔ / Ｐｒ（李晓光，魏思齐，张昕，等．ＬＦＫＴ：学习与遗忘融合的深度ＣｏｎｆｏｎＫｎｏｗｌｅｄｇｅＤｉｓｃｏｖｅｒｔａＭｉｎｉｎｇ．ＮｅｗＹｏｒｋ：ｙ＆Ｄａ认知追踪模型［Ｊ］．软件学报，２０２１，３２（３）：８１８８３０）ＡＣＭ，２０２０：２３３０２３３９［５］ＶｉｅＪＪ，ＫａｓｈｉｍａＨ．Ｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇｍａｃｈｉｎｅｓ：［１９］ＫａｓｅｒＴ，ＫｌｉｎｇｌｅｒＳ，ＳｃｈｗｉｎｇＡＧ，ｅｔａｌ．ＤｙｎａｍｉｃｂａｙｅｓｉａｎＦａｃｔｏｒｉｚａｔｉｏｎｍａｃｈｉｎｅｓｆｏｒｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆ / Ｐｒｎｅｔｗｏｒｋｓｆｏｒｓｔｕｄｅｎｔｍｏｄｅｌｉｎｇ［Ｊ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎｔｈｅ３３ｒｄＡＡＡＩＣｏｎｆｏｎＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｅ．ＰａｌｏＡｌｔｏ，ｇｅｎｃＣＡ：ＡＡＡＩＰｒｅｓｓ，２０１９：７５０７５７［６］ＣｕｌｌｒｉｓＹ．ＯｎｌｉｎｅｋｎｏｗｌｅｄｇｅｌｅｖｅｌｔｒａｃｋｉｎｇｗｉｔｈｙＡ，Ｄｅｍｉｃｈｎｏｌｏｇｉｅｓ，２０１７，１０（４）：４５０４６２ＬｅａｒｎｉｎｇＴｅ［２０］ＣｅｎＨａｏ，ＫｏｅｄｉｎｇｅｒＫ，ＪｕｎｋｅｒＢ．Ｌｅａｒｎｉｎｇｆａｃｔｏｒｓａｎａｌｉｓ — Ａｇｅｎｅｒａｌｍｅｔｈｏｄｆｏｒｃｏｇｎｉｔｉｖｅｍｏｄｅｌｅｖａｌｕａｔｉｏｎｙｓｄａｔａ－ｄｒｉｖｅｎｓｔｕｄｅｎｔｍｏｄｅｌｓａｎｄｃｏｌｌａｂｏｒａｔｉｖｅｆｉｌｔｅｒｉｎｇ［Ｊ］．ｒｏｖｅｍｅｎｔ［Ｃ］ / ｏｃｏｆｔｈｅ８ｔｈＩｎｔＣｏｎｆｏｎａｎｄｉｍｐ / ＰｒＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＫｎｏｗｌｅｄｇｅａｎｄＤａｔａＥｎｇｉｎｅｅｒｉｎｇ，ＩｎｔｅｌｌｉｔＴｕｔｏｒｉｎｇＳｙｓｔｅｍｓ（ＩＴＳ）．Ｂｅｒｌｉｎ：Ｓｐｒｉｎｇｅｒ，２００６：ｇｅｎ２０１９，３２（１０）：２０００２０１３１６４１７５［７］ＳｈｅｎＳｈｕａｎｇｈｏｎｇ，ＬｉｕＱｉ，ＣｈｅｎＥｎｈｏｎｇ，ｅｔａｌ．Ｌｅａｒｎｉｎｇ［２１］ＰａｖｌｉｋＰ，ＣｅｎＨａｏ，ＫｏｅｄｉｎｇｅｒＫ．Ｐｅｒｆｏｒｍａｎｃｅｆａｃｔｏｒｓｒｏｃｅｓｓ－ｃｏｎｓｉｓｔｅｎｔｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ２７ｔｈ / Ｐｒｐａｎａｌｉｓ：Ａｎｅｗａｌｔｅｒｎａｔｉｖｅｔｏｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃ / ＰｒｙｓＩＧＫＤＤＩｎｔＣｏｎｆｏｎＫｎｏｗｌｅｄｇｅＤｉｓｃｏｖｅｒｔａＡＣＭＳｙａｎｄＤａｈｅ１４ｔｈＩｎｔＣｏｎｆｏｎＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｅｉｎＥｄｕｃａｔｉｏｎｏｆｔｇｅｎｃＭｉｎｉｎｇ．ＮｅｗＹｏｒｋ：ＡＣＭ，２０２１：１４５２１４６０（ＡＩＥＤ）．Ｂｅｒｌｉｎ：Ｓｐｒｉｎｇｅｒ，２００９：５３１５３８

14. 孙建文等：基于多层注意力网络的可解释认知追踪方法２６４３［２２］ＨｕａｎｇＺｈｅｎｙａ，ＹｉｎＹｕ，ＣｈｅｎＥｎｈｏｎｇ，ｅｔａｌ．ＥＫＴ：［３４］ＹｅｕｎｇＣＫ．Ｄｅｅｐ－ｉｒｔ：ＭａｋｅｄｅｅｐｌｅａｒｎｉｎｇｂａｓｅｄｋｎｏｗｌｅｄｇｅＥｘｅｒｃｉｓｅ－ａｗａｒｅｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇｆｏｒｓｔｕｄｅｎｔｐｅｒｆｏｒｍａｎｃｅｔｒａｃｉｎｇｅｘｐｌａｉｎａｂｌｅｕｓｉｎｇｉｔｅｍｒｅｓｐｏｎｓｅｔｈｅｏｒＣ］ / ｏｃｏｆ / Ｐｒｙ［Ｊ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＫｎｏｗｌｅｄｇｅａｎｄＤａｔａｒｅｄｉｃｔｉｏｎ［ｐｔｈｅ１２ｔｈＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＥｄｕｃａｔｉｏｎａｌＤａｔａＥｎｇｉｎｅｅｒｉｎｇ，２０２１，３３（１）：１００１１５ＥＤＭ）．Ｗｏｒｃｅｓｔｅｒ，ＭＡ：ＩＥＤＭＳ，２０１９：６８３６８６Ｍｉｎｉｎｇ（［２３］ＫｈａａｈＭ，ＬｉｎｄｓｅｙＲＶ，ＭｏｚｅｒＭＣ．Ｈｏｗｄｅｅｐｉｓｊ［３５］ＣｏｎｖｅｒｓｅＧ，ＰｕＳｈｉ，ＯｌｉｖｅｉｒａＳ．Ｉｎｃｏｒｒａｔｉｎｇｉｔｅｍｒｅｓｐｏｎｓｅｐｏｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ９ｔｈＩｎｔＣｏｎｆｏｎｋｎｏｗｌｅｄｇｅｔ / Ｐｒｔｈｅｏｒｎｔｏｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ２２ｎｄＩｎｔＣｏｎｆ / ＰｒｙｉＥｄｕｃａｔｉｏｎａｌＤａｔａＭｉｎｉｎｇ（ＥＤＭ）．Ｗｏｒｃｅｓｔｅｒ，ＭＡ：ＩＥＤＭＳ，ｏｎＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｅｉｎＥｄｕｃａｔｉｏｎ（ＡＩＥＤ）．Ｂｅｒｌｉｎ：ｇｅｎｃ２０１６：９４１０１Ｓｐｒｉｎｇｅｒ，２０２１：１１４１１８［２４］ＰａｎｄｅｙＳ，ＳｒｉｖａｓｔａｖａＪ．ＲＫＴ：Ｒｅｌａｔｉｏｎ－ａｗａｒｅｓｅｌｆ－ａｔｔｅｎｔｉｏｎ［３６］ＷａｎｇＦｅｉ，ＬｉｕＱｉ，ＣｈｅｎＥｎｈｏｎｇ，ｅｔａｌ．Ｎｅｕｒａｌｃｏｇｎｉｔｉｖｅｆｏｒｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ２９ｔｈＡＣＭＩｎｔＣｏｎｆ / Ｐｒｄｉａｇｎｏｓｉｓｆｏｒｉｎｔｅｌｌｉｔｅｄｕｃａｔｉｏｎｓｔｅｍｓ［Ｃ］ / ｏｃｏｆｔｈｅ / Ｐｒｇｅｎｙｓｎｆｏｒｍａｔｉｏｎ＆ＫｎｏｗｌｅｄｇｅＭａｎａｇｅｍｅｎｔ（ＣＩＫＭ）．ＮｅｗｏｎＩＹｏｒｋ：ＡＣＭ，２０２０：１２０５１２１４３４ｔｈＡＡＡＩＣｏｎｆｏｎＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｅ．ＰａｌｏＡｌｔｏ，ＣＡ：ｇｅｎｃＡＡＡＩＰｒｅｓｓ，２０２０：６１５３６１６１［２５］ＳｕｎＪｉａｎｗｅｎ，ＺｈｏｕＪｉａｎｐｅｎｇ，ＺｈａｎｇＫａｉ，ｅｔａｌ．Ｃｏｌｌａｂｏｒａｔｉｖｅｅｍｂｅｄｄｉｎｇｆｏｒｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ１４ｔｈＩｎｔ / ＰｒＣｏｎｆｏｎＫｎｏｗｌｅｄｇｅＳｃｉｅｎｃｅ，ＥｎｇｉｎｅｅｒｉｎｇａｎｄＭａｎａｇｅｍｅｎｔ（ＫＳＥＭ）．Ｂｅｒｌｉｎ：Ｓｐｒｉｎｇｅｒ，２０２１：３３３３４２［２６］ＺｈａｎｇＮａｎ，ＤｕＹｅ，ＤｅｎｇＫｅ，ｅｔａｌ．Ａｔｔｅｎｔｉｏｎ－ｂａｓｅｄｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇｗｉｔｈｈｅｔｅｒｏｇｅｎｅｏｕｓｉｎｆｏｒｍａｔｉｏｎｎｅｔｗｏｒｋｅｍｂｅｄｄｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ１３ｔｈＩｎｔＣｏｎｆｏｎＫｎｏｗｌｅｄｇｅ / ＰｒｉｎｅｅｒｉｎｇａｎｄＭａｎａｇｅｍｅｎｔ（ＫＳＥＭ）．Ｂｅｒｌｉｎ：Ｓｃｉｅｎｃｅ，Ｅｎｇ［３７］ＳｕＹｕ，ＣｈｅｎｇＺｅｙｕ，ＬｕｏＰｅｎｇｆｅｉ，ｅｔａｌ．Ｔｉｍｅ－ａｎｄ－ｃｏｎｃｅｔｐｅｎｈａｎｃｅｄｄｅｅｐｍｕｌｔｉｄｉｍｅｎｓｉｏｎａｌｉｔｅｍｒｅｓｐｏｎｓｅｔｈｅｏｒｏｒｙｆｉｎｔｅｒｒｅｔａｂｌｅｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｊｅｄｇｅ－Ｂａｓｅｄ / ＯＬ］．ＫｎｏｗｌｐＳｙｓｔｅｍｓ，２０２１［２０２１－０９－０１］．ｈｔｔｄｏｉ．ｏｒ１０．１０１６ / / / / ｐｓ：ｇｊ．ｋｎｏｓ２０２１．１０６８１９ｙｓ．［３８］ＬｕＹｕ，ＷａｎｇＤｅｌｉａｎｇ，ＭｅｎｇＱｉｎｇｇａｎｇ，ｅｔａｌ．Ｔｏｗａｒｄｓｉｎｔｅｒｒｅｔａｂｌｅｄｅｅｐｌｅａｒｎｉｎｇｍｏｄｅｌｓｆｏｒｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ｐｏｃｏｆｔｈｅ２１ｓｔＩｎｔＣｏｎｆｏｎＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｅｉｎ / / ＰｒｇｅｎｃＳｐｒｉｎｇｅｒ，２０２０：９５１０３［２７］ＶｅｌｉｋｏｖｉＰ，ＣｕｃｕｒｕｌｌＧ，ＣａｓａｎｏｖａＡ，ｅｔａｌ．Ｇｒａｐｈｔｗｏｒｋｓ［Ｃｏｃｏｆｔｈｅ６ｔｈＩｎｔＣｏｎｆｏｎａｔｔｅｎｔｉｏｎｎｅ / ＯＬ］ / / Ｐｒｒｅｓｅｎｔａｔｉｏｎｓ（ＩＣＬＲ），２０１８［２０２１－０９－０１］．ＬｅａｒｎｉｎｇＲｅｐｈｔｔｏｐｅｎｒｅｖｉｅｗ．ｎｅｔｆ？ｉｄ＝ｒＪＸＭｐｉｋＣＺ / / / ｐｓ：ｐｄ［２８］ＶａｓｗａｎｉＡ，ＳｈａｚｅｅｒＮ，ＰａｒｍａｒＮ，ｅｔａｌ．Ａｔｔｅｎｔｉｏｎｉｓａｌｌｙｏｕｎｅｅｄ［Ｃ］ / ｏｃｏｆｔｈｅ３１ｓｔＩｎｔＣｏｎｆｏｎＮｅｕｒａｌＩｎｆｏｒｍａｔｉｏｎ / ＰｒＰｒｏｃｅｓｓｉｎｇＳｙｓｔｅｍｓ（ＮＩＰＳ）．Ｃａｍｂｒｉｄｇｅ：ＭＩＴＰｒｅｓｓ，２０１７：Ｅｄｕｃａｔｉｏｎ（ＡＩＥＤ）．Ｂｅｒｌｉｎ：Ｓｐｒｉｎｇｅｒ，２０２０：１８５１９０［３９］ＷａｎｇＸｉａｏ，ＪｉＨｏｕｙｅ，ＳｈｉＣｈｕａｎ，ｅｔａｌ．Ｈｅｔｅｒｏｇｅｎｅｏｕｓｔｔｅｎｔｉｏｎｎｅｔｗｏｒｋ［Ｃ］ / ｏｃｏｆｔｈｅ２８ｔｈＩｎｔＣｏｎｆｏｎｒａｐｈａ / ＰｒｇＷｏｒｌｄＷｉｄｅＷｅｂＣｏｎｆｅｒｅｎｃｅ（ＷＷＷ）．ＮｅｗＹｏｒｋ：ＡＣＭ，２０１９：２０２２２０３２［４０］ＸｉｏｎｇＸｉａｏｌｕ，ＺｈａｏＳｉｎｗｅｇｅｎＥＧ，ｅｔａｌ．Ｇｏｉｎｇｙｕａｎ，ＶａｎＩｄｅｅｐｅｒｗｉｔｈｄｅｅｐｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ９ｔｈＩｎｔ / ＰｒＣｏｎｆｏｎＥｄｕｃａｔｉｏｎａｌＤａｔａＭｉｎｉｎｇ（ＥＤＭ）．Ｗｏｒｃｅｓｔｅｒ，ＭＡ：６０００６０１０［２９］ＷａｎｇＴｉａｎｑｉ，ＭａＦｅｎｇｈｏｎｇ，ＧａｏＪｉｎｇ．ＤｅｅｐｈｉｅｒａｒｃｈｉｃａｌＩＥＤＭＳ，２０１６：５４５５５０ｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆｔｈｅ１２ｔｈＩｎｔＣｏｎｆｏｎ / Ｐｒ［４１］ＰｅａｋｅＧ，ＷａｎｇＪｕｎ．Ｅｘｐｌａｎａｔｉｏｎｍｉｎｉｎｇ：ＰｏｓｔｈｏｃｔａＭｉｎｉｎｇ（ＥＤＭ）．Ｗｏｒｃｅｓｔｅｒ，ＭＡ：ＩＥＤＭＳ，ＥｄｕｃａｔｉｏｎａｌＤａｆｌａｔｅｎｔｆａｃｔｏｒｍｏｄｅｌｓｆｏｒｒｅｃｏｍｍｅｎｄａｔｉｏｎｉｎｔｅｒｒｅｔａｂｉｌｉｔｐｙｏ２０１９：６７１６７４ｓｔｅｍｓ［Ｃ］ / ｏｃｏｆｔｈｅ２４ｔｈＡＣＭＳＩＧＫＤＤＩｎｔＣｏｎｆｏｎ / Ｐｒｙｓ［３０］ＬｉｕＹｕｎｆｅｉ，ＹａｎｇＹａｎｇ，ＣｈｅｎＸｉａｎｙｕ，ｅｔａｌ．Ｉｍｐｒｏｖｉｎｇｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇｖｉａｐｒｅ－ｔｒａｉｎｉｎｇｑｕｅｓｔｉｏｎｅｍｂｅｄｄｉｎｇｓ［Ｃ］ｏｃｏｆｔｈｅ２９ｔｈＩｎｔＪｏｉｎｔＣｏｎｆｏｎＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｅ / / Ｐｒｇｅｎｃ（ＩＪＣＡＩ）．ＳａｎＦｒａｎｃｉｓｃｏ：Ｍｏｒｆｍａｎｎ，２０２０：１５７７ｇａｎＫａｕｓｃｏｖｅｒｔａＭｉｎｉｎｇ．ＮｅｗＹｏｒｋ：ＡＣＭ，ＫｎｏｗｌｅｄｇｅＤｉｙａｎｄＤａ２０１８：２０６０２０６９［４２］ＺｈｅｎｇＺｈｉｍｉｎｇ，Ｌü Ｊｉｎｈｕ，ＷｅｉＷｅｉ，ｅｔａｌ．Ｒｅｆｉｎｅｄｉｎｔｅｌｌｉｅｔｈｅｏｒｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｅｒｅｇａｒｄｉｎｇｃｏｍｐｌｅｘｇｅｎｃｙ：ａｇｅｎｃｅｃｔｓ［Ｊ］．ＳＣＩＥＮＴＩＡＳＩＮＩＣＡＩｎｆｏｒｍａｔｉｏｎｉｓ，ｄｙｎａｍｉｃｏｂｊ１５８３［３１］ＹａｎｇＹａｎｇ，ＳｈｅｎＪｉａｎ，ＱｕＹａｎｒｕ，ｅｔａｌ．ＧＩＫＴ：Ａｇｒａｐｈ－２０２１，５１（４）：６７８６９０（ｉｎＣｈｉｎｅｓｅ）ｂａｓｅｄｉｎｔｅｒａｃｔｉｏｎｍｏｄｅｌｆｏｒｋｎｏｗｌｅｄｇｅｔｒａｃｉｎｇ［Ｃ］ / ｏｃｏｆ / Ｐｒ（郑志明，吕金虎，韦卫，等．精准智能理论：面向复杂动态ｔｈｅＪｏｉｎｔＥｕｒｏｐｅａｎＣｏｎｆｏｎＭａｃｈｉｎｅＬｅａｒｎｉｎｇａｎｄＫｎｏｗｌｅｄｇｅ对象的人工智能［Ｊ］．中国科学：信息科学，２０２１，５１（４）：ｎＤａｔａｂａｓｅｓ（ＥＣＭＬＰＫＤＤ）．Ｂｅｒｌｉｎ：Ｓｐｒｉｎｇｅｒ，Ｄｉｓｃｏｖｅｒｙｉ６７８６９０）２０２０：２９９３１５［３２］ＺｈａｎｇＹｕ，Ｔｉ ňｏＰ，ＬｅｏｎａｒｄｉｓＡ，ｅｔａｌ．ＡｓｕｒｖｅｙｏｎｎｅｕｒａｌｎｅｔｗｏｒｋｉｎｔｅｒｒｅｔａｂｉｌｉｔＪ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＥｍｅｒｉｎｇｐｙ［ｇＴｏｐｉｃｓｉｎＣｏｍｐｕｔａｔｉｏｎａｌＩｎｔｅｌｌｉｅ，２０２１，５（５）：７２６７４２ｇｅｎｃ［３３］ＣｈｅｎＫｅｒｕｉ，ＭｅｎｇＸｉａｏｆｅｎｇ．Ｉｎｔｅｒｒｅｔａｔｉｏｎｐａｎｄｎｍａｃｈｉｎｅｌｅａｒｎｉｎｇ［Ｊ］．ＪｏｕｒｎａｌｏｆＣｏｍｐｕｔｅｒｕｎｄｅｒｓｔａｎｄｉｎｇｉＲｅｓｅａｒｃｈａｎｄＤｅｖｅｌｏｐｍｅｎｔ，２０２０，５７（９）：１９７１１９８６（ｉｎＣｈｉｎｅｓｅ）（陈珂锐，孟小峰．机器学习的可解释性［Ｊ］．计算机研究与发展，２０２０，５７（９）：１９７１１９８６）ＳｕｎＪｉａｎｗｅｎ，ｂｏｒｎｉｎ１９８２．ＰｈＤ，ａｓｓｏｃｉａｔｅｒｏｆｅｓｓｏｒ，ＰｈＤｓｕｐｅｒｖｉｓｏｒ．ＭｅｍｂｅｒｏｆＣＣＦ．ｐＨｉｓｍａｉｎｒｅｓｅａｒｃｈｉｎｔｅｒｅｓｔｓｉｎｃｌｕｄｅｅｄｕｃａｔｉｏｎａｌｄａｔａｍｉｎｉｎｇ，ｉｎｔｅｌｌｉｔｔｕｔｏｒｉｎｇｓｙｓｔｅｍ，ａｎｄｇｅｎｓｍａｒｔｅｄｕｃａｔｉｏｎ．孙建文，博士，副教授，博士生导１９８２年生．师．主要研究方向为教育数据挖ＣＣＦ会员．掘、智能导学系统和智慧教育．

15. 计算机研究与发展２０２１，５８（１２）２６４４Ｚｈ o ｕＪｉａｎｐｅｎｒｎｉｎ１９９６．Ｍａｓｔｅｒｃａｎｄｉｄａｔｅ．ｇ，ｂｏＨｅＦｅｉｕａｎ，ｂｏｒｎｉｎ１９７７．ＭＳ，ａｓｓｏｃｉａｔｅｊｉｎｒｅｓｅａｒｃｈｉｎｔｅｒｅｓｔｓｉｎｃｌｕｄｅｋｎｏｗｌｅｄｇｅＨｉｓｍａｒｏｆｅｓｓｏｒ．Ｈｅｒｍａｉｎｒｅｓｅａｒｃｈｉｎｔｅｒｅｓｔｓｉｎｃｌｕｄｅｐｔｒａｃｉｎｇ，ｒｅｃｏｍｍｅｎｄｅｒｓｙｓｔｅｍ，ａｎｄｓｍａｒｔｅｄｕｃａｔｉｏｎａｌｄａｔａｍｉｎｉｎｇａｎｄｔｅｘｔｍｉｎｉｎｇ．ｅｄｕｃａｔｉｏｎ．何绯娟，理学硕士，副教授．主要研１９７７年生．周建鹏，硕士研究生．主要研究方１９９６年生．究方向为教育数据挖掘和文本挖掘．向为认知追踪、推荐系统和智慧教育．ＴａｎｇＹｕｎ，ｂｏｒｎｉｎ１９８２．ＰｈＤ，ａｓｓｏｃｉａｔｅＬｉｕＳａｎｎüｙａ，ｂｏｒｎｉｎ１９７３．ＰｈＤ，ｐｒｏｆｅｓｓｏｒ，ｉｎｒｅｓｅａｒｃｈｉｎｔｅｒｅｓｔｓｉｎｃｌｕｄｅｒｏｆｅｓｓｏｒ．ＨｅｒｍａｐＰｈＤｓｕｐｅｒｖｉｓｏｒ．Ｈｉｓｍａｉｎｒｅｓｅａｒｃｈｉｎｔｅｒｅｓｔｓｅｄｕｃａｔｉｏｎａｌｄａｔａｉｎｃｌｕｄｅｃｏｍｐｕｔｅｒａｌｉｃａｔｉｏｎ，ａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉ－ｐｐｌｅａｒｎｉｎｇ，ａｎｄｔｈｅｓｅｌｆ－ｄｅｔｅｒｍｉｎａｔｉｏｎｔｈｅｏｒｙｅ，ａｎｄｅｄｕｃａｔｉｏｎａｌｉｎｆｏｒｍａｔｉｏｎｔｅｃｈｎｏｌｏｇｙ．ｇｅｎｃｏｆｍｏｔｉｖａｔｉｏｎ．刘三女牙，博士，教授，博士生导１９７３年生．唐ｍｉｎｉｎｇ，ｓｅｌｆ－ｒｅｌａｔｅｄｇｕ云，博士，副教授．主要研究方１９８２年生．师．主要研究方向为计算机应用、人工智能和向为教育数据挖掘、自我调节学习和自我决教育信息技术．定动机理论． ■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■ ２０２２年《计算机研究与发展》专题（正刊）征文通知 ——— 数据挖掘前沿进展数据挖掘旨在利用智能数据分析技术，从海量数据中提取或挖掘潜在的知识和规律，为决策任务提供有效支撑。在大数据时代背景下，数据挖掘技术已在工业、金融、医疗、教育、交通、媒体等领域取得广泛应用．然而，大数据的复杂多样性也为数据挖掘研究在理论、方法、应用等多个层面提出了新的挑战．为及时反映国内同行在数据挖掘方面的前沿研究成果，《计算机研究与发展》将于２０２２年出版“ 数据挖掘前沿进展” 专题．欢迎数据挖掘及相关研究领域的专家学者、科研人员踊跃投稿．此外，专题组稿与第九届中国数据挖掘会议（ＣＣＤＭ２０２２）合作，所有专题录用稿件均需在ＣＣＤＭ２０２２会议报告交流．征文范围（但不限于）１）数据挖掘理论与方法分类、聚类、排序、集成学习、强化学习、关联分析、链接分析、频繁模式挖掘、动态数据挖掘、交互式与联机挖掘、并行与分布式挖掘、大规模数据挖掘、数据预处理、数据挖掘语言等．２）特定类型数据挖掘与分析关系数据挖掘、图模式挖掘、空间与时序数据挖掘、数据流与增量挖掘、多媒体数据挖掘、社交网络分析与挖掘、文本挖掘、隐私保护数据挖掘、生物信息数据挖掘、推荐系统、数据仓库等．３）数据挖掘技术应用面向工业、金融、医疗、教育、交通、旅游、管理、电商、电信等领域的数据挖掘技术及应用．征文要求１）论文应属于作者的科研成果，数据真实可靠，具有重要的学术价值与推广应用价值，且未在国内外公开发行的刊物或会议上发表，不存在一稿多投问题．作者在投稿时，需向编辑部提交版权转让协议．）论文一律用２ｗｏｒｄ格式排版，论文格式体例参考近期出版的《计算机研究与发展》的要求（ｈｔｔｃｒａｄｉ．ｃｔ．ａｃ．ｃｎ / / / ）．ｐ：３）论文须通过期刊网站（ｈｔｔｃｒａｄｉ．ｃｔ．ａｃ．ｃｎ）投稿，投稿时提供作者的联系方式，留言中务必注明“ 数据挖掘２０２２专题” / / ｐ：（否则按自由来稿处理）．否则，论文视为退出专刊．４）论文预录用后，至少有一位作者注册参加ＣＣＤＭ２０２２会议并做口头报告．重要日期论文截稿日期：２０２２年１月８日最终稿提交日期：２０２２年３月１０日特邀编委张长水教授杨博教授钱超副教授清华大学ｚｃｓ＠ｍａｉｌ．ｔｓｉｎｇｈｕａ．ｅｄｕ．ｃｎ吉林大学ｙｂｏ＠ｊｌｕ．ｅｄｕ．ｃｎ南京大学ｑｉａｎｃ＠ｎｕ．ｅｄｕ．ｃｎｊ联系方式编辑部：ｃｒａｄ＠ｉｃｔ．ａｃ．ｃｎ，０１０－６２６２０６９６，０１０－６２６００３５０通信地址：北京２７０４信箱《计算机研究与发展》编辑部邮编：１００１９０录用通知日期：２０２２年２月２８日论文出版日期：２０２２年８月