
Cite: Krupa T. V.	New approach to computer-aided learning based on digital library user behavior / T. V. Krupa // Scientific and Technical Libraries. 2022. 
No. 4. P. 126–136. https://doi.org/10.33186/1027-3689-2022-4-126-136

    Машинное обучение (Machine Learning) – метод анализа данных, дающий аналитической системе возможность обучаться построению алгоритмов для решения сходных задач. Почти все исследования в этой сфере содержат эксперименты, подтверждающие (или опровергающие) работу метода на практике. Основная задача машинного обучения – автоматизация операций разной степени сложности в максимальном количестве сфер деятельности человека. Сегодня область употребления этой технологии необычайно широка (от медицины, геологии и геофизики до социологии и экономики) и продолжает расширяться. Повсеместная информатизация приводит к накоплению огромных объёмов данных, следовательно, поставленные задачи всё чаще сводятся к обучению на основе прецедентов, возникающих в информационной среде этих данных. Один из примеров такой среды – цифровые библиотеки. Пользователь цифровой библиотеки во многом схож с пользователем цифровой образовательной среды, поскольку он решает задачу, схожую с получением образования.
    Развитие методов машинного обучения, основанных на применении нейронных сетей, дало импульс научно-исследовательским работам, направленным на поиск технических решений проблемы индивидуализации образовательных траекторий. После 2014 г. появилось сразу несколько научных публикаций, посвящённых использованию рекуррентных нейронных сетей (РНС) при моделировании различных аспектов образовательной деятельности [1–8]. Была подробно изучена модель глубокого отслеживания знаний (Deep Knowledge Tracing, DKT) с помощью механизма моделирования внимания [9], описан эффективный метод обогащения входных данных для различных нейронных сетей, в том числе рекуррентных, в случаях, когда исходных данных довольно мало. Именно он применялся для предсказания образовательных результатов студентов по их действиям при обучении [10]. Однако, согласно недавнему исследованию, рекуррентные сети не всегда наиболее эффективны для решения этой задачи. В частности, найдены входные данные, на которых такие сети показывают худшие результаты по сравнению с более простыми регрессионными методами и методом, основанным на процессе Маркова [11].
       
    В статье представлен способ использования рекуррентной нейронной сети c памятью для предсказания оптимальной образовательной траектории. При проведении экспериментов использовались две разновидности РНС: классическая с сигмоидальной функцией активации и сеть с долгой краткосрочной памятью (Long Short-Term Memory, LSTM). В качестве контрольного метода предсказания использовалась модель Байесовского отслеживания знаний (Bayesian Knowledge Tracing, BKT), в основе которого лежит скрытая марковская модель (Hidden Markov Model, HMM) [12–18]. Метод, схожий с BKT, применяется на коммерчески успешной адаптивной образовательной платформе Knewton.
    Эксперименты показали существенные преимущества РНС по сравнению с методом BKT: площадь под ROC-кривой (Receiver Operator Characteristic curve) для рекуррентной сети составляет 0,85 против 0,68 для BKT. 
    В статье пояснено, как их использовать для предсказания оптимальной образовательной траектории в цифровой информационной системе. Описаны основные отличия подхода: 
    1. В качестве исходных при построении модели образовательной траектории используются большие массивы данных о разного рода взаимодействии пользователей с цифровыми ресурсами: данные о проектной деятельности с платформы «ГлобалЛаб», а также об академической успеваемости пользователей с сервиса Дневник.ру. «ГлобалЛаб», наряду с видеолекциями и текстовыми учебными материалами, фиксирует события, связанные, в частности, с проектной деятельностью (возникновение идеи школьного исследовательского проекта, работа над ним, модерация, приглашение пользователей к участию, участие в проекте, создание пользовательских групп, управление группами и т. д.). «ГлобалЛаб» фиксирует не менее 20 типов взаимодействий, в то время как в других моделях это число составляет от одного [1–3] до трёх [4]. Значительный рост числа анализируемых типов взаимодействия (в 6,6 раза) соответствует предположению, высказанному двумя группами исследований, о том, что увеличение размерности пространства, в которое вписываются учебные взаимодействия пользователей, должно положительно сказаться на точности предсказания.
    2. Модель данных существенно расширена за счёт включения в неё переменных, описывающих свойства пользователя, не зависящие от шага внутри образовательной траектории. В тексте статьи такие переменные называются внешними. Внутренними именуются переменные, описывающие свойства пользователя, его действия и объекты действий, привязанных к определённому шагу образовательной траектории. К числу внешних относятся данные о стиле обучения, характерном для пользователя. Классификация пользователей по типам обучения выполнена с применением простых алгоритмов кластеризации. 
В качестве входных используются данные о физических параметрах взаимодействия учащихся с пользовательским интерфейсом (среднее время взаимодействия с учебным содержанием разного типа, вектор просмотра учебного содержания, вектор перехода по составным частям одной учебной единицы). Число внешних переменных, описывающих свойства пользователя вне траектории, составило 7. Общее число переменных, описывающих пользователя, – 25. Среди них: положение; возраст и пол; стиль обучения и параметры взаимодействия с пользовательским интерфейсом; академическая успеваемость (оценки, результаты тестирования); уровень владения сложными умениями и навыками; переменные, отражающие состояние, действие, объект действия и его параметры на шаге образовательной траектории.
    3. Группы исследователей [1–4] работали с учебным материалом, в котором заранее задана предпочтительная траектория прохождения (программа курса). В [4] обнаружено, что её использование для предсказания следующих шагов учащегося даёт лишь 23% точности.
    При таком подходе исследователям представилась возможность сравнить эффективность применения рекуррентной сети в электронном окружении с заранее заданной траекторией и с абсолютно свободной траекторией. Это стало возможным благодаря тому, что лишь небольшая часть (на момент подготовки статьи – около 10%) пользователей платформы «ГлобалЛаб» выполняют проектные задания и знакомятся с учебным содержанием в рамках курсов с траекторией, остальные пользователи свободно переходят от одного вида учебного взаимодействия к другому.
    4. В отличие от исследования [4], при настоящем подходе использована более сложная система критериев успешности образовательной траектории. В рамках электронной образовательной среды «ГлобалЛаб» вводится понятие «проект», подразумевающее особый вид совместной деятельности пользователей, при которой реализуются принципы краудсорсинга для организации исследовательской работы в школе, во многом напоминающей действия пользователя цифровой библиотеки (решение поисковой задачи, анализ и синтез информации).
    Для предсказания образовательной траектории используется новый, не применявшийся в коммерческих продуктах метод, ‒ РНС, эффективность которого в этой области подтверждена передовыми исследованиями. РНС успешно используется при обработке последовательностей: естественных языков, речи, включая распознавание и перевод, а также генерирования сходных текстов, музыки, видеоряда и т. д.
    В упоминавшемся методе DKT применяется разновидность рекуррентной сети с долгой кратковременной памятью (LSTM). Архитектура именно этой сети выбрана потому, что с её помощью можно решить проблему раздельной оценки различных навыков и, в некоторой степени, устранить ограничения, связанные с тем, что в более ранних моделях (например, BKT) оцениваемые знания, умения и навыки являются бинарными.
    В LSTM скрытые состояния используются как своеобразное отражение результатов выполненных заданий, при этом для всех прошлых состояний в данной архитектуре используется один и тот же набор параметров. Результаты экспериментов с LSTM показали, что метод с рекуррентной сетью является гораздо более точным по сравнению, например, с байесовскими моделями. Эти эксперименты фактически были первыми попытками использования глубокого обучения (то есть моделей с многослойными нейронными сетями) для отслеживания знаний. Радикальный успех LSTM по сравнению с BKT, с одной стороны, говорит в пользу выбора LSTM в качестве основной архитектуры для настоящего проекта, с другой – быстрый успех (результаты получены при первом же применении) подтверждает поиск более совершенной архитектуры рекуррентной сети из уже применявшихся в иных областях. В связи с этим в настоящем исследовании было решено использовать более сложную, по сравнению с LSTM, архитектуру рекуррентной сети, базирующуюся на концепции «внешней» памяти.
    Архитектура нейронных сетей с внешней памятью MANN (Memory-augmented neural networks) использует идею долговременного хранения данных [19]. Она успешно зарекомендовала себя в других областях, в частности при обработке высказываний на естественном языке.
    Операции чтения и записи в долговременную память производятся с применением механизмов так называемого добавленного внимания (additional attention). 
    Рекуррентность в таких операциях делает MANN особой разновидностью нейронной сети. По сравнению с рекуррентными сетями без внешней памяти (в том числе LSTM), MANN обладает важными отличиями, которые будут названы ниже.
    В сетях без внешней памяти для представления темпоральной (разворачивающейся во времени) информации используется единственный скрытый вектор, в MANN – внешняя матрица памяти, существенно расширяющая объём хранения.
    Переход между состояниями во времени в рекуррентной сети без внешней памяти неструктурированный и общий (единый набор параметров для всех переходов). В MANN используются операции чтения и записи, что позволяет представить локальные переходы между состояниями.
    Число параметров в рекуррентной сети без внешней памяти жёстко привязано к размеру скрытого слоя, представляющего состояния. 
В MANN увеличение числа ячеек памяти не приводит к увеличению числа параметров, что, в свою очередь, повышает эффективность вычислений на этой сети.
    В качестве базовой рекуррентной сети, использующейся для предсказания оптимальной образовательной траектории, наиболее целесообразно применять сеть с архитектурой MANN. Эффективность сетей LSTM, по сравнению с другими методами прогнозирования образовательной траектории, уже доказана другими группами исследователей. В случае с MANN эффективность объясняется, прежде всего, наличием внешней памяти, существенно расширяющей объём и глубину (во временном измерении) фиксируемых сетью данных.
    Выше кратко описана разновидность рекуррентной сети MANN – базовой для настоящего исследования. Несмотря на то, что MANN обладает рядом преимуществ перед LSTM при представлении прошлых образовательных достижений учащегося, некоторая модификация этой архитектуры для её успешного применения при отображении пространства знаний всё же требуется. Основная проблема MANN в том, что содержимое, являющееся объектом чтения, находится в том же пространстве, что и содержимое, являющееся объектом записи. Необходимо помнить, что при представлении пространства знаний входные данные и предсказания, сделанные на их основе (то есть задания, выполняемые учащимися, и их результаты), относятся к разным типам. 
С эмпирической точки зрения это некорректно: задания и результат их выполнения оказываются сцепленными в единый ключ активации внимания. Кроме того, MANN не может явно отобразить или представить скрытые связи (общие концепции), лежащие в основе заданий. С эмпирической точки зрения различные задания связаны между собой такими общими концепциями.
       
    В связи с названными ограничениями нами была предложена модифицированная архитектура MANN (рабочее название ‒ xMANN) с несколько отличающейся математической моделью.
    Модель xMANN, в отличие от MANN, использует для представления памяти не единую матрицу, а хранилище типа «ключ-значение» (key-value store). Это позволяет избежать перебора, а также чтения и записи в одном и том же пространстве. Перебор осуществляется по ключу, а чтение и запись производятся только по соответствующему ключу значению.
    Также, в отличие от MANN, на каждом шаге образовательной траектории xMANN принимает конкретное задание и выдаёт вероятность его успешного выполнения, а затем обновляет значение в памяти для конкретной связки «задание – результат». Модель xMANN отслеживает состояния учащихся путём чтения и записи в матрицу значений с применением корреляционных весов, вычисленных на входном задании и связке «задание – результат».
    В отличие от базовой модели, xMANN использует разные векторы весов на запись и чтение. Это позволяет разделять типы входных и выходных данных сети и c эмпирической точки зрения более точно отражает моделируемый процесс обучения.
    
В отличие от других продуктов, имеющихся на рынке адаптивного обучения (прежде всего Knewton и ALEKS), при настоящем подходе объектом индивидуализации является образовательная траектория, включающая в свой состав учебные взаимодействия, относящиеся к большому числу классов (не менее 30). Таким образом, благодаря использованию более богатой модели данных точность предсказания увеличивается на 15–20%. Это позволяет повысить уровень автоматизации оказания цифровых информационных услуг за счёт использования алгоритма предсказания оптимальных образовательных траекторий пользователей, а следовательно их индивидуализации. 
