Лингвистическая модель обучаемого

Объяснить причину возникновения ошибки можно с помощью переборной модели, умеющей прослеживать все возможные пути решения задачи. Знания в этой модели представлены в виде генетического графа, отражающего не только связи в предметной области, но и поведение обучаемого. На каждом шаге система подбирает из всех возможных единственную модель путём добавления правильных или неправильных процедур, выполненных учеником. Если же неверный шаг ученика не зафиксирован в библиотеке фальшправил, система после анализа пытается её пополнить новым фальшправилом.

Выводимые модели обучаемого.

Восстановительная модель. Восстановительная модель позволяет отойти от библиотеки ошибок, созданной вручную. Обучающая система строит модель обучаемого, восстанавливая путь от конечного результата к началу при помощи индукционных правил. При этом предполагается, что ученик не делает ошибок при выполнении элементарных операторов, но может неправильно их применять. На каждом шаге анализа решения обучаемого определяется, какие условия были применены на предыдущем шаге решения и к какой процедуре, чтобы получить текущую.

На текущий день существует достаточно много различных моделей обучаемого. Главное их отличие между собой - это способ оценки знаний «обучаемого». Одни модели просто оценивают знания, другие же пытаются сымитировать работу самого обучаемого, что позволяет не только оценить его знания, но и проанализировать его ошибки. Все эти модели, в основном, применяются в компьютерных обучающих системах и имитируют, в некотором роде, работу преподавателя.

Но ни одна из этих моделей не позволяет рассмотреть «обучаемого» как личность. Ведь единственной характеристикой «обучаемого» в них выступают оценки. Никоим образом в них не учитывается, такая важнейшая характеристика, как интересы «обучаемого».

В сформированной нами Лингвистической модели в первую очередь мы делаем упор именно на интересы «обучаемого», не забывая также и про его оценки. Методы выявления интересов обучаемого также имеют нестандартный подход. Они основаны не на опросах и наблюдениях, а на анализе интернет-сайтов, которые он посещает. Ведь интернет на данный момент является неотъемлемой частью нашей жизни.

Раньше люди искали информацию в книгах, для чего ходили в библиотеки, покупали газеты, слушали радио и смотрели телевизор. Да, это не ушло полностью из нашей жизни, но сейчас те же книги доступны в интернете, у каждой газеты есть свой сайт, у каждого телевизионного канала так же есть своя страничка в интернете. Даже у большинства магазинов есть электронный формат. Все интересующую нас информацию мы в первую очередь ищем в интернете, что позволяет нам сделать выводы о том, что посещаемые нами сайты в значительной степени отражают наши интересы.

Такая модель весьма актуальна в наши дни. Она будет интересна, преподавателям для выявления научного потенциала студентов, психологам и психоаналитикам, работодателям для подбора будущих специалистов.

В рамках данной дипломной работы мы рассматриваем именно заинтересованность работодателей в такой модели. Она позволит сократить время при поиске необходимого кандидата, поможет найти именно тех, кто заинтересован в том или ином вопросе. Ведь оценки в аттестате весьма неоднозначная характеристика, студент может иметь хорошую оценку по предмету, но не быть в нем заинтересован. А может, наоборот, заинтересоваться данным предметом, уже после его прохождения в институте. Наша модель позволит выявить степень заинтересованности студента в конкретном предмете.

1.2.2 Понятие лингвистической модели

В предложенной модели, как говорилось ранее, упор делается именно на интересы обучаемого, как на одну из важнейших характеристик его как личности. При этом саму модель было решено назвать «лингвистической». Какова причина?

При формировании данной модели возник ряд вопросов:

· Что характеризует интеллект человека?

· Что отражает его интересы?

· Как это выявить?

Ответом на эти вопросы оказались «слова», которыми пользуется человек на протяжении всей своей жизни. Т. е. его словарный запас. В течении нашей жизни он постоянно увеличивается. В детстве, когда мы учимся говорить, мы получаем некий стандартный запас слов, необходимый для общения. Он практически одинаков у всех людей.

Затем появляются различия в нашем словарном запасе. Они возникают по разным причинам. Это зависит от профессии, возраста, образования, общего культурного уровня, места жительства (город, деревня), личных качеств, вкусов и интересов. Вкусы и интересы играют одну из главных ролей. Ведь куда пойти учится, какую выбрать профессию опять же зависит от того, что интересно человеку.

Следовательно, словарный запас человека является характеристикой его интересов. Конечно, тут речь идет скорее о пассивном словарном запасе, нежели об активном. Потому что в активный словарный запас входят те слова, которыми он пользуется для выражения своих мыслей и чувств. Если же человек какие-то слова не употребляет, но узнаёт в тексте, понимает, то речь идет о пассивном словарном запасе. К пассивной лексике относятся слова специального употребления, архаизмы, неологизмы, диалектизмы, многие заимствования.

В качестве примера, по современным оценкам словарный запас учащегося первого класса средней школы составляет 2000 слов. Человек с высшим образованием знает порядка 10 тыс. слов. Словарный запас великого русского поэта А. С. Пушкина составляет больше 20 тыс. слов. А у Вильяма Шекспира порядка 15 тыс. слов.

Таким образом, что бы оценить интересы нашего «обучаемого», мы решили в первую очередь обратить внимание на его словарный запас. Поэтому и в основу названия модели положено слово «лингвистика» - наука о языке. А язык в свою очередь состоит из слов.

1.2.3 Метод выявления интересов «обучаемого»

После того, как мы выяснили, что является характеристикой интересов нашего «обучаемого», возник вопрос о том, как выяснить его пассивный словарный запас?

Во время обучения в институте, студенты сильно увеличивают свой словарный запас, за счет пройденных ими дисциплин. Поэтому в первую очередь было решено выявить именно эту часть словарного запаса, ведь она будет одинакова для всех обучаемых.

Для этого необходимо рассмотреть все изучаемые дисциплины и выявить для каждой ее основные определения и словосочетания. После этого для каждой дисциплины сформировать словарь слов, который будет ее характеризовать. Совокупность таких словарей и составит словарный запас, который студенты получат по окончанию института.

После этого возник вопрос о том, как выяснить интересы студента. Для этой цели было решено использовать его персональный компьютер.

Как же выяснить интересы человека, имея в распоряжении лишь его компьютер? Можно проанализировать, например, какие программы он использует, но гораздо интересней проанализировать то, чем он интересуется в интернете. Ведь все что нас интересует, сегодня, мы ищем в первую очередь именно там.

Принцип анализа страницы будет происходить путем разбивания текста этой страницы на слова, их индексации и формирования некоего словаря, характеризующего рассматриваемую страницу.

Но как выявить ее смысл не использую при этом человека? Это довольно сложная задача. В какой-то степени она относится к задачам искусственного интеллекта, которые реализовать довольно сложно.

Мы же решили пойти по другому пути - пути сравнения полученных словарей страниц со словарями на различные темы, которые формируются заранее. При достаточно большом совпадении двух словарей можно говорить о том, что рассматриваемая страница относится к такой-то из известных нам тем.

Охватить все темы не возможно. Но вполне реально, например, узнать какими из изучаемых дисциплин студент интересуется, а какими нет. Все словари, характеризующие изучаемые дисциплины, сформировать вполне реально. Остается лишь анализировать посещаемые студентом страницы и проверять их на соответствия изучаемым дисциплинам. Анализирую получаемую статистику и динамику ее изменения, можно делать выводы о том, какие дисциплины интересны тому или иному студенту.

Таким же образом можно выявлять различные интересы, просто необходимо заранее подготовить их характеристические словари. А проводя анализ словарей страниц не соответствующих запросам, можно составлять новые словари интересов. Можно выявлять закономерности и основные темы, которыми сегодня интересуются студенты.

В данной работе, по причине ее новизны и ограниченного времени на тестирование системы, мы рассматриваем лишь те интересы студентов, которые связаны непосредственно с изучаемыми ими дисциплинами.

1.2.4 Структура Лингвистической модели обучаемого

Что бы сформировать структуру Лингвистической МО было рассмотрено множество различных моделей. Так же был рассмотрен сравнительный анализ этих моделей, предложенный Е.Е. Булем. Он же предложил и наиболее полную структуру модели «обучаемого». Проанализировав ее компоненты, было решено использовать следующую структуру Лингвистической МО:

Размещено на http://www.allbest.ru

Рисунок 1.2.4.1

Описание компонентов Лингвистической МО:

Изучаемые дисциплины - названия изучаемых студентом дисциплин и коллекции текстов, характеризующие эти дисциплины.

Словарь терминов - базы данных слов, которые характеризуют изучаемые дисциплины, т.е. термины, которые студент усваивает за время обучения. (Формируется путем обработки текстов из компонента «Изучаемые дисциплины»)

Оценки «обучаемого» - оценки студента по изучаемым дисциплинам.

Интересы «обучаемого» - в рамках данной работы интересы ограничены изучаемыми дисциплинами, т.е. какие из изучаемых дисциплин интересны студенту.

1.3 Принципы формирования лингвистической модели

Предлагается реализовать модель в виде реляционной базы данных: общая и индивидуальная части. Общая часть включает следующие компоненты:

· «Изучаемые дисциплины» - список изучаемых дисциплин и коллекции текстов по каждой из дисциплин, в настоящий момент это календарные планы и различные лекции по этим дисциплинам.

· «Словарь терминов» - словарь, который формируются путем обработки перечисленных выше текстов. Общий для всех дисциплин.

Индивидуальная часть - это:

· «Оценки обучаемого» по изучаемым дисциплинам. Информация для этого компонента берется на кафедре (по мере их поступления) или в деканате.

· «Показатель интересов» по изучаемым дисциплинам.

Показатель интересов - это численная оценка степени заинтересованности обучаемого в дисциплине. Формирование происходит путем вычисления количества посещаемых сайтов близких по тематике изучаемых дисциплин.

Для выявления тематики посещаемых сайтов разработано специальное программное обеспечение, в котором используются методы машинного обучения и классификации текстов. Сначала программный компонент проходит обучение. Процесс обучения производиться на базе специальных выборок по различным темам (предметам обучения в соответствии с программой института) на основе подобранных выборок строиться модель классификации смысловых данных. На базе модели классификации будет производиться рубрикация текстов WEB - страницв, посещаемых студентами. Для построения модели классификации на первом этапе используется общая часть лингвистической модели. Для обучения и классификации смысловой информации используется метод опорных векторов. Классификация производиться на основе статистической дисперсии слов в тексте и вероятности принадлежащей к одной из дисциплин участвующих в обучении. Это позволит из всех, посещаемых студентом сайтов, выявить только те, которые относятся к изучаемым им дисциплинам и соответственно узнать, какие дисциплины в действительности интересны студенту. Далее подробно рассмотрен метод машинного обучения на базе метода опорных векторов.

1.3.1 Основные подходы к представлению текстов для компьютерной обработки

Первым этапом решения задачи автоматической классификации текстов является преобразование документов, имеющих вид последовательности символов, к виду, пригодному для алгоритмов машинного обучения в соответствии с задачей классификации. Обычно алгоритмы машинного обучения имеют дело с векторами в пространстве (называемом также пространством признаков). Отображение документов в пространство признаков также используется и методами, основанными на знаниях.

Вторым этапом является построение классифицирующей функции при помощи обучения на примерах.

Качество рубрицирования зависит и от того, как документы будут преобразованы в векторное представление, и от алгоритма, который будет применен на втором этапе. При этом важно отметить, что методы преобразования текста в вектор специфичны для задачи классификации текстов и могут зависеть от коллекции документов, типа текста (простой, структурированный) и языка документа. Методы машинного обучения, применяемые на втором этапе, не являются специфичными для задачи классификации текстов и применяются также в других областях, например, для задач распознавания образов.

Рассмотрим классический подход для отображения текста в вектор, используемый многими системами автоматической классификации текстов. Этот метод основывается на предположении о том, что категория, к которой относится данный документ, зависит от относительной частоты слов, входящих в текст. Это предположение, конечно, является упрощением. Существуют примеры систем, которые учитывают более сложные факторы: порядок слов в тексте, структура текста, содержащего разметку.

Базовый метод отображения текста в вектор заключается в том, что каждому слову, которое встречается в каком-либо документе, соответствует определенная координата в пространстве признаков. Для слова, встречающегося в документе, значение соответствующей координаты положительно и пропорционально частоте слова в документе. Для слова, которое не встречается в документе, значение соответствующей координаты равно нулю.

Есть несколько причин, по которым следует стремиться уменьшить размер пространства признаков. Во-первых, учет всех встреченных в документах слов приводит к слишком большой размерности пространства, хотя многие слова слабо влияют на результаты рубрицирования (либо вообще не влияют). Высокая размерность пространства признаков может приводить к высокой вычислительной погрешности и низкой скорости работы алгоритмов обучения. Во-вторых, отображение нескольких близких по значению слов в одну координату может улучшить результаты рубрицирования. Например, различные морфологические формы слова следует считать эквивалентными.

Опишем основные приемы, применяемые для преобразования текстов в векторы пространства признаков.

1.3.2 Морфологический анализ текста

Для того чтобы объединять различные морфологические формы слова в одну координату пространства признаков, каждое слово исходного текста приводится к своей нормализованной форме (лемме). Для английского языка обычно применяется процедура нормализации слов, которая заключается в отсечении окончания слова (stemming). Для русского языка процедура нормализации слов является более сложной. Для этого в данной работе предлагается алгоритм свертки терминов.

1.3.2.1 Алгоритм свертки терминов

Традиционный подход распознавания слов предполагает выделение корня путем отделения аффиксов, формирование начальной формы корня (по значениям аффиксов), сравнение полученного с имеющимися шаблонами (словарем). Это моделирует действия человека, занимает достаточно много ресурсов ПК, что в итоге увеличивает время реакции. Возможно, этот подход оправдан в работах по исследованию ЕЯ, но в технических системах задержки времени ответа на не прикладную задачу недопустимы. "Ручное" выделение корня (реализованное в некоторых СУБД) сокращает алгоритм, но вносит определенные неудобства в работе. Использование шаблонов на все возможные формы слов (также используется в некоторых СУБД) весьма неэффективно из-за возрастающего объема информации.

В данной работе в основу морфологического анализа положена идея распознавания слов по их усечению. Она основана на том, что человек правильно воспринимает информацию в условиях слабой слышимости, помех и т.п. Считается, что слово в такой ситуации может быть распознано по его некоторому усечению. При этом значимыми звуками являются согласные, гласные же выступают только для связки. Правильно воспринимается слова и в случае их несогласованности в предложении - понимаем же мы ребенка или иностранца при неправильном построении ими высказываний.

Для формирования усечения предлагается следующий алгоритм: начиная со второго символа отбрасываются все гласные и последняя согласная, полученная информация сжимается (удаляются пробелы). Запись полученная по этому алгоритму и есть свёртка термина, которая служит эталоном для сравнения слов, для чего записывается в словарь. Назовем его словарем терминов. Получая свёртку от анализируемого слова и сравнивая её с имеющимися записями в словаре можно делать вывод о "знании" или "незнании" слова. Например, для слов система и анализ, свёртки будут соответственно ССТ и АНЛ. Но свёртка ССТ будет получена и от слова состав. Назовём эту ситуацию алгоритмической синонимией. Таким образом, несложный алгоритм обеспечивает распознавание слова, причём оно записывается в словарь в той грамматической форме, в которой оно встретилось в первый раз. Он позволяет распознавать слово в большинстве его словоформ, что позволяет значительно сократить объем словаря.

1.3.3 Векторное представление текста.

Одним из общепринятых подходов машинного представления текстов является сопоставление тексту вектора признаков, также называемых весами признаков. В самом простом случае каждая координата такого вектора соответствует частоте встречаемости одного из слов всей коллекции в этом тексте (, term frequency). Объединение всех таких векторов в единую таблицу приводит нас к прямоугольной матрице размером , где - количество слов в коллекции (размерность пространства), а - число документов. Такое представление называется Vector Space Model (VSM). Обычно эта матрица получается очень разреженой.

Описанная выше величина , однако, несет не полную частотную информацию, характеризующую слово. Для увеличения информативности ее можно умножать на - обратную документную частоту, вычисляемую, например, по формуле:

где - общее число документов в коллекции, а - число документов, в которых встречается данное слово. Кроме того, каждую документа можно нормировать на максимальное значение данного слова по всем документам, чтобы нивелировать влияние длины документа на этот параметр

Выбор весов признаков существенно влияет на качество рубрицирования. Одной из лучших формул вычисления весов, на основании статьи [6], является

Где - вес i-го слова, - частота встречаемости i-го слова в данном документе, - логарифм отношения количества всех документов в коллекции к количеству документов, в которых встречается i-е слово.

Такой выбор формулы можно обосновать теоретически следующими соображениями:

1. Чем чаще слово встречается в документе, тем оно важней. Этот факт учитывает множитель

2. Если слово встречается во многих или во всех документах, то это слово не может являться существенным критерием принадлежности документа рубрике и его вес следует понизить. Наоборот, если слово встречается в малом количестве документов, то его вес следует повысить. Множитель учитывает это соображение и соответствует весу слова ("контрастности") в данной коллекции документов .

3. Для того чтобы учесть различную длину текстов документов в коллекции, веса слов документов следует нормализовать. В формуле (1) веса нормализуются так, чтобы сумма квадратов весов каждого документа была равна 1.

В некоторых случаях для вычисления веса слова в тексте привлекается также дополнительная информация. Например, можно учитывать информацию о структуре текста и словам, встреченным в заголовке, присваивать больший вес.

Даже после приведения всех слов документа к нормализованной форме, полученное пространство признаков имеет очень большую размерность (десятки тысяч). Эту размерность можно существенно уменьшить без ухудшения качества рубрицирования, если выкинуть слова, слабо влияющие на результаты рубрицирования.

Во-первых, обычно из списка признаков удаляют так называемые "стоп-слова" -- предлоги, союзы и т.п. Это не сильно сокращает размерность пространства признаков (список стоп-слов составляется вручную и обычно является небольшим). Но зато удаление стоп-слов обычно улучшает качество рубрицирования за счет удаления информационного шума.

Во-вторых, из списка признаков можно удалить слишком редко встречающиеся слова.

1.3.4 Методы машинного обучения

Важным этапом при решении задачи классификации текстов является выбор метода машинного обучения, который будет применяться к векторному представлению документов.

Методы классификации объектов, основанные на обучении, впервые введены в рассмотрение в 1960-е годы. В настоящее время разработано множество методов машинного обучения, которые применяются при решении широкого круга задач. Многие из них применимы для решения задач классификации текстов. Существуют следующие методы машинного обучения для задач классификации текстов:

· метод Байеса

· метод k-ближайших соседей

· Rocchio classifier

· Нейронные сети

· Деревья решений

· Построение булевых функций

· Метод опорных векторов (SVM (Support Vector Machines))

На основании данных из статьи [6] был выбран метод опорных векторов, т.к. он имеет неоспоримые преимущества перед остальными методами машинного обучения.

1.3.4.1 Метод опорных векторов

Метод опорных векторов (Support Vector Machines, SVM) разработан В. Вапником на основе принципа структурной минимизации риска -- одновременного контроля количества ошибок классификации на множестве для обучения и «степени обобщения» обнаруженных зависимостей.

В наиболее простом случае задача бинарной классификации с помощью метода опорных векторов состоит в построении оптимальной разделяющей гиперплоскости в пространстве признаков высокой размерности. Оптимальность здесь понимается в смысле минимизации верхней оценки вероятности ошибки классификации.

Пусть дана выборка:

где - набор признаков для i-го документа, а - бинарная оценка принадлежности этого документа к одному из классов. Тогда вектор , получаемый из выражения

при наложении на него условия для гиперплоскости

назовем вектором весов.

Линейный случай. Обычно, заранее неизвестно, обладают ли документы свойством линейной разделимости, однако во многих задачах по классификации текстов считается, что они все же линейно разделимы. В этом случае линейный метод SVM сводится к поиску такой гиперплоскости, что сумма расстояний от ближайших к ней (сверху и снизу) точек максимальна среди всех разделяющих гиперплоскостей, расположенных на равных от них расстоянии. Это квадратичная задача оптимизации лагранжиана.

Решение уравнения для выглядит так:

Пусть лагранжиан (4) достигает максимума по при в точке , тогда решение задачи поиска оптимальной гиперплоскости имеет вид:

при этом свободный член равен

Нужные нам решения должны дополнительно удовлетворять условиям Каруша-Куна-Таккера, которые являются необходимым условием оптимальности задачи нелинейного программирования:

из которых следует, что может выполняться только для тех i, для которых , т.е. для тех векторов, которые лежат на гиперплоскостях . Эти векторы называются опорными.