Моделирование процесса обучения человека с помощью построения графа модели мира

MODELING THE PROCESS OF HUMAN LEARNING BY CONSTRUCTING A GRAPH MODEL OF THE WORLD

The paper describes an approach to modeling human learning by constructing a graph of a world model using the example of teaching a system to translate from one natural language to another. Building a model of the world is made automatically based on the processing of an array of pairs of texts in the input and output languages.The approach is based on the representation of the situation described in the input text as a subtree of the general model of the world in the input language. From this subtree in the input language, select the subtree of the world model in the output language. The subtree in the output language is converted into plain text, which is the translation of the source text.

Keywords

World model tree, machine translation, text generation.

Введение

В настоящее время одной из актуальных задач при разработке систем искусственного интеллекта является создание систем, обучающихся действовать во внешнем реальном мире аналогично человеку. Схематично интеллектуальную систему (естественную или искусственную) можно представлять состоящей из нескольких весьма общих компонент: рецепторов (сенсоры, которые получают информацию о состоянии внешнего мира и самой системы), эффекторов (исполнительные механизмы, которые производят действие системы на внешний мир), устройства, принимающего решение (мозг или компьютер), действий, которые должны произвести эффекторы на основе полученной от рецепторов информации. Если в качестве рассматриваемой системы выступает человек, то в качестве рецепторов можно рассматривать органы чувств человека, а в качестве эффекторов - тело человека (в частности, конечности, которые выполняют перемещения и другие действия). Если речь идет об искусственной системе, к примеру о беспилотном автомобиле, то в качестве рецепторов выступают его видеокамеры, лидары, прочие датчики, в качестве эффекторов - исполнительные механизмы регуляторов, такие как регулятор скорости, угла поворота и т.п. В этом случае задача построения интеллектуальной системы управления беспилотного автомобиля сводится к построению системы, которая по информации от рецепторов (датчиков автомобиля) будет выдавать команды эффекторам (менять скорость, угол поворота и другие параметры автомобиля). В случае применения предлагаемого подхода к сложной народнохозяйственной системе в качестве входных сигналов с рецепторов можно рассматривать статистические данные, характеризующие социально-экономические явления, экономическую конъюнктуру, деловую активность, тренды и циклы развития социально-экономических процессов и явлений. В качестве выходных сигналов можно рассматривать управленческие и инвестиционные решения. Можно сказать, что система управления осуществляет перевод входных сигналов, полученных с рецепторов, на язык выходных сигналов (управляющих воздействий на эффекторы). Иными словами, мы хотим построить функцию, отображающую входные сигналы в выходные. При этом считаем, что состояние самой системы описывается входными параметрами (часть входных параметров описывает состояние самой системы), выходные параметры зависят не только от текущих значений входных параметров, но и от истории изменения входных параметров. Это самая общая постановка задачи. Мы хотим, чтобы такое отображение было максимально похожим в некотором смысле на отображение, которое осуществляет человек.

К такой постановке задачи сводятся очень важные с практической точки зрения проблемы: разработка перспективных вариантов развития предприятий и организаций, отраслей экономики, управление беспилотными транспортными средствами, медицинская диагностика, перевод с одного естественного языка на другой и многие другие задачи. К примеру, в случае медицинской диагностики входными параметрами являются результаты медицинских анализов, данные ЭКГ, томографии, прочие сведения о самочувствии пациента, выходными параметрами являются набор диагнозов и методов лечения обнаруженных заболеваний. В случае перевода с одного языка на другой входным параметром является текст на исходном языке, выходным параметром - текст на выходном языке. С обобщенной точки зрения, описанной выше, все эти задачи принципиально одинаковы, поэтому далее мы будем рассматривать принципы построения обучающейся системы на примере обучения переводу с одного языка на другой. С одной стороны, построение самообучающейся системы машинного перевода с одного естественного языка на другой имеет несомненную практическую значимость, с другой стороны, эта задача позволяет достаточно полно смоделировать процесс обучения человека переводу с одного языка на другой.

Практическую значимость для решения экономических задач можно проиллюстрировать на примере принятия инвестиционного решения. Пусть, к примеру, имеется инвестиционный проект строительства жилья. Мы хотим оценить риски и доходность вложений. Ограничиваться изучением заключений даже наиболее авторитетных аудиторских фирм и других подобных экспертов нельзя, так как даже наличие положительных отзывов подобных компаний не гарантирует отсутствие возникновения проблем в ближайшей перспективе, как это было в случае банкротства банка Lehman Brothers. Помимо учета подобных данных необходимо принимать во внимание и множество других факторов, например риски возможности возникновения стихийных волнений, беспорядков, криминогенную обстановку в районе застройки и его окрестностях, престижность района и прочие подобные субъективные факторы. Данные по этим факторам можно получить из исследования местной прессы, анализа информации, размещенной на местных сайтах. Имеются программы для оценки факторов риска на основе анализа потока текстов и использования методов искусственного интеллекта. Эти программы настроены для обработки текстов на одном языке, поэтому для их использования необходимо переводить все тексты на этот язык. Имеющиеся алгоритмы перевода недостаточны для решения этой задачи. Описанный в настоящей работе подход позволяет адекватно решить проблему перевода с местных языков и при необходимости построить систему оценки рисков на основе анализа текстов на разных языках.

Целью настоящей работы является построение алгоритма, моделирующего процесс обучения человека на примере обучения переводу с одного языка на другой.

Задача построения системы машинного перевода была сформулирована давно, и к настоящему времени есть несколько подходов к ее решению. Первый поход к решению задачи машинного перевода с одного естественного языка на другой основан на синтаксическом анализе текстов и их переводе на основе грамматических правил. Этот подход очень трудоемкий и требует ручного задания правил, зависящих от входного и выходного языков. Для новой пары языков задание правил требуется начинать независимо от сделанного для других пар языков. Второй подход основан на вероятностном методе, при котором сочетание слов переводится наиболее вероятным способом (на основе некоторого предварительного статистического анализа массива обучающих текстов) [1, 2]. Этот метод дает относительно неплохие результаты для перевода коротких фраз. При работе с более длинными фразами качество перевода значительно снижается. Достоинством этого метода является то, что система может обучаться автоматически на основе анализа параллельных текстов. При этом обучение системы не похоже на то, как происходит обучение человека. Третий подход к решению задачи машинного перевода основан на методе аналогий [3]. В этом методе производится поиск в обучающей выборке похожей фразы (которая отличается от переводимой одним или несколькими словами), для которой известен перевод, и выдается перевод известной фразы с заменой отличающихся слов на перевод слов из исходной. Этот подход больше похож на то, как обучается человек переводу с одного языка на другой. Недостатком этого подхода является необходимость иметь очень большую обучающую выборку. Размер этой выборки резко растет с ростом числа слов в языке и увеличением длины переводимой фразы. Кроме того, этот метод относительно неплохо работает на парах близких языков (английский - французский) и гораздо хуже на парах далеких (английский - японский).

Общим для всех этих методов является подход к решению задачи машинного перевода на основе парадигмы «последовательность слов преобразуется в последовательность». Эта парадигма сильно ограничивает прогресс в решении задачи машинного перевода. В данной работе предложен подход к построению алгоритма автоматического перевода текста, основанный на использовании модели мира на естественных языках. Подобное направление работ развивается компанией ABBYY и использует модель мира на основе онтологий [4]. Эта модель мира в их подходе строится вручную с некоторыми элементами автоматизации. В настоящей работе изложен более общий подход, использующий граф модели мира на произвольном языке. В отличие от подхода компании ABBYY, граф модели мира строится программой автоматически на основе анализа параллельных текстов. Важной особенностью предлагаемого подхода является то, что качество перевода практически не зависит от длины переводимой фразы, а процесс обучения сходен с процессом обучения человека и легко может быть им понят. Кроме того, предлагаемый подход может быть использован человеком при изучении иностранного языка.

Для начала попробуем разобраться, когда возможен перевод и когда он невозможен. Предположим, что имеется некоторый текст на входном языке и требуется его перевести на выходной язык (к примеру, с русского на английский). Всегда ли такой перевод возможен? Ответ очевиден: нет, не всегда. В качестве примера можно рассмотреть перевод описания состояния снежного покрова на языке коренных народов севера, в котором для описания состояния снежного покрова существует очень много разных понятий, на язык коренных народов, проживающих в тропической зоне, где снега нет. В языке южных народов нет понятия «снег» за ненадобностью, и поэтому описание снежного покрова сделать невозможно. Следовательно, перевод в этом случае невозможен. Для того, чтобы перевод был возможен, необходимо, чтобы входной и выходной языки могли описывать ту ситуацию (или ту часть мира), о которой идет речь в переводимом тексте.

Постановка задачи

Уточним постановку первоначальной задачи. Имеется некоторая ситуация, которая описывается на входном и выходном языках. Мы имеем описание ситуации на входном языке, которое можно считать отображением реальной ситуации на некоторый упорядоченный набор символов входного языка (этим набором могут быть буквы алфавита, слова, иероглифы, математические символы, показания измерительных датчиков, симптомы болезней и т.п.). Описание ситуации на выходном языке представляет собой отображение той же самой ситуации с помощью другого языка с другим набором символов (буквы другого алфавита, команды исполнительным механизмам, диагноз болезни или рекомендация врача по ее лечению и т.п.). В качестве примера можно рассмотреть простейший случай перевода текста с одного языка на другой (например, с русского на английский или наоборот). Пример из области медицины: есть набор симптомов заболевания пациента и результаты его анализов, нужно поставить диагноз. Здесь входным языком служит описание симптомов и результатов анализов, а выходным - набор диагнозов и (или) методов лечения.

Алгоритм перевода и принцип построения модели мира не зависит от выбора конкретных языков (естественные языки, язык симптомов болезней и т.п.), поэтому далее для иллюстрации будем использовать примеры на естественных языках. Описываемый подход был реализован в виде компьютерной программы. Программа была реализована на языке FORTRAN, исходный код программы занимает порядка 5 тысяч строк.

Для простоты далее будем предполагать, что входной и выходной языки имеют конечный набор слов и словоформ. Разные словоформы считаем разными словами. Эти словоформы можно пронумеровать и далее работать с номерами слов в некотором фиксированном списке слов языка. С тем же успехом можно было бы работать и с номерами букв (алфавита языка). Эти два варианта дают разные представления одной и той же модели мира. Для рассматриваемых алгоритмов это не имеет значения, результат получится тот же самый.

Будем говорить, что описание ситуации на выходном языке является переводом описания на входном языке. Ключевым моментом в таком подходе является то, что оба описания на входном и выходном языке соответствуют одной и той же ситуации. Таким образом, мы устанавливаем соответствие между отображением реальной ситуации на разных языках (разных наборах символов), а не просто между наборами символов из разных языков. Отображение ситуации из внешнего мира на каком-то языке может быть неоднозначным из-за использования синонимов. Это приводит к тому, что перевод в принципе является неоднозначным. Просто перевод набора символов на входном языке в набор символов на выходном языке также неоднозначен из-за неоднозначности отображения описания на входном языке в ситуацию в реальном мире (из-за наличия омонимов). В качестве простого примера можно привести фразу «Я вижу замок». Эту фразу на английский язык можно перевести по-разному: «I see a lock» или «I see a castle». Каждый и этих вариантов перевода отвечает своей ситуации в зависимости от того, о чем идет речь - о замкЕ или о зАмке ( тут ударная гласная обозначена прописной буквой).

Основная идея модели процесса обучения

Для иллюстрации основной идеи подхода к обучению системы рассмотрим в качестве примера обучение ребенка процессу приготовления чая. Обучение проводим с помощью демонстрации того, как решаем эту задачу мы сами. Чтобы приготовить чай, мы наливаем воду в чайник, ставим его на газовую плитку, зажигаем спичку, поворачиваем газовый кран и после зажигания горелки ждем, пока вода в чайнике закипит. После этого наливаем кипяток в чашку и бросаем пакетик с заваркой. Это одна из возможных последовательностей действий. Если ребенок ее повторит, то получит нужный результат. Это означает, что он научился готовить чай. Но навык его работает только в узкой конкретной ситуации. На кухне может не быть спичек, но иметься пьезоэлектрическая зажигалка. В этом случае мы показываем ребенку другой вариант действий. Мы наливаем воду в чайник, ставим его на газовую плитку, поворачиваем газовый кран, поджигаем газ с помощью пьезоэлектрической зажигалки и после зажигания горелки ждем, пока вода в чайнике закипит. И далее как в предыдущей ситуации. Когда ребенок освоит эту последовательность действий, он осознает, что различие ситуаций сводится к разным способам зажигания газовой горелки. Он выделит общую часть - наливание в чайник воды, установка его на плитку, открывание газового крана, поджиг горелки, ожидание закипания воды и различия - разные способы поджига горелки. Потом он сможет догадаться, что горелку можно поджечь и с помощью другой зажигалки. Теперь представим себе, что ребенок очутился в ситуации, когда на кухне вместо газовой плиты есть только электрическая. При этом последовательность действий для включения плитки будет другая. Ребенок освоит способ приготовления чай и в такой ситуации. При этом он сделает следующее обобщение: воду надо нагреть на любой плитке. Это уже обобщение более высокого уровня по сравнению обобщением способа включения плитки. Произошло обобщение общих навыков включения разных типов плиток. Следующим этапом может быть освоение способов нагрева воды с помощью кипятильника или электрочайника (без применения плитки). При этом навыки нагрева на плитках, в чайнике и др. способы обобщаются до просто нагрева воды (более простые навыки обобщились в один сложный более высокого уровня иерархии). Аналогичным образом заполнение чайника водой обобщается до просто заполнения емкости (можно заполнять, к примеру, кастрюлю или кружку). Можно наливать воду из-под крана или из бутыли. Таким способом в результате обучения формируется иерархическая модель навыков действий ребенка. Эта иерархическая модель может легко быть продолжена. Аналогично можно научить ребенка готовить разные блюда. Обобщение навыков приготовления разных блюд обобщается в навык приготовления обеда. Важной особенностью модели является то, что один навык высокого уровня обобщения (приготовление обеда) может использовать несколько раз навыки более низкого уровня (навык включения конфорки плитки). При этом навык включения конфорки, полученный при обучении приготовлению чая, может с успехом применяться и для приготовления компота или другого блюда. Это означает, что нет нужды при обучении перебирать все возможные сочетания навыков. Достаточно освоить навыки определенного уровня. Потом их можно будет использовать в более сложных действиях более высокого уровня обобщения. Заметим важный принципиальный момент: длинная сложная последовательность действия при обучении естественным образом разделяется на несколько более коротких (простых) последовательностей более низкого уровня. В дальнейшем мы работаем уже с этими новыми более короткими последовательностями. Рассмотренный подход аналогичен тому, как происходит обучение в различных западных бизнес-школах (на основе рассмотрения множества кейсов).

Следует отметить, что при выполнении действий в общем случае важна последовательность их выполнения, хотя иногда последовательность можно менять не меняя полученный результат. В рассматриваемом нами примере надо вначале налить воду и включить плитку, а потом ждать, когда нагреется вода, а не наоборот. Но можно вначале налить воду и потом включить плитку или вначале включить плитку, а потом налить воду и поставить чайник на огонь. Результат от этого не изменится. Такие разные последовательности действий мы будем считать различными, но допустимыми в смысле получения необходимого результата.

Построенная таким способом модель мира позволяет ребенку совершать необходимое действие. Его действие можно рассматривать как перевод поручения приготовить чай (входной язык) в конкретную последовательность действий (выходной язык), приводящих к выполнению поручения. При этом входной язык - это обычный естественный язык, а выходной язык - это последовательность действий.

Этот подход можно использовать и для обучения диалоговых ботов. При этом входным языком являются вводимые человеком реплики, а выходным - выдаваемые системой ответы на естественном языке.

Выше для иллюстрации идеи использовалась искусственная ограниченная упрощенная модель мира. Практической ценности она не представляет. Далее будем проводить развитие основной идеи на примере решения актуальной задачи, имеющей большое практическое значение, а именно будем моделировать изучение иностранного языка (обучение переводу с одного естественного языка на другой).

Графическое представление модели мира

Для наглядного представления получаемой модели удобно использовать граф, в котором имеются вершины разных типов. Первый тип вершин несет информацию о последовательности действий. Такие вершины будем называть вершинами структурного S-типа. Второй тип вершин несет информацию о том, какой именно из навыков более низкого уровня должен использоваться. Вершины этого типа будем называть вершинами K-типа (конкретизации). Вершины связаны между собой ссылками. Вершина более высоко уровня связана с вершиной более низкого уровня ссылкой D-типа (down). Каждой ссылке D -типа соответствует ссылка U-типа (up), идушая в обратном направлении - от вершины более низкого уровня к вершине более высокого уровня. Вершины S- и K-типов могут иметь много ссылок D-типа. При этом в вершинах структурного типа важен порядок ссылок, а в вершинах конкретизации порядок ссылок D-типа не имеет значения. Вершины структурного типа несут информацию о строении предложения (о грамматических правилах) или последовательности действий, а вершины конкретизации определяют, какие понятия могут использоваться в определенном месте. На нижнем уровне иерархической модели вершины конкретизации указывают в конечном счете на конкретные слова, понятия или элементарные действия. На более высоких уровнях иерархии модели вершины конкретизации указывают на более общие или сложные понятия (приготовить чай, приготовить обед ).

Такие графы строятся для описания модели мира на разных языках. Вершины графов на разных языках могут быть связаны между собой ссылками типа T (translate). При этом вершины, связанные ссылками T-типа, считаются переводом друг друга. Они описывают одно и то же понятие или последовательность действий во внешнем мире на разных языках.

Правила построения графа модели мира

По входным и выходным текстам (текстам на входном и выходном языках), описывающим одну и ту же ситуацию во внешнем мире, будем строить граф модели мира. Это построение графа модели мира и представляет собой процесс обучения. В процессе обучения производится изменение графа (его перестройка или преобразование). Эти преобразования выполняются по определенным правилам. Эти правила будем называть аксиомами обучения. В этой работе будет проиллюстрирована идея выделения общей части и различий в описании ситуаций в реальном мире на конкретных примерах. Более точное и формальное описание аксиом обучения будет приведено в последующих работах.

Для простоты будем обрабатывать одно предложение (это не принципиальный момент, и алгоритм позволяет естественным образом обрабатывать целые группы предложений, абзацы и т.д.). Будем считать, что у нас имеется полный список всех слов языка со всеми словоформами. Разные словоформы считаются разными словами. Каждому слову соответствует свой номер в словаре. Далее будем работать с номерами слов в словаре. При этом предложение превращается в упорядоченную последовательность номеров слов, из которых состояло исходное предложение. Для входного и выходного языков имеются свои независимые друг от друга словари, в которых каждой словоформе сопоставляется целое число - номер в словаре. Преобразование «слово - число» и обратное преобразование взаимнооднозначны и могут выполняться простым образом.

Для обучения системы используется ввод пары предложений на входном и выходном языках, описывающих одну и ту же ситуацию во внешнем мире. Эти предложения считаются переводом друг друга. По введенным предложениям строятся соответствующие графы на входном и выходном языках.

Будем прослеживать процесс обучения с самого начала (с того момента, когда обучаемая система вообще не получала никакой информации и ничего не знает о внешнем мире, кроме заложенных в нее аксиом обучения). Для определенности выберем в качестве входного языка русский, а в качестве выходного языка - английский.

В качестве примера предположим, что обучающей системе подали такую пару обучающих предложений:

Петя ходит в магазин.

Pit goes to the shop.

В результате будут построены такие графы на входном и выходном языках (рис. 1). Структурные вершины будем обозначать темно-серым цветом. Выделим в специальный тип вершин вершины, которые имеют ровно одну ссылку D-типа (и соответственно, ровно одну ссылку и-типа). Вершины такого типа будем называть вершинами Р-типа (подстановки). Вершины типа подстановки будем обозначать светло-серым цветом, а вершины конкретизации - черным. В вершинах структурного типа ссылки упорядочены слева направо (самая левая ссылка D-типа является первой, а самая правая - последней). Возле вершины будем указывать ее номер. Вершины, соответствующие графам модели мира на разных языках, могут быть соединены между собой ссылками Т- типа (горизонтальными линиями). Будем считать, что в левой части рисунка располагается граф модели мира на входном языке, а в правой - на выходном. Для наглядности возле вершин самого низшего уровня, соответствующих словам, выписано само слово, а не его номер. По построению переводом вершины 1 во входном дереве является вершина 1 в выходном дереве. Верно и обратное: переводом вершины 1 в выходном дереве является вершина 1 во входном дереве. Как переводятся отдельные слова, система пока не знает.

Теперь введем вторую пару обучающих предложений:

Коля ходит в магазин.

Nick goes to the shop.

После их представления в виде графа получится результат, представленный на рисунке 2.

Рисунок 1 Граф модели мира после ввода первой пары предложений

Рисунок 2 Граф модели мира после ввода второй пары предложений