Прагматический анализ с применением подходов к автоматизированному созданию онтологической базы знаний

Размещено на http://www.allbest.ru/

УДК 004.89+004.912+004.5+004.93'1+519.7

Прагматический анализ с применением подходов к автоматизированному созданию онтологической базы знаний

П.В. Толпегин ,

Д.П. Ветров ,

Д.А. Кропотов

Предлагается подход к автоматизированному пополнению онтологической базы знаний «О Мире» при помощи синтактико-семантического анализа путем «начитывания» естественно-языковых текстов. Полученные данные позволят качественно повысить уровень автоматизированного разрешения анафоры. Подход особенно применим для языков, широко использующих выразительные средства, в частности - русского, нежели чем для языков, опирающихся на строгие морфологические и синтаксические правила.

Проблема построения онтологии с каждым днем все больше рассматривается в областях, смежных с искусственным интеллектом, в частности, при автоматизированной обработке естественно-языковых (ЕЯ) текстов. В предлагаемой работе рассматриваются подходы к автоматизированному разрешению межклаузной референции в дискурсах текстов при помощи онтологической базы знаний «О Мире» (далее - БЗ), а также подходы к автоматизированному извлечению знаний из массивов текстов (корпусов) (text data mining) и пополнению БЗ.

Достаточно часто яркая цель прагматического анализа затушевывается тем, что внимание авторов разработок фокусируется на технических деталях математических конструкций, а не на конкретных методах составления онтологических баз знаний и анализе свойств предметных областей.

Частота появлений инновационных методов ЕЯ-анализа в последнее время значительно снижается. Джон Бейтман (John Bateman) в исследованиях [Bateman, 2006] отмечает падение количества разработок в области генерации текстов на ЕЯ в последнее время. «Насыщение» инновационными разработками обуславливается преимущественно используемым экстенсивным подходом. В частности, применяется ручное создание классификаторов и словарей. Интенсивное развитие систем ЕЯ-анализа, как один из вариантов, представляется возможным при тесном взаимодействии с системами онтологического распознавания образов (изображений) и распознавания речи. анафора семантический текст автоматизированный

Под онтологическим распознаванием изображений понимается система анализа графической информации, способная выделять и различать объекты, их части, формы и их взаимное расположение. В процессе онтологического распознавания будет возможно установление меронимических (часть-целое) отношений между объектами Мира. Полученная информация может лечь в основу БЗ и сыграть немаловажную роль в референциальном (прагматическом) анализе ЕЯ-текстов. Система распознавания речи должна обеспечивать выделение интонации, пауз и интонационных акцентов (ударений).

Достоинством описываемой интеграции систем ЕЯ-анализа и распознавания является репрезентативность получаемых данных (анализируются реальные изображения, объекты, события, речь и явления) и автоматизация процесса пополнения БЗ.

Основным недостатком является отсутствие высокоточных систем распознавания, которые на промышленном уровне могут решить поставленную задачу. С другой стороны, предлагаемый способ не охватит все то, что невозможно увидеть глазом, то есть понятия и некоторые явления.

Прикладной уровень развития систем ЕЯ-анализа ушел далеко вперед по сравнению с онтологическими системами распознавания. Это приводит к тому, что авторам разработок лингвистических систем приходится восполнять отсутствие недостающих знаний (подобных БЗ) ручным созданием словарей (в частности - онтологических баз данных). Близкими или тождественными разработками к БЗ являются онтологический словарь, база знаний «О Мире» и идеографический словарь. Примерами работ по созданию базы данных, содержащей сведения о понятиях и их отношениях, являются: работа [Баранов, 1996], проект WordNet [WordNet, 2006] - лексическая база знаний английского языка, разрабатываемая в Принстонском Университете (Нью-Джерси, США), EuroWordNet [EuroWordNet, 1999] - аналогичный проект для датского, итальянского, испанского, немецкого, французского, чешского и эстонского языков, RussNet [RussNet, 2005] - проект компьютерного тезауруса лексики русского языка (под руководством И.Азаровой, СПбГУ), Русский WordNet [WordNet, 2004] - проект русской версии WordNet (С. Яблонский, А. Сухоногов, Петербургский Государственный Университет Путей Сообщения).

Прогресс в развитии систем ЕЯ-анализа позволяет строить первичные семантические графы [Сокирко, 2001, Сокирко, 2005], основываясь на графематическом (лексическом), морфологическом, синтаксическом, фрагментационном этапах анализа. На рис. 1 приведен результат работы программы [Сокирко, 2001, Сокирко, 2005] для предложения: «За последнее время количество исследований в области автоматизированного построения онтологии заметно возросло, но проблема до сих пор остается неразрешенной».

Рис. 1. Пример первичного семантического графа

Актуальным этапом в развитии систем ЕЯ-анализа представляется референциальный (прагматический) анализ (разрешение анафоры). Суть этапа заключается в установлении зависимостей между объектами (существительными и местоимениями), упоминаемыми в простых предложениях (клауз) на протяжении целого дискурса.

Предлагается следующая методологическая классификация межклаузной референции.

Классификация межклаузной референции

1.1. Анафора (референция) местоимений

В Атлантическом океане¹ ученые нашли "Затерянный город¹". Этот¹ "город^1,2" находится у обнаруженного гидротермального источника². Его² заселяют необычные микроорганизмы³ и морские существа³, которые³ выдерживают горячую, чрезвычайно богатую различными минералами морскую воду.[Aqualife, 2006]

1.2. Синонимия отдельных слов, именных групп и более сложных конструкций

Автор может использовать синонимию, как при описании объектов, так и в названии самих объектов. «Премьер-министр» может быть заменен на слово «политик», а глагол «затрагивать» может употребляться, по меньшей мере, в двух значениях: задевать, касаться, трогать, притрагиваться и волновать. Таким образом, проблема понимания ЕЯ-текстов компьютером, в частном случае, сводится к «отождествлению» кореферентных объектов, описанных различными выразительными средствами языка.

1.3. Меронимические, родовые и видовые отношения

Меронимические, родовые и видовые отношения могут встречаться между объектами, упоминающимися в дискурсе.

Как только известный ученый¹ сел под деревом, так на него упало яблоко. [ (яблоко) = часть (дерево) ], [ (него) = (ученый) ]

В [Азарова и др., 2002] приведена более детальная классификация меронимических (реже - партонимических) отношений по логическим связям между понятиями типа «компонент-предмет» (ветка-дерево), «член-множество» (дерево-лес), «материал-предмет» (алюминий-самолет) и другие, как «порция-масса» (кусок-пирог), «место-область» (Москва-Россия).

1.4. Логико-интуиционистские нечеткие правила

Нечеткие правила представляют собой свод закономерностей, накопленных за время наблюдения. В настоящее время представляется сложным говорить об автоматизированном получении таких правил, но они достаточно удобны в использовании со структурированной областью понятий. Пример правила: Зимой холоднее, чем летом.

· антирефлексивность (нельзя поставить объект сам на себя);

· антисимметричность (если один объект стоит на другом, то второй не может в той же ситуации стоять на первом);

· антитранзитивность (неверно суждение, что объект стоит на другом, если между ними есть третий).

Логико-интуиционистские нечеткие правила могут закладываться в систему как вручную, так и выводиться автоматически на основе собранных сведений о Мире.

1.5. Сложные выразительные средства языка

Референция объектов, упомянутых с применением выразительных языковых средств, включает, в частности, метафоричный перенос, который может быть понятен только человеку при полном анализе контекста. Следующий пример демонстрирует обратную ситуацию, в которой объекты не реферируют между собой. С другой стороны, несложно найти контекст, в котором понятия студенты и хулиганы будут обозначать одних и тех же лиц.

Пример 3. Референция в случае использования выразительных средств

Под прикрытием студентов в Париже орудуют банды хулиганов. [ (студенты) (хулиганы) ]

2. Применение машинного обучения к разрешению референции местоимений 3-го лица

Сотрудниками отдела математических проблем распознавания и методов комбинаторного анализа Вычислительного центра им. А.А. Дородницына Российской академии наук (ВЦ РАН) был проведен опыт по ручной разметке корпуса новостных лент на предмет анафоры местоимений третьего лица [Толпегин, 2006]. Предварительно корпус новостей был размечен морфологически, синтаксически и семантически решениями [Сокирко, 2001, Сокирко, 2005, Ножов, 2003]. По результатам разметки была сформирована обучающая выборка для выделения закономерностей в референциальном выборе для местоимений 3го лица с помощью методов машинного обучения [Журавлев, 2006]. Применяя различные методы машинного обучения, удалось добиться эффективности от 62% до 84%. С одной стороны, процент «неудач» в машинном обучении (от 16% до 38%) складывается из погрешностей модулей анализа текстов и погрешностей методов машинного обучения. С другой стороны, анализ ошибочных ситуаций показал, что величина ошибки в обучении в наибольшей степени зависит от выразительных средств языка, которые не подчиняются правилам морфологии, синтаксиса и первичной семантики. Другими словами: результат референциального выбора не всегда однозначно зависит от структуры и других признаков анализируемых предложений. Для одинаковых синтаксических конструкций предложений могут отыскаться совершенно противоположные результаты.

Маша купила машину^?. Она¹ её² любит.

Структура предлагаемого решения

Автоматизированное составление БЗ

В качестве инструмента для решения был задействован идеографический словарь русского языка О.С. Баранова (http://baranovoc.narod.ru) [Баранов, 1996]. Словарь интересен введенным автором набором тематических рубрик, каждая из которых заполнена соответствующими понятиями и терминами. Рубрикация имеет семь уровней вложенности.

Рассматривая только объекты (существительные), представляется возможным отталкиваясь от морфологических и синтаксических свойств словосочетаний, пополнять древовидную структуру данных.

Пример 5. Извлечение знаний из структуры словосочетаний ножка стула, состав команды, заместитель председателя, годы работы

Идеографический словарь может сыграть важную роль при классификации объектов (существительных) на понятия, объекты живой, неживой природы, предметы и др. [Каневский и др., 2000, Каневский, 2000].

Путем анализа текстов и представления его в виде графа (рис. 1.), предлагается составить статистическую базу данных (СБД), подобную рассмотренному выше идеографическому словарю и БЗ. Результат обработки текста в виде узлов и дуг декомпозируется в СБД таким образом, чтобы по заданному слову и семантической валентности можно было получить набор слов, связанных с введенным словом указанной валентностью, с соответствующими характеристиками.

f ( word_x, valency) = {word_y : characteristics}_n.

Разработка нечетких мер

Вероятностный корпусно-ориентированный анализ

Корпусно-ориентированный анализ основывается на поиске в эмпирическом корпусе текстов глагола, связанного с анализируемым анафором и гипотетическим антецедентом. Антецедентом, реферирующим с анафором, выбирается тот гипотетический антецедент, который встречается большее число раз, чем другие вместе с глаголом.

В автомобиль^? Иван встроил блокиратор^? коробки переключения передач. Теперь его сложно угнать.

По данным поиска в поисковой системе «Яндекс» (www.yandex.ru) «угнать автомобиль» встречается в 59 раз чаще, чем «угнать блокиратор». Однако рекомендуется проводить поиск по синтаксически размеченному корпусу, чтобы избежать ошибок первого и второго рода: случаев, в которых слова стоят рядом друг с другом, но не взаимосвязаны, и случаев, когда слова взаимосвязаны, но разделены одним или несколькими словами.

Другие задачи БЗ

Разработка, составление и развитие онтологической базы знаний «О Мире» поможет подойти на качественно новом уровне к практическому решению актуальных задач: тематической классификации текстов, разрешению омонимии семантического поля связи существительного и прилагательного, разрешению омографии (орган-орган, мука-мука и др.), т.е. слов, омонимия значения которых разрешима на уровне семантики.