Лингвистические аспекты кросс-языкового реферирования: синтез текстов под управлением предметных онтологий

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Лингвистические аспекты кросс-языкового реферирования: синтез текстов под управлением предметных онтологий

Среди наиболее актуальных и практически значимых технологий в области обработки естественного языка можно назвать анализ под управлением предметных онтологий. Представленный в работе подход позволяет говорить об онтологически-ориентированном синтезе, играющем важную роль, в частности, при решении задачи кросс-языкового реферирования.

Круг проблем, решение которых необходимо в процессе создания прикладной системы кросс-языкового реферирования, в терминах классических задач в области обработки естественного языка можно условно разделить на два подкласса: относящиеся к реферированию как таковому и аналогичные тем, что возникают в процессе автоматического перевода.

Как известно, одним из традиционных вопросов в сфере автоматического перевода является вопрос о возможности и необходимости создания универсального семантического языка, представляющего собой в процессе обработка текста переходную репрезентацию между языком-целью и языком-источником.

В качестве такого средства в рамках рассматриваемой методики кросс-языкового реферирования предлагается использовать когнитивные карты (Cognitive Maps, CMaps), являющиеся разновидностью семантических сетей. Создание универсального семантического языка, избавляющего систему от необходимости построения дополнительного (исходного) реферата на языке-источнике, является не единственным достоинством данного подхода. Использование когнитивных карт - гарант того, что в реферат будет включена только релевантная для пользователя информация, предусмотренная в рамках соответствующей онтологии. В процессе генерации итогового текста используется набор лингвистических шаблонов, аналогичных формальным конструкциям, положенным в основу систем OntosMiner [Ефименко, 2006].

Системы семейства OntosMiner относятся к классу CE-систем (Content Extraction Systems), применяющих в процессе анализа ЕЯ-текстов т.н. Shallow-модели [Soria et al., 2002]. В рамках такого подхода вместо полного синтаксического анализа используется система шаблонов, ориентированных на извлечение сущностей и связей между ними, являющихся экземплярами представленных в онтологии типов. Применение аналогичных принципов при генерации текстов позволяет говорить об автоматическом реферировании на основе лингвистических шаблонов под управлением предметных онтологий. В рамках такого подхода все промежуточные операции могут выполняться на формальных конструкциях-шаблонах, а не на реальных предложениях. Генерация естественноязыковых фрагментов происходит на самом последнем этапе, когда системой получены все данные, необходимые для порождения гладкого и семантически насыщенного текста.

Общее описание алгоритма

Схема алгоритма генерации реферата, от текста-источника до конечного текста, представлена на рис. 1. В рамках данной статьи рассматриваются, главным образом, этапы 4-6 и 11-12. Блоки 2 и 3 относятся к задаче извлечения знаний из коллекции документов. Описанию блоков 7-10 посвящена статья [Khoroshevsky, 2005].

Следует отметить, что рассматриваемая ниже методика создавалась, прежде всего, для европейских языков, а именно английского, немецкого, русского и французского (работа с указанными языками предусмотрена в настоящий момент в системах OntosMiner), однако основные ее принципы представляются верными и для языков принципиально иного строя.

Шаблоны-аналоги

Прежде чем обратиться непосредственно к процессу генерации текста-реферата, необходимо рассмотреть ряд подготовительных этапов.

От NLP к NLP

Важным моментом в работе системы является нахождение шаблонов-аналогов для языка-источника и языка-цели. Под «шаблонами» подразумеваются лингвистические конструкции, представляющие собой средства выражения того или иного типа связей и / или сущностей (объектов онтологии). Последние при этом играют роль актантов семантических отношений (связей). Более частные языковые структуры могут быть обощены до мета-конструкций, рассматриваемых в качестве шаблонов. Такого рода шаблоны коррелируют с различными вариантами выражения того или иного значения в том или ином языке. Часто способы кодирования семантических отношений между объектами можно расположить на некоторой шкале, являющейся, по сути, шкалой эксплицитности выражения предиката. При этом на одном конце шкалы окажутся, например, формы в изъявительном наклонении, а на другом - отглагольные существительные и синтаксические нули. Идея такого рода шкалы происходит из области речевого воздействия и НЛП (Neuro-Linguistic Programming, NLP), в связи с предположением о большем влиянии на сознание слушающего менее эксплицитной информации. Использование подобного рода модели в рамках автоматической обработки естественного языка (Natural Language Processing, NLP - в западной традиции здесь действительно имеет место омонимия терминов) обеспечивает более системный подход к «исчислению» различных способов кодирования той или иной семантики и поиску межъязыковых соответствий.

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Схема алгоритма кросс-языкового реферирования

Следует упомянуть при этом, что в случае такого подхода исчезает необходимость работать автономно с конкретной языковой парой, поскольку система шаблонов-аналогов позволяет варьировать сочетания языка-источника и языка-цели.

Анализ корпуса языка-источника

Одной из важнейших задач в рамках описываемой технологии является анализ корпуса текстов на языке-источнике. Данный анализ может быть ориентирован на конкретную предметную область. Однако многие конструкции являются универсальными и релевантны для различных предметных областей и жанров. Полученный набор шаблонов включает в себя как относительно простые, так и довольно изысканные способы выражения. Ниже представлена схема одного из шаблонов для семантического отношения «Являться сотрудником», играющего важную роль в целом ряде предметных онтологий (табл. 1).

Табл. 1. Пример лингвистического шаблона (для английского языка)

лингвистический языковой реферирование онтология

Набор шаблонов формирует основу работы системы в рамках задачи извлечения знаний, являясь, таким образом, фильтром для фрагментов входного текста, вовлекаемых в процесс построения когнитивной карты и, как следствие, в генерацию реферата.

Формирование набора шаблонов для языка-цели

Задачу формирования набора шаблонов для языка-цели можно условно разделить на несколько подзадач. Прежде всего, это нахождение точных (или максимально близких) аналогов для конструкций языка-источника. Очевидно, что соответствия такого рода далеко не всегда носят характер взаимно однозначных. Так, например, шаблон для английского языка, представленный выше в Табл. 1, можно сопоставить нескольким русскоязычным шаблонам, что связано, главным образом, с межъязыковыми различиями в порядках слов, системах глагольных времен и наборах падежей (Табл. 2).

Табл. 2. Сопоставление шаблонов языка-источника и языка-цели

В подобных случаях шаблон языка-источника может быть, в зависимости от конкретной ситуации, также разбит на несколько или же оставлен в исходном виде. В процессе нахождения шаблонов-соответствий необходимо учитывать лингвистические явления (например, грамматические категории), как общие для различных языков, так и носящие индивидуальный характер В последнем случае значения «недостающих» атрибутов могут быть вычислены на основе других данных, предусмотренных в шаблоне (примером является выбор требуемого падежа на основе информации об управлении глагола, см. раздел 4). Очевидно, что одной из важнейших задач является составление таблицы соответствий глагольных форм, поскольку набор и семантика последних может существенно варьироваться (при этом значимость глагольных образований при анализе семантических отношений между объектами также очевидна). В дополнение к лингвистическим характеристикам, участвующим непосредственно в формировании шаблона, в рамках формального представления различных структур необходимо учесть факторы, «отвечающие» за генерацию «гладкого», естественного текста.

Возможен также автономный анализ корпуса языка-цели (при этом речь в данный момент идет о предварительном анализе, на этапе подготовки системы). Результатом такого анализа будет набор конструкций, не являющихся аналогами шаблонов языка-источника с грамматической точки зрения, однако близких последним по семантике.

Кроме того, для каждого потенциального языка-цели следует предоставить набор «нейтральных» конструкций, использование которых может оказаться единственным решением в случае отсутствия, по той или иной причине, шаблонов-соответствий. Структуры такого рода могут быть использованы и в качестве основы для «переходных» фрагментов, необходимых для генерации гладкого текста. При этом «нейтральные» конструкции не должны, по возможности, нести дополнительной семантики, являясь исключительно констатацией факта того или иного семантического отношения между теми или иными объектами. В ряде случаев в качестве подобных структур могут выступать личные формы глагола в изъявительном наклонении, в действительном залоге, с соответствующим набором необходимых актантов («Сергей Брин и Ларри Пейдж основали Google»). Однако в большинстве случаев дополнительные семантические составляющие (например, временные характеристики) неизбежны, что необходимо учитывать при формировании соответствующих формальных представлений. Удачным решением «нейтрального» характера представляется также использование структур, расположенных на противоположном отрезке шкалы, моделирующей варианты выражения в языке того или иного онтологического предиката. К их числу относятся, например, отглагольные существительные («После его прихода в компанию…»), деепричастные обороты и иные конструкции, с легкостью интегрируемые в широкий спектр различного рода языковых фрагментов.

Использование данных о характеристиках шаблонов в процессе автоматической обработки текстов

В результате работы системы извлечения знаний данные о шаблонах, на основе которых был выполнен анализ исходного текста, сохраняются в виде внутренних, скрытых для пользователя, атрибутов извлеченных объектов и связей. Поскольку доступность более или менее точных соответствий между шаблонами может варьироваться в зависимости от языковой пары, то изначально в качестве атрибутов необходимо предоставить как сведения об идентифицированной структуре в целом, так и информацию об отдельных грамматических и семантических характеристиках. Такого рода данные обеспечивают следующее пространство возможностей. В случае отсутствия точного аналога происходит выбор шаблона с идентичным набором формальных признаков. При этом значения последних или идентичны значениям атрибутов в соответствующей структуре языка-источника, или неспецифицированы. Дополнительной возможностью является использование «нейтральных» конструкций. В общем случае представляется верным следующее утверждение: чем шире набор предусмотренных в паре шаблонов признаков, чем большее количество значений последних идентично, тем более точное совпадение соответствующих фрагментов исходного и конечного текстов может быть обеспечено в процессе реферирования.

Работа с характеристиками шаблонов кратко проиллюстрирована в Табл. 3 и 4.

Табл. 3. Значения атрибутов в шаблоне, специфицирующем фрагмент исходного текста.

Табл. 4. Варианты конструкций в языке-цели

Разрешение конфликта значений атрибутов

В ряде случаев возможен конфликт между атрибутами формального и семантического характера. Так, например, известно, что глагольная форма настоящего времени может в некоторых языках кодировать ситуации, относящиеся к прошлому или будущему. Для каждого типа потенциальных конфликтов необходим индивидуальный алгоритм разрешения. Одним из общих принципов является предпочтение наиболее эксплицитно обозначенной в тексте характеристики (например, временной). В частности, анализ корпуса русскоязычных текстов показывает, что в упомянутом выше случае (при употреблении формы настоящего времени в значении прошлого или будущего) типично явное указание сирконстанта времени («C 2000 по 2001 год г-н Иванов работает в компании МТС, затем - в компании Beeline»), что позволяет сделать выбор формальной характеристики с учетом соответствующей модели временных отношений, положенной в основу системы [Ефименко, 2004]. Дополнительная информация, необходимая для корректного разрешения конфликта атрибутов, может быть получена на основе данных о жанре исходного текста, знаний о схеме дискурса [Khoroshevsky, 2005]. В случае, если «гарантированно» корректное разрешение конфликта представляется затруднительным, возможен вариант выбора «нейтральной конструкции».

Пример генерации текста

Ниже кратко проиллюстрированы некоторые из этапов генерации текста реферата под управлением предметной онтологии.

Исходный текст и Когнитивная карта

Sergey Brin, a native of Moscow, received a bachelor of science degree with honors in mathematics and computer science from the University of Maryland at College Park. Brin is a recipient of a National Science Foundation Graduate Fellowship as well as an honorary MBA from Instituto de Empresa. It was at Stanford where he met Larry Page and worked on the project that became Google. Together they founded Google Inc., and Brin continues to share responsibility for day-to-day operations with Larry Page and Eric Schmidt.

Генерация конечного текста

Часть 1: Объекты, связи и шаблоны, извлеченные из исходного текста и представленные в когнитивной карте (пояснения даны курсивом)

Основные объекты (узлы CMap) представлены в Табл. 5.

Табл. 5. Основные объекты.

1) Экземпляр объекта «Лицо»

{Person1, syntactic role = «subject» (определяет не только синт. роль как таковую, но и ряд других характеристик, например, значение падежа)}

Глагол-ядро экземпляра онтологического предиката «получать научную степень»

{base = «receive», tense = «past simple», gender = any, number = any, voice = «active»}}

Экземпляр объекта «Научная степень» (атрибут отношения «получать научную степень»)

{base = «bachelor of science», number = «singular», honors = «yes», speciality = [«mathematics», «computer science»], subspeciality = «-», organization = «Organization1»,

/Вложенный экземпляр онтологического предиката «Располагаться»:

«Organization» object {Organization1}

«Located In» Relation prepositional construction {name = «at»}

«Location» object {Location1}/}

2) Экземпляр объекта «Лицо»

{Person1, syntactic role = «subject»}

Глагол-ядро экземпляра онтологического предиката «получать научную степень»

{base = «receive», tense = «past simple», gender = any, number = any, voice = «active»}}

Экземпляр объекта «Научная степень» (атрибут отношения «получать научную степень»)

{base = «MBA», honors = «yes», number = «singular», speciality = «-», subspeciality = «-», organization = «Organization2»}

3) Список объектов типа «Лицо»

{[Person1, Person2], syntactic role = «subject»}

Глагол-ядро экземпляра онтологического предиката «быть основателем»

{base = «found», tense = «past simple», gender = any, number = any, voice = «active»}

Экземпляр объекта «Организация»

{Organization3, syntactic role = «object»} - необходима спецификация синтаксической роли, поскольку в рамках рассматриваемой онтологии данный тип объекта может в данном сем. отношении играть различные роли; кроме того, роли определяются грамматическими характеристиками «ядерных» конструкций

Часть 2:

1)

Экземпляр объекта «Лицо»

{Person1, syntactic role = «subject»}

Глагол-ядро экземпляра онтологического предиката «получать научную степень»

{base = «receive», tense = «past simple», gender = any, number = any, voice = «active»}

Список объектов типа «Научная степень»

{[{base1 = «bachelor of science», number = «singular», honors1 = «yes», speciality1 = [«mathematics», «computer science»], subspeciality1 = «-», organization1 = «Organization1»

/ Вложенный экземпляр онтологического предиката «Располагаться»:

«Organization» object {name = «Organization1»}

«Located In» Relation prepositional construction {name = «at»}

«Location» object {name = «Location1»}/},

{base2 = «MBA», number2 = «singular», honors2 = «yes», speciality2 = «-», subspeciality2 = «-», organization2 = «Organization2»}]}

Трансформация такого рода обусловлена тем, что два экземпляра отношений одного типа имеют общий узел-источник («первый актант»), а также описываются идентичными шаблонами (с точностью до набора и значений атрибутов). В случае, если результирующая конструкция недостаточно элегантна, возможна генерация двух текстовых фрагментов, соединенных искусственно созданной «переходной» структурой.

2)

Экземпляр объекта «Лицо»

{pronoun, number = «singular», gender = «male, syntactic role = «subject»}

Глагол-ядро экземпляра онтологического предиката «быть основателем»

{base = «found», tense = «past simple», gender = any, number = any, voice = «active»}

Экземпляр объекта «Организация»

{Organization3, syntactic role = «object»}

Элемент-связка

{name = «together with»}

Экземпляр объекта «Лицо»

{Person2, syntactic role = «indirect object»}

Таким образом, происходит перемещение фокуса на экземпляр объекта того же типа.

Часть 3

1) Экземпляр объекта «Лицо»

{Person1, name = «Сергей Брин» (первое имя - словарный аналог исходного, значение фамилии - результат транслитерации), синтаксическая роль = «subject», падеж = «nom» (следствие синт. роли)} > результирующий фрагмент текста: «Сергей Брин»

Глагол-ядро экземпляра онтологического предиката «получать научную степень»

{base = «получить», tense = «past», aspect = «perfective» (информация, заданная на подготовительном этапе при формировании шаблонов-аналогов, см. раздел 3), род = «male» (на основе рода субъекта), число = «singular» (на основе числа субъекта), залог = «active»} > результирующий фрагмент текста: «получил»

Список объектов типа «Научная степень»

1^ый элемент списка

{name = «степень (base {case = «gen», number = «singular»}) (в области (speciality {case = «gen»}))? (специализация: (subspeciality (case = «nom»)}))? (honors {case = «instr»}) (organization {case = «prep», number = «singular»})» (констукция в целом и атрибуты ее фрагментов заданы в процессе нахождения шаблонов-аналогов, раздел 3), number = «singular», case = «acc» (задано управлением глагола), base = «бакалавр», honors = «yes», speciality = [«математика», «кибернетика»], subspeciality = «-», organization = {Organization1, name = «Университет Мэриленда» (здесь может фигурировать словарный аналог и / или результат транслитерации / перевода)},

/ Вложенный экземпляр онтологического предиката «Располагаться»:

«Organization» object {name = null}

«Located In» Relation prepositional construction {name = «расположенный в», case = «prep» (задано падежом организации в объекте «Научная степеньt), number = «singular»}

«Location» object {Location1, name = «Колледж Парк» (здесь может фигурировать словарный аналог и / или результат транслитерации / перевода), case = «prep» (задано моделью управления предлога)}/} > результирующий фрагмент текста: «степень бакалавра в области математики и кибернетики с отличием в Университете Мэриленда, расположенном в Колледж Парке»

Элемент-связка

{name = «а также»} > результирующий фрагмент текста: «а также»

2^ой элемент списка

{…} > результирующий фрагмент текста: «степень MBA с отличием в Институте Эмпреса»

2) Экземпляр объекта «Лицо»

{base = «он», number = «singular», gender = «male, syntactic role = «subject»} > результирующий фрагмент текста: «Он» (Заглавная буква маркирует начало предложения)

Глагол-ядро экземпляра онтологического предиката «быть основателем»

{base = «основать», tense = «past», aspect = «perfective», gender = «male», number = «singular», voice = «active»} > результирующий фрагмент текста: «основал»

Экземпляр объекта «Организация»

(Organization3, name = «корпорация Гугл» здесь может фигурировать словарный аналог и / или результат транслитерации / перевода), case = «acc» (предусмотрено в рамках синтаксической роли и модели управления глагола)} > результирующий фрагмент текста: «корпорацию Гугл»

Элемент-связка

{name = «вместе с» (перевод на уровне отдельных лексем, при конкретные целевые лексемы предусматриваются в процессе формирования шаблонов-аналогов)} > результирующий фрагмент текста: «вместе с»

Экземпляр объекта «Лицо»

{Person2, name = «Ларри Пейдж» (словарный аналоги или результат транслитерации), syntactic role = «indirect object», case = «instr» (предусмотрено в рамках синтаксической роли и модели управления глагола)} > результирующий фрагмент текста: «Ларри Пейджем»

Текст реферата

Вариант 1. Сергей Брин получил степень бакалавра в области математики и кибернетики с отличием в Университете Мэриленда, расположенном в Колледж Парке, а также степень MBA с отличием в Институте Эмпреса. Он основал корпорацию Гугл вместе с Ларри Пейджем.

Вариант 2. Сергей Брин получил степень бакалавра в области математики и кибернетики с отличием в Университете Мэриленда, расположенном в Колледж Парке. Кроме того (искусственно сгенерированный фрагмент), он (анафорическая замена) получил степень MBA c отличием в Институте Эмпреса. Он основал корпорацию Гугл вместе с Ларри Пейджем.

Таким образом, фокус, как упоминалось выше, перемещается к другому экземпляру того же типа, в данном случае, «Ларри Пейдж», что позволяет перейти к генерации последующих фрагментов текста.

В статье представлен онтологически-ориентированный, основанный на использовании лингвистических шаблонов подход к автоматической обработке естественного языка. Как показывает опыт, именно анализ под управлением предметных онтологий позволяет создавать прикладные системы извлечния знаний. Применительно к генерации текстов такого рода подход позволяет получить мощный инструмент в области автоматического, в том числе, кросс-языкового, реферирования. Таким образом, постулируется возможность и практическая значимость не только анализа, но и синтеза текстов под управлением предметных онтологий.

Список литературы

1. И.В. Ефименко, Обработка естественно языковых текстов: онтологичность в лингвистике и дискурсивность в извлечении знаний, Труды конференции КИИ-2006, Обнинск, Россия, 2006.

2. Soria, C., Bernsen, N.O., Cadee, N., Carletta, J., Dybkjaer, L., Evert, S., Heid, U., Isard, A., Kolodnytsky, M., Lauer, C., Lezius, W., Noldus, L., Pirrelli, V., Reithinger, N., and Vogele, A., Advanced tools for the study of natural interactivity. Third International Conference on Language Resources and Evaluation (LREC 2002), Las Palmas, Spain, 2002.

3. И.В. Ефименко, Время в мультиязычных коллекциях документов: лингвистическая модель и ее реализация в среде GATE, Труды конференции КИИ-2004, Тверь, Россия, 2004.

4. V. Khoroshevsky, Semantic Indexing: Cognitive Maps Based Approach, RANLP-2005, Borovets, Bulgary, 2005.

Размещено на Allbest.ru