Машинный перевод немецких составных слов на русский язык

Второе основное правило применялось, если не выполнялись условия первого правила, и при этом в переводе присутствовало хотя бы одно прилагательное: перевод относился к типу "прилагательное плюс существительное". Подобное правило позволяло верно определить данный тип перевода, несмотря на частые случаи неполного элайнмента (отсутствия имен существительных), о которых говорилось ранее (как в переводе композита Abendlied: есть `вечерняя', но нет `молитва'). В данном контексте отметим, что наличие в переводе субстантивированных прилагательных могло приводить к ложному присвоению описываемого типа. К примеру, композит Kinderstube в тексте был переведен словом `детская' и ошибочно отнесен к типу A+N. Имели место и обратные случаи: композит Todesschlaf (`смертный сон') следовало бы отнести к типу A+N, но слово `смертный' было определено как субстантивированное прилагательное (существительное), и следовательно перевод был отнесен к типу N+NP_Gen.

Третье правило состояло в том, что все остальные композиты, не попадающие ни под первое, ни под второе правило, имели переводческие эквиваленты типа N.

В случае если в переводе встречались слова, не относящиеся к именам существительным или именам прилагательным (глаголы, местоимения, наречия и т.д.), подобные слова признавались ошибочно попавшими в элайнмент и удалялись.

Если в переводе не было ни одного существительного и ни одного прилагательного, а присутствовали только слова других грамматических классов, соответствующий композит исключался из корпуса. Данный подход существенно сократил финальное число композитов.

После анализа композитов и их русских переводов в финальный корпус вошли 2732 уникальных композита.

Наиболее многочисленным типом переводческого соответствия в нашем корпусе немецких композитов оказался тип "прилагательное плюс существительное" (A+N): 43 %.

Вторым по распространенности частеречным паттерном оказалась модель "существительное" (N). При чем, отрыв от модели "прилагательное плюс существительное" оказался относительно небольшим: 39,8 %.

Реже всего в корпусе встретились композиты, переводящиеся на русский язык с помощью существительного и именной группы в родительном падеже (N+NP_Gen): 17,2 %.

Напомним, что композиты с переводом типа "существительное плюс предложная группа" были условно причислены к модели перевода "существительное". Такой шаг был в первую очередь обоснован наихудшим качеством элайнмента композитов данной группы по сравнению с тремя другими паттернами. Однако, как уже упоминалось, композиты, переведенные с помощью предложной группы, являются самыми малочисленными, употребляются в корпусе редко, и, следовательно, выделение их в отдельный тип существенно не изменило бы общую статистику по моделям перевода.

В заключение подметим, что многие композиты имели несколько переводов и им могли соответствовать разные частеречные паттерны (Sandmann - `Песочный человек', `Песочник'). В основной серии экспериментов мы предсказывали только один тип переводческого соответствия для каждого композита.

Глава V. Эксперименты по определению типа перевода

V.1 Выбор признаков для машинного обучения

Во всех экспериментах в качестве признаков для машинного обучения использовалась следующая информация о композите:

1) начальные формы (леммы) первого и второго компонента;

2) части речи первого и второго компонента;

3) суффиксы первого и второго компонента;

4) способ соединения (соединительный элемент/усечение).

Вся вышеперечисленная информация была получена с помощью морфологического анализатора SMOR.

При более подробном рассмотрении необходимо сразу сказать о том, что под понятиями "первый компонент" и "второй компонент" мы подразумевали как непосредственные составные части композитов, так и их мотивирующие основы, в случае если компонент был признан производным словом (Domorganist (`соборный органист') - компонент Organist - производное слово от Organ).

Говоря о компонентах, отметим, что зачастую одни и те же составляющие части служили для образования разных композитов. Например, компонент Sonne (`солнце') встретился в корпусе в четырнадцати различных композитах (Sonnenstrahl, Sonnenglut, Sonnenschirm и др.). При чем в двенадцати из них он являлся модификатором, а в двух - опорным компонентом (Mдrzsonne, Morgensonne).

Что касается частеречного состава первых компонентов, 2377 композитов имели модификатор-существительное, 172 композита - модификатор-глагол, 148 композитов - модификатор-прилагательное. У 32 композитов был модификатор-префикс, 3 композита имели модификатор-числительное. Модификаторами-префиксами были признаны префиксы, характерные для существительных, но не для глаголов (например, префикс -ober в композите Oberlippe(`верхняя губа')).

Несмотря на то, что поскольку все композиты в корпусе были субстантивными, а значит, опорный компонент каждого из них также был существительным, мы учитывали информацию о том, является ли это существительное непроизводным или производным. В случае если существительное было образовано от другого слова (существительного, глагола или прилагательного), второй компонент получал соответствующий частеречный тег: к примеру, Uhrmacher (`часовщик') - опорный компонент Macher, производящая основа - глагол machen; Dienstfertigkeit (`услужливость') - опорный компонент Fertigkeit, производящая основа - прилагательное fertig.

В отношении соединительных элементов, отметим, что любые усечения глаголов были объединены в одну группу. Так композиту Reitstiefel (`сапог для верховой езды'), образованному после усечения основы глагола reiten (удаление суффикса -en) и добавления существительного Stiefel, и композиту Rдderwerk (`заводной механизм'), компонентом-модификатором которого является усеченная основа глагола rдdern (удаление суффикса -n), был присвоен один и тот же тег trunc_V, без конкретизации, какой именно суффикс (-en или -n) был усечен.

Кроме того, в качестве дополнительных признаков мы рассматривали суффиксы обоих компонентов композитов, которые были выделены при морфологическом разборе SMOR. Как отмечалось раннее в п. 5.2.1., SMOR определял только наиболее частотные суффиксы (полный список приведен в п. 5.2.1.). Суффиксы были выделены у 119 композитов.

Поскольку у нас имелась информация только о продуктивных суффиксах в составе компонентов композитов, было решено попробовать в качестве признака n-граммные суффиксы составляющих частей: к примеру, в слове Spiegel были выделены суффиксы -l, -el, -gel. Вместе с суффиксами так же определялись n-граммные префиксы (-s, -sp, -spi в Spiegel).

Еще одним признаком для машинного обучения в одном из экспериментов стало количество общих букв в суффиксах компонентов. В данном контексте под понятием "суффикс" подразумевалась не словообразовательная морфема, а любая подстрока, которая заканчивалась последним символом строки. Например, в композитах Abendessen (`ужин') и Mittagessen (`обед') компоненты Essen и Essen имели степень близости 5, а компоненты Abend и Mittag - степень близости 0.

Рассматривая соединительные элементы как части модификаторов, мы также попробовали добавить информацию о числе и падеже (если возможно) первого компонента. Были выделены четыре грамматических профиля: единственное число/именительный падеж (Jugend), единственное число/родительный падеж (Engel + s: Engels, Tod + es: Todes), множественное число/именительный падеж (Wolke + n: Wolken, Geist + er: Geister и др.), императив (для усеченных модификаторов-глаголов). Если компоненты композита соединялись суффиксом -s, но при этом образовавшаяся форма не являлась формой родительного падежа (Arbeit + s: Arbeits), присваивался профиль единственное число/именительный падеж.

Помимо обучения на структурных/грамматических признаках, было решено проанализировать композиты с точки зрения семантики: в перечень признаков также вошли вектора компонентов композитов (word embeddings), натренированные на немецкой Википедии. Вектора были скачаны с сайта github.com (Приложение).

V.2 Ход экспериментов и результаты обучения

Во всех экспериментах проводилась k-блочная кросс-валидация (k-fold cross-validation) - метод, который случайным образом разбивает данные на k непересекающихся блоков примерно одинакового размера. Поочередно каждый блок рассматривается как валидационная выборка, а остальные k-1 блоков - как обучающая выборка. Для получения оценки работы модели вычисляется среднее значение всех k оценок.

Для исследования были выбраны два простых подхода к машинному обучению: деревья принятия решений (decision trees) и метод ближайших соседей (k-nearest neighbors).

Базовыми признаками для обучения являлись леммы и части речи компонентов композитов, а также способ соединения.

В первом эксперименте мы предсказывали тип перевода по базовым признакам, а также по базовым признакам и суффиксам компонентов. Результаты представлены в следующей таблице (классификаторы DecisionTreeClassifier и KNeigborsClassifier из библиотеки scikit-learn, Приложение):

Таблица 2. Результаты: базовые признаки.

Во втором эксперименте в качестве метрики расстояния в методе ближайших соседей было использовано количество общих букв в суффиксах составляющих частей:

Таблица 3. Результаты: базовые признаки и суффиксная близость.

Третий эксперимент заключался в добавлении к базовым признакам векторов компонентов композитов (классификаторы DecisionTreeClassifier и метод ближайших соседей, где метрикой расстояния была семантическая близость):

Таблица 4. Результаты: базовые признаки и векторная близость.

В четвертом эксперименте мы добавили n-граммные суффиксы и префиксы в качестве признаков. Ниже представлены результаты (метод ближайших соседей) в сочетании с базовыми признаками, базовыми признаками/суффиксной близостью и базовыми признаками/векторной близостью:

Таблица 5. Результаты: n-граммные суффиксы и префиксы.

Пятый эксперимент состоял в присваивании грамматических профилей компонентам-модификаторам:

Таблица 6. Результаты: грамматические профили.

На заключительном этапе было решено использовать вместе с базовыми признаками суффиксную и векторную близость одновременно. В качестве классификатора был применен метод ближайших соседей:

Таблица 7. Результаты: базовые признаки, суффиксная и векторная близости.

Поскольку, как уже было сказано, в корпусе одни и те же композиты могли иметь разные переводы и, следовательно, разные типы переводческих соответствий, мы попробовали сделать предсказания всех возможных для композита типов.

Для реализации данной задачи каждому композиту был поставлен в соответствие не один тип, а список всех возможных. Если композит переводился только одним типом, этому типу присваивалась единица, остальным двум - нули. В случае нескольких возможных типов вычислялась частота каждого из них.

В качестве классификатора использовался метод ближайших соседей. Предсказанные частоты вычислялись путем усреднения частот ближайших соседей. Для определения точности вычислялась сумма минимумов из реальных и предсказанных частот, которая делилась на размер тестовой выборки:

P = 1/N * ,

где N - объем тестовой выборки;

k - количество соседей;

f_i1, f_i2, f_i3 - частоты для i-го элемента обучающей выборки;

_j1, _{j2, j3} - реальные частоты для j-го элемента тестовой выборки;

f_'j1, f'_j2, f'_j3 - предсказанные частоты для j-го элемента тестовой выборки;

, где a_i - индекс i-го ближайшего соседа в обучающей выборке.

Для предсказывания всех возможных типов в качестве признаков были выбраны базовые признаки, суффиксная близость и векторная близость. Базовые признаки и суффиксная близость показали точность 0.44, базовые признаки и векторная близость - 0.44, базовые признаки, суффиксная и векторная близость - 0.47.

Так как автоматический элайнмент композитов был не безошибочным, что становилось причиной присвоения неправильного типа переводческого соответствия, мы посчитали, что верным решением будет провести аналогичные эксперименты на размеченном вручную корпусе.

Помимо ручной разметки типов, было принято решение об исключении из корпуса всех "неполных" переводов. Неполными переводами признавались переводы типа N, если в корпусе имелся другой перевод такого же композита типа AN или NN. Например, перевод композита Wolkenschatten - 'тени облаков', 'тени' - неполный перевод.

Результаты некоторых экспериментов представлены ниже (предсказывание одного типа):

Таблица 7. Результаты: типы, размеченные вручную.

V.3 Анализ результатов

Таким образом, в проведенных экспериментах лучшие результаты были получены при вычислении суффиксной и векторной близостей между компонентами. Среди базовых признаков начальные формы компонентов оказались наиболее эффективными. Части речи компонентов и способ соединения имели небольшую важность при присваивании типа перевода.

Анализируя результаты, мы можем сказать о том, что благодаря вычислению близостей многим композитам был присвоен верный частеречный паттерн перевода. Так, например, ближайшим соседом композита Rosenцl ('розовое масло') оказался композит Nelkenцl ('гвоздичное масло'): тип перевода был предсказан правильно. Аналогичное правильное определение паттерна произошло для композита Abendlied ('вечерняя песня') в связи с максимальной близостью с композитом Abendwind ('вечерний ветер').

Главная проблема заключалась в том, что многие композиты, которые могут быть переведены на русский язык несколькими типами, имели не все возможные переводы в корпусе. К примеру, ближайшим соседом композита Wolkenschatten ('тени облаков') с типом NN был признан композит Wolkenhцhe с типом AN ('облачная высота'). Вместе с тем, Wolkenhцhe также может быть переведен как 'высота облаков', тип NN, но такой вариант в корпусе не встретился. Кроме того, часто перевод компонента-модификатора в тексте опускался. Так композит Marmorader был переведен как 'жилка', а не как 'мраморная жилка': композиту был присвоен тип N. В то же время, в других композитах, в основном, компонент Marmor переводился ('мраморный'), как следствие, присваивался тип AN.

Заключение

В рамках нашего исследования был составлен параллельный корпус немецких двусоставных композитов и их переводов на русский язык. О каждом композите в корпусе имеется следующая информация: начальные формы, части речи и суффиксы обоих компонентов, способ соединения, перевод, тип переводческого соответствия.

На материале корпуса были проведены эксперименты по автоматическому определению частеречного паттерна русского перевода композита с использованием машинного обучения. В качестве признаков выступали различные структурные/грамматические/семантические характеристики немецкого композита.

В дальнейшем, с целью улучшения результатов определения типа переводческого соответствия, имеет смысл провести подобные эксперименты на корпусе большего объема, а также извлекать немецкие композиты из текстов научно-технического или официально-юридического характера, в которых, как правило, каждому композиту соответствует один, общеупотребительный перевод.

Литература

1. Архипов 2011 -- А. Ф. Архипов. Письменный перевод с немецкого языка на русский язык: учебное пособие. -- М.: КДУ, 2011. -- 336 с.

2. Павлова, Светозарова 2012 -- Трудности и возможности русско-немецкого и немецко-русского перевода: справочник. -- СПб.: Антология, 2012. -- 480 с.

3. Baroni et al. 2002 -- Marco Baroni, Johannes Matiasek, Harald Trost. Wordform- and class-based prediction of the components of German nominal compounds in an AAC system // Proceedings of the 19th International Conference on Computational Linguistics (COLING). 2002.

4. Cap 2014 -- Fabienne Cap. Morphological Processing of Compounds for Statistical Machine Translation. 2014.

5. Corston-Oliver, Gamon 2004 -- Simon Corston-Oliver, Michael Gamon. Normalizing German and English Inflectional Morphology to Improve Statistical Word Alignment. // Conference of the Association for Machine Translation in the Americas. 2004.

6. El-Kahlout, Yvon 2010 -- Ilknur Durgar El-Kahlout, Francois Yvon. The pay-offs of preprocessing for German-English Statistical Machine Translation // Proceedings of the 7th International Workshop on Spoken Language Translation. 2010.

7. Escartнn -- Carla Parra Escartнn. Chasing the Perfect Splitter: A Comparison of Different Compound Splitting Tools. 2014.

8. Escartнn et al. 2014 -- Carla Parra Escartнn, Stephan Peitz, Hermann Ney. German Compounds and Statistical Machine Translation. Can they get along? // Proceedings of the 10th Workshop on Multiword Expressions. 2014.

9. Koehn, Knight 2003 -- Philipp Koehn, Kevin Knight. Empirical Methods for Compound Splitting // Proceedings of the tenth conference on European chapter of the Association for Computational Linguistics. 2003.

10. Popoviж et al. 2006 -- Maja Popoviж, Daniel Stein, Hermann Ney. Statistical Machine Translation of German Compound Words // Advances in Natural Language Processing. 2006.

11. Schiller 2005 -- Anne Schiller. German Compound Analysis with wfsc // International Workshop on Finite-State Methods and Natural Language Processing. 2005.

12. Stymne 2008 -- Sara Stymne. German Compounds in Factored Statistical Machine Translation // Advances in Natural Language Processing. 2008.

13. Weller, Heid 2012 -- Marion Weller, Ulrich Heid. Analyzing and Aligning German Compound Nouns // Proceedings of the International Conference on Language Resources and Evaluation (LREC). 2012.

14. Weller et al. 2014 -- Marion Weller, Fabienne Cap, Stefan Mьller, Sabine Schulte im Walde, Alexander Fraser. Distinguishing Degrees of Compositionality in Compound Splitting for Statistical Machine Translation // Proceedings of the First Workshop on Computational Approaches to Compound Analysis (ComaComa) at COLING. 2014.

15. Weller 2017 -- Marion Weller-Di Marco. Simple Compound Splitting for German // Proceedings of the 13th Workshop on Multiword Expressions. 2017.

Приложение

Aglona Reader. Программа для просмотра, создания и редактирования параллельных текстов: https://sites.google.com/site/aglonareader/download

DeReWo. Словарь немецких словоформ на базе корпуса: http://www1.ids-mannheim.de/kl/projekte/methoden/derewo.html

Efmaral. Пословный элайнер на основе цепей Маркова: https://github.com/robertostling/efmaral

fastText. Натренированные вектора немецких слов: https://github.com/facebookresearch/fastText/blob/master/pretrained-vectors.md

GermaNet. Список немецких композитов, извлеченных из корпуса: http://www.sfs.uni-tuebingen.de/lsd/documents/compounds/

IWNLP.Lemmatizer. Лемматизатор для немецкого языка на основе немецкого Викисловаря: https://github.com/Liebeck/IWNLP-py

pymorphy2. Морфологический анализатор для русского языка: https://pymorphy2.readthedocs.io/en/latest/

scikit-learn. Библиотека для машинного обучения: http://scikit-learn.org/stable/index.html

SMOR. Морфологический анализатор для немецкого языка: http://www.cis.uni-muenchen.de/~schmid/tools/SMOR/

Исходный код программы: https://github.com/VarvaraHuts/thesis

Размещено на Allbest.ru