Перспективи використання нейромереж при вивченні та дослідженні японської мови

Размещено на http://www.allbest.ru/

ПЕРСПЕКТИВИ ВИКОРИСТАННЯ НЕЙРОМЕРЕЖ ПРИ ВИВЧЕННІ ТА ДОСЛІДЖЕННІ ЯПОНСЬКОЇ МОВИ

Москальов Д.П., кандидат філологічних наук,

доцент кафедри східних мов і перекладу

Київського університету імені Бориса Грінченка

Мазнев С.С.,

студент японського відділення кафедри східних мов і перекладу

Київського університету імені Бориса Грінченка

Анотація

Метою роботи є описання базової структури та принципів роботи нейронних мереж, а також інтуїції, що стоїть за ними, виявлення актуальних проблем японської мови та шляхів їх вирішення за допомогою нейромереж. Для вирішення поставленої мети були виконані такі завдання: описати сучасні нейронні мережі; розкрити вже існуючі можливості нейромереж та їх застосування щодо природних мов; дослідити актуальні проблеми вивчення та дослідження японської мови; надати можливі вирішення деяких з цих проблем за допомогою нейромереж.

Методологія базується на принципах комп'ютерної лінгвістики, корпусної лінгвістики, автоматичного перекладу.

За результатами виконаної роботи було подано інформацію про нейромережі та їх види: рекурентна та згорткова нейронні мережі; визначено актуальні можливості нейронних мереж у сфері обробки природних мов; описано особливості взаємодії нейронних мереж з японською та іншими логографічними мовами: проблема рубі-символів, проблема токенізації - поділення тексту на окремі одиниці, проблема невеликої кількості даних; обґрунтована доречність використання ШНМ для вирішення проблеми вивчення тонального наголосу в японській мови, описано алгоритм дій щодо проекту зі створення нейронної мережі, націленої на створення графічного зображення тонального наголосу; описано сучасний стан україно-японського та японсько-українського машинного перекладу, запропонований напрям руху для вирішення існуючих проблем; наведені особливості роботи з давніми японськими текстами, шляхи полегшення цієї роботи за допомогою ШНМ.

В статті представлено декілька можливих застосувань різних типів нейронних мереж до актуальних проблем в японській мові: вивчення тонального наголосу, відсутність адекватних мереж машинного перекладу, труднощі дослідження давньої японської літератури. Хоча ці проблеми є лише одними з багатьох можливих застосувань штучних нейронних мереж, подібні проєкти вже мають потенціал поліпшити рівень японознавчих досліджень. Зокрема, серед перспектив використання нейронних мереж запропоновано алгоритм побудови мережі для розмітки тонального наголосу в японській мові, а також ідея застосування діяльності викладачів та студентів як джерела матеріалу для різноманітних мереж, щоб поліпшити якість навчання та полегшити його.

Ключові слова: рекурентна та згроткова нейронна мережа, обробка природної мови, тоновий наголос, японське письмо, машинний переклад.

Summary

Moslalyov D., Maznev S.

Perspectives of usage neural networks in study of the Japanese language.

The article is devoted to the technologies of artificial neural networks, their modern use and prospects of application to the Japanese language.

The relevance of the topic is established by the tendency of researchers and students to use modern technologies. Considering the speed of the development of neural networks and its active implementation into everyday life, it is safe to assume that soon it will become an important tool for studying and researching the Japanese language. To work efficiently with the Japanese language, in the near future it may be necessary not only to learn how to use neural networks, but also to understand its working principles or even create them yourself.

The purpose of the research is to describe the basic structure and working principles of neural networks, as well as the intuition behind them, to define relevant problems of the Japanese language and the ways to solve them using neural networks.

The methodology of the work is based on artificial neural network processing and computational modeling of natural language applicable to machine translation, particularly to the languages which don't have spaces separating words such as Japanese, methods of corpus linguistics.

To achieve the abovementioned goal, the following objectives were fulfilled: describing modern neural networks in a clear way; defining already existing capabilities of neural networks and their application to natural languages; providing possible solutions to some of the problems of studying the Japanese language using neural networks. Particularly, basing on neural network principles such as convolutional and recurrent neural networks the general algorithm of pitch accent in the Japanese language was described and two systems of pitch accent visualization were presented. Several ways to improve Japanese-Ukrainian / Ukrainian-Japanese machine translation were also presented. The article also tackles problems concerning recognition of images and texts written in old Japanese language.

The paper presents several possible applications of different types of neural networks to current problems in the Japanese language: studying a pitch accent, the lack of adequate machine translation networks, the difficulties of studying ancient Japanese literature. Although these problems are the few of many possible applications of artificial neural networks, such projects already have the potential to improve the quality of Japanese studies. Hence, among the prospects of artificial neural networks applications, an algorithm of pitch accent in the Japanese language was presented and an idea of using teacher and student activity as a source of material for different neural networks for improving the quality of learning and facilitating it was presented.

Key words: convolutional and recurrent neural networks, natural language processing, pitch accent, Japanese writing, visualization, machine translation.

Постановка проблеми

Останні кілька десятків років технологічний розвиток рухається з неймовірною швидкістю. З винайденням надпотужних комп'ютерів та мережі Інтернет, наша взаємодія з мовою зазнала сильних змін. Так само змін зазнали й шляхи вивчення мови: тепер широко почали використовуватися мобільні додатки, що дозволяють самостійно вивчати слова, граматику та навіть спілкуватися з носіями тієї мови, що вивчається. Проте, все більшого використання набувають й інші технології - штучні нейронні мережі. Вже зараз вони застосовуються в предикативних системах набору текстів, рукописному введенні, різноманітних аналізах текстів, перекладачах і багато чому іншому. Таким чином, вивчаючи будь-яку мову у наш час, люди використовують нейромережі кожен день. Дослідження мов, не тільки японської, також може відбуватися за допомогою нейронних мереж, адже вони можуть надавати дослідникам необхідні інструменти, полегшуючи та пришвидшуючи процес виконання дослідження, що визначає актуальність вивчення перспектив використання нейронних мереж при навчанні мов, і східних зокрема. Враховуючи швидкість розвитку нейромереж та їх активну імплементацію в повсякденне життя, можна стверджувати, що скоро вони стануть важливим інструментом при вивченні та дослідженні японської мови.

Мета дослідження полягає в описанні базової структури та принципу роботи нейронних мереж, а також інтуїцію, що стоїть за ними; виявленні актуальних проблем японської мови та шляхи їх вирішення за допомогою нейромереж. Досягнення даної мети передбачає розв'язання таких завдань: описати та розкрити можливості нейромереж та їх застосування щодо природних мов; визначити актуальні проблеми вивчення та дослідження японської мови (тональний наголос, розпізнання текстів, записаних не сучасним письмом, машинний переклад) та надати можливі вирішення цих проблем за допомогою нейромереж.

Аналіз останніх досліджень і публікацій. Штучна нейронна мережа - це мережа, побудована на основах вищої математики, структура якої була певною мірою запозичена з мозку тварин. Незважаючи на те, що принцип роботи та структура мозку й надалі залишаються лише орієнтиром у побудові штучних нейронних мереж (надалі ШНМ), їх головною метою залишається імітація функцій, властивих саме біологічним системам: здатність до використання мови, візуального та аудіального сприйняття і т. д.

В основі ШНМ, як і у випадку біологічних нейронних мереж, стоять нейрони. Кожний штучний нейрон базової ШНМ являє собою певну функцію, що, отримавши інформацію х, надає змінену інформацію y. Головною особливістю ШНМ є їх здатність до навчання. Воно відбувається за допомогою функції витрат та зворотного поширення. Відповідно підібрана функція витрат визначає наскільки надана мережею відповідь відрізняється від оптимального вирішення завдання. В свою чергу зворотне поширення, основи якого вперше були описані в роботі Генрі Дж. Келлі «Gradient Theory of Optimal Flight Paths», використовує градієнтний спуск для того, щоб змінити відповідні параметри мережі так, щоб значення функції витрат було якомога меншим [1].

У даній роботі будуть розглядатися 2 типи ШНМ, що використовуються для обробки природних мов: згорткова нейронна мережа та рекурентна нейронна мережа. Згорткова нейронна мережа або ЗНМ - це тип нейронної мережі, яка широко використовується для обробки та аналізу зображень. Побудова ЗНМ базується на біологічному процесі, а саме на принципі роботи та схемі з'єднання нейронів у зоровій корі мозку [2]. В основі роботи нейронів зорової кори стоїть так зване рецептивне поле - певна обмежена область зорового поля, на чиї стимули реагують лише конкретні нейрони, пов'язані з нею. За допомогою рецептивних полів ЗНМ здатна до розпізнавання закономірностей у даних.

Обидва типи ШНМ використовуються для обробки природної мови, основна мета якої - досягнення подібної до людини обробки мови [3]. Хоча Елізабет Д. Лідді й використовує слово «обробка», вона зазначає, що кінцевою метою є саме «розуміння» мови. Система, здатна до розуміння природної мови (РПМ) повинна вміти:

1. Перефразовувати наданий текст.

2. Перекладати текст на іншу мову.

3. Давати відповіді на запитання щодо змісту тексту.

4. Робити висновки з тексту.

Серед можливостей використання ШНМ в їх поточному стані розвитку виділяють: токенізацію, створення описів зображень, розпізнавання мовлення, машинний переклад, аналіз тональності тексту, модулювання мови, чат-боти. нейронна мережа японський мова

Токенізація передбачає подрібнення слів на частини (або лексеми), які машини можуть зрозуміти. Хоча більшість європейських мов, в тому числі українська, мають між словами пропуски, такі логографічні мови як китайська та японська їх не мають, а тому токенізація може видатися складнішою.

Створення описів зображень працює наступним чином: отримавши цифрове зображення, таке як фото, автоматично - формується текстовий опис вмісту зображення, що базується на певній мовній моделі. Таким чином, ШНМ можуть допомогти автоматично описати вміст зображення, використовуючи правильні речення. Це допомагає людям з вадами зору легко отримати доступ до вмісту в Інтернеті. Для цього часто використовується комбінація ЗНМ та РНМ: ЗНМ визначає що знаходиться на зображенні, а РНМ генерує текст опису.

Завдання розпізнавання полягає у «відображенні акустичного сигналу, що містить висловлювання на розмовній природній мові, у відповідну послідовність слів, визначену мовцем» [4]. Нейронні мережі використовуються для транскрипції аудіовходів та виконання складних завдань з розпізнавання та відокремлення лексичних одиниць. Розпізнавання мови має кілька застосувань у реальному світі, таких як віртуальні помічники, системи розумного дому, перекладачі тощо.

Машинний переклад означає переклад тексту з однієї мови на іншу за допомогою програми. На даний момент найпоширеніший тип машинного перекладу це «нейронний» машинний переклад (НМП), тобто той, що використовує ШНМ. Наприклад, такий сервіс як Google Translate використовує модифіковану ДКЧП архітектуру нейромережі, що дозволяє досягнути високих результатів щодо якості перекладу.

Моделювання мови насправді є підзадачею більш суттєвих проблем ОПМ, зокрема тих, які обумовлюють мовну модель якимось іншим завданням. Це може бути корекція орфографії, розпізнавання рукописного вводу та статистичний машинний переклад.

Чат-боти є одними з найкорисніших застосування ОПМ у перспективі. Наприклад, якісний чат-бот може послугувати носієм мови, що вивчається, а відтак й допомогти тим, хто вивчає мову, розвинути комунікаційні навички.

Використання ШНМ для вивчення та дослідження японської мови. Однією з найпоширеніших проблем, що виникають при ОПМ за допомогою ШНМ є недостатня кількість матеріалу для навчання мереж. Японська мова не є виключенням. Хоча у випадку англійської мови ця проблема є менш виразною, японська мова може запропонувати лише обмежений діапазон джерел оброблених текстів, що знаходяться у вільному доступі. Такими джерелами є Aozora Bunko та Корпус текстів Кіотського Університету.

У 1990-х роках був створений сегментований корпус японської мови, призначений для використання в ОПМ. Він складається приблизно з 40 000 речень із газети «Майнічі» 1995 року з морфологічними та синтаксичними анотаціями. З цих речень 5000 речень коментовані структурами предикат-аргумент, включаючи нульову анафору та кореферентність. Таким чином, Корпус текстів Кіотського Університету є якісним ресурсом для мереж, орієнтованих на обробку природної мови.

Іншою завадою, що може постати при роботі з японською мовою, може бути відсутність суттєвої підтримки логографічних мов у програмуванні. Наприклад, в японській мові присутнє таке явище як фурігана. За причин, зумовлених історичним розвитком Японії та її мови, китайські ієрогліфи, що використовуються у японському письмі, можуть читатися по-різному в залежності від численних факторів. Для цього й існує фурігана - фонетичні підказки для прочитання ієрогліфів. Хоча застосування фурігани або її цифрового відповідника - рубі-символів може здатися корисним, адже можна підписувати не тільки читання ієрогліфів, а й іншу інформацію, на жаль, її підтримка є дуже обмеженою.

Японська та китайська мови не мають пропусків між словами, що створює певні труднощі при токенізації. Речення таких мов як англійська можна з легкістю поділити на окремі слова, використовуючи пропуски між ними, що неможливо зробити з японською. Так само проблемою постає знову часткова логографічність японської: її письмо складається з китайських ієрогліфів «кандзі» та двох силабічних абеток «хірагани» та «катакани». Якщо, наприклад, в китайській використовуються виключно кандзі, що створює рівномірний текст, то наявність кани може створювати певні труднощі при обробці мови через свою неоднорідність.

ШНМ для тонального наголосу

Однією зі сфер, в якій доцільно використання ШНМ, на наш погляд, є наголос в японській мові. Незважаючи на важливість ролі наголосу в правильній вимові будь-якої мови, на жаль, у випадку японської його вивчають дуже рідко. Вивчаючі японську мову вимушені або активно наслідувати вимову японців, або пасивно набувати відповідне розуміння з фільмів, пісень та спілкування з носіями. Не зважаючи на таку ситуацію, дослідження технік вивчення тонального наголосу все ж існують. У 1989 Мізутані показав, що спочатку в учнів слід розвивати почуття тону (високого чи низького) [5]. Для цього Мізутані припустив, що для опису тону може бути корисним використання таких інструментів, як фарфорова чаша або музичні інструменти. Надання наочних посібників із зображеннями наголосів також було корисним для учнів для візуалізації руху тону. Використання музичних нот - ще один спосіб візуально надати висоту звуку [5].

Метод вивчення наголосу за допомогою спостереження візуалізації руху тону є одним зі шляхів до кращого розуміння мови, до якого можливо застосувати штучні нейронні мережі. Розглянемо важливі фактори, що необхідно взяти до уваги, створюючи таку мережу.

Перш за все треба визначити мету такої ШНМ та як саме вона повинна допомагати у поставленому завданні. Оптимальним застосуванням ШНМ в контексті тонального наголосу може бути мережа, що зможе самостійно послідовно визначати наголос стосовно кожної мори в наданому їй тексті. Іншими словами, отримавши текст, мережа повинна надавати візуальну репрезентацію наголосу цього тексту.

Питання щодо того, як повинно виглядати поєднання вхідного тексту та його наголосів, може зустріти на своєму шляху певні перепони, пов'язані з взаємодією японської мови та мови програмування. Найбільш зручним варіантом могло бути використання рубі-символів, що використовуються для фурігани. Таким чином кожне слово могло б мати свій наголос надписаний над ним, що дозволило б з легкістю сприймати одночасно і смислову, і фонетичну інформацію про слово. Та враховуючи, що це не є можливим, принаймні у чистому виді, без взаємодії з відповідною веб-сторінкою, найоптимальнішим варіантом було б використати алгоритм, що зможе по черзі надавати пари наголос-речення так, щоб наголос був розміщений чітко над реченням, до якого він відноситься. Наприклад:

Як можна побачити, тут надається текст лише хіраганою, адже, якщо використовувати кандзі, лінію наголосу буде набагато складніше зрівняти з відповідними морами:

Ще одним способом візуалізації наголосу може бути бінарна система H-L, що здебільшого застосовується у наукових працях по японському тональному наголосу:

Таким чином, приймаючи текст хіраганою, ШНМ має надавати візуалізацію наголосу за однією з 2 систем:

1) За допомогою лінії, що показує підвищення чи навпаки зниження тонального наголосу. Вихідні дані послідовно класифікуються відносно 5 категорій: « », «/», « », «\», « » (всі розділові знаки замінюються на пропуск).

2) За допомогою букв L (low) та Н (high), що відповідно позначають низький та високий тони. Вихідні дані послідовно класифікуються відносно 3 категорій: « L», «Н»,« ».

Далі необхідно визначити матеріал, з яким працюватиме мережа, а отже й дані, які мережа використовуватиме для навчання. Для цієї задачі можуть підійти будь які дані, записані хіраганою. Наприклад, написаний японським письменником роман «Ваш покірний слуга кіт», що можна знайти на Aozora Bunko та вільно використовувати, переведений в хірагану, буде доречним вибором матеріалу, до того ж часом архаїчна мова може поширити здатність мережі правильно ставити наголос і в нестандартних ситуаціях.

Після визначення матеріалу для вхідних даних необхідно створити вихідні дані, які будуть «еталоном» для мережі. Закономірності та зв'язки між вхідним текстом та вихідним наголосом ляжуть в основу принципу дії натренованої мережі. На цьому етапі необхідно власноруч «перекласти» існуючий текст в його наголос. Через те, що японська мова, що вивчається у закладах освіти - це літературна японська мова, що базується на Токійському діалекті, то й наголосу, який мережа буде здатна надавати тексту, бажано відповідати говірці саме японців з Токіо. Таким чином, для написання наголосу необхідні носії, що розмовляють з токійським акцентом або люди, кваліфіковані у цій сфері. Написавши відповідний до тексту тональний наголос, важливо перевірити якість матеріалу, бо від цього залежить й ефективність ШНМ.

Після цього вибір стоїть щодо архітектури нейронної мережі. Логічним вибором буде використати рекурентну нейронну мережу, що зазвичай використовується для завдань, пов'язаних з мовою. Вибір щодо ДКЧП та ВРВ може бути зроблений експериментально: спробувати обидві архітектури та визначити ту, що буде найбільш ефективною. Впровадження двонаправленості до цих мереж теж може покращити результати, бо, отримуючи інформацію з своїх минулих і майбутніх станів одночасно, тобто з «обох боків», контекстуальна усвідомленість мережі зростає, а разом з тим й її здатність правильно надати наголос.

Створивши мережу та успішно завершивши її навчання, залишиться лише знайти шляхи правильного її застосування. У контексті навчання в університеті та курсах японської мови викладач може використовувати цю мережу для вивчення фонетики. На додачу до звичайного аудіювання, на початкових етапах вивчення японської мови може бути корисним ознайомитися з концепцією тонального наголосу та слухати японські тексти, водночас маючи перед собою цей текст з відміченим наголосом. Таким чином учень зможе краще помічати зміни в тоні загального мовлення та окремих слів, адже він зможе асоціювати слухову інформацію з її візуальною репрезентацією. Пізніше, навчившись використовувати цей наголос, учень зможе використовувати мережу для того, щоб самостійно визначати наголос у будь-яких японських текстах, а тому з рештою закріпить відповідні знання.

ШНМ для машинного перекладу

Також проблемою для вивчення японської можна вважати й відсутність якісних україно-японських та японсько-українських машинних перекладачів. Сучасній освітній процес, що включає в себе активне поглинання медіа мовою, яка вивчається, машинний перекладач є корисним інструментом для економії часу та здобуття кращого розуміння існуючої інформації. Останні декілька років нейромережі все більше використовуються для машинного перекладу. Сервіси на кшталт Google Translate, якими користуються більшість тих, хто вивчає мови, теж працюють на основі потужних нейронних мереж. Найбільший потенціал машинного перекладу лежить в його ролі як помічника при самостійному навчанні. Поглинаючи медіа іноземною мовою, якісний перекладач здатен швидко та точно перекласти слово, словосполучення, речення чи навіть текст, надаючи необхідну інформацію, коли це потрібно.

Проте, сучасний переклад з будь-якої мови на українську не можна назвати якісним. Теж саме стосується й перекладу з української на інші мови. Ситуація з якістю перекладу є більш-менш прийнятною у випадку англійської мови, проте при вивченні таких мов як японська машинний переклад не може бути довіреним джерелом. Однією з проблем є те, що машинних перекладачів для таких рідкісних мовних пар, як японська та українська, майже не існує. Для створення повноцінного перекладача необхідна досконала архітектура нейромережі, а також велика кількість матеріалу для навчання. Перекладів у вільному доступі, які можна було б використати для створення перекладача, наразі є дуже мало.

Та це не означає, що створення такого перекладача є неможливим. Україно-японської інформації існує достатньо й в межах відповідних спеціальностей в університетах. На парах перекладу студенти старших курсів можуть створювати переклад для навчання японсько-українського машинного перекладача, тим самим поповнюючи його матеріальну базу. Домашнє завдання, написане в зошиті від руки може послужити для навчання ЗНМ, що зможе розпізнавати рукописний ввід японською. Записи мовлення першокурсників допоможуть РНМ розпізнавати не тільки чисту японську, а й японську з акцентом.

ШНМ для дослідження японської літератури

Так само ряд проблем виникають у зв'язку із прочитанням ієрогліфів в текстах давньої літератури, адже дуже часто вони записувались скорописом «кузусідзі». В цій сфері вже активно проводяться дослідження щодо застосування ШНМ для прочитання цих ієрогліфів. Так, Національним інститутом японської літератури був створений набір даних, що включає в себе 403,242 символів, написаних кузусідзі. Для цього були скановані 35 книжок, написаних у XVIII столітті. Тарін Клануват, Мікель Бобер-Ірізар, Асанобу Кітамото, Алекс Лемб, Казуакі Ямамото та Девід Ха у своїй праці «Deep learning for classical Japanese literature» використали цей набір данних для того, щоб навчити ШНМ розуміти скорописні символи та надавати їх сучасний варіант [7]. Для цього були використана комбінація ЗНМ та РНМ. Згорткова мережа вчилася розрізняти ієрогліфи, а рекурентна створювала на основі отриманої інформації нові - сучасні.

Проте розуміння китайських ієрогліфів є лише частиною завдання. Канбун все ще використовує граматика класичної китайської мови, що є малозрозумілою для тих, хто вивчає японську. Так само проблеми можуть виникнути й з розумінням манйоґани, адже ієрогліфи в ній можуть використовуватися як фонетично, так й ідеографічно. Одним з методів полегшення дослідження літературних пам'яток, написаних канбуном або манйоґаною, може бути використання машинного перекладу. Хоча частіше за все машинний переклад використовується для різних мов, його так само можна застосовувати й для однієї мови на різних етапах її розвитку. Таким чином, комбінація нейромереж, що здатні розуміти скорописні ієрогліфи та відповідно перекладати їх на сучасну японську, може допомогти не тільки дослідникам давньої японської літератури, а й просто тим, хто є зацікавленим у її прочитанні.

Висновки

Методи дослідження та вивчення мови змінюються на кожному етапі технологічного розвитку. Теперішній етап характеризується активізацію досліджень та застосування нейронних мереж у всіх сферах діяльності людства, зокрема і в мовній. Подібні тенденції відбувалися і за винайдення Інтернету, що назавжди змінив нашу взаємодію з мовою. Таким чином, з розвитком нейромереж вже дуже скоро не тільки дослідники-філологи та мовознавці, а й ті, хто тільки починають вивчати мову, будуть змушені опановувати новий інструментарій - користування штучними нейронними мережами. А відтак, розуміння їх принципів роботи та методів застосування може видатися надзвичайно корисним для всіх.

В роботі були наведені декілька можливих застосувань різних типів нейронних мереж (згорткової та рекурентної нейронної мережі) до актуальних проблем в японській мові: вивчення тонального наголосу, відсутність адекватних мереж машинного перекладу, труднощі дослідження давньої японської літератури. Так, в роботі пропонується алгоритм, за яким можна створити архітектуру рекурентної нейронної мережі для розмітки наголосу в японській мові. Серед перспектив використання нейронних мереж в роботі висувається ідея застосування діяльності викладачів та студентів як джерела матеріалу для різноманітних мереж, що б змогли поліпшити якість навчання та полегшити його. Тому, у випадку поширення знань про штучні нейронні мережі, українська школа японознавства має потенціал стати двигуном розвитку педагогічних та дослідницьких технологій та в перспективі принести зміни до філологічної та мовознавчої методики загалом.

Література

1. Kelley Henry J. Gradient theory of optimal flight paths. ARS Journal #30 (10), 1960, pp. 947-954.

2. Matsugu M., Mori K., Mitari Y., Kaneda Y. Subject independent facial expression recognition with robust face detection using a convolutional neural network. Neural networks: the official journal of the International Neural Network Society #16(5-6), 2003, pp. 555-559.

3. Liddy E. D. Natural Language Processing. In Encyclopedia of Library and Information Science. NY, Marcel Decker Inc, 2001.

4. Goodfellow I. , Bengio Y., Courville A. Deep Learning. MIT Press, 2016.

5. Mizutani O. Akusento to intonation no shuutokuhoo (How to acquire accent and intonation). Kooza: Nihongo to Nihongo Kyooiku (Series: Japanese and Japanese pedagogy) 3, Tokyo, 1989. pp. 92-112.

6. Ogawa Y. Nihongo kyoikujiten (Encyclopedia for teaching Japanese). Tokyo, 1982.

7. Clanuwat T., Bober-Irizar M., Kitamoto A., Lamb A., Yamamoto K., Ha D. Deep Learning for Classical Japanese Literature, 2018.

Размещено на Allbest.ru