Нейросетевой подход к интегрированному представлению и обработке информации в интеллектуальных системах

Подавая на вход акустико-фонетического уровня обучающую выборку, состоящую из множества предложений, после их взаимодействия со словарем фонем на акустико-фонетическом уровне и словарем основ слов на лексическом уровне, мы получим на входе синтаксического уровня множество синтаксем, состоящих из последовательностей предлогов и флективных морфем с купюрами вместо отфильтрованных корневых основ.

Семантика выходит за рамки языкового представления. Человек оперирует не языковой, а многомодальной моделью мира. Только в таком представлении удается избежать трудностей объяснения первичных смыслов - они формируются как элементы модели мира соответствующих модальностей. Однако необходимо отметить, что семантика отражается в языке, наряду с лексической и грамматической компонентами смысла, в виде сочетаемости слов, и, в конечном итоге, в виде семантической сети. Поэтому, на этих уровнях формируются словари сочетаемости слов (точнее - основ слов). Семантическая сеть легко может быть получена из словаря пар слов.

Отличие информации семантического и прагматического уровня заключается только в объеме сети. В случае представления семантической информации сеть опосредует всю модель мира. Источник знаний прагматического уровня содержит частные сети для соответствующих предметных областей (ситуаций).

Обработка зрительной информации отличается от обработки речевой информации. Основное отличие заключается в наличии двух каналов обработки зрительной информации: канала, ответственного за грубое интегральное описание поля зрения, и канала, ответственного за точное описание объектов. Наиболее наглядно особенности нейросетевого подхода выявляются на примере точной обработки информации.

Первичная обработка осуществляет улучшение, оконтуривание и сегментацию изображения. Изображение подвергается двум разным видам обработки: эквитекстурному анализу для реализации сегментирующей функции, и улучшению и яркостному анализу, с целью выделения контуров.

В точном канале реализуются следующие уровни обработки информации: уровень элементарных представлений, уровень элементов объектов, уровень объектов, и уровень сцен. Входной информацией для точного канала является оконтуренное изображение сегмента. Обработка

В зрительном анализаторе имеется две формы обработки информации: параллельная, характерная для нижних уровней анализа, и последовательная. Параллельная обработка заканчивается на этапе формирования словаря элементарных представлений на первом уровне иерархической структуры зрительного анализатора. Последовательная обработка аналогична таковой для речевого анализа.

Использование однородного нейросетевого представления информации позволяет интегрировать информацию всех уровней в процессе принятия решения. Особенностью такого представления информации является возможность автоматического формирования информационных баз источников знаний на основе соответствующих обучающих выборок, при приемлемом объеме ручной работы по составлению обучающих выборок.

Семантика и прагматика выходят за рамки лингвистических представлений, хотя и содержат лингвистические эквиваленты понятий - означающие. Второй компонентой семантических и прагматических структур являются элементы многомодальной модели мира - означаемые. В отличие от традиционного представления модели мира в виде различного типа тезаурусов, в работе предлагается использование означаемых в их естественном многомодальном представлении: в виде интегральной структуры, содержащей элементы разных модальностей, как сенсорных, так и эффекторных. В первую очередь это, естественно, зрительная модальность. Деление единого представления на семантику и прагматику осуществляется по динамическому принципу: все понятия модели мира объединяются в статическую ассоциативную сеть - модель мира. На этой ассоциативной сети конкретные ситуации высвечивают им соответствующие прагматические конфигурации - фреймовые структуры. И наоборот: частные прагматические фреймы в совокупности формируют модель мира.

Объединенное представление информации в двух полушариях можно назвать единой семантической сетью - многомодальной моделью мира, где потенциально представлены все события и их связи, встречавшиеся на входе системы во время ее обучения. Это знание является статическим знанием.

События мира в той или иной комбинации связываются в ситуации, которые высвечивают на модели мира динамически изменяющуюся структуру из слов словарей разных уровней разных модальностей - фреймовое представление [43]. В каждый конкретный момент в каждой модальности может высвечиваться только одно слово и объединение этих множеств слов, соответствующее некоторой ситуации, составляет динамическое знание - фрейм.

Предложенная в работе интерпретация известного разделения фреймовых структур на фреймы-прототипы и фреймы экземпляры в терминах категориальных и функциональных знаний, где флективная структура фразы (в том числе неязыковой квазифразы), описывающей ситуацию, соответствует категориальной компоненте, а лексическое наполнение фразы - функциональной, позволяет использовать подмену многомодального семантического представления текстовым представлением. Что в свою очередь дает эффективный методический прием при обработке текстовой информации.

В результате анализа в тексте выделяются некоторые подобразы, которые в дальнейшем объединяются в более сложные образы. Можно представить несколько подобных пар отношений, формируемых на текстовом представлении. Рассмотрим одну из пар представлений, в которой отдельные слова текста, представленные на нижнем уровне пары, на следующем уровне объединяются в предложения текста. При этом элементы нижнего уровня - слова - являются носителями лексической компоненты значений текстовых единиц, а предложения с купюрами вместо корневых основ, составленные из этих слов (без конкретного наполнения значением слов) - носителями грамматической компоненты значений. В многомодальной модели мира словам соответствуют события, а предложениям - сцены.

Для простоты анализа, вместо формирования флективной структуры предложения анализируется частота попарной встречаемости слов (корневых основ) в предложении. Считается, что слова из текста, встречающиеся с другими в рамках одного предложения, связаны с ними. При объединении обоих текстовых компонент (слов и их попарных связей) в единое представление формируется сеть, вершинами которой являются носители лексических значений корневые основы, а связи между ними являются носителями грамматических значений.

Сформированное первоначально статистическое представление текста - сеть слов с их связями - является лишь частотным портретом текста. Перенормировка сети с помощью итеративной процедуры, аналогичной алгоритму сети Хопфилда позволяет перейти от частотного портрета текста к ассоциативной сети ключевых понятий текста:

(4.1)

здесь ; и , где - частота встречаемости -го слова в тексте, - частота совместной встречаемости -го и -го слов в фрагментах текста, а -функция является нормирующим множителем.

В результате такой перенормировки меняются первоначальные числовые характеристики слов. Слова, которые в сети связаны со словами с большим весом, в том числе через промежуточные слова, в результате такой процедуры повышают свой вес, вес остальных слов равномерно уменьшается. Полученная числовая характеристика слов - их смысловой вес - характеризует степень их важности в тексте.

Ассоциативная сеть может быть сформирована, как для отдельного текста, так и для множества текстов. Это множество текстов может охватывать одну предметную область или соответствовать нескольким предметным областям. Ассоциативная сеть, построенная в результате такой обработки, будет содержать основные понятия предметных областей и связи между ними, ранжированные некоторыми числовыми значениями. Причем, для каждого понятия сети его ближайшие соседи являются его семантическими признаками.

Такое сетевое представление может автоматически разбиваться на подсети, относящиеся к различным предметным областям. Для этого пороговым преобразованием устраняются некоторые несущественные связи, и тогда целостная сеть разбивается на несколько подсетей, объективно содержащих понятия, характерные для соответствующих предметных областей.

Совершенно ясно, что если такая сеть соответствует некоторой предметной области, и если ассоциативная сеть некоторого текста вкладывается в ассоциативную сеть этой предметной области (пересекается с ней), можно говорить о том, что указанный текст относится к данной предметной области (пересекается с ней).

В пятой главе описываются программные приложения, реализованные на основе нейросетевой технологии. В том числе, были реализованы системы анализа текстов, распознавания речи и распознавания изображений рукописных символов. Особенностью реализаций является единый подход к обработке информации. Во всех случаях существенно различаются только способы первичной обработки информации, которые определяются типом выбранной модальности.

На основе нейросетевой технологии Научно-производственным инновационным центром «Микросистемы», г. Москва было разработано семейства программных продуктов для автоматического смыслового анализа текстовой информации TextAnalyst. Система реализована как инструмент для автоматического формирования баз знаний на основе множества естественно-языковых текстов. Ядро системы выполнено как программный компонент (inproc server), соответствующий спецификации Component Object Model (COM) фирмы Microsoft.

Ядро системы реализует следующие функции. Нормализацию грамматических форм слов и вариаций словосочетаний. Автоматическое выделение базовых понятий текста (слов и словосочетаний) и их взаимосвязей с вычислением их относительной значимости. Формирование представления семантики текста (множества текстов) в форме семантической сети.

В состав ядра системы, помимо блока первичной обработки, входят следующие блоки: лингвистический процессор, блок выделения понятий текста, блок формирования семантической сети, блок хранения семантической сети.

Блок выделения ключевых понятий предметной области (слов и словосочетаний) создан на базе программной модели иерархических структур из ДАЗУ, и реализует алгоритмы автоматического формирования частотного словаря текста. Число уровней ДАЗУ в иерархической структуре определяет априорно заданную максимально допустимую длину понятия предметной области и равняется двадцати.

Блок формирования семантической сети реализован как база данных, в которой представляются семантические связи понятий предметной области. Поскольку типы семантических связей в системе не определяются, такие связи представляют собой просто ассоциативные связи. В качестве критерия для определения наличия семантической связи между парой понятий используется частота их совместной встречаемости в одном предложении.

На основе результатов работы модуля индексации реализованы следующие функции обработки текстовой информации. Функции формирования гипертекстовой структуры, навигации по базе знаний, формирования тематического дерева, реферирования текстов, автоматической кластеризации множества текстов, сравнения текстов (автоматической классификации текстов). Наконец реализована функция формирования ответа на смысловой зарос пользователя - формирования тематического реферата.

Реализованная система анализа текстовой информации является удобным интерфейсом для представления е-книги, а также и инструментом для ее создания. Она была использована для создания электронных книг и периодических изданий.

Описана также реализованная система распознавания речевых единиц (слогов, слов), произносимых с паузами, с настройкой (обучением) на конкретного диктора, в которой для создания подсистемы представления эталонов была использована программная модель ДАЗУ. Система распознавания речи была реализована на персональной ЭВМ в виде системы диктовки для ввода информации с голоса в текстовый редактор. Данная работа была поддержана Министерством науки и технологий РФ.

Система в составе двух программных модулей - модуля предобработки речевого сигнала и модуля эмуляции иерархии из ДАЗУ имеет два режима работы - обучение (формирование эталонов) и распознавание. Структура системы распознавания речи включает в свой состав аналого-цифровой преобразователь, блок вычисления быстрого преобразования Фурье, блок, реализующий перцептивное сглаживание спектра, блок вычисления автокорреляционной функции, блок линейного предсказания, блок вычисления кепстральных коэффициентов, общий регистр сдвига нейроподобных элементов ДАЗУ, а также блок оценки.

Для уменьшения количества коррелированной информации и вариативности описания речевого сигнала в системе использована априорная информация о процессе порождения речевого сигнала и о психоакустических особенностях восприятия речи человеком. Для получения первичного описания речевого сигнала использован метод так называемого перцептивного линейного предсказания.

Полученные в процессе первичной обработки векторы параметров далее используются при обучении для формирования фонетической базы данных. Для этого, в процессе распознавания векторы параметров подвергаются процедуре автоматической классификации. Для классификации используется нейронная сеть Кохонена. Указанный метод классификации инвариантен по отношению к содержимому векторов. Точность классификации определяется количеством нейронов выходного слоя и количеством итераций, т.е. величиной обучающей выборки.

С помощью сети Кохонена происходит преобразование звуковой волны в акустический текст. При обучении сети используется фонетически сбалансированный текст, зачитанный разными дикторами. В данном случае для обучения использовался фонетически сбалансированный текст, зачитанный одним диктором. Каждое значение вектора параметров кодируется двухбуквенным сочетанием. Это удобно для нейросетевой обработки, описанной в разделе 4.1, а также для простоты визуальной интерпретации полученных результатов. Выходом этого этапа обработки является множество векторов параметров, расклассифицированное по разделам кодовой книги.

Формирование фонетической базы данных (формирование системы кластеров) происходит в полуавтоматическом режиме с помощью программы TextAnalyst. В этом случае TextAnalyst реализует квази-синтаксический подуровень, который интерпретирует связи квази-слов во входном акустическом тексте в рамках его устойчивых фрагментов, а также позволяет отнести некоторый фрагмент входного сообщения к определенному классу фрагментов.

Выделение ключевых фрагментов осуществляется на базе программной модели иерархической структуры из ДАЗУ, и реализует алгоритмы автоматического формирования частотного словаря акустического текста. Число уровней ДАЗУ в иерархической структуре определяет априорно заданную максимально допустимую длину фрагментов и равняется двадцати.

После выбора классифицируемых элементов речи (фонемы, субфонемные элементы, слоги, слова и пр.) дальнейшая обработка речи носит универсальный характер.

Формирование эталонов слов для дикторозависимого режима работы системы распознавания речи подразумевает сохранение эталонных реализаций в параметрической форме. Формирование эталонов происходит в соответствии с выбранным сценарием обучения системы. В режиме распознавания использовались алгоритм динамического программирования и алгоритм локального поиска.

Наиболее полное применение изложенной выше теории может быть проиллюстрировано на примере реализованной системы распознавания символов. Рассмотренное на примере распознавания типографских символов, это представление может быть использовано и для распознавания изолированно написанных рукописных символов. В краткой постановке задача распознавания символов выглядит следующим образом. Исходной информацией для системы являются полутоновые изображения символов, введенные в компьютер со сканера, или с цифровой фотокамеры.

Система распознавания символов включает в свой состав светочувствительную матрицу, блок предварительной обработки, два блока представления информации, состоящих из ДАЗУ (в том числе двухуровневого структурного и одноуровневого ассоциативного), а также блок принятия решения.

Введенное изображение подвергается предобработке, целью которой является получение бинарного контурного изображения набора символов. Набор программных средств на этапе предобработки стандартен - улучшение качества изображения, масштабирование, фильтрация, бинаризация, выделение контура, сглаживание.

Далее следует этап переописания, то есть представление исходного изображения символа в виде последовательности кодов, удобных для обработки в структуре из ДАЗУ. Переописание реализуется с помощью кодирования цепным кодом Фримена (или его разновидностей). Код Фримена позволяет представить процедуру обхода контура изображения в виде последовательности кодов направлений перехода.

В системе распознавания символов зрительный образ символа описывается в виде двух представлений: образного и структурного. Соответственно, имеется два канала обработки: грубый, обрабатывающий изображение образа целиком, и точный, обрабатывающий образы фрагментов и структурные описания символов.

Цепочки кодов, описывающие сжатое изображение, в режиме обучения подаются с выхода грубого канала на гребенку ДАЗУ грубого канала, где каждому символу предназначено свое ДАЗУ (в случае вариантов изображения одного и того же символа число ДАЗУ в гребенке увеличивается). С выхода точного канала цепочки кодов изображения, представленного с большим разрешением, поступают на блок структурной обработки, состоящий из гребенок ДАЗУ двух уровней, где осуществляется структурная обработка изображения. В результате обработки на нижнем уровне формируется словарь статистически достоверных фрагментов изображений символов, каждый из которых записан в отдельном ДАЗУ. При этом выделенные фрагменты принадлежат не какому-либо одному символу, а могут входить в описание нескольких из них. На верхнем уровне формируется словарь структурных описаний символов, характеризующих последовательность объединения фрагментов символов в их изображениях. Структурное описание каждого символа также записывается в отдельном ДАЗУ.

Таким образом, описание объекта представлено одновременно в образной форме в ДАЗУ грубого канала и в структурированной форме в блоке структурного описания.

В шестой главе описано аппаратное решение задачи хранения, упорядочения и ассоциативного поиска информации на основе иерархии из ДАЗУ. Для этого реализован аппаратно модуль ассоциативной адресации - гребенка нейроподобных элементов. Основная особенность аппаратной реализации нейронной сети заключается в том, что обработка информации в ней происходит параллельно и распределенно. Каждый нейроподобный элемент отдельно и независимо обрабатывает приходящую на него информацию. В отличие от существующих вычислительных средств такая аппаратная реализация является весьма простой и эффективной по управлению, поскольку ее модули являются систолическими массивами, то есть они управляются потоком информации. Управление сводится к одновременной подаче входной последовательности на общий для всех нейроподобных элементов ДАЗУ вход. Кроме того, такая вычислительная среда устойчива к повреждениям: выход из строя одного нейроподобного элемента не влияет на другие. И, наконец, - не требуется написания универсальной и специальной математики для симуляции обработки, или требуется значительно меньше.

СБИС нейрочипа была спроектирована в базисе библиотеки стандартных элементов матричного кристалла и изготовлена на базовом матричном кристалле 1592ХМ1 разработки ОАО «Ангстрем» г. Зеленоград. Базовый матричный кристалл 1529ХМ1 имеет рабочую частоту 50 МГц, содержит 100000 вентилей для построения функциональных узлов СБИС.

СБИС нейрочипа выполняет операции вычисления взвешенного умножения, суммирования и сравнения. СБИС нейрочипа включает в себя 16 одинаковых модулей, каждый из которых обрабатывает бинарные последовательности длиной 32 разряда. Эти модули объединены в 4 группы по 4, каждая из которых имеет внешние входы/выходы сигналов и эталонов. Вычисление взвешенного суммирования производится конвейерно с рабочей частотой до 16 мГц. Возможно специальное включение СБИС нейрочипа для увеличения частоты обрабатываемого входного сигнала до 32 мГц. Кроме того предусмотрена возможность каскадирования приборов с целью увеличения длины бинарных обрабатываемых кодов до 16383 бит. Размещенные на кристалле нейроны объединены параллельно по входу, т.е. данные и управляющая информация поступают одновременно на все нейроны.

Нейроподобный элемент содержит 64-разрядный узел ввода, 64-разрядный регистр весовых коэффициентов, регистр сдвига, умножитель, сумматор, нелинейный элемент. Регистр данных навешивается снаружи в виде стандартной памяти. Узел ввода предназначен для управления и приема данных. Управление данными заключается в перераспределении входной информации между регистром весовых коэффициентов и устройством умножения.

На основе разработанного нейрочипа осуществлена разработка и создание модуля наращиваемой и каскадируемой ассоциативной памяти в составе блока связи с управляющим компьютером, блока ассоциативного запоминающего устройства, блока запоминающего устройства и контроллера динамического ОЗУ.

Модуль ассоциативной памяти выполнен на 32 битной карте максимального размера с размером 312х107 мм (рис. 5.8). На слоте установлены все выше перечисленные блоки, которые, в свою очередь, реализованы на двух отдельных СБИС программируемых логических интегральных структур (ПЛИС) FPGA. Блок ассоциативной памяти реализован совместно с контроллером PCI по технологии ПЛИС FPGA производства фирмы Altera APEX20 KE. Семейство данных ПЛИС оптимизировано для изготовления на их основе контроллеров PCI и запоминающих устройств. Контроллер динамического ОЗУ (рис.5.5), также реализован по технологии ПЛИС и выполнен на ПЛИС МАХ9000, производства фирмы Altera. Память ОЗУ размещена на плате в виде отдельного модуля DIMM фирмы SAMSUNG PC2700U-25330-B2.

Описана также реализация ассоциативной памяти с использованием стандартных микросхем памяти, адресуемой по содержанию (Content Addressable Memory). В отличие от ассоциативной памяти, реализованной с использованием описанного выше нейрочипа, реализация на основе стандартных CAM больше похожа на прототип: каждая ячейка CAM снабжена собственным регистром адреса. Размерность моделируемого пространства соответствует длине регистра адреса. При необходимости реализации нейроподобных элементов с временной суммацией для всех адресных регистров вводится единый регистр сдвига, заполняемый со входа. Запись в такую память осуществляется отдельными событиями, которые записываются в отдельные ячейки, как в случае записи информации в колонках коры - отдельное слово в отдельную колонку.

Описано также изменение конструкции микросхемы CAM, для того чтобы можно было их использовать для мягких вычислений (анализа зашумленной информации). Для этого необходимо ввести в микросхему CAM аппаратное вычисление числа совпадающих (или несовпадающих) разрядов. Для этого достаточно добавить в каждый разряд адресного регистра CAM компаратор, один, общий на ячейку, аддитивный сумматор, и осуществить поразрядное сравнение с суммированием результата.

В заключении кратко изложены результаты диссертационной работы.

ВЫВОДЫ

1. На основе анализа существующих интеллектуальных систем предложено использование структурных нейросетевых методов для интеграции представления и обработки информации различных модальностей, а также надмодальной семантической и прагматической информации.

2. Проведен анализ современного состояния научной области, связанной с обработкой информации разных модальностей, а также семантической и прагматической информации. В результате этого анализа предложена замена моделей интеллектуальных процессов моделями интеллектуальных процессоров для обработки информации.

3. Предлагается использование одного класса искусственных нейронных сетей на основе нейроподобных элементов с временной суммацией сигналов для представления произвольной информации в многомерном сигнальном пространстве.

4. Предлагается метод обработки информации, имеющей многоуровневую временную структуру, с помощью динамических искусственных нейронных сетей на основе нейроподобных элементов с временной суммацией сигналов.

5. Предлагается создание системы источников знаний верхних уровней разных модальностей, с использованием однородного нейросетевого представления информации, что позволяет легко интегрировать информацию всех уровней в процессе принятия решения.

6. Предлагается интерпретация информационных процессов в нейросетевых структурах в виде операций на графах.

7. Предложен формализм динамических нейронных сетей на основе нейроподобных элементов с временной суммацией сигналов, интерпретирующий обработку и представление двоичной, внутренне структурированной, информации в сигнальном пространстве искусственной нейронной сети, в том числе, ее запоминание, стохастическую обработку (с автоматическим структурированием внутреннего представления), воспроизведение и распознавание. Топология сигнального пространства, моделируемого искусственной нейронной сетью, устойчива к разрушению представленной в нем информации. Искусственная нейронная сеть реализует гетероассоциативное запоминание - запоминание информации в ассоциации с несущей последовательностью. Если информационная и несущая последовательности тождественны, имеется автоассоциативное запоминание. Введение в искусственную нейронную сеть механизма учета статистических свойств информации наряду с нелинейным преобразованием позволяет восстанавливать с его помощью словарь элементов внутренней структуры информационной последовательности. Искусственная нейронная сеть со сформированным в ней словарем элементов позволяет фильтровать новую информацию в потоке старой, формируя, таким образом, информацию о связях слов словаря.

8. Предложен способ представления семантической и прагматической информации с помощью многоуровневой иерархии из ДАЗУ.

9. Предлагается деление единого сетевого семантического представления на семантику и прагматику по динамическому принципу. Все понятия объединяются в ассоциативную сеть - модель мира - на которой конкретные ситуации высвечивают им соответствующие прагматические конфигурации - фреймовые структуры.

10. Предлагается структура модели мира на основе текстового представления в виде ассоциативной сети, которая содержит основные понятия предметных областей и связи между ними, ранжированные числовыми значениями.

11. Для представления семантической информации предложена иерархия ассоциативных сетей, в которой на самом верхнем уровне представлены объекты - события и ситуации - в их взаимосвязях, уровнем ниже представлены, также в сетевом виде, модели мира отдельных объектов, которые, в свою очередь, являются двухуровневыми сетями, связанными генетивными отношениями.

12. Предлагается интерпретация состава и процесса обработки зрительной информации в зрительной системе человека.

13. Предлагается методика формирования многоуровневого представления языковых знаний системы распознавания речи.

14. Предложена ассоциативная память на основе нейроподобных элементов с временной суммацией входных сигналов, в которой одним из основных свойств является ассоциативное воспроизведение с динамическим формированием адреса (динамическое ассоциативное запоминающее устройство) - ассоциативный процессор с памятью. Динамическое ассоциативное запоминающее устройство моделирует n-мерный единичный гиперкуб.

15. Предложена многоуровневая иерархия из ДАЗУ для структурной обработки информации. Объединение многоуровневых структур, обрабатывающих информацию разных модальностей позволяет создать многомодальное семантическое представление.

16. Представлена реализованная автором система для структурного анализа текстов TextAnalyst.

17. Представлена реализованная автором система распознавания изолированно произносимых речевых команд ограниченного словаря.

18. Представлена реализованная автором система распознавания изображений символов.

19. Предложено унифицированное базовое аппаратное обеспечение нейронных сетей на базе реализованной интегральной схемы адресной части нейроподобного элемента.

20. Предложена аппаратная реализация модуля ассоциативной памяти с использованием стандартных микросхем памяти, адресуемой по содержанию (Content Addressable Memory).

СПИСОК ПУБЛИКАЦИЙ ПО ТЕМЕ ДИССЕРТАЦИИ

1. А.С. N 1179389 (СССР) Устройство для моделирования нейрона. /Харламов А.А., Усманов А.Х. Заявка N 3751440 от 29 марта 1984г. Опубликовано 15 августа 1985г. МКИ G 06 g 7/60

2. А.С. N 1305732 (СССР) Устройство для моделирования нейронных сетей. /Харламов А.А., Усманов А.Х., Воронов И.В., Богомолов Г.В. Заявка N 3999328 от 27 декабря 1985г. Опубликовано 22 декабря 1986г. МКИ G 06 g 7/60

3. Волков В.И., Жаркой Р.М., Харламов А.А. Модель ассоциативной системы машинного зрения. Приборостроение. Вестник Московского государственного технического университета, N 9-10. 1994. Стр. 31 - 33

4. Харламов А.А. Ассоциативный процессор на основе нейроподобных элементов для структурной обработки информации. Информационные технологии, N 8, 1997. Стр. 40 - 44

5. Харламов А. А. Нейроподобные элементы с временной суммацией входного сигнала и блоки ассоциативной памяти на основе этих элементов. //Вопросы кибернетики. Устройства и системы. Под ред. Н.Н. Евтихиева. - М.: МИРЭА, 1983. Стр.57 - 68

6. Харламов А.А. Нейросетевая технология представления и обработки информации (естественное представление знаний). - М.: «Радиотехника», 2006. - 89 с.

7. Харламов А.А. Семантическая сеть для интеллектуальной системы на основе иерархической структуры из динамических нейронных сетей с опорой на зрительный и слуховой анализаторы. /"Интеллектуальные системы. Труды Второго международного симпозиума". Под ред. К.А. Пупкова. Том 2. - С.-Петербург, 1996. Стр. 201 - 208

8. Харламов А.А. Статические и динамические нейронные сети на примере задачи распознавания образов. Приборостроение. Интеллектуальные системы автоматического управления, N 1, 1991. Стр. 58 - 66

9. Харламов А.А. Физически реализованное многомерное сигнальное пространство - эффективная среда для структурированного хранения и ассоциативного поиска информации Искусственный интеллект, № 4, 2005. Стр. 393-402

10. Харламов А.А. TextAnalyst - оболочка для электронного учебника //Обучение в компьютерной среде. - М.: Московский государственный открытый педагогический университет им. М.А. Шолохова. Институт информатизации образования, 2002. Стр. 55 - 62

11. Харламов А.А., Аллахвердов С.А., Самаев Е.С. Нейрочип - нейроподобный элемент с временной суммацией входных сигналов - элемент нейронной сети для структурного анализа информации. «Нейрокомпьютеры: разработка, применение», N 2, 2003. С.

12. Харламов А.А., Ермаков А.Е. Динамическая нейронная сеть для распознавания речевых сигналов. Системы управления. Вестник Московского государственного технического университета, N 1. 1998г. Стр. 93 - 101

13. Харламов А.А., Ермаков А.Е., Кузнецов Д.М. Технология обработки текстовой информации с опорой на семантические представления на основе иерархических структур из динамических нейронных сетей, управляемых механизмом внимания. Информационные технологии, N 2, 1998. Стр. 26 - 32

14. Харламов А.А., Ермаков А.Е., Кузнецов Д.М. TextAnalyst - комплексный нейросетевой анализатор текстовой информации. Вестник МГТУ им. Н.Э. Баумана. N 1, 1998г. Стр. 32 - 36

15. Харламов А.А., Жаркой Р.М., Волков В.И., Мацаков Г.Н. Система распознавания изолированных рукописных символов на основе иерархической структуры из динамических ассоциативных запоминающих устройств. //Информационные технологии, N 5, 1998. Стр. 27 - 31

16. Харламов А.А., Кнеллер Э.Г. Распознавание ключевых слов в потоке слитной речи на основе нейросетевых технологий Нейрокомпьютеры. Разработка и применение. № 8-9, 2005г. Стр. 88 - 97

17. Харламов А.А., Самаев Е.С., Рябов Г.Н. Многомодальные семантические представления на основе нейронных сетей. Информационные технологии, N 4, 2001г. Стр. 12 - 17

18. Kharlamov A.A. Attention Mechanism Ussage to Form Frame-Structure on a Semantic Net. /"Neurocomputers and Attention. Volume II: Connectionism and Neurocomputers". Eds. Arun V.Holden, Vitaly I. Kryukov. -Manchester: Manchester University Press, 1991

19. Kharlamov A.A., Raevsky V.V. Networks constructed of neuroid elements capable of temporal summation of signals. /In “Neural Information Processing: Research and Development”, Jagath C. Rajapakse and Lipo Wang, Editors, Springer-Verlag, May, 2004, ISBN 3-540-21123-3. Стр. 56-76

Размещено на Allbest.ru