Многоагентные системы (обзор)
Исследование многоагентных систем. Анализ теории агентов. Модели коллективного поведения. Конфликты в многоагентных системах. Протоколы и языки координации. Иерархическая архитектура взаимодействия агентов. Требования к языкам программирования агентов.
| Рубрика | Менеджмент и трудовые отношения |
| Вид | статья |
| Язык | русский |
| Дата добавления | 16.01.2018 |
| Размер файла | 459,2 K |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
5.1 Архитектура взаимодействия системы агентов
Коснемся кратко сначала архитектуры взаимодействия агентов. Основное назначение этой компоненты архитектуры состоит в том, чтобы обеспечить скоординированное поведение агентов при решении общей и/или своих частных задач. Здесь можно выделить два основных варианта архитектур. В одном из них агенты не образуют иерархии и решают общую задачу полностью в распределенном варианте. В другом варианте координация распределенного функционирования агентов в той или иной мере поддерживается специально выделенным агентом, который при этом относится к мета-уровню по отношению к остальным агентам. Существуют и, по-видимому, будут возникать более сложные иерархически организованные схемы взаимодействия агентов, однако мы ограничимся кратким рассмотрением названных двух вариантов.
5.1.1 Одноуровневая архитектура взаимодействия агентов
Ярким примером одноуровневой (полностью децентрализованной) архитектуры является архитектура системы для планирования совещаний (встреч) [6]. Это приложение является представителем довольно широкого круга задач, которые имеют много общего в формальной постановке. Это те задачи, которые имеют дело с динамическим составлением расписаний выполнения некоторого вида деятельности в условиях ограниченных ресурсов. Представителями задач подобного рода являются, например, задачи составления расписания обслуживания судов в морском порту [62], задачи диспетчерского обслуживания движения самолетов в аэропорту [39], планирование работ в гибких автоматизированных производствах [34] и ряд других.
Особенность задачи планирования встреч состоит в том, что расписание всегда составляется в контексте уже существующих назначений каждого из участников планируемой встречи. Использование же этой информации неким централизованным образом в форме базы данных исключается, поскольку, как правило, эта информация носит личный характер и участники предпочитают ее не раскрывать. Они предпочитают также не раскрывать информацию о своих личных предпочтениях по поводу той или иной встречи. Таким образом, информация, которую нужно использовать в процессе планирования встреч, носит существенно распределенный характер и лишь ограниченно доступна каждому из участников. Наличие какой-либо хотя бы ограниченной централизации здесь исключается. Вообще говоря, подобная ситуация имеет место во многих распределенных задачах.
В такой ситуации каждый участник предстоящей встречи представляется в процессе планирования своим агентом (“электронным секретарем”), который знает все о своем клиенте и совсем немного о других участниках встречи. Стратегия поиска решения в этом случае предполагает использование переговоров для поиска глобально согласованного решения. При этом, хотя агенты остаются равноправными участниками переговоров, каждому из них по специальному алгоритму назначается определенная роль, причем роли агентов могут динамически меняться. Поясним это кратко на примере [6].
1.Начальный вызов. Агент - инициатор встречи устанавливает контакт с агентами заданных участников потенциальной встречи для выяснения их интереса к ней, при этом он указывает параметры встречи: дату, время, длительность, тему. Каждый секретарь спрашивает своего пользователя о том, проявляет ли он интерес к встрече. Если пользователь отвечает положительно, то его секретарь отвечает инициатору встречи о заинтересованности и указывает при этом “фактор ограничений”, который рассчитывается как сумма весов уже запланированных встреч на тот период, который предлагает инициатор встречи. Веса формируются таким образом:
вес=1, если запланированная встреча может быть передвинута;
вес=2, если такая встреча передвинуты быть не может.
Если агент отказывается от встречи, то он просто удаляется из списка участников и далее не рассматривается в задаче планирования.
2.Схема переговоров. Самый простой случай - когда все согласившиеся встретиться агенты передали суммарный вес - фактор ограничений, равный 0. Это означает, что они принимают время, предложенное инициатором, и переговоры на этом завершаются.
В противном случае агент-организатор вычисляет роли участников в предстоящих переговорах.
Агент, который имеет наибольший фактор ограничений (он имеет меньше всех свободного времени для планируемой встречи и сокращает в наибольшей мере пространство поиска компромисса) получает статус МС (Most Constrained) и далее он берет на себя роль координатора переговоров. Фактически этому агенту назначается роль лидера в традиционной терминологии теории распределенных вычислений. Остальные агенты получают статусы МС2, МС3,... в порядке убывания их факторов ограниченности, последний из них - LC (Least Constrained).
Далее процесс переговоров выполняется в соответствии с некоторым алгоритмом (“протоколом”), при этом агенты ищут компромисс за счет сдвигов или отмен уже запланированных встреч с возможностью отказа от встречи, которая является темой переговоров. Роли агентов в зависимости от текущих результатов переговоров могут меняться, но алгоритм действий, отвечающий каждой из ролей, остается фиксированным. Переговоры продолжаются до того момента, когда будет найдено либо согласованное решение, либо встреча будет организована в ограниченном составе, либо она будет вообще отменена.
Описанный вариант взаимодействия агентов в одноуровневой архитектуре типичен в том смысле, что могут быть различные алгоритмы ведения переговоров, но основная суть, в частности, выражаемая назначением ролей агентов, в основном, сохраняется.
5.1.2 Иерархическая архитектура взаимодействия агентов
Рассмотрим простейший вариант иерархической организации взаимодействия агентов, который предполагает использование одного агента “мета-уровня”, осуществляющего координацию распределенного решения задач(и) агентами.
Агент, осуществляющий координацию, может быть привязан к конкретному серверу, и тогда он называется “местом встречи агентов”. Место встречи агентов (AMP - Agent Meeting Place) - это агент, играющий роль брокера между агентами, запрашивающими некоторые ресурсы, которыми обладают другие агенты, и теми агентами, которые эти ресурсы могут предоставить. Архитектура AMP есть архитектура обычного агента (см. далее), дополненная некоторыми вспомогательными компонентами, наличие которых обусловлено ролью этого агента как координатора взаимодействия других агентов. Эти вспомогательные компоненты должны, с одной стороны, содержать унифицированное описание множества доступных через AMP агентов и их возможностей (ресурсов, функций и пр.) и, с другой, организовать унифицированный доступ к ним. Это обеспечивается такими компонентами AMP [10].
1.Объекты базовых сервисов, в частности, это могут быть удаленный вызов объектов, упорядочение объектов, дублирование объектов и другие базовые возможности, которые обычно поддерживаются той или иной платформой открытой распределенной обработки, например, OMG/CORBA.
2. Связные порты, ответственные за прием и отправку агентов в AMP с помощью соответствующих протоколов.
3. Компонента установления подлинности агента по имени (опознание агента, “авторизация”).
4. Консьерж, выполняющий функции контроля полномочий поступающего агента, наличия на AMP запрашиваемого сервиса, оказания помощи агенту в выборе дальнейшего маршрута перемещения и др.
5. Поверхностный маршрутизатор, который выполняет функции интерфейса между агентами и компонентами AMP, которые сами по себе регистрируются в этом маршрутизаторе; он поддерживает ограниченный словарь для удовлетворения aгентских запросов.
6. Лингвистический журнал, который представляет собой базу данных, помогающую агентам и AMP понимать друг друга в процессе коммуникаций. В нем регистрируются словари и языки, но не описания языков или смысл терминов, а лишь ссылки на них, т.е. журнал предоставляет информацию о том, что может быть понято в AMP.
7. Глубинный маршрутизатор, который ассистирует поверхностному при более специальных и сложных запросах.
8. Менеджер ресурсов; он регистрирует агентов на AMP и ассоциированные с ними ресурсы, а также управляет ресурсами AMP.
9. Среда исполнения агента, которая регистрируется в AMP и управляет доступом к компонентам агента; она интерпретирует сценарии, обеспечивает доступ к базовым возможностям и др.
10. Система доставки событий; источниками событий могут быть локальные средства, резидентные агенты AMP и др.; система регистрирует события и выполняет поиск агентов для соответствующего типа событий, сообщений.
В остальном архитектура координирующего агента аналогична архитектуре обычного агента, варианты которой рассматриваются в следующем подразделе.
5.2 Архитектура агента
5.2.1 Общая классификация архитектур
Грубая классификация архитектур агентов основывается на парадигме, лежащей в основе принятой архитектуры. По этому признаку различают два основных класса архитектур [53]:
-архитектура, которая базируется на принципах и методах искусственного интеллекта, т.е. систем основанных на знаниях (deliberative agent architecture”, “архитектура разумного агента”),
и как альтернатива, так называемая
-архитектура, основанная на поведении (reactive architecture) или “реактивная архитектура” (основанная на реакции системы на события внешнего мира).
На самом деле к настоящему времени среди разработанных архитектур не существует таких, о которых можно было бы определенно сказать, что она является чисто поведенческой или основана только на знаниях. Любая из разработанных архитектур является по сути гибридной, имея те или иные черты от архитектур обоих типов.
С другой стороны, независимо от лежащей в основе формализации парадигмы, архитектуры агентов классифицируются в зависимости от вида структуры, наложенной на функциональные компоненты агента и принятых методов организации взаимодействия его компонент в процессе работы. Как правило, архитектура агента организуется в виде нескольких уровней. В соответствии с работой [12], среди многоуровневых архитектур различают горизонтальную организацию взаимодействия уровней и вертикальную организацию.
Естественно, существуют и другие признаки классификации архитектур агентов, однако мы будем придерживаться отмеченных ввиду того, что они имеют наиболее широкое хождение.
Далее дается краткая характеристика архитектур в соответствии с двумя упомянутыми выше принципами, а затем рассматриваются конкретные примеры архитектур агентов и многоагентных систем, которые наиболее часто обсуждаются в литературе и в каком-то смысле являются отражением современных тенденций в этой области.
5.2.2 Архитектуры агентов, основанные на знаниях
C классической точки зрения [58] архитектура на основе знаний есть такая архитектура, которая содержит символьную модель мира, представленную в явной форме, и в которой принятие решений о действиях, которые должны быть предприняты агентом, осуществляется на основе рассуждений логического или псевдо-логического типов. Такой агент может рассматриваться как специальный случай системы, основанной на знаниях.
Сначала идея агента, основанного на знаниях, строилась на чисто логической основе и представлялась весьма перспективной Эволюция взглядов на формализмы спецификации агентов рассмотрена в разделе 3 данной работы. Здесь делаются лишь минимально необходимые напоминания.. Однако позднее было обнаружено, что лежащее в основе такого подхода исчисление предикатов первого порядка неразрешимо. Более того, такие ментальные свойства агента, как убеждения, желания, намерения, обязательства по отношению к другим агентам и т.д (см. раздел 2), невыразимы в терминах исчисления предикатов первого порядка. Были разработаны некоторые специальные варианты расширений модальных логик и подобных модальным (см. раздел 3), которые оказались с точки зрения реализуемости более удачными. Такие архитектуры были названы Belief-Desire-Intention (BDI) - архитектурами. Однако мы не будем останавливаться на особенностях BDI-архитектур среди архитектур, построенных на основе знаний, так как это больше характеризует язык спецификации, лежащий в основе формализации агента, чем особенности собственно архитектуры. Далее будут даны примеры архитектур агентов на основе знаний.
Заметим, что идея архитектуры агента на основе знаний в настоящее время уже вышла за пределы логической парадигмы представления и обработки знаний. Имеются архитектуры, исповедующие лингвистический подход (на основе формальных грамматик), а также такие, которые пытаются использовать приближенные знания и правдоподобные рассуждения, хотя, как это ни парадоксально, в значительно меньшей степени, чем это сейчас общепринято в искусственном интеллекте при построении систем на основе знаний.
5.2.3 Архитектура на основе планирования (реактивная архитектура)
Архитектура на основе планирования (“планирующий агент”) рассматривается как альтернатива подходу, рассмотренному в предыдущем подразделе. Вообще говоря, этот подход также развивался внутри сообщества специалистов по искусственному интеллекту еще с начала 1970-х годов, однако той его частью, которая занималась планированием поведения роботов и тому подобными задачами.
В этом подходе планирование рассматривалось как “конструирование последовательности действий, которая, будучи исполненной, приводила бы в результате к достижению желаемой цели” [58]. Простым примером архитектуры подобного рода является архитектура, в которой реакция агента на внешние события генерируется конечным автоматом. В качестве другого примера системы с архитектурой рассматриваемого типа может рассматриваться и широко известная система STRIPS [17]. В этой системе, как известно, использовался чисто логический подход совместно с предусловиями и постусловиями, ассоциированными с каждым из действий. В соответствии с принятой стратегией STRIPS, имея описание мира и желаемой цели, пытается найти последовательность действий, которая в итоге приведет к достижению цели с удовлетворением постусловий. Как известно, система оказалась крайне неэффективной. Позже были разработаны и другие подобные подходы, однако они не могли работать с задачами, в которых имелись темпоральные ограничения и ограничения реального времени, весьма существенные для приложений интеллектуальных агентов.
5.2.4 Многоуровневость
Только самые простые приложения агентов могут быть реализованы по одноуровневой схеме. Как правило, функциональные модули агента структурируются в несколько уровней, однако по различным принципам. Как правило, уровни представляют различные функциональности, такие, как восприятие внешних событий и простые реакции на них; поведение, управляемое целями; координация поведения с другими агентами; обновление внутреннего состояния агента, т.е. убеждений о внешнем мире; прогнозирование состояний внешнего мира; определение своих действий на очередном шаге и др. Наиболее часто в архитектуре агента присутствуют уровни, ответственные за
-восприятие и исполнение действий,
-реактивное поведение,
-локальное планирование,
-кооперативное поведение,
-моделирование,
-формирование намерений, и
-обучение агента.
Существует два основных класса многоуровневых архитектур в зависимости от того, как организуется взаимодействие уровней:
-горизонтально организованная архитектура и
-вертикально организованная архитектура.
В первой из них - в горизонтально организованной архитектуре, все уровни агента имеют доступ к уровню восприятия и действий (в общем случае- все уровни могут общаться между собой в стиле “бродкастинга”). Вариант такой архитектуры приведен на рис.7а. Напротив, в вертикально организованной архитектуре только один из уровней имеет доступ к уровню восприятия и действий, а каждый из остальных уровней общается только с парой непосредственно смежных с ним уровней. Примеры таких архитектур приведены на рис.7.б и 7.в.
Примерами горизонтально организованной архитектуры являются рассматриваемые далее архитектуры Touring Machine [16] и Will-architecture [33] (D.Moffat and N.H.Frijda). Хорошим примером вертикально организованной архитектуры является InteRRaP-архитектура, подробно рассматриваемая ниже [36].
a) б) в)
Рис.7 Организация взаимодействия уровней в многоуровневой архитектуре агента
Основные проблемы реализации горизонтально организованной архитектуры обусловлены сложностью организации согласованной работы всех уровней. В архитектуре Touring Machine (см. далее п.5.3.2) эта проблема решается с помощью специального алгоритма, который подавляет входы некоторых уровней, если соответствующая информация не имеет к ним отношения, и осуществляет цензурирование выходов. Это выполняется с помощью специального набора правил. Во второй из горизонтально организованных архитектур - архитектуре Will, задача управления согласованной работой уровней выполняется с помощью введения специальных функций совместимости входных событий с “интересами” (concerns) уровней. Здесь делается попытка ввести некоторую самоорганизацию, однако из имеющихся работ не вполне понятно, как это может быть реализовано в различных приложениях.
Напротив, в вертикально организованной архитектуре проблема управления взаимодействием уровней не является столь сложной, поскольку выходная информация каждого из уровней всегда имеет адресата. В известных вертикально организованных архитектурах распределение функциональных модулей по уровням выполняется по одному из двух принципов. Согласно одному из них, различные уровни отвечают различному уровню абстракции, в основном, одного и того же набора функциональностей (такой принцип используется в уже упоминавшейся InteRRap-архитектуре). Согласно другому принципу каждый уровень отвечает некоторой функциональности или их набору. По такому принципу построена MECCA-архитектура [36], в которой цикл функционирования агента состоит из четырех фаз: активация цели, планирование, конкретизация плана в набор действий и исполнение. В соответствии с этими фазами архитектура агента состоит из четырех уровней.
Недостатком вертикально организованной архитектуры считается то ее свойство, что оказывается перегруженным уровень исполнения (действий), Например, в IntRRaP- архитектуре нижний уровень должен реагировать на непредвиденные события, отслеживать исполнение команд, полученных с уровня локального планирования, следить за выполнением ограничений, наложенных контекстом локального планирования (временных, ресурсных) и, наконец, он должен функционировать в соответствии с дополнительными кооперативными обязанностями (обязательствами), которые возложены на агента другими агентами многоагентной системы.
5.3 Примеры архитектур агентов
Далее при рассмотрении примеров архитектур многоагентных систем даются их авторские названия в соответствии с источниками на английском языке и в русском переводе.
5.3.1 Композиционная архитектура многоагентной системы
Эта архитектура описана в работе [12] и имеет имя DESIRE-”framework for DЕsign and Specification of Interacting RЕasoning components”. Она базируется на понятии композиционной архитектуры, которая позволяет “описывать сложного агента в прозрачной манере, а также интегрировать рассуждения и действия в единой (декларативной) логической среде” (перевод из [12]). Авторы предполагают, что агент в процессе работы выполняет действия следующего типа:
-активно воспринимает и фильтрует информацию из внешнего мира;
-строит заключения по этой информации;
-инициализирует и выполняет коммуникации с другими агентами в интересах кооперации;
-генерирует и обновляет свои убеждения, делая и отклоняя дополнительные предположения;
-изменяет внешний мир, воздействуя на него.
Основу компетенции агента составляют знания, которые в этой архитектуре классифицируются следующим образом:
(а) знания о материальном мире;
(б) знания о ментальном мире самого агента;
(в) знания о ментальных мирах других агентов;
(г) знания о взаимодействии с материальным миром
(д) знания о коммуникациях с другими агентами (какие коммуникации возможны и полезны для получения дополнительной информации).
Другим важным моментом исходных позиций авторов является необходимость принимать во внимание динамику знаний и ее неполноту. Они различают часть структуры знаний, зависящую от времени (“динамическое состояние информации, или базу фактов”) и ее инвариантную часть, которая не изменяется во всех состояниях.
Главная идея композиционной архитектуры состоит в том, чтобы можно было любого сложного агента создать как композицию компонент - примитивов, каждая из которых описывает одну из подзадач, которая должна им выполняться. Компоненты должны соединяться друг с другом в соответствии с предопределенной семантикой связи. Каждая из компонент должна иметь простое локальное описание и использовать свой набор знаний. Сложное поведение, которое охватывает и рассуждения, и действия, может обеспечиваться (динамической) компонентой взаимодействия агентов. Аналогичным образом система в целом может композироваться из отдельных агентов. Компоненты описываются в терминах многосортной логики предикатов.
Пример агента с использованием композиционной архитектуры приведен на рис.8. Агент, структура которого представлена на этом рисунке, имеет имя A. Он состоит из трех главных компонент:
-его собственное ментальное состояние, которое включает в себя убеждения агента, знания агента о себе (что он знает и чего он не знает), знания о стратегиях управления и т.д., компоненту, генерирующую предположения, позволяющие восполнять неполноту знаний, и управляющую часть;
-компоненту коммуникации, которая связывает агента A с внешним материальным миром и другими агентами (например, с агентом B); эта компонента обеспечивает связь с внешним миром путем генерации наблюдений и генерации действий и то же самое по отношению к другим агентам (ставит вопросы и получает ответы);
-компоненту анализа состояния мира, которая содержит предметные знания о материальном мире.
Можно видеть, что эта архитектура не структурирована по уровням и компоненты соответствуют функциональностям. Авторы в качестве достоинств этой архитектуры выдвигают следующие:
-интеграцию различных типов рассуждений и действий в единых декларативных рамках;
-использование знаний о стратегиях для явного управления рассуждениями;
-гибкость в построении агентов различных типов;
-явные и управляемые акты наблюдения;
-явные и управляемые акты коммуникации.
Однако эта архитектура пока не реализована в рамках какого-либо приложения, авторы только намереваются использовать ее для диагностики электрических сетей. Вообще говоря, эта архитектура не кажется перспективной уже хотя бы ввиду ее одноуровневой структуризации. Формализация задачи обладает весьма ограниченными возможностями, т.к. в рамках чисто предикатной логики невыразимо большинство свойств агента.
5.3.2 Многоуровневая архитектура для автономного агента (“Touring Machine”)
Эта архитектура разработана для специального приложения автономного агента-подвижного робота [16]. В отличие от большинства других разработок, она рассчитана на реальное приложение, а не на демонстрационный вариант только. В реальном приложении агент имеет дело с непредвиденными событиями внешнего мира как в пространстве, так и во времени и в присутствии других агентов. При этом он должен сохранять способность адекватно реагировать на них и принимать решения. Но внешний мир невозможно моделировать в деталях. По этой причине архитектура агента и является, как правило, гибридной. Агент должен иметь архитектуру, которая позволит ему справляться с неопределенностью и неполнотой информации, реагировать на непредвиденные события, пользуясь относительно простыми правилами. Это - исходная позиция авторов данной архитектуры.
Данная архитектура представлена на рис.9 [16]. По утверждению автора, эта архитектура демонстрирует хорошее поведение в соответствии с контекстом- состоянием внешней среды. Она включает в себя три уровня, каждый из которых соответствует различным типам способностей агента.
-уровень реакции на события R поддерживает способность агента быстро реагировать на события, выдаваемые вышележащим уровнем, даже если они ранее не планировались;
Рис.9. Многоуровневая архитектура для автономного агента (“Touring Machine”)
-уровень планирования P генерирует, исполняет и динамически реконструирует частичные планы, например, для выбора маршрута подвижного робота;
-уровень предсказания, или моделирования M моделирует поведение сущностей внешней среды и самого агента, что может использоваться для объяснения наблюдаемого поведения и предсказания возможного их поведения в будущем.
Каждый из этих уровней имеет модель мира агента на соответствующем уровне абстракции и содержит возможности, соответствующие уровню. Каждый из уровней напрямую связан с компонентой восприятия и действия и в состоянии независимо от других уровней решать, реагировать или не реагировать в текущем состоянии мира. В архитектуру включена Подсистема управления на основе правил, активируемая контекстом с задачей обеспечить подходящее поведение агента в случае конфликта вариантов поведения, инициируемого различными уровнями. Система реализована как комбинация технологии обмена сообщениями и контекстной активации управляющих правил (в соответствии со спецификой предметной области), выступающей в роли посредника, который исследует данные разных уровней (воспринимаемый вход и выходы разных уровней), вводит на различные уровни новые данные и удаляет некоторые данные.
Синхронизация входов и выходов уровней также обеспечивается этой подсистемой. Фактически правила подсистемы выступают в роли фильтра между сенсорами агента и внутренними уровнями агента (“supressors”) и между уровнями и их исполнительными элементами (“censors”). Посредничество это остается активным все время работы агента, однако оно “прозрачно” для уровней, каждый из которых продолжает действовать так, как если бы он был единственным при управлении агентом, не заботясь о возможном конфликте.
Данная архитектура имеет реализацию и по мнению авторов вполне работоспособна. Она интегрирует в себе ряд традиционных механизмов рассуждений на основе знаний и механизмов чисто поведенческого, “реактивного” характера. Она является весьма характерным представителем горизонтально организованной многоуровневой архитектуры.
5.3.3 Многоуровневая архитектура для распределенных приложений
Эта архитектура [23] была разработана специально для системы здравоохранения. Она включает в себя многоуровневую структуру знаний, рабочую память, менеджера коммуникаций и человеко-машинный интерфейс (см. рис.10)
Поскольку данная архитектура должна быть релевантной медицинским приложениям, агент должен обладать обоими типами поведения - как поведением на основе знаний (например, для выбора планов, декомпозиции задач, размещения задач), так и поведением на основе быстрой реакции на события (например, для формирования ответов в реальном времени на поступающие новые данные, изменение имеющихся данных, на изменение текущих соглашений с другими агентами). Таким образом, эта архитектура, как и все ранее рассмотренные, является гибридной.
В этой архитектуре интеллектуальное поведение поддерживается совместной работой таких компонент, как блок решающих правил для вычисления плана, блок правил для управления задачами, их декомпозицией и размещением, а также блок правил для поддержки соглашений с другими агентами при кооперативном решении задач. Реактивное поведение реализуется с помощью управляющего уровня, который реагирует на изменение состояния рабочей памяти (например, при поступлении новых результатов решения задачи, целей или сообщений, а также при изменении имеющихся данных, целей, межагентских соглашений или состояний задач). Ключевым моментом данной архитектуры является трехуровневая организация знаний, при этом выделяются следующие уровни:
Уровень специфических предметных знаний, в котором содержатся медицинские знания о болезнях, знания о планах управления лечением болезней (“протоколы”), база данных о пациентах (истории болезней) и база данных о доступных ресурсах. Однако предметные знания не содержат какой-либо информации о том, как их следует использовать, здесь представлены только свойства предметной области.
2. Уровень знаний о процедурах вывода; он содержит декларативные правила вывода, которые должны применяться к предметным знаниям о конкретном пациенте, чтобы вывести новые данные. Этот уровень - основной в архитектуре. В свою очередь он подразделяется на компоненты принятия решений в условиях неопределенности, управления задачами и управления кооперацией агентов. Например, модуль управления задачами содержит декларативную схему вывода для управления переходами состояний задачи. Особенности системы вывода решений состоят в том, что она не использует понятия ментального состояния агента (убеждения, желания, намерения) и не использует какой-либо логический язык для вывода, для этого она использует стратегии аргументации в условиях неопределенности. Это означает, что эта архитектура не является BDI-архитектурой.
3. Менеджер задач ответственен за декомпозицию задач на подзадачи и их распределение по соответствующим агентам, а также за управления переходами состояний задач. Управление кооперацией агентов использует механизм, основанный на взаимных обязательствах агентов (“любой агент согласен предпринимать схему действий, которая имеет целью исполнить задачу за подходящее время”), и соглашениях о том, при каких условиях агент вправе отказаться от своих обязательств и как он должен себя вести по отношению к другим агентам, когда такие обстоятельства возникнут.
4. Уровень управляющих знаний, который применяет знания о процессе вывода к предметным знаниям, чтобы генерировать схему вывода, если в рабочую память добавляются новые знания.
Авторы убеждены, что такое функциональное разделение знаний на предметные знания, знания о процедурах вывода и управляющие знания существенно упрощает их представление, повторное использование и эксплуатацию, поскольку эти компоненты могут создаваться и поддерживаться независимо. Кроме того, эта архитектура позволяет просто встраивать программы извлечения знаний, каждая из компонент которых может получаться и модифицироваться независимо друг от друга.
Другие три компоненты рассматриваемой архитектуры - это рабочая память, менеджер коммуникаций и человеко-машинный интерфейс.
Рабочая память служит для запоминания текущих данных, генерируемых уровнем управления, пользователя и менеджера коммуникаций. Типы информации, которая хранится в рабочей памяти, таковы: цели, которые должны быть достигнуты; состояния задач, которые находятся в текущем состоянии процесса выполнения соглашений с другими агентами. Фактически, в привычной нам терминологии, рабочая память есть ни что иное, как доска объявлений.
Менеджер коммуникаций содержит в себе сообщения, которые должны быть посланы другим агентам, представленные на языке коммуникаций с примитивами типа примитивов языка KQML: обратиться с просьбой, принять, отвергнуть, изменить, предложить, проинформировать, запросить данные, отказаться и подтвердить.
Человеко-машинный интерфейс определяет схему взаимодействия между системой и пользователем, поскольку данная многоагентная система не является автономной, что связано с личной ответственностью пользователя за здоровье пациента.
Эту архитектура основана на знаниях, имеет горизонтальную схему взаимодействия уровней. Главная ее особенность в том, что она достаточно сильно ориентирована на приложение.
5.3.4 IDS-архитектура
Эта архитектура возникла [31] в результате комбинирования двух направлений исследований. Первое из них - это логика рассуждений о действиях и изменениях с исходным понятием "населенной (живыми существами) динамической системы" (“Inhabited Dynamic System”-IDS). Второе направление - это построение эффективной реализации интеллектуальной системы.
Архитектура имеет трехуровневую структуру и является гибридной. Полагается, что IDS - система размещается в некотором мире (среде) и состоит из двух базовых частей - “Мыслящей части” (“Я”, “Ego”) и “Машины” (“Подвижной части объекта”, “тела”, “vehicle”). Автор интерпретирует понятие “Мыслящая часть” как интеллектуальную, основанную на знаниях часть автономного агента, его “мозг”, в то время как “машина” - это тело агента, т.е. его бессознательная часть, которая в порядке реакции на восприятие и приказы на исполнение что-то делает. IDS воспринимает внешнюю среду. Используя процесс восприятия, она редуцирует и существенно обобщает воспринимаемую информацию, и посылает выход в “Мыслящую часть”. В свою очередь, “Мыслящая часть” посылает команды на свою подвижную часть, которая их отрабатывает без какого-либо дополнительного управления или изменения, вызывая соответствующие изменения во внешнем мире (см. Рис.11).
Эта идея реализуется в виде трехуровневой архитектуры, представленной на рис.12. Разделение по уровням производится в соответствии с характером тех вычислений, которые на них выполняются. Первый уровень - это уровень процессов, на котором периодически выполняются с заданной частотой некоторые вычисления, а также осуществляется управление процессами восприятия и исполнения. Второй уровень, называемый уровнем ответной реакции, вычисляет ответную реакцию на асинхронные события, которые либо воспринимаются уровнем процессов, либо им генерируются. Уровень анализа выполняет символические рассуждения, такие, как предсказание, планирование и перепланирование, а также является тем местом, где располагается компонента обучения агента. Данная архитектура является типичным представителем многоуровневой архитектуры, которая относительно близка к архитектуре “Touring Machine” и отличается от нее вариантом распределения задач по уровням. Достоинства архитектуры, по мнению автора, следует рассматривать в трех аспектах:
-в ней имеет место явное разделение задач, которые требуют различных концептуальных и вычислительных рамок;
-она позволяет при проектировании использовать различные инструментальные средства (языки, алгоритмы) для упрощения разработки;
-она позволяет поддерживать процесс проектирования простыми программными инструментальными средствами, обеспечивая простоту процесса прототипирования, которыми автор располагает.
5.3.5 WILL-архитектура
Эта архитектура интенсивно использует метафоры и понятия, традиционно применяемые к описанию человеческой интеллектуальной деятельности, что делает ее привлекательной и понятной, но от этого она не становится в чем-то принципиально новой по отношению к другим архитектурам, а, как представляется, только отдаляет возможность ее практической реализации. Однако авторы утверждают, что это наиболее простая архитектура автономного агента. Следует, однако, принимать во внимание, что это архитектура рассчитана на одного агента, который имеет одну цель и его функционирование направляется его собственными мотивами, которые автор называет интересами (“concerns”). Вопрос о методах кооперации и коммуникации агентов такой архитектуры авторы оставляют без внимания. Эта архитектура представлена на рис.13.
Для того, чтобы агент функционировал в мире рационально, ему необходимы различные функции, включая восприятие. Авторы предполагают, что агент имеет для каждой из этих функций отдельный модуль. В частности, они предполагают, что агент имеет Сенсорный блок, Планировщик и Исполнительное устройство в качестве базовых модулей, которые каким-то образом должны быть интегрированы.
Главной проблемой при этом является вопрос о том, как организовать совместную согласованную работу этих модулей, в частности, согласовать взаимодействие потоков информации и потоков управления. Чтобы решить проблему согласованного взаимодействия потоков информации, они предлагают применить нечто вроде схемы “бродкастинга”, когда соединены все входы и все выходы модулей между собой, так что любое сообщение, генерируемое тем или иным блоком становится доступным любому другому блоку. Все эти сообщения собираются в глобальном буфере, который называется Памятью. Все блоки могут читать информацию из Памяти, кроме Сенсоров, и все они могут писать информацию в Память, кроме Исполнительного устройства. Каждый модуль может просто брать информацию из памяти, когда ему это нужно.
Авторы этой архитектуры полагают, что цели системы могут меняться и генерироваться “изнутри” агента, будучи обусловленными некими фундаментальными целями агента, которые авторы называют “интересами“ (“concerns”).
Они определяются как некие предпочтения агента находиться в каких-то состояниях и каких-то состояний избегать. Когда агент получает информацию, которая в соответствии с его интересами отвечает предпочтительному состоянию (скажем, температура среды равна 20 градусов), то генерируется внутренний сигнал о том, что желательно, чтобы в этом состоянии среда оставалась и в будущем. Для каждого состояния внешней среды агент должен уметь оценивать меру его релевантности своим интересам (нечто вроде заряда статического электричества - в объяснении авторов). Это означает, что когда некий модуль обращается к памяти, он “видит“ тот ее фрагмент, который имеет “наибольший заряд“ и обрабатывает этот фрагмент. Наибольшее внимание модуля привлекается к тому событию, с которым агент не знает, что делать.
Авторы утверждают, что главное новшество этой архитектуры в наличии блока Память и использовании понятия Интересы, однако модуль Память по существу близок к тому, что мы привыкли называть доской объявлений, а понятие Интересы по содержанию близко к известному в теории агентов понятию Желания агента. С другой стороны, авторы не анализируют сложность проблемы организации согласованной работы различных модулей агента в этой архитектуре, которая по существу может быть реализована только при высоком уровне самоорганизации системы, алгоритмы которой могут оказаться самым тонким местом при попытке реализации.
5.3.6 InteRRaP-архитектура
Основная идея этой архитектуры [36] в том, чтобы представить агента как множество уровней, которые связаны через управляющую структуру и используют общую
Рис.14. InteRRaP-архитектура агента
базу знаний. Эта архитектура представлена на рис.14. Она состоит из пяти основных частей: интерфейса с внешним миром; компоненты, основанной на поведении; планирующей компоненты; компоненты, ответственной за кооперацию с другими агентами и базы знаний агента.
Интерфейс с внешним миром содержит возможности агента по восприятию событий внешнего мира, воздействия на него и средства коммуникации.
Компонента, ответственная за реактивное поведение, использует базовые возможности агента по реактивному поведению, а также частично использует знания агента процедурного характера. Она базируется на понятии “фрагмента поведения” как некоторой заготовки реакции агента на некоторые стандартные ситуации. Это позволяет агенту в стандартных ситуациях не обращаться к планированию на основе знаний и реализовывать значительную часть своего поведения рутинным образом с хорошей эффективностью. Из базы знаний ей доступны только знания нижнего уровня абстракции, где содержится информация о фрагментах поведения.
Компонента, ответственная за планирование, содержит механизм планирования, позволяющий строить локальные планы агента, т.е. планы, не связанные с кооперативным поведением. План представляется в виде графа, узлами которого могут быть либо конкретные наборы действий вплоть до элементарных шагов поведения, либо новые субпланы, подлежащие дальнейшей конкретизации. Таким образом, планирующая компонента активирует поведение (через нижележащую компоненту), направляемое целями. Она же участвует и в планировании, связанном с кооперативным поведением агентов. Эта компонента может использовать знания двух нижних уровней абстракции.
Компонента, ответственная за кооперацию агентов, участвует в конструировании планов совместного поведения агентов для достижения некоторых общих целей или выполнения своих обязательств перед другими агентами, а также выполнения соглашений. Этой компоненте доступны знания всех трех уровней абстракции.
База знаний агента имеет трехуровневую структуру и построена по принципу доски объявлений. Уровни базы знаний фактически отвечают уровням абстракции знаний в соответствии со структурой управляющих компонент. Модель мира агента содержит убеждения агента в соответствии с уровнем, ориентированным на поведение. Второй уровень соответствует модели ментальных знаний агента и знаниям о текущем ментальном состоянии агента (намерения, цели, планы). Наконец, третий уровень содержит знания и убеждения агента о других агентах, информацию о совместных планах, целях и намерениях, т.е. то, что связано с “общественным контекстом”. Внутри базы знаний, как уже отмечалось, возможен доступ с верхних уровней к нижним. Например, компонента, ответственная за поведение, не имеет доступа к знаниям о ментальной модели и к знаниям о кооперативном поведении.
Общее управление поведением осуществляется путем коммуникаций между уровнями. При некотором входном событии агент пытается распознать ситуацию во внешнем мире и управление постепенно сдвигается снизу вверх до тех пор, пока не достигнет уровня, способного справиться с возникшей ситуацией.
Очевидно, существует три варианта реакции агента на внешние события:
-реакция с использованием только поведенческого уровня, когда этот уровень находит фрагмент поведения, адекватный ситуации, без явного привлечения локального планирования;
-реакция с использованием локального планирования, когда задача перемещается с нижнего уровня на уровень локального планирования, где и конструируется план;
-реакция с использованием уровня кооперативного планирования, когда поиск плана с уровня локального планирования перемещается дальше на уровень планирования кооперативного поведения.
Конечно, существуют и более сложные варианты построения плана, когда, например, протокол взаимодействия между уровнем локального планирования и планирования кооперативного поведения предусматривает сложную схему обмена информацией, например, для построения оценок возможности решения некоторых задач многоагентной системы за заданное время.
6. Языки программирования агентов
Сразу заметим, что в настоящее время не существует языка программирования, который в полной мере отвечал бы потребностям технологии многоагентных систем. Разрабатываемые в настоящее время агентские системы используют большой спектр различных базовых языков, но, к сожалению, ни один из них не может рассматриваться как истинно “агентно-ориентированный“. Имеются попытки расширить существующие языки, а также попытки использовать традиционные языки программирования. Существует ряд проектов по разработке новых специализированных агентских языков.
В первой части данного раздела мы рассмотрим основные требования к языкам программирования агентов (ЯПА) , которые представляются наиболее существенными. Во второй части приведена классификация ЯПА. Последняя часть посвящена краткой характеристике и сравнению языков, которые используются при написании агентских систем в настоящее время.
6.1 Требования к языкам программирования агентов
Прежде чем начать сравнение и анализ агентских языков, рассмотрим основные требования, предъявляемые к ним. Наиболее важными представляются нижеследующие.
1. Обеспечение переносимости кода на различные платформы. Это требование возникает всегда, когда необходимо обеспечить агента свойством мобильности. Чтобы обеспечить мобильность агента, язык должен поддерживать механизм посылки, передачи, получения и выполнения кодов, содержащих агентов. Имеются два различных подхода, которые решают проблему мобильности. Первый - это передача агента в текстовой форме, как специального сценария (script) с последующей интерпретацией этого сценария на принимающей машине. Второй - передача агента в форме машинно-независимого байт-кода. Этот байт-код генерируется транслятором на этапе создания агентской системы, посылается по сети и выполняется интерпретатором байт-кодов на принимающем компьютере. Оба из этих методов имеют свои преимущества и недостатки.
2. Доступность на многих платформах. Это требование непосредственно вытекает из предыдущего. Интеллектуальные агенты должны работать в гетерогенной компьютерной среде. Любой компьютер, получающий агента, должен быть способен принять и выполнить его.
3. Поддержка сетевого взаимодействия. Свойство агентов участвовать в переговорах и многие другие особенности агентов нуждаются в доступе к удаленным ресурсам. Поддержка сетевых услуг может включать семейства соответствующих программных интерфейсов (APIs) таких как: sockets, интерфейсы к базам данных, интерфейсы взаимодействия объектов (CORBA, OLE, ActiveX и т.д.), специальные механизмы, встроенные в язык (типа Remote Method Invocation в языке Java), специальные примитивы языка для осуществления переговоров агента и т.д.
4. Многопоточная обработка (“Multithreading”). Агент может выполнять некоторые действия одновременно. Тем самым, язык программирования агентов должен включать поддержку параллельного выполнения различных функций агента (типа “threads”) и различных примитивов синхронизации (семафоры, мониторы, критические секции, и т. д.). Кроме того, процесс который выполняет всех агентов (и может, фактически, рассматриваться как мета-агент) должен поддерживать параллельное выполнение агентов. Последнего можно добиться с помощью отдельной виртуальной машины с реализованным режимом вытесняющей многозадачности и собственной стратегией разделения времени.
5. Поддержка символьных вычислений. Так как в рамках современных взглядов агент должен активно использовать достижения и методы искусственного интеллекта, было бы полезно иметь поддержку символьных вычислений и, возможно, логического программирования, встроенную в язык (подобно PROLOG и LISP), а также иметь встроенный механизм выводов, включающий различные стратегии поиска решения. Автоматическое управление памятью и сборка мусора - стандартные средства для таких языков.
6. Безопасность, в частности, наличие системы защиты от несанкционированного доступа и “плохих кодов”. Это важно по многим причинам. Мобильные агенты, которые приходят из сети, могут таить в себе множество опасностей для принимающей машины, так как они выполняются в ее адресном пространстве. Для обеспечения безопасности перед передачей управления каждому агенту необходимо выполнить процесс авторизации агента, т. е. проверить, зарегистрирован ли он и имеет ли соответствующие полномочия (привилегии), чтобы выполнить то или иное действие или обратиться к некоторым ресурсам. Система безопасности должна предотвращать любые несанкционированные действия агента.
7. Истинная объектная ориентированность. Язык должен иметь механизмы наследования, рассматривать вызовы процедур как сообщения, передаваемые от одних объектов другим, включать возможности синхронного и асинхронного взаимодействия объектов, а также допускать параллельность внутри объекта.
8. Языковая поддержка свойств агента. Было бы, вероятно, удобно иметь поддержку специфических для агента свойств, встроенную в язык на уровне синтаксических конструкций, так, чтобы, например, свойства типа “beliefs-desires-intentions” (BDI), инструкции для переговоров и обеспечения мобильности, места встречи, и т.д. могли бы быть выражены с помощью соответствующих примитивов языка.
Эффективность, достаточная для потребностей прикладных программ.
6.2 Классификация
Ниже мы представляем классификацию для языков, наиболее часто используемых в технологии интеллектуальных агентов. Заметим, что границы между группами зачастую довольна условны.
Универсальные языки программирования (Java)
Языки, "ориентированные на знания":
языки представления знаний (KIF)
языки переговоров и обмена знаниями (KQML, AgentSpeak, April)
языки спецификаций агентов.
3. Специализированные языки программирования агентов (TeleScript)
4 Языки сценариев и scripting languages (Tcl/Tk)
5. Символьные языки и языки логического программирования (Oz)
6.3 Сравнительная характеристика языков
Java - вероятно, один из наиболее популярных языков используемых в последнее время для программирования агентов. Java представляет из себя язык программирования, подобный C++ по синтаксису, но более схожий со Smalltalk и Objective C по идеологии. Система программирования на Java включает в себя виртуальную машину Java и транслятор с Java в bytecode.
Язык Java предусматривает создание приложений, переносимых на различные платформы. Программа, написанная на Java, компилируется в специальный машинно-независимый байт-код. Затем этот код может быть исполнен с помощью интерпретатора Java на любом компьютере, где реализована Java Virtual Machine. Тем самым обеспечивается платформо-независимость Java - приложений на уровне байт-кода, который может приходить откуда угодно, включая Web-страницу, в которой содержится ссылка на него. Java Virtual Machine работает в среде вытесняющей мультизадачности и поддерживает облегченные процессы (threads). Средства создания и синхронизации таких процессов включены в Java на уровне языковых конструкций и классов. Средства многозадачности также призваны обеспечить реакцию системы в реальном времени для мультимедийных приложений, критичных ко времени.
Java представляет собой истинно объектно-ориентированный язык программирования с сильной типизацией. Схожесть с C++ делает его простым для изучения программистами. В нем отсутствует предельно ясное распределение памяти и для повышения надежности программ из языка исключена арифметика указателей. Каждый тип данных понимается как класс объектов, любая функция является методом класса. Ее вызов рассматривается с объектно-ориентированных позиций как посылка сообщения объекту. Имеется встроенная расширяемая библиотека классов, включающая Abstract Window Toolkit (AWT) для создания пользовательских интерфейсов, классы поддержки основных типов данных, threads, сетевых возможностей, графики, мультимедиа, и т. д. К средствам повышения надежности следует отнести встроенную в язык обработку исключительных ситуаций (exceptions) и run-time контроль за выполнением программы, такой, как проверка выхода за границы массивов и т.д.
...Подобные документы
Торговый агент: специфическое место на рынке труда. Основные направления в наборе торговых агентов. Обучение торговых агентов: тенденции и мифы. Методы, виды и формы обучения продажам. Основные проблемы, возникающие при подготовке торговых агентов.
реферат [20,9 K], добавлен 18.11.2010Допущения теории агентских отношений. Совмещение функций управляющего и собственника. Зависимость между значением коэффициента Тобина и долей менеджеров в капитале корпорации. Факторы, ограничивающие распространение модели фирмы как коалиции агентов.
контрольная работа [190,3 K], добавлен 16.10.2014Теоретические основы организацией и управления подготовкой им переподготовкой кадров страховой компании. Анализ подготовки и переподготовки кадров на примере ООО "Лантас". Выявление потребностей сотрудников компании. Подготовка страховых агентов.
дипломная работа [2,0 M], добавлен 19.10.2009Теоретические основы управление торговым персоналом на промышленном предприятии. Организационно-экономическая характеристика ОАО "Коммунарка". Характеристика влияния торговых агентов на динамику развития предприятия и повышение эффективности их работы.
дипломная работа [292,4 K], добавлен 08.09.2014Механизмы воздействия экспертного знания на процессы принятия решений в государственных органах. Промышленная политика как предмет экспертной деятельности. Символический и социальный капитал аналитических центров как агентов давления при принятии решений.
дипломная работа [349,5 K], добавлен 13.10.2015Теоретические основы организацией и управления подготовкой им переподготовкой кадров страховой компании. Анализ подготовки и переподготовки кадров на примере ЗАО "АСКО". Выявление потребностей сотрудников компании. Подготовка страховых агентов.
дипломная работа [2,1 M], добавлен 02.03.2008Анализ особенностей поведения человека в организации. Сущность взаимодействия личности и группы. Изучение коллективного поведения в аспекте современного менеджмента. Взаимодействие и регулирование поведения личности и коллектива в системе менеджмента.
курсовая работа [39,4 K], добавлен 01.12.2015Основные положения теории систем. Методология системных исследований в экономике. Процедуры системного анализа, их характеристика. Модели поведения человека и общества. Постулаты системного подхода к управлению. Ключевые идеи для поиска решения проблем.
контрольная работа [40,0 K], добавлен 29.05.2013Анализ теории поведения личности - совокупности социально значимых действий, обусловленных занимаемой позицией и пониманием собственных функций. Исследование причин неэффективного поведения персонала. Управление поведением людей в рабочем коллективе.
курсовая работа [32,6 K], добавлен 21.12.2010Управление проектами и запасами. Системы массового обслуживания. Динамическое программирование. Основные методы решения задач линейного программирования на ЭВМ. Экономическое моделирование методами теории игр. Задачи многокритериальной оптимизации.
курсовая работа [449,6 K], добавлен 24.08.2013Общение руководителя с подчиненными, конфликты начальников и их возможные решения. Исследование поведения в коллективе предприятия ООО "Стройинвест". Организация работы службы управления персоналом. Психология стресса и методы коррекции конфликтов.
курсовая работа [37,1 K], добавлен 05.11.2014Методы моделирования систем управления. Сущность неоклассической модели, профессиональной модели и модели принятия решений. Характерные черты и свойства цели. Анализ средств и целей в процессе решения проблем. Логика как инструмент и метод исследования.
контрольная работа [22,6 K], добавлен 25.11.2008Характеристика конфликтов, их общие разновидности: внутриличностный, межличностный, межгрупповой. Характерное поведение субъекта в конфликте. Особенности конфликтного взаимодействия в организациях. Анализ влияния потребностей на выбор стратегии поведения.
курсовая работа [96,5 K], добавлен 11.03.2012Основные профессиональные и этические требования, предъявляемые к менеджерам исследовательского типа. Роли, выполняемые менеджерами-исследователями систем управления. Этические принципы поведения менеджеров при проведении исследования систем управления.
курсовая работа [43,6 K], добавлен 21.12.2009Виды зависимости подразделений в организации. Механизмы координации: взаимное согласование, прямой контроль. Стандартизация труда, выпуска и квалификации. Краткая организационно-экономическая характеристика ЗАО "Славянка", оценка уровня координации.
курсовая работа [43,6 K], добавлен 21.03.2014Развитие и виды теорий организационного поведения, его типология и модели. Анализ факторов, влияющих на эффективность организационного поведения сотрудников предприятия. Разработка системы нематериального стимулирования и мер по улучшению условий труда.
дипломная работа [367,0 K], добавлен 07.09.2013Фундаментальные научные исследования систем управления и их краткая характеристика. Моделирование как метод исследования систем управления, адекватность модели. Исследование информационного обеспечения системы управления на предприятии "Юпитер".
контрольная работа [21,4 K], добавлен 25.07.2009- Влияние саморегуляции индивида на построение системы собственного организационного поведения команды
Понятия, уровни, модели организационного поведения. Изучение и анализ поведения индивида, группы, организации с целью понимания, предсказания и усовершенствования индивидуального поведения каждого работника. Способы влияния на организационное поведение.
контрольная работа [21,7 K], добавлен 10.03.2013 Основные принципы и методы теории систем и системного анализа, их использование в процессе принятия управленческих решений и проектировании реальных социально-экономических систем. Планирование и свобода, согласование понятий с точки зрения теории систем.
учебное пособие [1,0 M], добавлен 20.01.2010Теории поведения человека в организации, личность и организация. Рыночная экономика и ее характерные черты. Анализ состава и динамики прибыли. Становление и этапы развития теории и практики менеджмента в России в ХХ в. Теории потребительского поведения.
шпаргалка [834,1 K], добавлен 03.04.2012
