Разработка экспертной системы на основе сетей Байеса для принятия решения о возможности предоставления кредита

Размещено на http://www.allbest.ru/

Содержание

Введение

1. Аналитическая часть

1.1 Понятие кредита. Структура кредита. Принципы кредитования

1.2 Определение экспертных систем, достоинство и назначение

1.3 Области применения экспертных систем

2. Проектнаячасть

2.1 Использование Байесовых сетей

2.2 Пример построения простейшей байесовской сети

2.3 Реализация

2.4 Представление сети Байеса в программе Netica

3. Экспериментальная часть

Заключение

Список литературы

Введение

Банковский кредит одна из наиболее распространенных форм кредитных отношений в экономике, объектом которых выступает процесс передачи в ссуду денежных средств. Банковский кредит представляется, исключительно, кредитно-финансовыми организациями, имеющими лицензию на осуществление подобных операций от Центрального Банка. В роли заемщика выступают юридические лица, инструментом кредитных отношений является кредитный договор. Доход по этой форме кредита банк получает в виде ссудного процента или банковского процента. Что бы решить поставленную задачу о выдачи кредита клиенту, рациональнее, предложив пройти клиенту банка простой тест, программа могла бы сказать, какая вероятность у данного клиента получить кредит именно в этом банке. Программу можно реализовать с помощью сети Байеса.

Байесовы сети представляют собой графовые модели вероятностных и причинно-следственных отношений между переменными в статистическом информационном моделировании. В байесовых сетях могут органически сочетаться эмпирические частоты появления различных значений переменных, субъективные оценки «ожиданий» и теоретические представления о математических вероятностях тех или иных следствий из априорной информации. Это является важным практическим преимуществом и отличает байесовы сети от других методик информационного моделирования.

Наблюдаемые события редко могут быть описаны как прямые следствия строго детерминированных причин. На практике широко применяется вероятностное описание явлений. Обоснований тому несколько: и наличие неустранимых погрешностей в процессе экспериментирования и наблюдений, и невозможность полного описания структурных сложностей изучаемой системы, и неопределенности вследствие конечности объема наблюдений.

На пути вероятностного моделирования встречаются определенные сложности, которые (если отвлечься от чисто теоретических проблем) можно условно разделить на две группы:

технические (вычислительная сложность, «комбинаторные взрывы» и т.п.);

идейные (наличие неопределенности, сложности при постановке задачи в терминах вероятностей, недостаточность статистического материала).

Их можно решить в вероятностных байесовых сетях, которые представляют собой графовые модели причинно-следственных отношений между случайными переменными. В байесовых сетях могут органически сочетаться эмпирические частоты появления различных значений переменных, субъективные оценки «ожиданий» и теоретические представления о математических вероятностях тех или иных следствий из априорной информации. Это является важным практическим преимуществом и отличает байесовы сети от других методик информационного моделирования.

Байесовы сети широко применяются в таких областях, как медицина, стратегическое планирование, финансы и экономика.

1. Аналитическая часть

1.1 Понятие кредита. Структура кредита. Функции кредита. Принципы кредитования

«Кредит происходит от латинского "kreditum" (ссуда, долг). В то же время "kreditum" переводится как "верую", "доверяю". В широком смысле слова -- и с юридической, и с экономической точек зрения -- кредит -- это сделка, договор между юридическими или физическими лицами о займе, или ссуде» . Один из партнеров (ссудодатель, кредитор) предоставляет другому (ссудополучателю, заемщику) деньги (иногда имущество) на определенный срок с условием возврата эквивалентной стоимости, как правило, с оплатой этой услуги в виде процента. При кредите появляется договор займа, или ссуды (понятия займа и ссуды можно использовать как синонимы). В современных условиях все ссуды оформляются в виде денежного кредита, и кредитные отношения являются частью всех денежных отношений. Главное, что отличает денежную ссуду от всех других форм денежных отношений, -- это возвратное движение стоимости. В кредите находят выражение производственные отношения, когда хозяйствующие субъекты, государство, организации или отдельные граждане передают друг другу стоимость на условиях возвратности во временное пользование. Под кредитными отношениями подразумеваются все денежные отношения, связанные с предоставлением и возвратом ссуд, организацией денежных расчетов, эмиссией наличных денежных знаков, кредитованием инвестиций, использованием государственного кредита, совершением страховых операций (частично) и т.д. Деньги выступают как средство платежа всюду, где присутствует кредит. Даже когда заемщик получает, например, семенную ссуду, она оформляется в форме денежного кредита. Следовательно, кредит -- особая форма движения денег. Это категория рыночная. Рынок должен обслуживаться особым фондом денежных средств (назовем его ссудным фондом общества), которые могут предоставляться экономическим субъектом на условиях возвратности. Формой движения ссудного фонда и является кредит. Кредит обслуживает движение капитала и постоянное движение разутых общественных фондов. Благодаря кредиту в хозяйстве, производительно используются средства, высвобождаемые в ходе работы предприятий, в процессе выполнения государственного бюджета, а также сбережения отдельных граждан и ресурсы банков. Как появляются средства, которые можно использовать в качестве заемных ресурсов для удовлетворения нужд товаропроизводителей и государства? Свободные денежные средства образуются в процессе хозяйственной деятельности предприятий. Получив выручку от реализованной продукции, предприятие постепенно, частями тратит ее на покупку сырья, топлива, материалов, часть полученной прибыли оно тоже использует не сразу, а спустя некоторое время после ее поступления. В итоге образуются временно свободные денежные средства на счетах предприятий в банках. Временное высвобождение средств происходит также и в результате того, что стоимость основных фондов переносится на произведенные товары по частям и возвращается к предприятиям в денежной форме. Расходуются эти средства постепенно, в связи, с чем образуются свободные денежные ресурсы в виде неиспользованных амортизационных фондов. Заработная плата рабочим и служащим обычно выплачивается два раза в месяц, а поступление денег за проданную продукцию происходит чаще, что тоже обеспечивает на определенные сроки высвобождение денежных средств. Поступление денежных средств в бюджет и их расходование не всегда совпадают во времени, поэтому на какой-то период образуются свободные остатки денежных средств.

Банковский кредит - это действия по предоставлению банком денежных средств заемщику в размере и на условиях, предусмотренным кредитным договором, и обязанностью заемщика возвратить полученную денежную сумму и уплатить проценты на нее (четкое определение банковского кредита в гражданском кодексе не дано. В п.1 ст. 819 ГК РФ дано лишь понятие кредитного договора: по кредитному договору банк или иная кредитная организация (кредитор) обязуются предоставить денежные средства (кредит) заемщику в размере и на условиях, предусмотренных договором, а заемщик обязуется возвратить полученную денежную сумму и уплатить проценты на нее

Структура кредита

Кредит состоит из элементов, находящихся в тесном взаимодействии друг с другом. Такими элементами являются прежде всего субъекты его отношений. В кредитной сделке субъекты отношений всегда выступают как кредитор и заемщик.

Становление кредитора и заемщика происходит прежде всего на базе товарного обращения. Процесс купли-продажи товаров не всегда приводит к немедленному получению продавцом их денежного эквивалента, покупатель не всегда имеет возможность сразу заплатить за товар, оплата производится только по истечении определенного срока. Так, продавец становится кредитором, покупатель - должником.

Товарное обращение не представляет собой единственную базу возникновения кредитора и заемщика. Кредитор и заемщик появляются во всех случаях, когда на одном полюсе (у одного субъекта) отсрочено получение эквивалента; на другом - его уплата.

Кредитор - сторона кредитных отношений, предоставляющая ссуду. Кредиторами могут стать субъекты, выдающие ссуду, т. е. реально предоставляющие нечто во временное пользование. Для этого чтобы выдать ссуду, кредитору необходимо располагать определенными средствами. Их источниками могут стать как собственные накопления, так и ресурсы, позаимствованные у других субъектов воспроизводственного процесса. В современном хозяйстве банк-кредитор может предоставить ссуду не только за счет своих собственных ресурсов, но и за счет привлеченных средств, хранящихся на его счетах, а также мобилизованных посредством размещения акций и облигаций.

С образованием банков происходит концентрация кредиторов. Мобилизуя свободные денежные ресурсы предприятий и населения, банкиры становятся коллективными кредиторами.

Заемщик -- сторона кредитных отношений, получающая кредит и обязанная возвратить полученную ссуду. Исторически заемщиками были отдельные лица, испытывающие потребность в дополнительных ресурсах. С образованием банков происходит концентрация не только кредиторов, но и значительное расширение состава заемщиков. В современных условиях помимо банков заемщиками выступают предприятия, население и государство. Традиционно банки при этом становятся коллективными заемщиками, поскольку занимают не для себя, а для других.

Помимо кредиторов и заемщиков, элементом структуры кредитных отношений является объект передачи - то, что передается от кредитора к заемщику и что совершает свой обратный путь от заемщика к кредитору. Объектом передачи выступает ссуженная стоимость, как особая часть стоимости. Прежде всего она представляет собой своеобразную нереализованную стоимость.

Высвободившаяся стоимость, оседающая у одного из субъектов кредитных отношений, характеризует замедление ее движения, невозможность в данный момент вступить в новый хозяйственный цикл. Благодаря кредиту стоимость, временно остановившаяся в своем движении, продолжает путь, переходя к новому владельцу, у которого обозначилась потребность в ее использовании на нужды производства и обращения.

Рассмотренная структура кредита характеризует его целостность. Кредит - это не только кредитор (к примеру, банк), не только заемщик (предприятие) или ссуженная стоимость. Структура кредита как целого предполагает единство его элементов.

Функции кредита

При рассмотрении функций кредита следует учитывать отличие их от роли кредита. Если функция -- есть проявление сущности, выражение общественного назначения кредита, то через роль раскрываются результаты его использования на основе выполняемых функций. Но несмотря на различие понятий функций и роли, они взаимосвязаны. Посредством использования функций кредита экономические субъекты и общество в целом добиваются эффективности производства, ускорения обращения и роста доходов. В силу этого выяснение функций кредита имеет большое практическое значение для обеспечения таких условий, при которых они проявлялись бы наиболее эффективно.

Сущность кредита выступает в его трех функциях:

1) распределения на возвратной основе денежных средств (распределительная функция);

2) создания кредитных средств обращения и замещения наличных денег (эмиссионная функция);

3) осуществления контроля за эффективностью деятельности экономических субъектов (контрольная функция).

Распределительная функция кредита обнаруживается как при аккумуляции средств, так и при их размещении, т.е. посредством кредита происходит распределение денежных средств на возвратной основе. Эта функция четко проявляется в процессе предоставления на время средств предприятиям и организациям (так же, как сбережений населения) для удовлетворения их потребностей в денежных ресурсах. Таким образом, хозяйства обеспечиваются необходимым оборотным капиталом и ресурсами для инвестиций. Важная функция кредита -- создание кредитных средств обращения и замещения наличных денег (эмиссионная функция). Проявляется она в том, что в процессе кредитования создаются платежные средства, т.е. обороту предоставляются деньги как в наличной, так и в безналичной формах. Данная функция кредита обнаруживается и тогда, когда на основе замещения наличных денег происходят безналичные расчеты. Хотя функция кредита -- категория объективная, существующая независимо от воли и желания людей, кредитная система может создавать условия, позволяющие полнее использовать кредит для достижения поставленных целей. С учетом этого банкам и заемщикам рекомендуется использовать различные виды ссуд. Выбор их -- дело не только техническое. Выбирая конкретный вид кредита, заемщики учитывают экономическую целесообразность, выясняют, позволяет ли данная форма кредитования наиболее полно использовать ссуду для повышения доходности и развития их деятельности. Рассматривая функции кредита, уместно отметить, что на их основе в хозяйстве осуществляется контроль рублем. Именно на базе кредитных отношений строится наблюдение за деятельностью заемщиков и кредиторов, оцениваются кредитоспособность и платежеспособность хозяйствующих субъектов, контролируется соблюдение принципов кредитования. Это дало основание некоторым авторам говорить о присущей кредиту контрольной функции.

Принципы кредитования

Принципы кредитования объективны по своей природе, но определяя основы организации экономических отношений банка, они как и все другие элементы кредитного механизма получают воздействие извне и их развитие в большей степени зависит от общих задач и состояния экономики на данном этапе. Кроме того, учеными в процессе развития теории кредита формулировались новые принципы кредитования, отвергались отдельные из действовавших или подвергались сомнению правомерность их существования.

Такими принципами являются возвратность, срочность возврата кредита, дифференцированность, обеспеченность и платность, с вложением в них нового содержания, соответствующего рыночным отношениям в экономике. Данное обстоятельство ведет и к совершенствованию механизма банковского кредитования.

Рассмотрим более подробно особенности применения принципов кредитования, их новое содержание.

Принцип возвратности кредита выражает необходимость своевременного возврата полученных от кредитора финансовых ресурсов после завершения их использования заемщиком. Он находит свое практическое выражение в погашении конкретной ссуды путем перечисления соответствующей суммы денежных средств на счет предоставившей ее кредитной организации, что обеспечивает возобновляемость кредитных ресурсов банка как необходимого условия продолжения его уставной деятельности. В отечественной практике кредитования в условиях централизованной плановой экономики существовало неофициальное понятие “безвозвратная ссуда”. Эта форма кредитования имела достаточно широкое распространение, особенно в аграрном секторе, и выражалась в предоставлении государственными кредитными учреждениями ссуд, возврат которых изначально не планировался из-за кризисного финансового состояния заемщика. По своей экономической сущности безвозвратные ссуды являлись скорее дополнительной формой бюджетных субсидий, осуществляемых через посредничество государственного банка, что традиционно осложняло кредитное планирование и вело к постоянной фальсификации расходной части бюджета. В условиях рыночной экономики понятие безвозвратной ссуды столь же недопустимо, как, например, понятие “планово-убыточное частное предприятие”.

“При определении сущности кредита как планомерного движения ссудного фонда понятие “возвратности” выступает в качестве одной из важнейших характеристик кредитных отношений,” - считает Ершева Т.А. По ее мнению, рассмотрение возвратности как важнейшей и неотъемлемой черты самой сущности кредита закономерно, так как возвратное движение ссуженных средств непосредственно определяется особенностями форм собственности и вещественным содержанием товарно-денежных отношений при нашей экономике.

Без возвратности кредитная система не может существовать, следовательно, она является неотъемлемой характеристикой кредита.

Таким образом мы видим, что в экономической литературе некоторые авторы, например, Казигмагомедов А.А., подчеркивают, что “возвратность является неотъемлемым атрибутом кредита, раскрывающим сущность этой экономической категории. А непосредственно принципом кредитования является срочность, т.к. срочность кредитования представляет собой необходимую форму достижения возвратности кредита” . Принцип срочности означает, что кредит должен быть не просто возвращен, а возвращен в строго определенный срок. Сейчас при кредитовании особое, как никогда раньше, значение придается принципу срочности возврата кредита, так как от его соблюдения зависит нормальное обеспечение воспроизводственного процесса денежными средствами и, соответственно, его объемы и темпы роста.

1.2 Определение экспертных систем, достоинство и назначение

Экспертные системы - это яркое и быстро прогрессирующее направление в области искусственного интеллекта.

Искусственный интеллект - самое молодое научное направление. Появление его было подготовлено развитием мощности вычислительных машин.

Искусственный интеллект занимает исключительное положение. Это связано со следующим:часть функций программирования в настоящее время оказалось возможным передать машине. При этом общение с машиной происходит на языке, близком к разговорному. Для этого в ЭВМ закладывают огромную базу знаний, способы решения, процедуры синтеза, программы, а также средства общения, позволяющие пользователю легко общаться с ЭВМ.В связи с внедрением ЭВМ во все сферы человеческой жизни становится возможным переход к безбумажной технологии обработки информации. Если раньше производство ориентировалось на обязательное участие человека, то в настоящее время находят применение безлюдные технологии, основанные на роботизации и автоматизации системы управления. Интеллектуальные системы в настоящее время начинают занимать ведущее положение в проектировании образцов изделий. Часть изделий невозможно спроектировать без их участия.

Системы, относящиеся к системам искусственного интеллекта в настоящее время:

экспертные системы. Первые системы, которые нашли широкое применение. Их элементы используются в системах проектирования, диагностики, управления и играх. Основаны на вводе знаний высококвалифицированных специалистов (экспертов) в ЭВМ и разработке специальной системы по их использованию.

системы естественно-языкового общения (подразумевается письменная речь). Данные системы позволяют производить обработку связанных текстов по какой-либо тематике на естественном языке.

Системы речевого общения.

Системы обработки визуальной информации. Находят применение в обработке аэрокосмических снимков, данных, поступающих с датчиков.

Экспертная система - это набор программ или программное обеспечение, которое выполняет функции эксперта при решении какой-либо задачи в области его компетенции. Экспертная система, как и эксперт-человек, в процессе своей работы оперирует со знаниями. Знания о предметной области, необходимые для работы экспертных систем, определённым образом формализованы и представлены в памяти ЭВМ в виде базы знаний, которая может изменяться и дополняться в процессе развития системы. Экспертные системы выдают советы, проводят анализ, выполняют классификацию, дают консультации и ставят диагноз. Они ориентированы на решение задач, обычно требующих проведения экспертизы человеком-специалистом. В отличие от машинных программ, использующий процедурный анализ, экспертные системы решают задачи в узкой предметной области (конкретной области экспертизы) на основе дедуктивных рассуждений. Такие системы часто оказываются способными найти решение задач, которые неструктурированны и плохо определены. Они справляются с отсутствием структурированности путём привлечения эвристик, то есть правил, взятых «с потолка», что может быть полезным в тех системах, когда недостаток необходимых знаний или времени исключает возможность проведения полного анализа.Главное достоинство экспертных систем - возможность накапливать знания, сохранять их длительное время, обновлять и тем самым обеспечивать относительную независимость конкретной организации от наличия в ней квалифицированных специалистов. Накопление знаний позволяет повышать квалификацию специалистов, работающих на предприятии, используя наилучшие, проверенные решения. Практическое применение искусственного интеллекта на машиностроительных предприятиях и в экономике основано на экспертных системах, позволяющих повысить качество и сохранить время принятия решений, а также способствующих росту эффективности работы и повышению квалификации специалистов.

1.3 Области применения экспертных систем

Области применения систем, основанных на знаниях, могут быть сгруппированы в несколько основных классов: медицинская диагностика, контроль и управление, диагностика неисправностей в механических и электрических устройствах, обучение.

- Медицинская диагностика.

Диагностические системы используются для установления связи между нарушениями деятельности организма и их возможными причинами. Наиболее известна диагностическая система MYCIN, которая предназначена для диагностики и наблюдения за состоянием больного при менингите и бактериальных инфекциях. Её первая версия была разработана в Стенфордском университете в середине 70-х годов. В настоящее время эта система ставит диагноз на уровне врача-специалиста. Она имеет расширенную базу знаний, благодаря чему может применяться и в других областях медицины.

- Прогнозирование.

Прогнозирующие системы предсказывают возможные результаты или события на основе данных о текущем состоянии объекта. Программная система «Завоевание Уолл-стрита» может проанализировать конъюнктуру рынка и с помощью статистических методов алгоритмов разработать план капиталовложений на перспективу. Она не относится к числу систем, основанных на знаниях, поскольку использует процедуры и алгоритмы традиционного программирования. Хотя пока ещё отсутствуют экспертные системы, которые способны за счёт своей информации о конъюнктуре рынка помочь увеличить капитал, прогнозирующие системы уже сегодня могут предсказывать погоду, урожайность и поток пассажиров. Даже на персональном компьютере, установив простую систему, основанную на знаниях, можно получить местный прогноз погоды.

- Планирование.

Планирующие системы предназначены для достижения конкретных целей при решении задач с большим числом переменных. Дамасская фирма Informat впервые в торговой практике предоставляет в распоряжение покупателей 13 рабочих станций, установленных в холле своего офиса, на которых проводятся бесплатные 15-минутные консультации с целью помочь покупателям выбрать компьютер, в наибольшей степени отвечающий их потребностям и бюджету. Кроме того, компания Boeing применяет экспертные системы для проектирования космических станций, а также для выявления причин отказов самолётных двигателей и ремонта вертолётов. Экспертная система XCON, созданная фирмой DEC, служит для определения или изменения конфигурации компьютерных систем типа VAX и в соответствии с требованиями покупателя. Фирма DEC разрабатывает более мощную систему XSEL, включающую базу знаний системы XCON, с целью оказания помощи покупателям при выборе вычислительных систем с нужной конфигурацией. В отличие от XCON система XSEL является интерактивной.

- Интерпретация.

Интерпретирующие системы обладают способностью получать определенные заключения на основе результатов наблюдения. Система PROSPECTOR, одна из наиболее известных систем интерпретирующего типа, объединяет знания девяти экспертов. Используя сочетания девяти методов экспертизы, системе удалось обнаружить залежи руды стоимостью в миллион долларов, причём наличие этих залежей не предполагал ни один из девяти экспертов. Другая интерпретирующая система - HASP/SIAP. Она определяет местоположение и типы судов в тихом океане по данным акустических систем слежения.

- Контроль и управление.

Системы, основанные на знаниях, могут применяться в качестве интеллектуальных систем контроля и принимать решения, анализируя данные, поступающие от нескольких источников. Такие системы уже работают на атомных электростанциях, управляют воздушным движением и осуществляют медицинский контроль. Они могут быть также полезны при регулировании финансовой деятельности предприятия и оказывать помощь при выработке решений в критических ситуациях.

- Диагностика неисправностей в механических и электрических устройствах.

В этой сфере системы, основанные на знаниях, незаменимы как при ремонте механических и электрических машин (автомобилей, дизельных локомотивов и т.д.), так и при устранении неисправностей и ошибок в аппаратном и программном обеспечении компьютеров.

- Обучение.

Экспертные системы, выполняющие обучение, подвергают диагностике, «отладке» и исправлению (коррекции) поведение обучаемого. Примером является обучение студентов отысканию неисправностей в электрических цепях, обучение военных моряков обращению с двигателем на корабле и обучение студентов-медиков выбору антимикробной терапии. Обучающие системы создают модель того, что обучающийся знает и как он эти знания применяет к решению проблемы. Системы диагностируют и указывают обучающемуся его ошибки, анализируя модель и строя планы исправлений указанных ошибок. Они исправляют поведение обучающихся, выполняя эти планы с помощью непосредственных указаний обучающимся.

Большинство экспертных систем включают знания, по содержанию которых их можно отнести одновременно к нескольким типам. Например, обучающая система может также обладать знаниями, позволяющими выполнять диагностику и планирование. Она определяет способности обучаемого по основным направлениям курса, а затем с учетом полученных данных составляет учебный план. Управляющая система может применяться для целей контроля, диагностики, прогнозирования и планирования.

2. Проектная часть

2.1 Использование Байесовых сетей

На практике нам необходимы распределения интересующих нас переменных, взятые по отдельности. Они могут быть получены из соотношения для полной вероятности при помощи маргинализации -- суммирования по реализациям всех переменных, кроме, выбранных.

Приведем пример точных вычислений в простой байесовой сети, моделирующей задачу Шерлока Холмса. Обозначения и смысл переменных в сети : R --был ли дождь, S -- включена ли поливальная установка, C -- влажная ли трава у дома Холмса, и W -- влажная ли трава у дома Ватсона.

Все четыре переменные принимают булевы значения 0 -- ложь, (f) или 1 -- истина (t). Совместная вероятность P(R, S, C, W), таким образом, дается совокупной таблицей из 16 чисел. Таблица вероятностей нормирована, так что

Зная совместное распределение, легко найти любые интересующие нас условные и частичные распределения. Например, вероятность того, что ночью не было дождя при условии, что трава у дома Ватсона -- влажная, дается простым вычислением:

Из теоремы об умножении вероятностей полная вероятность представляется цепочкой условных вероятностей:

P(R, S, C, W) = P(R) * P(S | R) * P(C |R,S)*P(W | R, S, C).

В описанной ранее байесовой сети ориентированные ребра графа отражают суть вероятностей, которые реально имеют место в задаче. Поэтому формула для полной вероятности существенно упрощается:

P(R, S, C, W) = P(R) *P(S) * P(C |R,S)*P(W | R).

Порядок следования переменных в соотношении для полной вероятности, вообще говоря, может быть любым. Однако на практике целесообразно выбирать такой порядок, при котором условные вероятности максимально редуцируются. Это происходит, если начинать с переменных-«причин», постепенно переходя к «следствиям». При этом полезно представлять себе некоторую «историю», согласно которой причины влияют на следствия.

Основные понятия и определения. Законы теории вероятностей

Понятие вероятности ассоциируется с проведением эксперимента, результаты которого, именуемые исходами, изменяются случайным образом. Множество всех возможных исходов эксперимента называется пространством элементарных событий, а любое подмножество этого пространства - событием.

Эксперимент может быть связан также с непрерывным пространством событий. Если в эксперименте, состоящем из n опытов, событие Е имело место m раз, то вероятность P{E} появления события Е математически определяется соотношением



Приведенное определение означает, что если эксперимент повторяется бесконечное число раз, то, искомая вероятность представляется граничным значение дроби m/n.

По определению , где вероятность P{E} равна 0, если событие E невозможно, и 1, если оно достоверно. Законы сложения вероятностей. Для двух событий E и F запись E+F означает их объединение, а EF - пересечение. События E и F называются несовместными (взаимно исключающими), если они не пересекаются, т.е. наступление одного события исключает возможность реализации другого. При принятых определениях закон сложения вероятностей определяется соотношением

Первая строка системы в случае несовместности E и F, вторая - иначе.

Вероятность того, что события E и F произойдут одновременно, обозначается как P{EF}. Если эти события независимы, тогда

Условные вероятности. Для двух события E и F условная вероятность события E при условии, что наступило событиеF, обозначается как P{E|F} и определяется по формуле

Если событие E содержится в событии F (т.е. множество исходов E является подмножеством исходов F), тогда

Два события E и F являются независимыми тогда и только тогда, когда выполняется равенство P{E|F}=P{E}. В этом случае формула условной вероятности сводится к следующему

Теорема умножения, если соответствующие условные вероятности определены

Теорема умножения для большого числа событий, если соответствующие условные вероятности определены

Формула полной вероятности для группы несовместных событий Bi



Рис. 1 Формула Байеса

Пусть Ai - полная группа несовместных событий, тогда формула Байеса (формула перерасчета гипотез) и B некоторое событие положительной вероятности

Доказательство следует из теоремы умножения и формулы полной вероятности.

2.2 Пример построения простейшей байесовской сети

Рассматриваем небольшую яблочную плантацию «яблочного Джека». Однажды Джек обнаружил, что его прекрасное яблочное дерево лишилось листвы. Теперь он хочет выяснить, почему это случилось. Он знает, что листва часто опадает, если:дерево засыхает в результате недостатка влаги; или дерево болеет.Данная ситуация может быть смоделирована байесовской сетью доверия, содержащей 3 вершины: «Болеет», «Засохло» и «Облетело».



Рис. 1 Пример байесовской сети доверия с тремя событиями

В данном простейшем случае рассмотрим ситуацию, при которой каждая вершина может принимать всего лишь два возможных состояний и, как следствие находится в одном из них, а именно:

Вершина (событие) БСД	Состояние 1	Состояние 2
“Болеет”	«болеет»	«нет»
“Засохло”	«засохло»	«нет»
“Облетело”	«да»	«нет»

Вершина “Болеет” говорит о том, что дерево заболело, будучи в состоянии «болеет», в противном случае она находится в состоянии «нет». Аналогично для других двух вершин. Рассматриваемая байесовская сеть доверия, моделирует тот факт, что имеется причинно-следственная зависимость от события “Болеет” к событию “Облетело” и от события “Засохло” к событию “Облетело”. Это отображено стрелками на байесовской сети доверия. Когда есть причинно-следственная зависимость от вершины А к другой вершине B, то мы ожидаем, что когда A находится в некотором определённом состоянии, это оказывает влияние на состояние B. Следует быть внимательным, когда моделируется зависимость в байесовских сетях доверия. Иногда совсем не очевидно, какое направление должна иметь стрелка.Например, в рассматриваемом примере, мы говорим, что имеется зависимость от “Болеет” к “Облетело”, так как когда дерево болеет, это может вызывать опадание его листвы. Опадание листвы является следствием болезни, а не болезнь - следствием опадания листвы.

На приведенном выше рисунке дано графическое представление байесовской сети доверия. Однако, это только качественное представление байесовской сети доверия. Перед тем, как назвать это полностью байесовской сетью доверия необходимо определить количественное представление, то есть множество таблиц условных вероятностей:

Априорная вероятность p(“Болеет”)		Априорная вероятность p(“Засохло”)
Болеет = «болеет»	Болеет = «нет»		Засохло = «засохло»	Засохло = «нет»
0,1	0,9		0,1	0,9

Таблица условных вероятностей p (“Облетело” | ”Болеет”, ”Засохло”)
	Засохло = «засохло»	Засохло = «нет»
	Болеет = «болеет»	Болеет = «нет»	Болеет = «болеет»	Болеет = «нет»
Облетело = «да»	0,95	0,85	0,90	0,02
Облетело = «нет»	0,05	0,15	0,10	0,98

Приведенные таблицы иллюстрируют ТУВ для трёх вершин байесовской сети доверия. Заметим, что все три таблицы показывают вероятность пребывания некоторой вершины в определённом состоянии, обусловленным состоянием её родительских вершин. Но так как вершины Болеет и Засохло не имеют родительских вершин, то их вероятности являются маргинальными, т.е. не зависят (не обусловлены) ни от чего.

На данном примере мы рассмотрели, что и как описывается очень простой байесовской сетью доверия. Современные программные средства (такие как MSBN, Hugin и др.) обеспечивают инструментарий для построения таких сетей, а также возможность использования байесовских сетей доверия для введения новых свидетельств и получения решения (вывода) за счёт пересчёта новых вероятностей во всех вершинах, соответствующих вновь введенным свидетельствам.

В нашем примере пусть известно, что дерево сбросило листву. Это свидетельство вводится выбором состояния «да» в вершине “Облетело”. После этого можно узнать вероятности того, что дерево засохло. Для приведенных выше исходных данных, результаты вывода путем распространения вероятностей по БСД будут:

p( “Болеет” = «болеет» | “Облетело” = «да») = 0,47; p( “Засохло” = «засохло» | “Облетело” = «да») = 0,49.

Расчет в байесовской сети.

Следует отметить, что следствием байесовской теоремы является то, что она поддерживает оценку графа в обоих направлениях. Процесс рассуждения в ЭС сопровождается распространением по сети вновь поступивших свидетельств.

Введение в байесовские сети новых данных приводит к возникновению переходного процесса распространения по байесовской сети доверия вновь поступившего свидетельства. После завершения переходного процесса каждому высказыванию, ассоциированному с вершинами графа, приписывается апостериорная вероятность, которая определяет степень доверия к этому высказыванию (believe - доверять(англ.)):

где D - объединения всех поступивших в систему данных;

Vji - композиционные высказывания, составленные из элементарных, то есть множество значений Xi составляют Vji ;

Xi - пропозиционные переменные (то есть переменные, значениями которых являются высказывания), определяющие состояние вершин БСД.

При этом процесс распространения вероятностей в БСД основывается на механизме пересчёта, в основе функционирования которого лежит следующая последовательность действий:

С каждой вершиной сети ассоциирован вычислительный процесс (процессор), который получает сообщения от соседних (связанных с ним дугами) процессоров.

Этот процессор осуществляет пересчёт апостериорных вероятностей Bel(Vji) для всех возможных значений Vji данной переменной Xi и посылает соседим вершинам ответные сообщения.

Деятельность процессора инициируется нарушением условий согласованности с состояниями соседних процессоров и продолжается до восстановления этих условий.

В некоторых системах, реализующих байесовские сети доверия используется метод noisyorgate, позволяющий существенно упростить вычислительный процесс. Суть его заключается в том, что в ряде примеров вершина «y» может быть условно независима от целого ряда вершин «xr» , где r = 1,2,..., n. Для того, чтобы сократить оценку 2n вероятностей, которые необходимы при использовании таблиц условных вероятностей, и используется данный метод. Согласно ему вероятность «y» в зависимости от n вершин «xr» оценивается как

что позволяет оценить только p(y | x 1), p(y | x 2) ... p(y | x n), и на их основании определить оценку p( y | x1 x2 ... xn).

2.3 Реализация

Основу базы образуют следующие понятия: социальное положение в обществе, достаток и его проявление, а также факторы риска, влияющие на отказ от выдачи кредита. В сети Байеса каждое такое понятие представляется в виде вершины. Имеющиеся между вершинами причинно-следственные связи соответствуют следующему набору финансовых знаний:

- наличие детей показывает ответственность, уверенность в возврате кредита;

- работа на государственных должностях увеличивает вероятность постоянного заработка и возвращения.

Сеть содержит следующие вершины: «Работа в гос. структуре» (содержит информацию о месте работы клиента), «Уровень з/п»(несет информацию о том, благополучии клиента), «Имущество»(связан с информацией о наличии у клиента залоговой базы),«движимое /недвижимое» (информация о «обесценивание» имущества) и т.д.С каждой переменной связана случайная переменная с двумявозможными значениями 1 (да) и 0 (нет).Получаем cеть (риc.2).

Риc. 2 Сеть Байеса для экспертной системы диагностики выдачи кредита

Для полного представления сети необходимо провести ее количественную оценку. Для этого определяются безусловные вероятности для каждой из двух маргинальных вершин и условные вероятности для остальных подчиненных вершин. При определении безусловных вероятностей предполагались следующие статистические данные о некоторой достаточно большой группе людей: 1% людей посещал Азию, 50% людей курит.

Условные вероятности между связанными вершинами для рассматриваемого примера приведены ниже в виде продукционных правил, которые определяются экспертами.

1. ЕСЛИ клиент работает на гос. должности, ТО уровень з/п высокий P(«высокий») = 80%.

2. ЕСЛИ клиент не работает на гос. должности, ТО P(«высокий») = 60%

Структура сети, а также связанный с ней набор из условных ибезусловных вероятностей образуют базу знаний ЭС. Далее она может быть реализована средствами системы NETICA.

2.4 Представление сети Байеса в программе Netica

При загрузке системы NETICA появляется окно, которое содержит строку меню, панель инструментов, окно сети, в котором в режиме редактирования открывается новая пустая сеть, что позволяет начать ее построение

Добавление вершин производится нажатием клавиши F9 с последующим щелчком мышью в окне сети.

Для каждого узла должны быть определены его свойства, включающие имя, название, набор значений возможных состояний, таблицу вероятностей и т.д.



Рис. 3 Добавление свойств вершины

Далее необходимо задать значения безусловных вероятностей наличия этих состояний: P(da) =70 %, P(Net) = 30%. В программе для этого заполняется таблица вероятностей, которая вызывается через кнопку Table. (Рис.4.)

Рис. 4 Задание значений безусловных вероятностей

Установление причинно-следственных связей между узлами

После создания, размещения и определения безусловных вероятностей свойств всех узлов их нужно соединить друг с другом в соответствии с причинно-следственными связями между ними. Для этого используется значок стрелки на панели инструментов программы. Далее следует задать таблицы условных вероятностей для каждого из подчиненных узлов.

На рисунке показана таблица таких значений между узлами «Возраст» и «Семейное положение», которая имеет следующую интерпретацию:

- если клиент находится в возрасте старше 25, то вероятность наличия у него семьи составляет 60%;

- если клиент моложе 25, то вероятность наличия у него семьи 30% (Риc.5).

Риc. 5 Задание значений условных вероятностей

Для остальных узлов это делается аналогичным образом.

кредит экспертный байес

3. Экспериментальная часть

Примеры работы сети Байеса

Компиляция сети Байеса. После задания все условных вероятностей между узлами сети она должна быть откомпилирована. Дляэтого нужно выбрать пункт меню Network->Compile. Если компиляция прошла без ошибок, то сеть готова к использованию. Результатомкомпиляции также являются вычисленные безусловные вероятностизначений не маргинальных вершин сети. (Рис.6)

Риc. 6 Пример работы программы для вычисления выдачи кредита

Если ставим что 100% работают в государственных органах, то вероятность выдачи кредита повышается на 4 процента, так как «бюджетники» получают стабильную и высокую заработную плату(риc.7).

Р

Риc. 7 Пример работы программы для выдачи кредита изменяя процент работающих на гос. должностях

Изменяем процент не семейных,уровень доходов и кредитную историю получаем результаты

Риc. 8 Пример работы программы для выдачи кредита изменяя процент не семейных, уровень доходов и кредитную историю

Получаем, что вероятность получения кредита для таких людей, составляет 50 процентов.

Меняя процент людей работающих в гос. Структуре, ставим маленький стаж, но при этом будет гражданство этого государства и наличие недвижимого залогового имущества, вероятность выдачи кредита составляет 51,4 %.

Рис. 9 Пример работы программы для выдачи кредита

Изменяем цифры, что клиент не иностранец, проживающий в данной стране более 3 лет, имеется гражданство этой страны, но с плохой кредитной историей, вероятность получения кредита состоявляет 60 %(рис.10).



Рис. 10 Пример работы программы для выдачи кредита

Заключение

Байесовы вероятностные методы обучения машин являются существенным шагом вперед, в сравнении с популярными моделями «черных ящиков». Они дают понятное объяснение своих выводов, допускают логическую интерпретацию и модификацию структуры отношений между переменными задачи, а также позволяют в явной форме учесть априорный опыт экспертов в соответствующей предметной области.

Благодаря удачному представлению в виде графов, байесовы сети весьма удобны в пользовательских приложениях.

Байесовы сети базируются на фундаментальных положениях и результатах теории вероятностей, разрабатываемых в течение нескольких сотен лет, что и лежит в основе их успеха в практической плоскости.

Байесова методология, в действительности, шире, чем семейство способов оперирования с условными вероятностями в ориентированных графах. Она включает в себя также модели с симметричными связями (случайные поля и решетки), модели динамических процессов (марковские цепи), а также широкий класс моделей со скрытыми переменными, позволяющих решать вероятностные задачи классификации, распознавания образов и прогнозирования.

В ближайшем будущем предполагается значительно расширить применение Байесовых сетей доверия. Например, на одном из сайтов поисковиков конструируются байесовские сети для моделирования успешных запросов, поступающих от пользователей. Эти сети могут пополнять регистрационный файл поискового сервера назначаемыми категориями предполагаемых целей информации для обеспечения возможности предсказания модификаций запросов.

Список литературы

1. Башмаков, А.И. Интеллектуальные информационные техно-

логии: учеб пособие для вузов / А.И. Башмаков, И.А. Башмаков. - М.: МГТУ им. Н.Э. Баумана, 2005. - 302 с.

2. Острейковский, В. А. Информатика. - М.: Высшая школа, 1999.-206 c.

3. Романов, В.П. Интеллектуальные информационные системы

в экономике: учеб.пособие для вузов / В.П. Романов. - М.: Экзамен, 2003. - 494 с.

4. Тельнов, Ю.Ф. Интеллектуальные информационные системы в экономике: учеб.пособие для вузов / Ю.Ф. Тельнов. - М.:Синтег,2002 - 306с.

Размещено на Allbest.ru

...