Характеристика, виды и порядок проведения экспертного оценивания

Размещено на http://www.allbest.ru

Размещено на http://www.allbest.ru

1. Экспертное оценивание

Экспертное оценивание -- процедура получения оценки проблемы на основе мнения специалистов (экспертов) с целью последующего принятия решения (выбора).

Его задачей является выражение своего мнения о качестве объекта или явления по определенной шкале в соответствии с предусмотренными для этого правилами.

Основное содержание метода экспертных оценок заключается в рациональной организации работы одного или нескольких специалистов над поставленной проблемой с регистрацией и последующей обработкой полученных данных.

Существует две группы экспертных оценок:

1. Индивидуальные методы основаны на использовании мнений экспертов, независимых друг от друга. Информация, которую получает заказчик от эксперта, отличается уникальностью и ориентацией на проблему, имеющую локальный характер.

Несмотря на то, что знания отдельного эксперта являются ограниченными, что не всегда дает возможность получить максимально достоверную информации об объекте оценки, обращение к этим методам является достаточно обоснованным. Преимущества этих методов заключены не только в дешевизне индивидуальных экспертиз, но и в характере самой процедуры, отличающейся глубиной и последовательностью проникновения в предмет. Использование индивидуальных методов позволяет исключить возможность межличностного влияния, способного исказить достоверность экспертной оценки. Ряд экспертных методов трудно отнести к индивидуальным или коллективным. Кроме того, в процессе их применения также используются как качественные, так и количественные критерии. Таким образом, можно выделить особую группу эвристических методов, значение которых заключается в мобилизации творческого мышления в решении сложных комплексных задач.

1. Метод гирлянд и ассоциаций, разработанный в 70-е г. советским ученым Г. Бушем, предполагает изучение схожего по свойствам объекта, на базе сличения которых выявляются особенности, характерные для исследуемого объекта.

Метод предполагает прохождение следующих этапов.

1. Определение аналогов объекта.

2. Выбор случайных объектов.

3. Составление комбинаций из элементов гирлянд аналогов объекта и случайных объектов.

4. Составление перечня или таблицы признаков случайных объектов.

5. Развитие идей посредством поочередного присоединения к объекту и его аналогам признаков случайных объектов.

6. Генерирование гирлянд ассоциаций (поочередно из каждого признака случайных объектов вырабатывается гирлянда «вторичных» понятий и признаков).

7. Развитие новых идей путем попыток комбинирования элементов гирлянды ассоциаций по признакам с элементами гирлянды аналогов объекта.

8. Выбор альтернативы, то есть анализ полученного множества идей и принятие решения о прекращении генерирования гирлянд ассоциаций и комбинирования понятий.

9. Оценка и отбор рациональных вариантов идей.

10. Выбор предпочтительного варианта.

Сферой применения названного метода может стать сложная проблемная ситуация, слабо изученная, в отношении которой нет сложившегося мнения. Метод может быть реализован только при условии большой предварительной работы, заключающейся в глубоком изучении свойств аналогов исследуемого объекта, целесообразности их привлечения, формировании психологической установки экспертов и т.д.

2. Метод парных сравнений основан на простом сопоставлении экспертом альтернативных вариантов, из которых он должен выбрать наиболее предпочтительный. Метод позволяет рассчитывать равноценность или принципиальную несравнимость представленных альтернатив, в связи с чем они исключаются из анализа. В ходе такого сравнения эксперт не только отбирает лучшие варианты, но и формулирует критерии, позволяющие осуществить такой выбор, подчеркивая свойства и признаки отобранной альтернативы.

3. При использовании метода векторов предпочтений эксперту предъявляется весь набор оцениваемых альтернативных вариантов и предлагается для каждого из них указать, сколько альтернативных ему вариантов он опережает. Полученную информацию можно изобразить в виде вектора, одним из компонентов которого является число альтернативных вариантов, превосходящих первый, вторым компонентом -- число альтернатив, которые превосходят второй и т.д. Примером векторного представления 10 альтернативных вариантов служит такая последовательность (5,0,7,3,2,1,4,9,8,6).

Упоминая в системе предпочтения каждый из вариантов не более одного раза, эксперт проводит строгое ранжирование представленных вариантов на основе предварительно сформулированного критерия. Использовать этот метод можно и при коллективной экспертизе, представляя коллективный взгляд на соотношение рассматриваемых альтернатив.

4. Метод фокальных объектов, разработанный в 50-е гг. XX века американским ученым Ч. Вайтингом, заключается в перенесении признаков случайно отобранных аналогов на исследуемый объект. Отличительным признаком данного метода является то, что он совершенно исключает количественный подход и нацелен, главным образом, на концентрацию внимания исследователя на так называемом фокальном объекте, служащим основой сопоставления с объектами, составляющими поле направленного случайного поиска. Фокальные точки спонтанно выбираются всеми индивидами в силу особой роли первых в отношении социально однородной группы, сформированной вокруг базовых ценностей, которые разделяют члены таких групп.

Примером фокального объекта может служить примечательное для данного территориального образования культовое здание, служащее местом встреч.

В пользу использования этого метода при проведении экспертных оценок говорит то обстоятельство, что значительная часть научных открытий делается на основе обобщения фактов, находящихся на периферии стратегии направленного поиска. Путем сопоставления фокального объекта и группы случайных объектов производится сравнение аналоговых признаков с признаками фокального объекта, по результатам которого производится сравнение объектов и определяется перечень мер по совершенствованию роли фокального объекта в моделируемом процессе.

Процедура применения метода предполагает прохождение следующих этапов.

Выбор фокального объекта.

Выбор трех-пяти случайных объектов.

Составление списков признаков для каждого случайного объекта.

Генерирование идей посредством присоединения к фокальному объекту признаков случайных объектов.

Развитие полученных сочетаний путем свободных ассоциаций.

Оценка полученных идей и отбор полезных решений.

5. Индивидуальный экспертный опрос возможен в форме интервью или в виде анализа экспертных оценок.

Метод интервью означает беседу заказчика с экспертом, в ходе которой заказчик в соответствии с разработанной программой ставит перед экспертом вопросы, ответы на которые значимы для достижения программных целей.

Анализ экспертных оценок предполагает индивидуальное заполнение экспертом (экспертами) разработанного заказчиком формуляра, по результатам которого производится всесторонний анализ проблемной ситуации и выявляются возможные пути в ее решении. Свои соображения эксперт выносит в виде отдельного документа, составленного на основе тщательного обследования объекта. Анализ экспертных оценок может быть произведен на основе использования ряда методов, в основе которых лежит выбор оптимальной альтернативы в определении варианта решения.

6. Метод средней точки используется при большом количестве альтернативных решений. Для этого формулируются два альтернативных варианта решения, один из которых менее предпочтителен, второй наиболее. После этого эксперту предлагается подобрать третий альтернативный вариант, оценка которого расположена между значениями первой и второй альтернативы. Процедура завершается, когда определяется сравнительная предпочтительность всех участвующих в экспертизе альтернативных вариантов.

7. Метод Черчмена-Акоффа.

В соответствии с этим методом все альтернативные варианты ранжируются по предпочтительности, и каждому из них эксперт назначает количественные оценки. Если один вариант (al) по предпочтительности выше другого (а2), то их значения суммируются (al + а2).

Эксперт сопоставляет по предпочтительности альтернативный вариант (al) и сумму других альтернативных вариантов.

Если (al) остается предпочтительным, то и его значение будет выше суммарного значения других альтернативных вариантов, в противном случае -- наоборот. Если альтернативный вариант (al) на каком-то этапе оказался предпочтительнее суммы остальных вариантов и для оценок это соотношение подтверждается, то (а1) из дальнейших рассмотрений исключается.

Преимуществом данного метода является допущение экспертами корректировок в ходе обсуждения альтернативных вариантов. Например, в ходе оценки может определяться сумма наибольшего числа альтернативных вариантов, исключающая менее предпочтительные, которая меньше, чем (al). Если альтернативные варианты правильно иерархизированы с точки зрения предпочтительности, т.е. значение каждого предыдущего альтернативного варианта больше суммы последующих, то в корректировке оценки экспертов нет необходимости. В противном случае, корректировка экспертных оценок является целесообразной.

8. Метод лотерей.

В соответствии с методом имеющиеся альтернативы распределяются в порядке убывания предпочтительности, для обозначения которой эксперт указывает такую вероятность (р), при которой альтернативный вариант (а2) равноценен лотерее; альтернативный вариант (al) встречается с вероятностью (р), а альтернативный вариант (а3) встречается с вероятностью (1 -р). На основе последовательной оценки альтернатив можно рассчитать линейную функцию полезности, внеся в обозначение альтернативных вариантов численные значения:

a1p1 + a2p2 + ...anрn,

где: р -- вероятности, с которыми рассматриваются альтернативные варианты al, а2, an.

Коллективные методы экспертных оценок.

Коллективные методы (методы организации коллективной мыследеятельности) являются наиболее эффективными с точки зрения достижения максимальной объективности экспертной оценки, поскольку предполагают использование широкого и представительного круга специалистов. Проведенные в университете Буффало исследования форм коллективной мыследеятельности показали, что групповое мышление производит на 70 % больше ценных новых идей, чем сумма индивидуальных мышлений. Успехи команд «знатоков» в популярной в 80-90-е г. российской телевизионной игре «Что? Где? Когда?» подтверждают выводы американских ученых.

В целом методы организации коллективной генерации идей можно разделить на несколько видов.

Мозговой штурм.

Рождение метода «мозгового штурма» принято связывать с именем американского ученого А. Осборна, разработавшего его основы в 1957 г. Использование метода позволяет находить выход из наиболее сложных и запутанных ситуаций, в решении которых отсутствуют готовые рецепты.

Главная цель «мозгового штурма» заключается в стимулировании творческого процесса генерации идей, возможного в условиях коллективного обсуждения. Метод позволяет в условиях неопределенной ситуации разработать максимальное количество возможных решений, концентрируя внимание участников на обсуждаемой проблеме.

Характерной чертой данного метода является процедура отделения стадии генерации идей от стадии их оценки. Участники аналитической группы, производящие оценку, как правило, изолированы от участников обсуждения. В то же время необходимо принимать во внимание ряд других требований к организации процесса обсуждения, соблюдение которых позволит воспользоваться всеми преимуществами данной технологии.

1. К процессу обсуждения должно быть допущено максимально широкое число заинтересованных лиц, среди которых обеспечивается представительство людей различных профессий, квалификаций, специальностей. Вместе с тем, общее число членов такой группы не должно превышать 10-15 человек. Ограничение численности связано с необходимостью глубокого обсуждения представленных версий решения проблемной ситуации.

2. Ответственный за проведение «мозгового штурма» организатор должен обеспечить отсутствие административного воздействия на мнение слушателей. На мнение выступающего ни в коем случае не должен оказывать влияния авторитет стоящего над ним руководителя. Участники «штурма» вольны высказывать любые, даже самые безумные решения. Ни одна из идей не должна отметаться с порога организаторами обсуждения и членами аналитической группы. Чем больше сложившихся стереотипов может быть разрушено в ходе такого обсуждения, тем больше вероятность, что решение самой запутанной и сложной ситуации будет найдено.

3. Одним из важных условий в использовании данного метода является недопущение в ходе обсуждения критики представленных подходов. Оценка сделанных предложений обычно производится позднее. В ходе обсуждения опытный ведущий-методолог может только направлять мнение участников, заостряя или меняя тематическую направленность дискуссии. В случае неудачного хода дискуссии ведущий вправе поставить вопрос о снятии проблемы с обсуждения или целесообразности ее перенесения на другой срок, другой состав.

4. Проведенная на заключительном этапе реализации метода оценка предваряет возможность создания комбинации вынесенных идей, являющихся продуктом коллективной мыследеятельности.

Главным преимуществом метода «мозгового штурма» является нацеленность на нахождение нестандартных решений, способных реализоваться при максимально открытом и свободном режиме обсуждения проблемы. Такой режим обсуждения позволяет не только обозначить возможные направления в решении актуальных проблем, но и сформировать группу людей, обладающих высокими креативными способностями, что чрезвычайно важно для организации любого типа. Несмотря на свою внешнюю простоту и доступность, метод «мозгового штурма» является очень эффективной технологией генерирования новаторских идей. Однако такая простота и доступность лежит в основе недостатков, характерных для практического использования этого метода. Основным из этих недостатков является невозможность глубокого проникновения в предмет обсуждения всеми задействованными в нем участниками. Отсюда, отдельные версии могут носить неконкретный и поверхностный характер, что значительно снизит эффект такого обсуждения. С целью преодоления этого недостатка организаторам обсуждения нужно уделить главное внимание подбору участников обсуждения и составу аналитической группы.

Методика судов.

Суть методики заключается в такой организации обсуждения проблемной ситуации в группе, когда одна сторона разрабатывает самостоятельные предложения, а другая -- дает критику всем этим предложениям. Использование этой методики воспроизводит сценарий суда, в котором происходит состязание между обвинением и защитой. Цель методики заключена в выявлении наиболее аргументированного и оптимального решения, полученного в ходе обстоятельной экспертизы.

Характерной чертой методики судов является ее ролевое исполнение, которое позволяет участникам обсуждения наиболее полно проявить себя в организационном процессе, осознавая в нем не только собственное место, но и место других служб и должностных функций.

Метод «черного ящика».

Главным достоинством метода «черного ящика» является минимизация возможного влияния заинтересованных лиц на принятие неэффективных решений. Метод нацеливает на выделение специального аналитического центра, который делает заключение исключительно по разработкам независимых экспертов, оценивающих перспективы принятия решений по определенному перечню проблем.

На первом этапе экспертам выдается информация о характере и структуре проблемной ситуации. Эксперты самостоятельно разрабатывают способы решения данной проблемной ситуации и передают полученную информацию в аналитический центр «black box», который на основе анализа экспертных отчетов вырабатывает предложения по решению выявленных в ходе анализа проблем.

Метод эвристического прогнозирования.

Использование данного метода предполагает привлечение к работе экспертов узкой специализации, которые на основе предварительно разработанных анкет и таблиц должны разработать общую модель исследуемого объекта. Основной трудностью в использовании этого метода является процедура подбора экспертов, поскольку их специализация и профиль должны обеспечить возможность целостного представления объекта. Успешное выполнение этой задачи позволит сформулировать ряд нормативных характеристик объекта, которые могут послужить базой для определения вероятных путей их достижения.

Таким образом, метод эвристического прогнозирования можно рассматривать как одну из технологий нормативного прогноза, характерной чертой которой является предсказание возможных тенденций, ведущих к предварительно сформулированному результату. Особую роль метод эвристического прогнозирования играет, к примеру, в случае экспертной оценки перспектив понижения цен на нефть на мировых рынках с точки зрения проявления факторов, приводящих к этому понижению. Удачно составленный экспертами нормативный прогноз позволит изыскать превентивные меры для нейтрализации факторов, способных вызвать неблагоприятный результат.

Синектический метод.

Родоначальником синектического метода принято считать У. Гордона, организовавшего в 1960 г. специальное предприятие, специализирующееся на решении инновационных задач. Появление синектического метода стало возможным в качестве реакции на недостатки метода «мозгового штурма», обретшего в середине XX века широкую популярность.

Главным недостатком метода «мозгового штурма», с точки зрения У. Гордона, представлялся запрет на критику, ставший визитной карточкой метода «мозгового штурма». Отсутствие критики в обсуждении актуальных проблем не способствует их глубокому осознанию. Преодолеть этот недостаток возможно путем формирования постоянных групп: в них хорошо знающие друг друга сослуживцы не боятся критики и реагируют на нее недостаточно спокойно. Руководитель, координирующий процесс обсуждения, делает акцент на использование аналогий исследуемой проблемной ситуации, что делает процесс обсуждения более свободным и способствует более активной генерации идей.

Одним из преимуществ синектического метода является возможность в достижении консолидации между различными уровнями управления, задействованными в процессе вынесения экспертной оценки. Применение метода является целесообразным в силу того обстоятельства, что в ходе принятия экспертных оценок обсуждение проблем проходит между представителями одного уровня, что позволяет им высказываться откровенно и взвешенно. При этом необходимо учитывать мнение не только представителей высших звеньев управления, которые зачастую могут иметь весьма общее представление об объекте оценки, но и рядовых исполнителей, чьи знания об объекте являются очень ценными и практически значимыми.

Технология метода предполагает прохождение двух этапов. На начальном этапе аккумулируются мнения о решении проблемной ситуации среди представителей различных уровней управления. Использование синектического метода придает особое значение этому этапу, где определяются основные параметры исследуемой проблемы. На заключительном этапе собранные результаты анализируются, группируются, и выстраивается общая модель поведения.

Синектический метод является значимым в практике японских предприятий, где фактору причастности персонала к принятию решений придается большое значение. Благодаря консолидации интересов между экспертными уровнями, достигается не только социальная стабильность, но выявляется уникальный способ осознания и разрешения актуальных проблем.

Метод дневников.

Характерным признаком этого метода является его обезличенность и предельная объективность. Реализация метода возможна лишь при наличии документальных источников, по которым исключительно и проводится акт экспертизы. Чаще всего метод используется в структуре управления с жестко регламентированной системой должностных инструкций. Объектом экспертной оценки выступают, как правило, вахтовый журнал, инструктивные документы, на основе которых вырабатываются рекомендации по совершенствованию деятельности предприятий.

Метод Дельфи.

Метод Дельфи является, пожалуй, самым популярным из экспертных методов, и его популярность напрямую связана с эвристическими возможностями самого метода, позволяющими решать сложные комплексные задачи. Метод Дельфи был разработан в 1964 г. сотрудниками научно исследовательской корпорации РЭНД О. Хелмером и Т. Гордоном.

Сущность метода заключается в последовательном анкетировании мнений экспертов по интересующей организаторов экспертизы проблеме. Метод предполагает серию опросов экспертов, не имеющих возможности вступать друг с другом в непосредственный контакт и получающих информацию о заключениях других лишь по их письменным отчетам. Цель метода заключается в вынесении объективной и точной оценки существующих альтернатив с целью принятия оптимальных и социально приемлемых решений.

На первом этапе экспертам предлагают дать заключение о целесообразности выбора того или иного варианта решения проблемы, основанного на логике доказательства такого выбора и интуиции эксперта. На втором этапе (обсуждения) эксперты обмениваются заключениями через координатора экспертизы, учитывая во втором варианте собственного отчета доводы и аргументацию своих коллег. Процесс экспертизы может продолжаться до тех пор, пока не будет получена максимально консолидированная оценка экспертами сложившейся проблемной ситуации и предложен наиболее оптимальный и обоснованный способ ее решения.

Использование метода возможно лишь при соблюдении ряда условий, способных оказать влияние на его эффективное применение в отборе наилучшей альтернативы. Организационные требования к использованию метода Дельфи.

1. Группы экспертов должны быть стабильными и численность их должна удерживаться в определенных рамках.

2. Время между этапами опроса должно составлять не более месяца.

3. Вопросы в анкетах должны быть тщательно продуманы и четко сформулированы.

4. Число туров (этапов) должно быть достаточно, чтобы обеспечить всем участникам возможность ознакомиться с причиной той или иной оценки, а также и для критики этих причин.

5. Необходимо иметь самооценку компетенции экспертов по рассматриваемым проблемам.

6. Необходима формула согласованности оценок, основанная на данных самооценок.

7. Следует установить влияние различных видов передачи информации экспертам по каналам обратной связи.

8. Необходимо установить влияние общественного мнения на экспертные оценки и на сходность этих оценок.

9. В ходе реализации метода должен проводиться систематический отбор экспертов, основанный на данных экспертизы по турам и самооценкам.

Важнейшим достоинством метода является использование в нем количественных показателей, позволяющих делать точные и аргументированные заключения.

Совместное мнение обладает большей точностью, чем индивидуальное мнение каждого из специалистов. Данный метод применяют для получения количественных оценок качественных характеристик и свойств. Например, оценка нескольких технических проектов по их степени соответствия заданному критерию, во время соревнования оценка судьями выступления фигуриста.

2. Этапы экспертного оценивания

экспертный коллективный оценивание

Постановка цели исследования.

Экспертное оценивание предполагает создание некого разума, обладающего большими способностями по сравнению с возможностями отдельного человека. Источником возможностей мультиразума является поиск слабых ассоциаций и предположений, основанных на опыте отдельного специалиста. Экспертный подход позволяет решать задачи, не поддающиеся решению обычным аналитическим способом, в том числе:

Выбор лучшего варианта решения среди имеющихся.

Прогнозирование развития процесса.

Поиска возможного решения сложных задач.

Перед началом экспертного исследования необходимо четко определить его цель (проблему) и сформулировать соответствующий вопрос для экспертов. При этом рекомендуется придерживаться следующих правил:

Четкое определение условий, времени, внешних и внутренних ограничений проблемы.

Возможность ответа на вопрос с доступной человеческому опыту точностью.

Вопрос лучше формулировать как качественное утверждение, чем как оценку числа. Для численных оценок не рекомендуется задавать более пяти градаций.

Эксперты оценивают возможные варианты, и не следует ожидать от них построения законченного плана действий, развернутого описания возможных решений.

Выбор формы исследования, определение бюджета проекта.

Существующие виды экспертных оценок можно классифицировать по признакам:

По форме участия экспертов: очное, заочное. Очный метод позволяет сосредоточить внимание экспертов на решаемой проблеме, что повышает качество результата, однако заочный метод может быть дешевле.

По количеству итераций (повторов процедуры для повышения точности) -- одношаговые и итерационные.

По решаемым задачам: генерирующие решения и оценивающие варианты.

По типу ответа: идейные, ранжирующие, оценивающие объект в относительной или абсолютной (численной) шкале.

По способу обработки мнений экспертов: непосредственные и аналитические.

По количеству привлекаемых экспертов: без ограничения, ограниченные. Обычно используется 5 -- 12 человек экспертов.

Наиболее известные методы экспертных оценок: метод Дельфи, мозговой штурм и метод анализа иерархий. Каждому методу соответствуют свои сроки проведения и потребность в экспертах. После выбора метода экспертного оценивания можно определить затраты на процедуру, которые включают оплату экспертов, аренду помещения, приобретение канцтоваров, оплату специалиста по проведению и анализу результатов экспертизы.

Подготовка информационных материалов.

Эксперты перед вынесением суждения должны разносторонне рассмотреть представленную проблему. Для проведения этой процедуры необходимо подготовить информационные материалы с описанием проблемы, имеющиеся статистические данные, справочные материалы, бланки анкет, инвентарь. Следует избегать следующих ошибок: упоминать разработчиков материалов, выделять тот или иной вариант решения, выражать отношение руководства к ожидаемым результатам. Данные должны быть разносторонние и нейтральные. Заранее необходимо разработать бланки анкет для экспертов. В зависимости от метода они могут быть с открытыми и закрытыми вопросами, ответ может даваться в виде суждения, парного сравнения, ранжированного ряда, в баллах или в виде абсолютной оценки.

Саму процедуру проводит независимый модератор процедуры, который контролирует соблюдение регламента, раздает материалы и анкеты, но сам не высказывает свое мнение.

Подбор экспертов.

Эксперты должны обладать опытом в областях, соответствующих решаемым задачам. При подборе экспертов следует учитывать момент личной заинтересованности, который может стать существенным препятствием для получения объективного суждения. С этой целью, например, применяют методы Шара, когда один эксперт, наиболее уважаемый специалист, рекомендует ряд других и далее по цепочке, пока не будет подобран необходимый коллектив.

Проведение экспертизы.

Проведение процедуры отличается в зависимости от используемого метода. Общие рекомендации:

Препятствовать давлению авторитетов (эксперт часто боится противоречить мнению большинства или наиболее уважаемого специалиста).

Установить и соблюдать регламент. Увеличение времени на принятие решения сверх оптимального не повышает точность ответа.

Анализ результатов (обработка экспертных оценок).

Основные этапы обработки экспертных оценок:

- определение компетенции экспертов;

- определение обобщенной оценки;

- построение обобщенной ранжировки объектов в случае нескольких оцениваемых объектов или альтернатив);

- определение зависимостей между ранжировками;

- оценка согласованности мнений экспертов. При отсутствии значимой согласованности экспертов необходимо выявить причины несогласованности (наличие групп) и признать отсутствие согласованного мнения (ничтожные результаты);

- оценка ошибки исследования;

- построение модели свойств объекта (объектов) на основе ответов экспертов (для аналитической экспертизы);

- подготовка отчёта (с указанием цели исследования, состав экспертов, полученная оценка и анализа результатов).

Подготовка отчета с результатами экспертного оценивания.

Размещено на Allbest.ru