Оценка потребностей

Понятие оценки потребностей как процесса, который ведет к принятию решения по социальной поддержке. Последовательность действия при оценке потребностей. Оценка уровня доходов получателя социальной помощи: проверка нуждаемости, программ и проектов.

Рубрика Социология и обществознание
Вид лекция
Язык русский
Дата добавления 28.09.2018
Размер файла 347,4 K

Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже

Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.

Если программу осуществляет частная компания, то многое может решать рынок: спрос на услугу среди населения и конкуренция между разными организациями, а качество услуг может влиять на уровень удовлетворенности пользователей и следовательно, на их выбор в пользу данного или другого сервиса. Существует представление о том, что «рынок все расставит по своим местам», т.е. со временем плохие программы исчезнут с рынка, останутся только хорошие. Однако, если программу осуществляет государственная или некоммерческая организация, то удовлетворенность пользователей обычно не имеет большого значения: ведь программа может быть единственной в городе или районе, нацеленной на определенную группу людей, предоставляющая данный вид услуг бесплатно. В этом случае она будет осуществляться независимо от спроса и мнения клиентов.

В свою очередь, частные фирмы могут организовывать подобные программы для своих сотрудников, при этом их качество тоже не зависит от того, насколько удовлетворен клиент. В то же время, многих организаторов программ заботят вопросы, какой же эффект имеют государственные или частные инвестиции. Соответствуют ли затраты тому качеству, которым характеризуются услуги? Получены ли ожидаемые результаты и соответствуют ли они поставленным целям? Насколько адекватны применяемые методы принципам программы? Можно ли уменьшить расходы, увеличить результативность? На эти вопросы трудно ответить, не проведя систематического оценивания.

Применительно к социальной политике и социальной работе, оценка - это ответ на вопрос, насколько успешна оцениваемая социальная программа. Однако ответить на вопрос «что такое успех программы», не так просто. Критерии успешности программы могут быть самыми разными. Это зависит от того, кто заинтересован в проведении оценки программы, какие результаты он хочет получить и как будет их использовать. Если к тому же учесть, что социальные программы весьма разнообразны, то возникает вывод, что один из важнейших атрибутов оценки и ее исходная точка - это цель оценки.

Оценка социальной программы может быть вызвана самыми разными потребностями, например: анализ выполнения программы; корректировка содержания программы (в том числе, уточнение целей и задач, переориентирование программы на реалистичные результаты); попытка активизировать работу по выполнению программы; повышение эффективности сбора данных; экспертиза дополнительных ресурсных потребностей; анализ причин успехов и неудач выполнения программы; учет ошибок и недостатков программы при разработке других проектов; привлечение внимания общественности; информирование лиц и организаций, принимающих решения; защита программы от критики; анализ разногласий среди исполнителей, возникших по ходу реализации программы.

Оценку можно проводить на разных этапах реализации программы. Предварительную оценку - до начала запуска программы для анализа ее качества и соответствия потребностям города; промежуточную - во время реализации программы для оценки ее первичных результатов и корректировки в случае необходимости; обобщающую - после завершения программы для анализа ее результатов, учета ее недостатков и преимуществ при разработке следующих программ.

Этап подготовки и планирования оценки столь же важен, сколь и ее результаты. Ключевое место в нем занимает структура (или дизайн) оценки. Структура оценки определяет состав и план работ, а также, какая информация необходима для проведения оценки, как она будет получена и с помощью каких методов будет обработана; сколько времени уйдет на проведение оценки и какие ресурсы понадобятся для ее проведения.

Формативная оценка помогает менеджерам программ, практикам, специалистам, планирующим программу, улучшить программу в процессе ее разработки. Суммативная оценка проводится для предоставления информации по завершении программы или, по крайней мере, одного из ее циклов, касательно ее продолжения, прекращения, коренного изменения. Оценка процесса/результатов проводится в течение программы и по ее завершении. Эта информация может быть полезна для формативных целей Ваисс К. Оценка. Методы изучения программ и политики /Пер.с англ.: Программа Тасис, 2003. .

Оценку могут проводить штатные сотрудники или нанятые организации. По отношению к тому, кто осуществляет оценку, она может быть внутренней (ее еще называют самооценкой) или внешней. Внешняя проводится приглашенным специалистом. При этом важно, чтобы он не только не работал в вашей организации, но и не был связан с ней отношениями, которые можно расценить как конфликт интересов (например, такой специалист не должен быть прямым родственником кого-либо из руководителей организации или одним из тех, кто получает от нее помощь). Такую оценку, проводимую приглашенным экспертом, еще называют независимой оценкой.

Внутренняя оценка, или самооценка осуществляется теми же самыми людьми, которые работают в организации. Это проще и сложнее одновременно, потому что, с одной стороны, кто же знает организацию лучше, чем ее сотрудники, а с другой -- проведение такой оценки потребует дополнительных усилий, а иногда и мужества, чтобы «подняться над ситуацией» и быть действительно объективными.

Оба способа имеют ряд преимуществ. Штатные сотрудники знают больше об организации, ее интересах и потребностях, возможностях применения полученных результатов. У них больше возможностей распространения полученной информации. Нанятые организации независимы, престижны, предоставляют больше навыков и умений. У них есть возможность распространения полученной информации вне организации.

Нередко к оценке привлекаются эксперты или группа экспертов - специалистов из разных областей, имеющих знания о других программах и большой опыт проведения экспертизы или работы в проектах. Эксперт может непредвзято рассматривать программу, но у него могут быть определенные предпочтения, которые повлияют на его суждение. Даже высококвалифицированный эксперт опирается на субъективные стандарты, в которых можно усомниться. Неудовлетворительный отчет поставит под сомнение опыт и репутацию эксперта. Поэтому, проводя большинство оценок, пытаются использовать наименее уязвимые методы и следовать основным принципам оценки.

Цели оценки могут быть разные, зависят они от ожиданий и потребностей различных акторов - во-первых, кто организовал оценку, во-вторых, на деятельность которых повлияет исследование, в-третьих, кто принимает окончательные решения, в-четвертых, целевых групп населения, которые являются благополучателями программы, - а также от возможностей проведения исследования. Цели и задачи оценки в каждом конкретном случае удобнее всего формулировать в виде вопросов оценки. Они могут быть самыми разными, например, каковы фактические результаты программы и как они соотносятся с ее целями? Как соотносятся средства, потраченные на выполнение программы с полученным эффектом? Выполнены ли все мероприятия, предусмотренные программой? Стремясь ответить на каждый из этих вопросов, оценка будет проводиться по-разному с использованием разных методов сбора и обработки информации.

Помимо разделения оценок на формативные и суммативные, в соответствии с тем, когда проводятся оценки, они подразделяется на предварительные, промежуточные и завершающие. Предварительная проводится на этапе планирования проекта, при этом оценивается еще не реализация, а предложение вашей будущей работы. Промежуточная оценка осуществляется во время исполнения программы или проекта, чтобы помочь более успешно достичь намеченных целей и привести к планируемым результатам. Эту оценку также проводят, если в ходе реализации проекта возникли проблемы, причины появления которых неясны. В данном случае говорят о диагностической оценке, которая служит возвращению проекта «на путь истинный». Завершающее оценивание бывает незадолго до завершения проекта или сразу же после него. Оно позволяет понять, что собой представляет проект, достигнуты ли его цели, получены ли планируемые результаты. Если же программу предполагается повторять где-либо еще, завершающая оценка поможет избежать ошибок при реализации подобных проектов в будущем.

Можно также проводить оценку «постфактум». Она реализуется обязательно через какое-то время (скажем, через полгода или год) после того, как проект полностью завершен и можно проанализировать его воздействие. В ходе подобной оценки обычно анализируются все (или почти все) изменения, вызванные проектом и то, насколько они стабильны, т. е. сохраняются ли изменения без дальнейшего воздействия со стороны проекта.

Для того, чтобы ответить на вопросы оценки, разумно оценивать не всю программу целиком, а ее отдельные ключевые (согласно вопросам) аспекты, которые и подвергаются прицельному анализу. В качестве параметров оценки могут выделяться, в том числе, результативность программы, эффективность организации выполнения программы, социально-экономический эффект, оказываемый программой на решение социальных задач, соответствие программы интересам целевых групп населения.

Ключевая задача любой оценки -- улучшить работу проекта или организации в целом, сделать ее деятельность более эффективной и полезной. Наиболее часто подвергаются оцениванию финансовая эффективность, устойчивость и результаты проекта или организации, а также эффективность управления и методология. При этом ставятся вопросы, перечисленные в табл. 5 Бодунген А. Оценка деятельности НКО // Школа по оценке проектов. Новосибирск, 26--30 ноября 2001..

Структура оценки -- это методическая основа, ориентированная на задачи и вопросы оценки и устанавливающая методы сбора и обработки данных, план работ, ресурсное обеспечение, систему отчетности и контроля исполнения проекта. Чтобы определить структуру оценки, необходимо продумать, какая информация понадобится для ее проведения, каким образом можно будет получить необходимые данные, кто именно будет собирать информацию, какие методы анализа данных следует применить, потребуется ли в ходе оценки консультация специалиста в какой-либо области; потребуются ли помощники (например, для проведения анкетирования или интервьюирования клиентов организации); сколько времени понадобится для проведения оценки, какие ресурсы нужны для этого.

Для тех, кто будет использовать результаты оценивания, важно понимать не только что и почему произошло, но и что нужно делать. Вот почему непосредственно после оценки проделанного следует этап корректировки планов. Например, в случае проведения оценки деятельности одного из реабилитационных центров, опрос клиентов помог точнее определять их потребности и соответственно более качественно и адресно предоставлять им услуги.

Вообще, в том случае, когда деятельность организации в целом или отдельные проекты направлены на предоставление конкретных услуг, желательно представить «истории» о конкретных людях, чья жизнь изменилась в результате осуществления проекта. Ведь отчеты только по результатам, описанным в заявке, как правило, отражают проведение запланированных мероприятий и не демонстрируют, изменилась ли как-либо ситуация для целевой группы после реализации проекта.

Таблица 5. Вопросы для оценки

Что оценивается

Вопросы

Финансовая эффективность проекта

Насколько приемлемо соотношение ресурсов, вовлеченных в проект (в целом и/или для осуществления отдельных этапов), и его результатов? Можно ли добиться удешевления подобных проектов в будущем, сохранив то же качество и тот же объем результатов?

Эффективность управления проектом

Соответствует ли выбранная схема управления типу проекта и осуществляемым видам деятельности?

Способствовала ли она успешной реализации проекта?

Достаточно ли гибко руководители проекта реагировали на изменения, влиявшие на ход проекта?

Насколько правильными (ошибочными) были принимаемые решения?

Методология проекта

Все ли методы привели к достижению заявленных результатов?

Какие методы оказались наиболее (наименее) эффективными?

Устойчивость проекта

Будет ли работать этот проект при его повторении в другом месте?

Сохранил ли проект актуальность, соответствует ли он сегодняшнему дню?

Будет ли жизнеспособен проект после завершения его специального финансирования? (Как правило, этот вопрос особенно волнует фонды)

Полнота решения проблемы или удовлетворения потребности

В какой мере проектом решена заявленная проблема?

Можно ли говорить о том, что проблема решена кардинально, т. е. не появится вновь?

Достаточно ли полно удовлетворены потребности клиентов (подопечных) проекта?

Иными словами, необходимо отслеживать воздействие проекта на целевые группы «благополучателей», или клиентов. Кроме того, для повышения эффективности деятельности организации важно уделять внимание не только соответствию первоначальному плану мероприятий, но отслеживать причины успеха и неудач, чтобы повлиять в дальнейшем на управленческие решения. Для этого следует еще на этапе написания заявки продумать и включить в проект четкие показатели его эффективности в долгосрочной перспективе: вызовет ли запланированный цикл мероприятий желаемые изменения. По итогам проекта важно оценить результаты относительно данных показателей: например, изменилось ли у школьников после проведенного тренинга по вопросам инвалидности их отношение к людям с инвалидностью и их проблемам Боровых А., Грешнова Е. Исследование эффективности проектов и программ благотворительных организаций // Благотворительность в России. Социальные и исторические исследования. СПб.: Лики России, 2001..

Перед выбором параметров оценки очень важно детально разобраться в логике самой программы, понять ее механизм, определить, что входит в реальные задачи программы, как они соотносятся с набором программных мероприятий и к чему они должны привести по плану. Для этого иногда полезно даже представить механизм программы схематично или в виде рисунка. Важнейший момент при изучении программы - структурирование предполагаемых результатов программы. Итоги и выводы большинства современных программ можно расположить в определенном иерархическом порядке:

Рассмотрим для примера программу развития самозанятости инвалидов, содержательная основа которой - проведение курсов по обучению инвалидов навыкам организации и ведения бизнеса и предоставление кредитов вновь создаваемым фирмам Как измерить успех программ развития города? Муниципальное экономическое развитие. М.: Фонд «Институт экономики города», 2002 г.. Логическая последовательность результатов данной программы будет выглядеть примерно так:

Как правило, на одной или нескольких указанных ступенях в последовательности результатов и фокусируется оценка в зависимости от своих задач и возможностей проекта. Параметры оценки выбираются с таким расчетом, чтобы их можно было измерить с помощью доступных количественных показателей, которые называются индикаторами. Выбор индикаторов оценки - задача увлекательная, и, вместе с тем, сложная. Индикатор должен обладать определенными свойствами - однозначность, доступность, измеримость.

Сравнение значений индикаторов с целевыми показателями, заложенными в программе, дает ответы на вопросы оценки в количественном выражении и позволяет экспертам судить об успешности программы.

Возвращаясь к нашему примеру с программой развития малого бизнеса инвалидов, определим возможные индикаторы, с помощь которых можно измерить каждый из результативных уровней данной программы:

Однако оценка не обязательно фокусируется на анализе тех или иных результатов программы. В ее задачи может входить оценка процесса создания программы или, эффективность механизма реализация программы. Для каждой из этих и других задач подбираются собственные параметры и индикаторы оценки.

Итак, у нас сформировалась логика оценки:

Каждый из этапов работы играет особую роль и по-своему важен. Технически последовательность действий по оценке выглядит так:

Важно, чтобы выводы, сделанные в результате анализа данных были доказанными. Доказанность результатов - непременное свойство профессиональной оценки. Если программу независимо друг от друга оценят две команды оценщиков с применением разных методов, но придут к одинаковым выводам, то их работу можно назвать выполненной качественно.

Оценка всегда должна быть нацелена на результат. Ведь оценка - это не научное исследование, а управленческий инструмент, такой же, как, скажем, бюджетное планирование. И предназначен он не для «освоения» бюджетных или грантовых средств, а для принятия качественных и своевременных управленческих решений. Проводя оценку, всегда следует иметь в виду, кто и как будет использовать ее результаты.

Вряд ли следует преувеличивать роль оценки в принятии решений относительно программ: на подобные решения влияет ряд факторов, и оценка - лишь один из них. Необходимо осознавать, что полученные результаты применяют не сразу. Вначале их изучают, а затем постепенно применяют полученные знания при принятии решений о программе. Тем не менее, для ответа на важные вопросы отчет по оцениванию должен быть правильно сформулирован. Тогда, ознакомившись с полученными результатами, как ключевые фигуры, так и широкая аудитория смогут повлиять на улучшение политики и программ.

Процедуру использования результатов оценки можно (и нужно) формализовать в рамках управления социальной сферой. Более того, желательно сделать это еще на этапе создания программы. Тогда разработчики программы, зная о том, что продукт их деятельности будет регулярно оцениваться, сделают программу максимально удобной для ее последующего мониторинга и оценки.

Оценка программ - новое явление в российской практике муниципального управления. Однако, эта практика успешно развивается. Так, несколько консалтинговых компаний, в основном при поддержке донорских организаций, уже осуществили несколько успешных оценочных проектов в сфере городского развития. Фонд «Институт экономики города» провел оценку различных муниципальных программ в четырех российских городах (Саратов, Городец, Кунгур и Междуреченск) и в настоящее время разворачивает сотрудничество с другими городами в этом направлении. Кроме того, накоплен большой опыт по оценке городских систем социальной защиты (Томск, Арзамас, Пермь, Нижний Новгород). Леонтьевский Центр (Санкт-Петербург) осуществил проект по оценке стратегий городского развития. Начали активно работать многие региональные и городские некоммерческие организации, занимающиеся оценкой городских социальных проектов Информацию о многих организациях и проектах по оценке социальных проектов можно найти на сайте «международной сети по оценке программ http://ipen21.org/ipen.

Логика оценки может сделать измеряемыми и такие отвлеченные и сложные понятия, как развитие социальной сферы района, качество жизни инвалидов, межсекторное взаимодействие. Ее можно использовать как мощный инструмент анализа в социальном управлении вообще - например, при оценке управленческих решений, при оценке деятельности социальных служб и организаций, при экспертизе местных нормативных актов.

Мониторинг и оценка программ и проектов - это важный логический шаг в социальной работе и реализации социальной политики в целом, который неизбежен в случае перехода социальных служб на принципы финансирования услуг, а следовательно, к программному методу управления. Более того, это эффективный и широко применяемый в развитых странах инструмент управления и важная часть проектной культуры, осваивать которую стоит российским социальным службам.

Дизайн оценочных исследований

В оценке эффективности социальных проектов, которая может включать оценку деятельности социальных сервисов или действий их отдельных специалистов, как и в анализе социальной политики в целом, особое значение имеет применение количественных методов и качественных сбора и анализа информации. Выбор той или иной методологии основывается на целом ряде условий. Количественные и качественные методы сильно различаются между собой; поэтому определенные модели оценки, или эвалюаторного исследования более совместимы с качественными методами, чем другие Patton M. Q. Qualitative Evaluation Methods. Beverly Hulls, London: Sage Publication, 1980. P.49-58 / перевод П.Романова.

Например, проводя исследования эффективности в форме системного анализа или оценивая степень достижения целей, чаще всего применяют количественные методы. Переменные для оценивания определяются заранее, их расписывают на измеряемые (операциональные) индикаторы и, если возможно, рассматривают в качестве объекта эксперимента. Системный анализ требует (1) определения наиболее важных переменных на входе и выходе программы, (2) статистического анализа связей между тем, что имеет программа на входе, и ее результатами. Переменными на входе являются, например, такие показатели, как количество персонала, отношение между количеством персонала и количеством участников программы, характеристики участников программы, базовый уровень обслуживания участников программы (претестовые оценки). Результаты программ включают, например, уровень обслуживания участников программы после реализации программы (посттестовые оценки), уровень трудоустройства, денежное выражение новых навыков у клиентов, новый уровень дохода клиентов или его эквивалент и так далее. Системный анализ является популярным подходом к оценке в глазах правительства. Это подход, который зависит от компонентного анализа (разделения системы программы на отдельные части) в отличие от холистского подхода в качественных методах. Переменные определяются дедуктивным путем, логически перед тем, как начнется сбор данных, в отличие от индуктивной аналитической стратегии качественного исследования, где параметры формулируют в процессе полевой исследовательской работы. Взгляд на мир системного аналитика несовместим с феноменологическим подходом.

Анализ достигнутых целей некоторое время был доминирующим подходом к оценке. В этом подходе результаты, фиксируемые в процессе реализации программы, определяются в терминах успехов клиентов или участников, которые измеряются при помощи стандартизованных тестов. Данные этих тестов можно анализировать статистически, чтобы сравнить индивидов и группы участников. Однако, успехи участников могут быть оценены только в определенном контексте, или в связи с определенными смыслами, которые отдельный человек придает результатам его или ее личного опыта участия в программе и личных переживаний по поводу испытываемых проблем.

Качественные методы оценивания применяются в так называемой транзакционной модели, которая рассматривает каждый случай как уникальный и делает акцент на восприятии людьми происходящих событий. Транзакционная модель базируется на тех же допущениях, которые содержаться в качественном исследовании: важно понимать людей и программы в контексте; участие в исследовании должно складываться как естественная ситуация без специально организованного внешнего контроля и особых манипуляций; наиболее полное понимание возникает из индуктивного анализа детального и неформализованного сбора данных посредством прямого контакта с программой и ее участниками.

В этой модели считается, что узнать о восприятии можно, только изучив определенные транзакции, в рамках которых восприятие может быть зафиксировано. Все участники ситуации взаимодействуют между собой, причем человек, проводящий оценку, тоже оказывает влияние и находится под влиянием ситуации, так как является частью транзакции. Значит, следует проводить рефлексию восприятия в наиболее естественных условиях функционирования программы. Для этого организуют различных людей для наблюдения за программой и с их помощью готовят короткие нарративы, т.е. повествования, словесные описания результатов, строят диаграммы.

В этом случае используются методы социальной антропологии организаций - этнографические наблюдения и интервью, с целью выявить ценности участников программы, проявляющихся, в частности, в повседневном общении, выражениях, организационном фольклоре. Так выясняются общие для группы установки, а также конфликтующие интересы и предпочтения. Исследователь проверяет качество своих записей, приглашая персонал программы и представителей целевой группы реагировать на точность полученных зарисовок и выводов. По большей части данные собираются неформально - в процессе взаимодействий. В итоге не все данные могут входить в отчет, исходя из этических соображений и соглашений, достигнутых с участниками исследования.

Еще одна модель оценки - так называемая «иллюминативная», ставящая своей задачей осветить как можно более широкий контекст, в котором функционирует программа. Такая модель в первую очередь направлена на описание и интерпретацию, чем на измерение и прогнозирование, и тоже принадлежит к антропологической перспективе. Здесь исследователя занимает влияние программ на различные социальные ситуации, к которым они применяются, как это напрямую относится к их достоинствам и недостаткам, и как они влияют на жизненный опыт и жизненный путь участников. Осуществляется это посредством постоянного поискового изучения и документирования всего, что является составными частями этой программы, в том числе, в действиях, ситуациях и разговорах участников.

Американскому философу и специалисту в области эвалюаторных исследований Майклу Скривену принадлежит идея оценки эффективности, свободной от целей. Этот подход означает сбор данных по широкому кругу действительных результатов деятельности и оценку того, насколько эти результаты важны для удовлетворения демонстрируемых потребностей. Специалист по оценке в этом случае избегает формулировать свои задачи и выводы в связи с целями программы. Никаких обсуждений целей с сотрудниками не проводится, проектные буклеты или заявки не читаются; изучаются только результаты программы и эффекты, доступные измерению.

Дело в том, что при изучении узко обозначенных целей программы есть риск упустить важные незапланированные результаты, которые в этом случае будут называться «побочными», «непредвиденными» или «вторичными». Сами названия эти таковы, что какое-либо достижение, оказавшееся, возможно, наиважнейшим, будет недооцениваться, а ведь признание такого результата в качестве прямого и важного могло бы позволить, например, переформулировать приоритеты дальнейшей работы программы! Кроме того, именно из-за жесткой и конкретной формулировки ожидаемых результатов возникает риск ошибочного восприятия: мы начинаем видеть все сквозь призму заранее сформулированных целей и ничего другого. Тем самым, специалист по оценке становится в меньшей степени объективным в условиях, зависящих от целей. По собственному выражению Скривена, «оценка целей не является не только необходимым, но даже вредным шагом. Я начинаю работу с альтернативного подхода - просто оцениваю действительные эффекты в противоположность контуру демонстрируемых потребностей. Я назвал это оценкой эффективности свободной от целей… Чем меньше специалист по оценке эффективности слышит о цели проекта, тем больше внимания он будет уделять поиску действительных эффектов (в большей степени, чем поиску мнимых эффектов)» Scriven М. 1972. Цит.по: Patton M. Q. Qualitative Evaluation Methods. Beverly Hulls, London: Sage Publication, 1980. P.49-58 / перевод П.Романова.

Свободная от целей оценка эффективности, с ее поиском «реальных, действительных эффектов» представляет собой индуктивную и холистскую стратегию, направленную на преодоление логико-дедуктивных ограничений, воспроизводимых в количественном подходе к оценке, основывающемся на четко сформулированных целях. Между тем, многие социальные программы не имеют артикулированных, измеряемых конкретными количественными показателями целей, и потому не могут быть подвержены количественной оценке.

Традиционная формулировка вопроса по эффективности гласит: «В какой степени программа достигла своих целей?». Как видим, цель должна быть ясной для того, чтобы специалист по оценке эффективности знал, что искать… Так начинается длительный, подчас болезненный процесс, в ходе которого люди должный установить цели в понятиях, которые ясны, определенны и доступны измерению. Программные цели, очерченные в точных и недвусмысленных выражениях, являются необходимой информацией для эвалюаторного исследования. В частности, когда планируется, оценка программные цели особенно важны. Определенная в четких и конкретных индикаторах цель фигурирует в количественной оценке результатов. Это распространенный подход оценки достижения целей, который за рубежом давно используется в эвалюаторных исследованиях программ образования, социальной защиты и здравоохранения.

По контрасту с оценкой, опирающейся на логически заданные измеряемые цели, подход, свободный от целей означает сбор данных, напрямую связанных с результатами программы, где понимание эффективности не ограничено узким фокусом на установленные заранее цели. Свободная от целей оценка опирается на качественные методы, поскольку широко доверяет описаниям и прямому опыту, почерпнутым из программы. Более того, свободная от целей оценка в особенности требует от специалиста, проводящего такую работу, попридержать суждения относительно того, что программа пытается делать и сфокусироваться, вместо этого, на поисках того, что действительно происходит в программе, что рассматривается как ее результат. Специалист по оценке эффективности, таким образом, может стать открытым к любым данным, возникающим из феномена программы как такового.

Иногда оценку планируют и структурируют в соответствии с необходимостью принять решение. Специалист по оценке эффективности нужен для того, чтобы обеспечить информацию, необходимую для принятия этого решения или решений, поэтому задачи оценки формулируются, исходя из того, какая именно нужна информация, чтобы помочь выработать соответствующую стратегию.

Отметим, что количественные и качественные методы применяются как при оценке процесса, так и при оценке результата, хотя в последнем случае более распространенным является использование статистических процедур. Оценка процесса действия программы - это практически то же самое, что и мониторинг. Мониторинг, как правило, проводят от лица официальных лиц, желающих контролировать программу и знать, что происходит во время ее реализации. В свою очередь, оценка процесса программы проводится для пользы программы, ее улучшения. Необходимо определить, где проводить оценку (например, выбрать несколько социальных служб), кто будет отвечать на вопросы, установить временные рамки - период проведения исследования, интервалы, интенсивность. Оценку процесса можно осуществлять как при помощи качественных, так и с использованием количественных методов, а также комбинировать методы Ваисс К. Оценка. Методы изучения программ и политики /Пер.с англ.: Программа Тасис, 2003.

Преимущество качественных исследований социальной программы заключается в возможности неожиданных открытий, ознакомлении со значимыми аспектами, элементами программы, незаметных при формализованных подходах.

Если программа и реализующая ее организация давно известны, характеризуются прозрачностью, исследования там проводятся регулярно, то можно обратиться к количественному измерения процесса программы. Однако, от качественной методологии и в этом случае отказываться не следует, так как порой за знакомым и привычным фасадом могут скрываться заблуждения и недостатки или, напротив, интересные наработки и иные достоинства. Получить необходимую информацию о процессе реализации программы можно, в частности, из анкет, регулярно заполняемых сотрудниками и клиентами. Поставленные вопросы могут касаться проблем клиентов, предложенных им услуг, даты и времени предоставления услуг. Как анкеты, так и неформализованные интервью с получателями программы и персоналом тоже используются в качестве инструмента для сбора информации. Все опрошенные могут отвечать на одни и те же вопросы или каждый расскажет свою историю. Использовать можно любой метод, комбинацию методов, определив при этом частоту сбора информации. Подобное решение зависит от специфики программы, количества изменений. Информация об участниках изменяется не часто, тогда как предоставляемые услуги, возможно, понадобится осветить несколько раз. Кроме того, полезно разработать запасной план на случай неожиданных изменений Ваисс К. Оценка. Методы изучения программ и политики /Пер.с англ.: Программа Тасис, 2003.

Оценка результатов может проводиться с использованием экспериментального или квазиэкспериментального дизайна: сравнение участников до и после программы; сравнение участников программы с теми, кто в ней не участвовал (с группой людей, отобранных в контрольную группу методом случайной выборки). В частности, при помощи эксперимента выясняется, действительно ли оцениваемая программа возымела положительное воздействие, например, на поведение или на доходы представителей целевой группы.

Различают внутреннюю и внешнюю достоверность Ваисс К. Указ.соч.. Внутренняя указывает на причинную связь между независимыми (например, описание участников или полученных ими услуг) и зависимыми (результаты программы) переменными. Внутренняя достоверность ставит вопрос о том, что вызывает наблюдаемый эффект - сама программа или внешние условия и факторы. Она указывает, состоят ли мероприятия программы и наблюдаемые результаты в каузальной, т.е. причинно-следственной взаимосвязи. Внешняя достоверность связана с выводами относительно возможности применения результатов одной оценки к другой программе подобного типа. Если одна программа по профилактике ВИЧ успешна, применимо ли это к другим и каким именно программам?

В разных формах оценки можно достичь разной степени внутренней и внешней достоверности. Случайная выборка способствует достижению высокой степени внутренней достоверности. Однако, в экспериментальном дизайне трудно достичь высокой внешней достоверности. Стремясь проконтролировать условия эксперимента, исследователи подчас создают тепличные условия, отличные от тех, в которых находятся участники других подобных программ. Поэтому полученные результаты не всегда можно обобщить, перенести вовне.

Единицей анализа может выступать человек, группа, организация, сообщество. Но при этом следует понимать, что программы направлены не на отдельных людей, а на изменение поведения, норм, взглядов, качества жизни более крупных единиц. Например, кампания по развитию благотворительности призывает к действию отдельных людей, но осуществляется и оценивается на уровне сообщества. Результат такой кампании будет измеряться общим количеством пожертвований. Единицей отбора выступают соседские общины, школьные классы, социальные службы, в которых реализуется программа. Например, при реализации программы инклюзивного образования детей-инвалидов, обучающихся в обычных классах, отбор проводится в три этапа: школа, класс, конкретные дети-инвалиды, преподаватели, остальные дети, родители - все участники специальных мероприятий по программе.

Формы оценки

Чаще всего проводится оценка отдельно взятого проекта, ряда проектов или целой программы, действующей на региональном или национальном уровне. В этом случае никаких сравнений с людьми или сообществами, не участвовавшими в программе, не проводится. Подобная оценка бывает двух видов: а) изучающая программу только после того, как ее долгое время осуществляли или даже завершили; б) изучающая ее как до, так и после программы. Собранные данные могут быть качественными или количественными. «Только после» программа оценивается в том случае, когда специалиста приглашают во время осуществления программы, и у него нет данных, существовавших до ее начала. Исследования «до и после» предполагают присутствие специалиста по оценке с самого начала программы. Если специалисту довелось оценивать программу «только после» ее осуществления, то он или она делает предположение об изначальной ситуации, во-первых, изучая всевозможную документацию, записи, беседуя с участниками, во-вторых, основываясь на своем собственном опыте предыдущих исследований, изучении подобных целевых групп или организаций. Конечно, здесь возможны разнообразные искажения Ваисс К. Оценка. Методы изучения программ и политики /Пер.с англ.: Программа Тасис, 2003.

Если оценка проводится «до и после», эта схема кажется довольно чистой, пригодной для эксперимента: участников программы изучают до и после ее осуществления; разница представляет собой эффект программы. Однако, участники имели дело не только с программой: они смотрели телевизор, болели, спорили с родственниками, заводили новых друзей, переезжали, занимались на курсах, женились и выходили замуж. Возможно, что ряд изменений вызван не программой, а внешними факторами.

В этом случае лучше всего собрать как можно больше деталей, тщательно отобрав информацию о программе и участниках. Дополнив информацию «до и после» данными «во время», можно будет судить о ходе программы. Для формативных целей (для изменения и улучшение программы) такой подход будет достаточным, тогда как для суммативных (вынесение суждения об эффективности программы) - нет.

При оценке одной группы невозможно провести сравнение с людьми, не участвующими в программе. Иногда подобное сравнение в принципе невозможно, так как услуги предоставляются всем людям, имеющим возможность их получения (например, социальное обеспечение, государственные школы, палаты реанимации в больницах, обязательное медицинское страхование и другие программы). В таких случаях уместно провести внутреннее сравнение. Прием оценки в этом случае - так называемая «форма ответной реакции на дозу», обязанная своим названием оценочным исследованиям программ, когда единственной переменой было количество полученных наркотиков. В социальных программах можно, например, сравнивать участников, получающих услуги в группе или индивидуально тем, кому представлены лишь услуги по трудоустройству с теми, кто получил и эмоциональную поддержку. При подобной оценке сравниваются альтернативные виды услуг, и ограничений по предоставлению исчерпывающих услуг не существует. Можно сравнить участников, получивших больший объем услуг («большую дозу») с теми, кто получил ее в меньшем объеме («меньшую дозу»), и их достижения. Можно попытаться найти ответ на вопрос: «Достигнут ли услуги, предоставленные в ограниченном объеме и с меньшими затратами хороших результатов?» Используя этот подход, необходимо следить, чтобы объем услуг был единственным различием (исключить разницу в посещаемости, мотивации, потребностях в услугах). В таком случае будут получены ценные данные Ваисс К. Оценка. Методы изучения программ и политики /Пер.с англ.: Программа Тасис, 2003.

Еще один вид оценки одной группы - оценка во времени. Основные результаты измеряются с определенными интервалами до начала программы и по ее завершении. Подобная оценка позволяет лучше понять условия, которые должна изменить программа, например, безработица или отчисления из школы. В этом случае исследователь задается вопросами: Какими были условия до начала программы, улучшались они или ухудшались без вмешательства программы? Каковы стали условия после проведения программы? В чем их улучшение? Появились ли они по завершении программы? Достигнуты ли запланированные результаты?

Оценка качества и эффективности в социальных службах: по данным одного исследования

Российских исследователей и практиков социального обслуживания вопросы оценки эффективности интересуют уже более десяти лет Эффективность деятельности учреждений социального обслуживания населения. Выборочное обследование учреждений социального обслуживания населения в трех регионах Российской Федерации. М.: Минтруд России - Институт социальной работы Ассоциации работников социальных служб, 1997.. Хотя усилия по проведению оценочных исследований в учреждениях системы социальной защиты не раз предпринимались См. об этом: Топчий Л.В. Методика оценки эффективности социальных услуг // Социальное обслуживание. № 4, 2005. С. 5-25., это были скорее выборочные попытки, нежели внедрение оценки в качестве элемента системы социального обслуживания. Кроме того, органы управления социальной защитой, учреждения и организации ориентируются при планировании и оценивании работы на такие понятия, как количество обслуживаемых и оказанных услуг, объем потраченных бюджетных средств или привлеченных из внебюджетных источников Мещанинова Е.Ю. Проблемы определения эффективности социального обслуживания // Работник социальной службы. № 4. 2005. В существующей системе социальной поддержки и обслуживания населения оценке подвергается, в основном, процесс.

Организация работы по принципу проектов и программ позволяет оценить, насколько успешна деятельность, достигаются ли запланированные результаты и в чем причины неудач, если таковые случаются Бодунген А. Оценка деятельности НКО // Школа по оценке проектов. Новосибирск, 26--30 ноября 2001; Боровых А., Грешнова Е. Исследование эффективности проектов и программ благотворительных организаций // Благотворительность в России. Социальные и исторические исследования. СПб.: Лики России, 2001. Сегодня уже есть успешный опыт совместной работы местных и региональных администраций с некоторыми зарубежными и отечественными неправительственными организациями - напр., фондом «Институт экономики города» - по внедрению результативно ориентированных услуг в области адресной социальной помощи Ричман Б., Чагин К.Г. "От пособия к зарплате": разработка и реализация программы. М.: Фонд "Институт экономики города", 2004; Чагин К.Г. Новые технологии управления в сфере социальной помощи и социального обслуживания населения // Журнал исследований социальной политики. --- № 4. 2005. Т. 3, заказа на социальные услуги, целевых потребительских субсидий на определенные услуги, а также по разработке и применению технологий мониторинга результативности социальных услуг, включая надомное обслуживание одиноких престарелых и инвалидов. Это доказывает принципиальную решаемость задачи по переходу на управление по результату, на организацию социального обслуживания по принципу проектов и программ. Оценка результативности социального обслуживания позволяет выявить, какие именно факторы сыграли ключевую роль в достижении конкретного результата, а какие оказались несущественными Эффективность муниципальных социальных программ: возможность и необходимость оценки. М.: Институт экономики города, 2003. По сути дела, речь идет о процессе стандартизации услуг, включая разработку параметров их содержания и предоставления. Стандартизация означает, что каждая процедура детально операционализирована и потому может быть отслежена и оценена.

Все исследования эффективности социальной работы в Европе и США с 1960-х по сей день, как и современные отечественные исследования, стремились получить ответ на вопросы о факторах качества, результативности и эффективности обслуживания. Однако, стоит задуматься и над тем, насколько успешен сам контроль качества, насколько эффективны инструменты и процедуры оценки Zirps F.A. Still Doing It Right the First Time. A Model of Quality Improvement for Human Service Agencies. Revised and updated edition. Orlando, FL: The Florida Institute of Quality Improvement Books, 2003. Важно найти такие принципы, методы и процедуры, которые действительно были бы полезными как для работников, так и для их клиентов.

Эффективность социального обслуживания - это степень соответствия цели и результатов при наиболее оптимальном использовании методов и технологий работы, а качество социального обслуживания представляет собой соответствие процесса и результата услуги с ее идеальным образом для всех акторов. Материалы кейс стади позволили сформулировать следующие гипотезы: сотрудники социальных служб не имеют четких определений целей деятельности, поэтому не могут определить, в чем выражается эффективность их работы; ожидаемые результаты формулируются, исходя из количественных процессуальных критериев, что затрудняет понимание целей, ожидаемых результатов; существует конфликт требований сверху и установок низовых исполнителей в отношении содержания и критериев оценки работы; мотивация работников изменяется в зависимости от типа управления (участвуют ли сотрудники в принятии решений и в оценке, есть ли проектная культура в организации) и вида услуги (с детьми, пожилыми, бытовые, консультирование - попробуем типологизировать), стажа работы; участие клиентов в оценке, участие независимых оценщиков пока не реализуется либо его результаты не востребованы в силу отсутствия системы обеспечения качества.

В результате проведения исследования Исследование проводилось в рамках проекта «Новая идеология и практика социальных услуг: региональные модели оценки эффективности в условиях либерализации социальной политики (на материалах Саратова и Самары)» при поддержке Независимого института социальной политики, руководитель проекта П.В.Романов, грант №SP-06-2-15 выяснилось, что по мнению подавляющего большинства респондентов (88,5%), услуги их организаций доступны тем, кому они необходимы. Среди факторов, снижающих доступность социальных услуг, на первом месте «нежелание клиентов что-то делать самим» (56,4%) и «слабая обеспеченность транспортом» (32,4%). Транспортный вопрос возникает, прежде всего, в районах области - ведь здесь расстояния гораздо более масштабные, а инфраструктура общественного транспорта развита весьма слабо. Между тем, по мнению работников, учреждения, расположенные в крупных областных центрах, доступны населению так же, как и учреждения в райцентрах.

Такой фактор низкой доступности социальных услуг, как недостаток квалифицированных кадров в социальных службах, признается лишь каждым пятым опрошенным (20,8%). Квалификация персонала, на взгляд 74,8% респондентов, соответствует возложенным на сотрудников задачам, и хотя их деятельность регулярно оценивается и анализируется (74,3%), однако, не все, а лишь 58% опрошенных отметили, что в работе они используют современные принципы и технологии.

Несмотря на такую высокую оценку собственной квалификации, более половины заполнивших анкету (54,4%) высказали мнение о необходимости регулярно повышать квалификацию сотрудников, для того, чтобы улучшить социальное обслуживание. Отметим, что квалификация кадров до недавнего времени признавалась болевой точкой отрасли «социальная защита». При этом такой атрибут корпоративной идентичности, как повышение квалификации, лишь недавно занял относительно устойчивое положение в дискурсе социальных служб. Правда, приглашение для консультации исследователей и преподавателей социальной работы лишь для каждого пятого (19,5%) из числа респондентов привело бы к улучшению социального обслуживания. И хотя нашей исследовательской группе хорошо известны факты проведения курсов, тренингов, семинаров для специалистов социальных служб, герметичность этой системы пока еще довольно велика.

Восприятие своей организации как действующей по современным принципам и технологиям коррелирует с образовательным и должностным статусом опрошенных - среди тех, кто имеет среднее образование, использующих современные технологии оказалось 47,8%, а среди работников с высшим образованием - 66,1%. Это закономерно, учитывая тот факт, что среди лиц со средним образованием больше всего низовых социальных работников, у которые мало возможностей применить современные принципы и технологии. Примерно пятая часть опрошенных указала на заявительный принцип оказания услуг (19,6%) как на фактор их возможной низкой доступности. Между тем, именно ввиду заявительности как принципа оказания услуг оказывается невозможным просчитать их результативность для общества в целом, ведь доля благополучателей в соотнесении к генеральной совокупности нуждающихся остается неизвестной! Отчеты социальных служб и доклады о положении социально уязвимых групп населения наполнены информацией о численности обслуженных, количестве выданных наборов или объемах выплаченных пособий, - во-первых, без какого-либо соотнесения с потребностями целевых групп, а во-вторых, без анализа эффектов от такого рода услуг. Приведем несколько выдержек из официального доклада о положении детей в регионе:

«За 2005 год в рамках этой программы было трудоустроено 208 безработных из числа одиноких и многодетных родителей. Участники программы отработали в среднем по 2 месяца. Средний размер поддержки доходов составил 1300 руб. в месяц на человека. После завершения участия в программе 81 человек был принят на постоянную работу», - остается непонятным, как классифицировать эти данные - в терминах, ведь сравнительные данные не приводятся.

«За 12 месяцев 2005 года в S-ской областной психиатрической больнице пролечено 700 несовершеннолетних, 107 из них были отнесены к категории `безнадзорных'», - не указывается общее число безнадзорных детей в Саратовской области.

«В ходе реализации программы повышения качества жизни детей из семей малообеспеченных мигрантов было закуплено и передано 30 ранцев со школьными принадлежностями по 500 руб. каждый», - не говорится, какую долю составляют счастливчики из числа нуждающихся в ранцах.

По мнению большинства информантов, социальное обслуживание может считаться эффективным, если оно достигает поставленных целей (71,1%), при этом 88,5% опрошенных считаю, что услуги, оказываемые их учреждением, в большинстве случаев соответствуют этому критерию. Опрошенные уверены в том, что социальное обслуживание клиентов в их организации «имеет четко сформулированную цель и назначение» (84,1%) и «ведется с учетом индивидуальных потребностей клиентов» (83,2%), в том числе, «организовано удобно по времени для клиентов» (73,9 %).

В соответствии с определением Института экономики города Критерии оценки качества бюджетных услуг, целесообразности и эффективности производимых расходов; обоснование и методика выбора критериев. Материалы исследования Фонда «Институт экономики города», 2006. Рукопись, услуга может считаться оказанной качественно, если она имеет четко сформулированную цель/назначение; предоставляется в соответствии с современными методологическими принципами и технологиями; основывается на инклюзивном, анти-дискриминационном подходе и уважении к личности каждого клиента; подвергается постоянному мониторингу и анализу, в первую очередь, с использованием независимой информации от получателей; предоставляется достаточно гибко, чтобы учесть индивидуальные потребности клиентов; имеет значимость для получателей, оказывает заметное положительное влияние на их социально-экономическое положение и/или поведение; фокусируется на превентивных (профилактических) мероприятиях, а также на мероприятиях, способствующих выходу трудоспособных получателей услуг и их семей на самообеспечение и независимость от социальных трансфертов; не вызывает недовольства получателей условиями предоставления. На основе этого определения и наших предварительных наблюдений в ходе кейс стади была сконструирована шкала для того, чтобы выяснить мнение респондентов по поводу параметров качества обслуживания в их организациях.

...

Подобные документы

  • Понятие и классификация потребностей, их деление на первичные и вторичные. Сферы действия и формы проявления закона возрастающих потребностей. Человек в первобытном обществе. Теория разумного эгоизма. Противоречия между интересами личности и сообщества.

    реферат [25,8 K], добавлен 10.02.2010

  • Понятие и сущность социальных потребностей населения. Поддержание жизнедеятельности организма человеческой личности. Исследование особенностей социальных потребностей в трудовом коллективе. Оценка удовлетворенности сотрудника в материальных потребностях.

    курсовая работа [353,4 K], добавлен 16.09.2017

  • Место социокультурных потребностей в системе ключевых потребностей человека. Классификация потребностей человека. Возникновение фотодела как нового способа фиксации жизни человека. Удовлетворение социально-культурных потребностей посредством фотодела.

    курсовая работа [55,5 K], добавлен 20.10.2014

  • Понятие, классификация, удовлетворение, анализ основных потребностей человека и их структура. Удовлетворение и неудовлетворение личных потребностей. Формирование общественных потребностей как социально-экономический процесс. Теория мотивации по Маслоу.

    курсовая работа [35,0 K], добавлен 02.04.2009

  • Общие понятия потребностей, их сущность и классификация. Особенности и классификации потребностей человека. Потребительская корзина и ее расчет. Выявление взаимосвязи между потребностями и уровнем жизни. Зависимость потребностей от уровня жизни людей.

    курсовая работа [180,2 K], добавлен 16.11.2010

  • Общая характеристика потребностей, их роль и системы в обществе - социально-экономический аспект. Формирование и развитие общественных потребностей и их связь с производственным процессом. Пирамида потребностей современного человека (по А. Маслоу).

    реферат [129,7 K], добавлен 16.09.2009

  • Понятие и масштаб социальных потребностей. Мотивы социального действия и социальные институты как отражение социальных потребностей. Институциализированные социальные нормы. Знание структуры общества, роли и места в ней социальных групп и институтов.

    контрольная работа [27,5 K], добавлен 17.01.2009

  • Принципы классификации потребностей человека, его типы и характеристика. Основные биологические, психологические, социальные, трудовые, экономические потребности. Важность понимания механизма негативных процессов в городах для решения социальных проблем.

    статья [14,1 K], добавлен 21.05.2009

  • Основные разграничения потребностей у людей в зависимости от места их проживания и территориального расселения. Основные потребности индивида и факторы на них влияющие. Характеристика мотивов, побуждающих людей к удовлетворению тех или иных потребностей.

    реферат [271,8 K], добавлен 08.12.2009

  • Идеи теорий социального действия, позволяющие нацеливать клиента на собственную деятельность, на основе его потребностей и интересов, соотнесенных с потребностями и интересами людей, для достижения общественных изменений и позитивного развития личности.

    контрольная работа [58,3 K], добавлен 27.02.2017

  • Понятие социальной среды. Мотивы и цели добровольной социальной политики предприятий в Украине. Взаимосвязь экономической деятельности предприятия и социальных потребностей его stakeholder. Основные социальные процессы и изменения связанные с персоналом.

    реферат [36,3 K], добавлен 02.07.2009

  • Модель социальной работы. Сильная либеральная составляющая американской социальной политики. Значение ассоциативных организаций в сфере социальной помощи и поддержки при финансовой поддержке со стороны государственных структур. Страховые механизмы.

    лекция [18,5 K], добавлен 10.11.2008

  • Теоретические и методологические основы потребностной сферы человека. Понятие трудной жизненной ситуации и ее основные виды. Практика организации помощи социальных служб в удовлетворении потребностей женщин, находящихся в трудной жизненной ситуации.

    дипломная работа [76,5 K], добавлен 13.02.2011

  • Семья - компонент социальной структуры любого общества. Молодая семья, как объект социальной защиты. Проблемы молодых семей и пути их решения. Особенности социальной работы с молодой семьей. Выявление эффективных методов работы по социальной поддержке.

    дипломная работа [70,6 K], добавлен 10.06.2010

  • Основы организации работы бюро медико-социальной экспертизы. Формирование, контроль и коррекция индивидуальных программ реабилитации инвалидов. Определение нуждаемости инвалида в технических средствах реабилитации и протезно-ортопедических изделиях.

    курсовая работа [32,2 K], добавлен 31.01.2011

  • Обзор теоретических аспектов осуществления социальной реабилитации в психоневрологическом интернате. Исследование индивидуальных потребностей клиентов Климковского интерната в рамках программы социальной реабилитации людей с ограниченными возможностями.

    дипломная работа [76,4 K], добавлен 23.10.2012

  • Понятие статистической оценки уровня жизни, социальных нормативов и потребностей, основных индикаторов уровня жизни. Современный уровень жизни населения, социальная защищенность и борьба с бедностью. Закономерности изменения благосостояния населения.

    контрольная работа [56,8 K], добавлен 12.01.2011

  • Потребности в материальных благах, необходимые для поддержания жизни. Потребности познания. Биологические потребности. Социальные потребности. Духовные потребности. Ценностно-ориентированные потребности. Трансформация потребностей.

    реферат [16,8 K], добавлен 18.12.2006

  • Юношество как объект социальной работы. Направления социальной работы с юношеством в процессе социализации в Республике Беларусь. Методические рекомендации специалисту социальной работы по социальной помощи и поддержке юношества в процессе социализации.

    курсовая работа [108,5 K], добавлен 24.12.2013

  • Понятие и структура социальной напряженности, причины ее вызывающие, стадии развития, показатели проявления и источники. Иностранные и отечественные методы исследования социальной напряженности. Оценка уровня социальной напряженности в регионах России.

    курсовая работа [38,7 K], добавлен 02.02.2016

Работы в архивах красиво оформлены согласно требованиям ВУЗов и содержат рисунки, диаграммы, формулы и т.д.
PPT, PPTX и PDF-файлы представлены только в архивах.
Рекомендуем скачать работу.