Чек-лист для анкеты

При проведении оценки проектов и программ часто используется анкетирование. Предлагаю чек-лист, который поможет проверить вашу анкету на наличие часто встречающихся ошибок. 

• Связаны ли вопросы анкеты с вопросами задания? Понимаем ли мы, как будем использовать ответы на вопросы анкеты для ответа на вопросы задания?
• Нет ли в анкете вопросов, содержащих «два и более в одном»?
• Хорошо ли будут понятны респондентам формулировки вопросов?
• Нет ли в вопросах и вариантах ответов терминов, которые могут неоднозначно трактоваться респондентами?
• Нет ли в вариантах ответов шкал «от забора до обеда»? Являются ли варианты ответов рядоположенными? Нет ли среди вариантов ответов таких, которые относятся к другому вопросу?
• Если есть вопросы, предполагающие сравнение, понятны ли и корректны ли основания для сравнения?
• Не слишком ли много в анкете открытых вопросов?
• Четко ли мы для себя определили, о чем спрашиваем (например, о знаниях, о мнении или о живом опыте)?
• Хватит ли респондентам предложенных вариантов ответов?
• Следуем ли мы правилу «развернутый вопрос – компактный ответ» (варианты ответов должны быть по возможности компактными)?

Модель для диагностики организации

Эта модель (Six-Box Model) была разработана Марвином Вайсбордом в середине 70-х годов.

При её использовании нужно ответить на следующие вопросы:

• Цели. Почему вы существуете? Какие проблемы вы решаете для людей? Каков ваш целевой рынок? Каково ваше видение? Какова ваша миссия? Каковы ваши стратегические цели?
• Структура. Подходит ли существующая структура для того, чего вы пытаетесь достичь? Правильное ли соотношение количества руководителей и сотрудников? По какому принципу формируются подразделения? Насколько эффективны процессы внутри организации?
• Поощрения. Какова система оплаты? Какие схемы поощрения существуют помимо оплаты? Случается ли, что чьи-то достижения остаются незамеченными? Как вы ставите цели перед членами команды?
• Полезные механизмы.  Какие системы и процессы сейчас используются в работе организации? Как часто проверяются системы на предмет их эффективности? Каковы отзывы членов команды о системах и процессах?
• Взаимоотношения. Как люди общаются? Как люди сотрудничают? Каковы ваши основные ценности? Как вы разрешаете конфликты?
• Лидерство. Как ведут себя менеджеры? Проявляются ли ценности компании в их взаимодействии между собой и с сотрудниками? Все ли менеджеры знают и понимают стратегию организации? Чувствуют ли сотрудники поддержку со стороны менеджеров?

Источник: Weisbord, M. R. (1978). Organizational diagnosis: a workbook of theory and practice. Addison-Wesley Pub. Co.

Рефрейминг организаций

Ли Болман и Теренс Дил предложили интересный подход к анализу организаций. На картинке – обложка 7-го (!) издания их книги, которое можно буквально перевести как «Рефрейминг организаций» ((Bolman, L. G., & Deal, T. E. (2021). Reframing organizations: artistry, choice, and leadership (Seventh Edition. ed.). Jossey-Bass.). 

Центральная идея этого подхода – использование для анализа четырех разных «рамок» (frames). Соответственно, «рефрейминг» в данном случае – это смена «рамок» анализа для того, чтобы лучше понять организацию. С позиции системного мышления можно было бы назвать эти «рамки» ракурсами. 

В приведенной ниже таблице показано, как эти рамки работают.

Таблица позаимствована из этой презентации (перевод мой). 

Оценка и информированное согласие

В медицине с информированным согласием все понятно. Взрослые жители нашей страны наверняка такой документ подписывали, например, у стоматолога. «Информированное добровольное согласие — доктрина в медицинской этике и медицинском праве, согласно которой для медицинского вмешательства, особенно сопряженного с риском, должно быть получено согласие пациента».  

В социальных науках у нас в стране эта тема возникла несколько позже. Но, можно считать, что процесс пошел. Информированное согласие на участие в исследовании содержит примерно такой текст: «Подписывая данную форму информированного согласия, я подтверждаю, что прочитал(а) и понял(а) цели, процедуру, методы и возможные неудобства участия в исследовании. Я был(а) проинформирован о продолжительности экспериментального воздействия и сроках проведения подобных исследований вообще. Я получил(а) информацию о действиях в случае непредвиденного влияния на мое здоровье. У меня была возможность задать все интересующие меня вопросы. Я получил(а) удовлетворительные ответы и уточнения по всем вопросам, интересовавшим меня в связи с данным исследованием. Данное согласие дается не под влиянием обмана, психического или физического насилия или в условиях несвободы. Мое согласие не вынуждено стечением тяжелых жизненных обстоятельств (недостатком материальных средств) и/или не обусловлено какой-либо зависимостью от экспериментатора (-ов). Я даю свое согласие на участие в исследовании».

При проведении оценки социально-ориентированных проектов и программ подписывать такого рода документ не принято. Это, в частности, связано с тем, что оценка является функцией управления, и реализация этой функции осуществляется вне зависимости от согласия участников программы. Ещё одно отличие оценки от исследования, между прочим... Однако получение устного информированного согласия от участников процесса оценки мне кажется все же очень важным шагом. Мы информируем людей о том, зачем проводится оценка, по каким правилам, как будут использованы результаты. Затем предлагаем задать вопросы. И только после этого переходим, например, к интервью. Такой подход помогает выстроить доверительные отношения с участниками программы и повышает качество оценки. 

Но есть одна ситуация, в которой правильнее получить письменное информированное согласие о проведении оценки. Имею в виду проведение обучения, в ходе которого слушателям предлагается осуществить оценку реального проекта в качестве учебного задания. В этой ситуации оценку проводит человек, не имеющий необходимого опыта и квалификации. А проект настоящий! Поэтому логично попросить информированное согласие руководителя организации, реализующей данный проект. 

Вот текст, который мы использовали в Школе оценки, которую проводим в партнерстве с новосибирским ИнаЦентром в рамках проекта #экосистема_оценки: «Настоящим письмом подтверждаю, что сотрудник нашей организации (ФИО) согласовал со мной техническое задание на проведение оценки нашего проекта (Название проекта) в качестве учебно-практического задания. Я даю согласие на использование результатов данной оценки в процессе обучения указанного выше специалиста в Школе оценки при условии, что эти результаты не будут опубликованы полностью либо частично без письменного разрешения со стороны нашей организации».

Оценка влияния мероприятий на целевую аудиторию: все непросто

Счетная палата проверила деятельность Роспатриотцентра*. Аудитор Счетной палаты Даниил Шилков сообщил, что в целом все неплохо.  

При этом отмечаются два недостатка: 

1. Невозможно оценить охват целевой аудитории из-за того, что в разных мероприятиях могут по несколько раз участвовать одни и те же люди. Регистрация уникальных участников (по аналогии с уникальными посетителями сайтов) не организована. 
2. «Государственное задание Центра и результаты федеральных проектов, в реализации которых он участвует, не содержат параметров, позволяющих оценивать влияние проводимых мероприятий на целевую аудиторию. В связи с этим отсутствует возможность оценки возникающих социальных эффектов, что в свою очередь не позволяет оценить обоснованность масштабов организации мероприятий в сфере молодежной политики».

Неоднократный учет одних и тех же участников – проблема, с которой сталкиваются и многие НКО. Скажем, в 5 мероприятиях участвует один и тот же человек. При определении общего числа участников мероприятий его учитывают 5 раз, т.к. подсчитывается общая сумма по спискам участников. При такой системе подсчета результаты могут быть парадоксальными: если группа из 5 человек соберётся 20 раз, то общее число участников мероприятий будет 100! 

Оценка влияния программ патриотического воспитания на целевую аудиторию действительно представляется весьма сложной задачей. Тут одними индикаторами, скорее всего, не обойтись. 

* ФГБУ «Российский центр гражданского и патриотического воспитания детей и молодежи» был создан в 2002 году для реализации полномочий государства в сфере молодежной политики. В его задачи входит организация мероприятий, направленных на гражданско-патриотическое воспитание молодежи, развитие ее гражданской активности, вовлечение в добровольческую деятельность, а также популяризацию волонтерства в России. Ежегодно в мероприятиях Центра участвуют около 5 млн человек. Ежегодный общий объем субсидий составляет около 1 млрд рублей.

Участники заседания клуба PROОЦЕНКУ голосуют за кодекс эксперта

Обсуждение на вчерашнем заседании клуба было оживленным и интересным (видеозапись, презентация). Судя по всему, тема оказалась актуальной. После обсуждения аргументов «за» и «против» разработки кодекса для эксперта грантовых конкурсов мы предложили участникам ответить на два вопроса. Результаты голосования – на диаграммах. Ответили 23 человека из 32 присутствовавших на заседании.

Таким образом, три четверти опрошенных (17 человек) сочли, что кодекс нужен. Не согласны с этим только 13% (3 человека).

Если принять во внимание первый из ответов на открытый вопрос («кому-то ещё») насчет потенциальных разработчиков кодекса, то можно констатировать, что на первом месте (12 голосов) оказалось сообщество экспертов грантовых конкурсов, а на втором (10 голосов) – сами грантодающие организации. Довольно много голосов (по 8, 3 место) набрали Форум Доноров и АСОПП. Идею разработки кодекса госструктурой федерального уровня поддержали только 2 участника.

В предыдущей публикации я написал, что у нас нет сообщества экспертов грантовых конкурсов. Имел в виду формальное (как АСОПП) или неформальное объединение таких экспертов на национальном уровне. В ходе обсуждения на клубе это подтвердилось, но выяснилось также, что на региональном уровне у нас в стране есть устойчивые неформальные сообщества экспертов грантовых конкурсов. Сложились сообщества экспертов и вокруг некоторых грантодающих организаций. Такие сообщества могли бы предложить проект Кодекса эксперта для региональных грантовых конкурсов либо для конкретной грантодающей организации. 

Не знаю, в какой мере разработка такого кодекса находится в сфере интересов АСОПП и Форума доноров. На заседании клуба были представители обеих организаций. Посмотрим...

На мой взгляд, самым реалистичным является на данный момент разработка кодексов самими грантодающими организациями с участием экспертов. Требование соблюдать такой кодекс может быть в таком случае включено в контракт грантодателя с экспертом, а ознакомление с кодексом может войти в программу обучения экспертов.

Этический кодекс для эксперта

Следующее заседание клуба PROОЦЕНКУ будет посвящено обсуждению того, нужен ли этический кодекс для экспертов, занимающихся оценкой заявок на получение гранта. 

Можно с уверенностью сказать, что число специалистов, занимающихся экспертной оценкой заявок в нашей стране, существенно превышает число тех, кто проводит эмпирическую оценку проектов и программ социальной направленности. При этом принципы проведения эмпирической оценки были разработаны и приняты АСОПП (Ассоциация специалистов по оценке программ и политик) несколько лет тому назад. А вот для экспертов грантовых конкурсов ни принципы, ни этический кодекс пока не разработаны. Наверняка тому есть причины, которые мы обсудим через неделю на заседании клуба PROОЦЕНКУ. Одна из этих причин состоит в том, что, как правило, этические кодексы разрабатываются профессиональными объединениями. Профессионального объединения экспертов грантовых конкурсов у нас нет. Почему? Возможно, эта деятельность не является профессией? В таком случае и объединение, наверное, не нужно…

Хотя в других сферах деятельности этические кодексы для экспертов существуют. Вот три примера: 

• Этический кодекс Уполномоченных Общественных Экспертов всероссийской сети представителей Общероссийской общественной организации инвалидов – больных рассеянным склерозом. 
• Кодекс профессиональной этики эксперта - члена Гильдии экспертов в сфере профессионального образования 
• Кодекс профессиональной этики экспертов в сфере государственной экспертизы проектной документации и результатов инженерных изысканий 

В общем, здесь есть, над чем поразмышлять и что обсудить.

PS Регулярные публикации в блоге возобновляю. Перерыв пришлось сделать по независящим от меня причинам.

Клуб PROОЦЕНКУ получил премию

Вчера вечером в Impact Hub Moscow в теплой и неформальной обстановке прошла церемония вручения премий журнала «Позитивные изменения» за 2023 год. В номинации «Развитие практики оценки социальных проектов» одним из лауреатов стал клуб PROОЦЕНКУ. Хотел бы выразить благодарность учредителям премии и поздравить СЦПОИ и «Гарант» (соучредители Альянса PROОЦЕНКУ), а также всех участников клуба! 

Премия научно-популярного журнала об импакт-инвестициях и оценке социального воздействия «Позитивные изменения» — это ежегодная российская премия, учрежденная ООО «Фабрика позитивных изменений» в 2022 году. Журнал награждает лучших авторов, экспертов и организации, которые внесли вклад в область оценки социального и экономического воздействия по итогам текущего года. 

Подробнее обо всех лауреатах премии 2023 года здесь.  

Доказательный подход и оценка

К сожалению, не смогу присутствовать на следующем заседании клуба PROОЦЕНКУ 9 ноября, которое будет посвящено обсуждению связи доказательного подхода в социальной сфере и оценки проектов и программ. Поучаствую в обсуждении через блог – авансом 😊 

Остановлюсь на вопросе о том, как доказательный подход соотносится с оценкой проектов и программ. Полагаю, что для ответа на этот вопрос нужно, в первую очередь, разобраться с терминологией.

1) «Доказательный подход» к управлению социальными проектами.

Доказательный подход к управлению чаще называют «доказательным менеджментом». По ярлычку «доказательный менеджмент» в этом блоге можно найти несколько публикаций. В одной из них (2016 г.) предлагаются следующие характеристики доказательного подхода к управлению социальными проектами: 

• Подразумевает обязательное обоснование решений, принимаемых на всех стадиях жизненного цикла проекта.
• Предполагает использование лучших из доступных доказательств для обоснования решений.
• Не предполагает жесткого увязывания качества доказательств со способами их получения (как это принято, например, в доказательной медицине). 
• Учитывает возможные различия в восприятии качества доказательств различными заинтересованными сторонами.
• Допускает использование в виде доказательств научных данных, организационных данных, живого опыта, ценностей и принципов. 
• Учитывает, что большинство проектов содержат и простые, и сложные, и динамичные компоненты. Предполагает использование разных доказательств для разных компонентов. При выборе обоснований применительно к динамичным компонентам учитывает контекст и начальные условия.

В этот контекст оценка абсолютно органично вписывается как средство получения тех самых «доказательств».

2) «Доказательная практика» (evidence-based practice). 

Словарь определяет понятие «практика» как «деятельность людей, в к-рой они, воздействуя на материальный мир в процессе производства, преобразуют его». Если толковать понятие «практика» широко именно как «практическую деятельность», например, по управлению социальными проектами, то все сказанное выше оказывается применимо и здесь. 

В «Стандарте доказательности социальных практик в сфере детства» находим более узкое определение: «Практика (социальная практика) – система взаимосвязанных действий, направленных на достижение позитивных изменений (социальных результатов) в жизни конкретных групп благополучателей». Там же «доказательный подход» определяется как «основанный на систематическом поиске обоснований и применении методов, призванных доказать, что реализация той или иной практики приводит к достижению социальных результатов для конкретных групп благополучателей». 

Заглядываем в «Реестр (банк) доказательных практик» на сайте Фонда Тимченко. 

Пример: «Практика оказания комплексной помощи беременным женщинам и женщинами с новорожденными детьми, находящимся в трудной жизненной ситуации, в том числе изъявляющим намерение отказаться от новорожденного ребёнка, а также в риске причинения жестокого обращения, включает в себя социальное сопровождение целевой группы на этапах беременности (поздние сроки) и актуального материнства в течение первого года после рождения ребенка, а также развитие семейных ресурсов, необходимых для полноценного выполнения родительских функций». 

Что в этом случае означает «доказательная практика»? То, что специалисты «Службы помощи матери и ребенку «Млада» в своей деятельности руководствуются доказательным подходом? Или то, что, если работать в точности как они, то желаемый результат гарантирован? Если имеется в виду второе (вроде бы, так оно и есть), то мне кажется более корректным термин «практика с доказанной эффективностью», который также используется Фондом Тимченко.

Кстати, есть еще одно понятие, которое близко по смыслу и достаточно широко используется у нас: «социальная технология» (совокупность методов и приемов для достижения определенного социального результата). 

Как оценка проектов и программ социальной направленности соотносится с обоснованием ("доказыванием") эффективности «практик» или «социальных технологий»? Очевидно, что вопросы об эффективности и о возможности тиражирования «практики» могут входить в задание на проведение оценки проекта или программы. Соответственно, по результатам оценки может быть вынесено суждение о том, что "практика" эффективна в данном проекте и может быть использована в других аналогичных проектах.

Корпоративное благополучие и оценка в НКО

Сообщение с таким названием мы с Владимиром Балакиревым сделали на только что завершившейся конференции АСОПП. 

Корпоративным благополучием, благополучием сотрудников или благополучием на рабочем месте принято называть такое «состояние, при котором сотрудник успешно реализует собственный потенциал, продуктивно работает и вносит свой вклад в развитие компании и общества в целом» (Лисовская, А. Ю., Кошелева, С. В., Соколов, Д. Н., & Денисов, А. Ф. (2021). Основные подходы к пониманию благополучия сотрудника: от теории к практике. Организационная психология, 11(1), 93-112).

Один из вариантов «драйверов корпоративного благополучия» выглядит так: 

1. Достижения: «Я достигаю большинства своих целей на работе»
2. Принятие: «На работе есть люди, которые ценят меня как личность»
3. Принадлежность: «Я чувствую принадлежность к своей компании»
4. Энергия: «При выполнении большинства рабочих задач я чувствую прилив энергии»
5. Справедливая оплата: «За мою работу мне платят справедливо»
6. Гибкость: «Моя работа допускает достаточную гибкость и по времени, и по месту»
7. Инклюзивность: «В моей рабочей среде чувствуется инклюзивность и уважение ко всем людям»
8. Социальная значимость: «Моя работа важна для решения социально-значимой задачи» 
9. Обучение: «Я постоянно чему-то учусь на работе»
10. Поддержка руководителя: «Мой руководитель помогает мне добиться успеха»
11. Поддержка коллег: «На работе есть люди, которые оказывают мне поддержку и воодушевляют меня»
12. Доверие: «Я могу доверять людям в моей компании»

Мы попытались показать, что полномасштабное внедрение оценки в деятельность НКО может существенным образом положительно повлиять на некоторые из этих драйверов, то есть, на благополучие сотрудников НКО.

Например, оценка/само-оценивание в НКО может способствовать ощущению достижения (драйвер №1), поскольку чаще всего одной из задач оценки является вынесение обоснованного суждения о достижении целей программы или проекта. 

Другой пример – обучение (драйвер №9). Каждый раз, проводя оценку, сотрудники НКО узнают что-то новое, учатся. Отсюда – связь оценки с обучением. 

Мы планируем опубликовать статью на эту тему в начале следующего года.