Д. Киркпатрик

50 лет назад специалисты по обучению персонала впервые узнали о четырехуровневой модели, предложенной Дональдом Киркпатриком (Donald L Kirkpatricks training evaluation model - four levels of learning evaluation). На сегодняшний день эта система обрела невероятную популярность, зарекомендовав себя как наиболее результативный и профессиональный подход к обучению. Согласно данной модели эффективность обучения необходимо оценивать на четырех уровнях: реакция, обучение, поведение и результаты.

Существуют и другие подходы к оценке эффективности обучения: целевой подход ТАЙЛЕРА (Tylers Objectives Approach); модель СКРИВЕНСА, (Scrivens Focus On Outcomes); модель СТАФЛЕБИМА (Stufflebeam) CIPP; схема CIRO; натуралистический подход Губа (GubasNaturalisticApproach), модель Брюса ААРОНА (Bruce Aarons Model), модель Джека ФИЛИПСА ROI (Return on Investment).

Однако все они в той или иной степени являются производными от модели Киркпатрика или используют ее элементы. Именно поэтому система Д. Киркпатрика активно используется во всем мире уже ровно полвека. Систему Д. Киркптрика в ноябре в Москве представит Джим Киркпатрик, сын и последователь Дональда Киркпатрика.

Наша модель дает настоящую возможность оценить реальный эффект от обучения. Это первое, о чем стоит говорить с руководителями компаний при обсуждении, что они хотели бы увидеть в представленной им программе обучения, другими словами, на этапе выявления их ожиданий. На этом этапе очень важно провести работу с менеджментом компании. Это нужно, чтобы прийти к единому мнению относительно следующих вопросов: какое именно поведение сотрудников будет соответствовать их ожиданиям; какие виды обучения необходимы для достижения поставленных целей; какую атмосферу необходимо создать для людей, чтобы они не только прошли обучение, но и получили реальную практическую пользу от этого. Подробная проработка всех четырех уровней - это самый лучший способ совершенствовать программы обучения, чтобы они действительно отвечали потребностям бизнеса.

Также мы настаиваем, чтобы бизнес-тренеры активно работали с руководителями компаний на третьем уровне - уровне применения выработанных навыков при решении рабочих задач и ситуаций. Именно на этом этапе мы получаем конкретный положительный или отрицательный результат. Ведь, попав в привычную рабочую среду, люди ведут себя по-другому, нежели во время прохождения тренинга!

Мы также убеждены в том, что клиент и сотрудники, направляемые на обучение должны ясно понимать: для чего необходимо обучение. Слишком часто людей отправляют на тренинг без понимания того, зачем это нужно компании и что это даст в итоге самим обучающимся. А внимание руководства к оценке и признание приоритета значимости обучения поможет придать некую целостность процессу обучения.

Ключевым этапом в нашей модели четырехуровневой модели при определении эффективности обучения является, без сомнения, уровень 3 - поведение. Обучение не будет представлять никакой ценности, если изученное знание не перейдет в поведение обучающегося. Мы даже написали книгу об этом, назвав ее «Трансформация изученного в поведение».

Мы знаем, что если не будет такого развития знаний, полученных в процессе обучения, желаемый результат никогда не будет достигнут. Приведем пример эффективной работы по уровню. В интервью с олимпийскими чемпионами по фигурному катанию из России (к сожалению, не помню их имен) на вопрос корреспондента о том, как они намерены побеждать, они ответили, что просто выйдут на лед и будут выполнять все те элементы, которые выполняют каждый день. То есть процесс обучения нашел отражение в ежедневном поведении. То же самое можно сказать и о бизнесе. Когда то, чему научили сотрудников, перейдет в навык, в норму работы, можно будет сказать, что обучение пройдено успешно. Говоря о результатах, мы хотелим бы отметить, что наша модель отличается от других тем, что мы не пытаемся изолированно рассматривать материальный эффект обучения. Скорее, мы собираем все данные и всю необходимую информацию (факты, доказательства), чтобы продемонстрировать ценность обучения, тренинга и коучинга, выраженную в практических результатах. Мы спрашиваем руководство компании: каковы их ожидания от программы? Затем задаем вопрос: «В чем заключается успех компании?» Только когда они сформулируют свое ожидания, сказав хотя бы что-то вроде «доходы от продаж», или «экономия средств», или «удержание работников в компании», это сможет найти отражение в четвертом уровне, т. е. может быть получен необходимый результат.

В 1959 г. Дональдом Киркпатриком была предложена модель оценки эффективности обучения, которая на сегодняшний день является классической. По мнению автора, данная оценка позволяет решить три основные задачи организации (рис. 2.1.6).

Рис. 2.1.6.

Данная модель строится на четырех уровнях оценки эффективности обучения персонала (рис. 2.1.7) :

• 1) реакции слушателей на программу обучения, которая проводится путем анкетирования или оценки листов реагирования;
• 2) знаний и опыта, полученных слушателем на программе обучения - определение степени усвоенности полученных знаний с помощью тестов, задач, симуляции;
• 3) поведения на рабочем месте - данный этап является одним из наиболее сложных в оценке, поскольку эффект от обучения может быть заметен не сразу. Однако проведение обследования работы сотрудников на рабочем месте, проверки планов действий, степени понимания целей и задач как всей организации, так и отдельного сотрудника, позволяет выявить успешность обучения;
• 4) влияния программы обучения на деятельность организации. Происходит путем определения ключевых факторов, которые выявляют эффективность обучения (повышение производительности, улучшение качества, уменьшение количества несчастных случаев, увеличение продаж, снижение текучести кадров). При этом важно знать точные данные этих показателей до обучения, т.е. к результатам относятся лишь те изменения, которые произошли после обучения сотрудников.

Рис. 2.1.7.

Несмотря на то, что Д. Киркпатрик был против финансового измерения эффективности обучения, в 1991 г. Джек Филипс предложил пятый уровень оценки, который определяет результаты четвертого уровня в денежном эквиваленте. Его модель - возврат на инвестиции - позволяет оценить разницу между полученной от программы обучения прибылью и затратами на обучение и определяется по формуле 1

Поскольку для многих работодателей решающим фактором в определении программ обучения сотрудников являются стоимостные показатели, то именно оценка ROI пользуется спросом ввиду возможности оценить образовательную программу как бизнес-инструмент, а также оправдать все затраты на обучение.

Как уже говорилось, современные работодатели рассматривают затраты на обучение персонала в качестве капиталовложений в будущий рост конкурентоспособности предприятия. Однако, чтобы затраты полностью оправдывали себя, необходимо качественно оценить показатели эффективности системы обучения. Кроме того, можно проанализировать внутренние и внешние факторы, способствующие использованию технологии оценки в организации, а также вероятные риски, сопряженные с проведением оценки эффективности обучения. При этом каждая группа рисков подвергается ощутимому влиянию со стороны организации-работодателя.

Например, снизить риски, связанные с несоответствием целей обучения запросам компании, позволит процедура их согласования с перспективами развития компании, окружающей средой, оценкой потребности в обучении на начальном этапе утверждения договора об обучении.

Снизить риски, связанные с низким качеством обучения, помогут оценка программ обучения специалистами отдела по работе с персоналом, оценка соответствия данных программ необходимым для выработки компетенциям, стандартам обучения (рис. 2.1.8). Проверке также могут подлежать специалисты, проводящие обучение, путем изучения их сертификатов, опыта работы в других компаниях, результатов деятельности.

Риски низкой мотивации сотрудников в обучении могут быть решены путем разработки качественной системы мотивации и стимулирования, определяющей зависимость между уровнем квалификации сотрудника и его карьерным ростом, а также материальным поощрением.

Виханский О.С. Стратегическое управление: учебник. 2-е изд., перераб. и доп. М.: Гардарики, 2003. 296 с.

Рис. 2.1.8.

Для уменьшения вероятности ухода специалиста из компании после прохождения обучения может быть заключен договор об обязательном сотрудничестве на определенный период. Кроме того, в рамках системы мотивации сотрудники, успешно прошедшие обучение, могут быть направлены для реализации или координации крупных проектов внутри компании, управления филиалами компании или другими структурными подразделениями 1 . Анализ возможных рисков при обучении персонала организации и способы их минимизации представлены на рис. 2.1.9.

Успешность осуществления обучения персонала в организации зависит не только от проведенной оценки эффективности обучения, но и от качества реализации каждого из этапов в определенной последовательности.

• 1. Подготовительный этап - определение стратегических целей организации в работе с персоналом, уровня готовности организации к инвестированию в собственное развитие, формирование ожидаемых результатов от обучения и методов их использования.
• 2. Определение потребности в обучении предполагает оценку информации о сотрудниках (стаж работы, рабочий опыт, базовое образование, принимал ли работник ранее участие в программах обучения или повышения квалификации); анализ данных о прове-

Лксенова О.Л. Проблемы и приоритетные направления при создании корпоративной системы обучения персонала организации. URL: http://www. treko.ru/show_article_1009

денных аттестациях; оценка существующих проблем в работе персонала, причиной которых служит отсутствие достаточных знаний и навыков; сбор заявок на обучение от руководителей подразделений, а также сбор предложений по обучению от сотрудников путем анкетирования; работа с кадровым резервом; планирование карьеры.

• 3. Обучение руководителей и сотрудников исходя из поставленных целей обучения, планируемых результатов в рамках стратегии развития компании.
• 4. Оценка эффективности обучения.
• 5. Анализ полученных результатов, корректировка учебных программ.

Рис. 2.1.9.

В условиях конкуренции на рынке труда стало очевидным, что проверка эффективности обучения лишь посредством субъективного оценивания изменения поведения сотрудника на рабочем месте не является достаточной и достоверной.

На наш взгляд, данная методика является несовершенной и поэтому требует доработки. Подходя к процессу обучения и его оценке как к формальной процедуре, работодатели забывают о том, что вкладывают в это немалые средства, хотя могли бы получать реальный положительный эффект от роста компетентности своих сотрудников.

Важным этапом в системе оценки должна стать оценка практических навыков (см. п. 4-5), а точнее - способность и возможность сотрудника применять полученные теоретические знания на практике. В организации должны быть созданы условия для реализации этих способностей, т.е. система обучения персонала должна строиться не по формальным признакам, а исходя из реальных потребностей развития тех или иных компетенций сотрудников, требуемых компании на данном этапе работы.

Методика оценки обучения персонала на основе интеграции оценки по модели Киркпатрика

На основе модели Киркпатрика представляем процедуру оценки эффективности обучения и разработанную нами методику оценки обучения.

Реализация процедуры оценки обучения включает в себя шесть основных этапов (рис. 2.1.10).

• 1. Оценка реакции слушателей или оценка удовлетворенности процессом обучения чаще всего проводится путем анализа листов реагирования или простого анкетирования, главными целями которого является определение уровня полезности тренинга, удовлетворенности от процесса обучения, работы тренера.
• 2. Оценка знаний и навыков подразумевает оценку степени достижения поставленных перед обучением целей. Главными инструментами на данном этапе выступают профессиональное тестирование, которое проводится и до обучения, а также экзамены в устной или письменной форме.
• 3. Оценка поведения на рабочем месте , является одним из наиболее сложных этапов, поскольку подразумевает оценку изменения поведения участников обучения на рабочем месте. Работа оценщика может заключаться в собеседовании в стиле коучинга, позволяющем определить понимание сотрудником своих трудовых целей и вклада в общее дело, а также в оценке общего социальнопсихологического климата коллектива.
• 4. Проверка владения полученных навыков путем обучения других сотрудников, проведение презентации для руководителей по вопросам учебной сессии, помощь в адаптации и обучении новых сотрудников, проведение презентаций с коллегами из других подразделений.
• 5. Поскольку владение знаниями не всегда сопряжено с возможностью их практического применения, то важным этапом оценки является оценка практических навыков. Она должна определять, насколько сотрудник готов к выполнению новых задач по результатам обучения. Вариантами проверки могут быть: создание плана мероприятий по совершенствованию какого-либо направления деятельности компании, создание типового документа, положения, стандарта работы, разработка и реализация проекта, направление в другие филиалы и подразделения для обмена опытом и др.
• 6. Оценка влияния программы обучения определяет, насколько изменились бизнес-показатели компании. Наиболее сложным является определение ключевых показателей, которые подвергаются влиянию со стороны проведенного обучения. Если речь идет о финансовых данных, таких как объем продаж, прибыль, затраты, то вклад тренинга измерить довольно сложно, поскольку проведенный тренинг не является единственным фактором, влияющим на эти показатели. То есть оценке подлежат производственные показатели (улучшение качества, увеличение производительности труда персонала, рост продаж, уменьшение количества несчастных случаев и производственных травм, снижение времени обслуживания клиентов, уменьшение производственных затрат и др.).

В условиях кризиса важным является также постсопровождение программы обучения, поскольку в динамично изменяющихся условиях возможность использования навыков, полученных в процессе работы образовательных программ, в практической деятельности может быть утеряна. В такой ситуации оптимально проведение доверительной беседы с сотрудником, объяснение причин сложившейся ситуации, совместная разработка альтернативных методов практического применения знаний (стажировка, управление проектом, получение опыта в других филиалах или разработка системы наставничества). Это позволит избежать демотивации сотрудников, падения уровня вовлеченности в трудовую деятельность, а также уровня лояльности по отношению к руководству и пониманию стратегии развития организации .

Рис. 2.1.10.

Таким образом, реализация всех этапов позволит провести качественную оценку эффективности обучения персонала организации. Однако нельзя забывать, что оценка - не самоцель, а лишь средство поиска недочетов в работе всей системы, зон совершенствования и развития или технология, доказывающая полезность обучения с экономической точки зрения.

Поскольку обучение персонала является довольно затратной процедурой, работодатели стали ответственно подходить как к выбору методик обучения, так и к формированию системы обучения в целом. Важным ее элементом стала оценка эффективности системы обучения персонала, которая позволяет соотнести затратность обучения с его эффективностью.

Использование усовершенствованной модели оценки эффективности обучения позволяет обосновать значимость обучения в общей системе работы с персоналом, определить рациональность использования тех или иных методов обучения, а также выявить недочеты на разных этапах проведения обучения и скорректировать программы для дальнейшей успешной работы компании.

• Удовидненко Р.С., Киреева В.С. Сравнительный анализ моделей оценки эффективности обучения персонала // Современные проблемы науки и образования. 2014. № 6.
• Турчинов Л.И. Кадровая политика и управление персоналом: проблемы теории и практики // Коммуникология. 2014. Т. 7. № 5. С. 103-117.

Четырехуровневая модель оценки Киркпатрика
Пожалуй, самая известная модель оценки учебного процесса – модель Дональда Киркпартика Четырехуровневая модель оценки, которая впервые была представлена в серии статей в 1959 в the Journal of American Society of Training Directors (теперь известный как T+D Magazine). Данная серия была позднее скомпилирована и опубликована в виде статьи Techniques for Evaluating Training Programs в книге под редакцией Киркпатрика Evaluating Training Programs в 1975 году.

Тем не менее, четыре уровня модели Киркпатрика стали популярными только после выхода его книги Evaluating Training Programs в 1994 году. В наше время эти четыре уровня стали краеуголным камнем индустрии обучения.

В то время как большинство специалистов рассматривают эти четыре критерия оценки процесса обучения как «уровни», сам «Киркпатрик никогда не использовал данный термин, обычно он называл их шагами (Craig, 1996). Добавлю, что он не называл это моделью, но использовал для обозначения слова такие как «техники для проведения оценки» “techniques for conducting the evaluation” (Craig, 1996, p294).

Данные четыре шага состоят из:

Шаг №1: Обратная связь или реакция (далее в тексте я буду называть первый уровень – Обратная связь) ( Reaction ) – Насколько учащимся понравился/не понравился учебный процесс?;

Шаг №2: Обучение ( Learning ) -Что они изучали? (степень усвоения знаний и навыков учащимися);

Шаг №3: Поведение ( Behavior ) – Что изменяется в рабочей деятельности обучаемого в результате процесса обучения? (способность применять приобретенные в учебе знания и навыки в работе);

Шаг №4: Результаты ( Results ) – Каковы осязаемые (материальные) результаты процесса обучения в терминах снижения затрат, улучшения качества работы, увеличения выпуска продукции, повышения эффективности и т.п..?

Концепция Киркпатрика весьма важна, поскольку это отличный инструмент для планирования, оценки, диагностики проблем, особенно если мы внесем в нее незначительные улучшения, показанные ниже.

Не только для тренинга

Некоторые специалисты ошибочно предполагают, что модель Киркпатрика может применяться для тренинга (здесь имеется ввиду процессы формального обучения: тренинги, семинары – прим. Э.Б.), но модель может бы использована в работе с другими учебными процессами. К примеру, профессия Human Resource Development (HRD) связана не только с развитием процессов формального обучения, таких как тренинг, но также других форма, таких как неформальное обучение, развитие, наставничестве и воспитание (Nadler, 1984). В руководстве, изданном одним из основателей Human Resource Development (HRD) Leonard Nadler (1984), используется четырехуровневая модель Киркпатрика, как главная модель оценки учебного процесса.

Сам Киркпатрик писал: «Эти цели (ссылаясь на свою статью) будут относиться к обучению в классе (in-house classroom programs). Многие процедуры и принципы применяются ко всем видам учебной активност, таким как анализ эффективности деятельности, участие во внешних программах, программированное обучение, чтение специально подобранной литературы» (Craig, 1996, p294).

Развитие четырехуровневой модели

В силу «возраста» модели, а также с появлением новых, современных технологий, модель Киркпатрика часто критикуется за то, что она слишком устарела и проста. Но тем не менее, и спустя пять десятилетий после ее презентации, не нашлось адекватной модели, способной заменить модель Киркпатрика. И я уверен, причина, почему замены моделей не происходит, в том, что Киркпатрик был в основном прав, но он допустил несколько небольших ошибок:

Мотивация, а не обратная связь (Motivation, Not Reaction)

Когда обучаемый двигается в потоке учебного процесса, как например e-learning курс, эпизод неформального обучения или получая помощь от наставника в выполнении своей рабочей деятельности, он должен принимать решение, на что в первую очередь обращать свое внимание. Если цель или задания оцениваются им как важные или выполнимые, то обучаемый в норме мотивирован в достижении их (Markus, Ruvolo, 1990). Но если задание представляется ему слабо связанным с его деятельностью, или существует лишь малая вероятность успешного выполнения этого задания, соответственно, мотивация выполнения низка. В дополнение, исследование оценки Обратной связи обычно показывают, что это не валидный инструмент оценки успешности (см. последнюю часть статьи Критика)

Это отличается от слов Киркпатрика (1996), который писал, что Обратная связь – это то, насколько обучаемые оценивают отдельный учебный процесс. Тем не менее, чем меньшее значение имеет учебный материал для учащегося, тем больше усилий нужно приложить для разработки и презентации данного материала. Следовательно, если учебный материал не имеет отношения к потребностям самого обучаемого, тогда учебный материал должен «цеплять» обучаемого навороченным дизайном, юмором, играми и т.д… Это не означает, что дизайн, юмор или игры неважны; тем не менее, их использование в учебном процессе гораздо больше, чем просто делать процесс веселым, они помогают и продвигают учебный процесс. И если учебный материал построен на основе ясных целей и дизайна, тогда это помогает учащемуся преодолеть разрыв между существующей и требуемой деятельностями. Следовательно, они (дизайн, юмор, игры) должны мотивировать к обучению – если это не происходит, значит что то пошло наперекосяк в процессе планирования и создания учебного процесса! Если вы вдруг поймаете себя на мысли, что пытаетесь зацепить обучаемых с помощью всяких заманух (дизайн, юмор, игры), вам, видимо, стоит пересмотреть цели вашего учебного процесса.

Деятельность, а не поведение (Performance, Not Behavior)

Деятельность (performance) лучше поведения (behavior), поскольку деятельность имеет два аспекта: поведение является средством и следствием поведения являются результаты. И собственно эти результаты нас интересуют больше всего Gilbert noted (1998).

Обратите это в Лучшую Модель

Модель, где два наиболее важных пункта – результаты и поведение находятся в конце, является перевернутой с ног на голову, поскольку важность пунктов отпечатывается в голове людей в порядке их расположения. Таким образом мы разворачиваем модель в обратную сторону и добавляем вышесказанное и получаем:

Результат (Result ) - Какое влияние (последствие или результат) улучшит ваш бизнес?

Деятельность (Performance ) – Что должны сделать работники, чтобы достичь желаемого эффекта?

Обучение (Learning ) – Какие знания, навыки, ресурсы им нужны, чтобы выполнять свою деятельность? (курсы и занятия в аудитории должны быть последними в списке)

Мотивация (Motivation ) – Что им нужно для того, чтобы осознанно учиться и выполнять деятельность?

Данная модель становится инструментом как планирования, так и оценки =диагностики проблем (Chyung, 2008):

Цели (планирование)	Уровень оценки
Каковы цели нашей компании для развития бизнеса?	Результаты Почувствован ли ожидаемый эффект?
Что наши обучаемые должны уметь выполнять, чтобы достичь этих целей?	Деятельность Были ли перенесены обучаемыми полученные навыки в работу?
Какие новые навыки, знания и ресурсы требуются обучаемым, чтобы они смоглы выполнять деятельность?	Обучение Осваивали ли обучаемые необходимые навыки и/или ресурсы?
Что обучаемым требуется для того, чтобы осознанно учиться и выполнять деятельность?	Мотивация Они мотивированы учиться и выполнять работу?

Исправленная модель может теперь быть использована для планирования (левая колонка) и оценки (правая колонка). В дополнение, это может быть использовано для диагностики проблемных зон процесса обучения. К примеру, вы знаете, что работники получили необходимые навыки в процессе обучения, но не применяют их в процессе работы, тогда становятся очевидными следующие проблемные зоны (в данном примере это ячейка Деятельность или ячейка слева от нее):

Существует нечто в рабочем окружении работника, что ограничивает применение им полученных им навыков; или

Сама исходная предпосылка, что данные навыки приведут к изменению в работе, неверна.

Диаграмма ниже показывает, как приведенные процессы исправленной модели сочетаются друг с другом

Организация

1. Результаты

Суммирующая оценка

Деятельность

2. Рабочая среда

Формирующая оценка

Учебная среда

3. Обучение

Формирующая оценка

Люди

4. Мотивация

Формирующая оценка

Как показывает вышеприведенная диаграмма, Оценка Результатов наиболее интересна руководству бизнеса, в то время как остальные три уровня оценки (деятельность, обучение и мотивация) являются основными для проектировщика обучения в компании для планирования и оценки учебных процессов; и конечно Оценка Результатов также важна для него, поскольку является поставщиком целей развития бизнеса.

Уровень первый – Результаты

Результаты или влияние

Несмотря на то, что обычно наиболее труден и трудозатратен, чем другие три уровня, это дает информацию, которая имеет огромную ценность: она доказывает ценность процессов обучения и выполнения деятельности. Тем не менее, использование модели Цели/Планирование/Оценка должно упростить и облегчить процесс, и вы будете иметь ясную картину того, что вы стараетесь достичь. То есть. Когда вы что-то начинаете планировать, у вас больше возможностей понять, как оценивать это.

Мотивация, Обучение и Деятельность в большей степени вопрос «мягких» единиц измерения (так называемые нефинансовые метрики); тем не менее, лица, принимающие решения, которые утверждают учебные процессы, предпочитают результаты (возврат инвестиций или влияние). Jack Phillips (1996), который вероятно знает лучше других четырехуровневую модель Киркпатрика , пишет, что ценность информации становится значительно выше, если мы идем от мотивации к результатам.

Вышеприведенное не означает, что другие три уровня бесполезны, в самом деле, выгода от их использования заключается в локализации проблем в учебном процессе:

Оценка мотивации информирует вас, насколько соответствует учебный процесс ожиданиям обучаемых (это измеряет, насколько хорошо отработан процесс анализа учебного процесса). Вы можете иметь корректными все другие уровни, но если обучаемые не увидят целей обучения и деятельности, они (обучаемые) вероятно не достигнут целей обучения.

Оценка обучения информирует вас, насколько учебный процесс действительно работает на обучение работников (эта оценка измеряет, насколько хорошо работает проектирование и развитие учебного процесса и материала).

Оценка деятельности информирует вас, насколько усвоенные навыки действительно конвертируются в деятельность работников (это измеряет, насколько хорошо отработан процесс анализа деятельности).

Оценка результатов информирует вас о том, что получает организация взамен того, что она вкладывает в поддержку процесса обучения. Лица, принимающие решения, обычно предпочитают результаты в твердых единицах измерения, хотя и не обязательно в долларах и центах. К примеру, опрос финансовых и IT руководителей показал, что они считают возврат вложенных средств на обучение клиент-ориентированных технологий как в твердых (hard), так и в мягких единицах измерения(soft), хотя удельный вес больше именно в не финансовых метриках (soft), таких как удовлетворенность и лояльность клиентов (Hayes, 2003).

Замечу о разнице между «информацией» и «возвратом средств». Измерения Мотивации, Обучения и Деятельности дает вам информацию для улучшения и оценки учебного процесса, который в бОльшей степени принадлежит проектировщикам обучения в компании; в то время как измерение Результатов дает вам показатель возврата инвестиций в учебный процесс, который больше связан с руководителями бизнеса.

Измерение Результатов может быть выполнено в подходе сбалансированных показателей (balanced scorecard) (Kaplan, Norton, 2001), которые показывают влияние или возврат инвестиций с четырех позиций:

Финансовая: измерение в показателях, таких как ROI, которые показывают монетарный возврат инвестиций, или насколько выходы процесса эффективны. Финансовые показатели могут иметь как «мягкие», так и «твердые» единицы измерения результата.

Клиентская: улучшение поля, где организация выстраивает свои различия от конкурентов в привлечении, удержании, построении глубоких и долгосрочных отношений с целевыми клиентами

Внутренняя: достижение совершенства за счет улучшения таких процессов как процесс управления поставками, производства или технической поддержки.

Инновации и обучение: учебный процесс поддерживает изменение организационного климата, инноваций и индивидуальное развитие

Уровень второй - Деятельность

Данная оценка включает в себя тестирование способностей обучаемого включать приобретенные в процессе обучения навыки в работу. Эта оценка может быть выполнена формально (тестирование) или неформально (наблюдение). Она определяется тем, как отвечают на вопрос: Используют ли работники вновь приобретенные навыки в процессе работы?

Очень важно измерять деятельность, поскольку базовая цель корпоративного обучения улучшать результаты через передачу работникам новых знаний и навыков с тем, чтобы затем они применяли их в работе. Измерение деятельности должно быть постольку, поскольку работники делают свою работу; в измерении должен принимать обычно тот специалист, кто тесно связан с обучаемым: супервайзер, тренированный наблюдатель или интервьюер.

Уровень третий – Обучение

Это показатель того, насколько глубоко обучаемые усваивают знания, развивают навыки и изменяют установки и отношение как результат участия в учебном процессе. Оценка обучения обычно требует пост тестирования с целью установить, какие навыки были усвоены обучаемыми в течение процесса, какими навыками обучаемые уже обладают.

Измерение выходов учебного процесса важно с точки зрения валидизации цели обучения. Измерение обучения обычно сфокусировано на следующих вопросах:

Какие знания были приобретены?

Какие навыки были развиты?

Какие установки были изменены?

Ассессмент обучаемых создается с целью убедиться в способности обучаемого выполнять деятельность. Есть два аспекта этого процесса: собственно сбор информации и данных (тестирование обучаемых) и оценка данной информации (о чем эти данные сообщают?). Данный ассессмент не следует путать с оценкой обучения (evaluation ). Ассессмент показывает прогресс и индивидуальные достижения обучаемых, в то время как Оценка обучения (evaluation ) в целом об оценке программ обучения (Tovey, 1997, p88).

Уровень четвертый – Мотивация

Оценка на этом уровне измеряет показатель, как обучаемые воспринимают и реагируют на процессы обучения и деятельности. Этот уровень измеряется с помощью опросника установок (attitude questionnaires – мотивационных опросников), предлагаемого после многих учебных занятий. Обучаемые чаще всего прекрасно осознают, что им необходимо, чтобы выполнить задание. Если учебный процесс не удовлетворил их потребности, то нужно определиться: или это ошибка педагогического проектировщика (специалиста, конструирующего учебный процесс в компании), или обучаемые не оценили преимуществ процесса.

Когда обучаемый приступает к изучению учебного материала, неважно, что это: eLearning, mLearning, аудиторные занятия или обучение через социальные медиа, он должен принять решение, на что, в первую очередь, он обращает внимание в этом материале. Если цель или задания оцениваются им как важные или выполнимые, то обучаемый в норме мотивирован в достижении их (Markus, Ruvolo, 1990). Но если задание представляется ему слабо связанным с его деятельностью, или существует лишь малая вероятность успешного выполнения этого задания, соответственно, мотивация выполнения низка.

Критика

Есть три проблемных допущения модели Киркпатрика: 1) уровни не расположены в порядке возрастания (нет иерархии уровней); 2) уровни не связаны причинно между собой; 3) уровни имеют положительную корреляцию между собой (Alliger and Janak, 1989).

Единственная часть четырехуровневой модели Киркпатрика, которая не выдержала проверку временем, - Обратная связь (первый уровень). К примеру, школа Тренер XXI века имеет одни из самых низких показателей по первому уровню – уровню обратной связи, но отвечает за высокие показатели деятельности (четвертый уровень), которыми измеряют продуктивность своих выпускников. И это не единичный случай: от исследования к исследованию результаты показывают очень низкую корреляцию между Обратной связью и тем, насколько хорошо работники выполняют деятельность после прохождения обучения (Boehle, 2006).

Гораздо важнее, чем измерение обратной связи, как мы установили, является подготовка обучаемых к учебному процессу через беседы с руководителем о необходимости участия в обучения с последующим их сопровождением с тем, чтобы убедиться в усвоении навыков, переданных в процессе обучения (Wick, et al. 2006), и это еще одна из причин, почему «Обратную связь» надо поменять на «Мотивацию».

Четырехуровневая модель Киркпатрика применяется только после окончания учебного процесса. В то время как цель оценки должна заключаться в сопровождении всего учебного процесса, начиная с начальной стадии – стадии, предваряющей учебный процесс.

На самом деле, эта критика не является точной. К примеру, The ASTD Training & Development Handbook (1996), изданная Robert Craig, включает главу Киркпатрика с простым названием «Оценка». В этой главе Киркпатрик обсуждает контрольные группы, а также методы «до и после» (такие как пре- и посттестирование). Он продолжает обсуждать, что четвертый уровень должен включать пост-тренинг оценку три или более месяца спустя после окончания учебного процесса с тем, чтобы проконтролировать, как обучаемые стали применять навыки, полученные в ходе обучения. Далее Киркпатрик замечает, что Оценка должна быть включена во все стадии учебного процесса не только в течение каждой сессии или модуля, но и после каждого предмета или темы.

Модель четырех уровней работает только для аудиторного обучения, но не для других форм обучения

Как было замечено в части «Не только для тренинга» (см. выше), Киркпатрик писал о возможности использования модели четырех уровней для других типов обучения и HR, которая помогает обеспечить обслуживание процессы и формального, и неформального обучения, и где модель Киркпатрика выступает одной из основных моделей оценки. И может быть, настоящей причиной того, что адвокаты неформального обучения не видят пользы от применения модели Киркпатрика в том, что четыре уровня «были изобретены не под них».

Четыре уровня оценки имеют малое отношение для других подразделений компании и направлений бизнеса

Одна из лучших книг по обучению и развитию The Six Disciplines of Breakthrough Learning , написанная Wick, Pollock, Jefferson, Flanagan (2006). Они, видимо, выдвигают самую обоснованную, критику, что я видел: «К сожалению, эта модель не имеет широкого распространения среди менеджеров бизнес направлений, кто непосредственно связан с результатами обучения. Поэтому, когда руководители департаментов обучения пишут или говорят в терминах уровней оценки модели Киркпатрика со своими коллегами в бизнесе, то это это вместо прояснения чаще запутывает обсуждение и требует дополнительных усилий для выстраивания понимания между бизнесом и функцией обучения».

И вполне возможно, что данная критика направлена по сути не против самой модели Киркпатрика , но против тех из нас, кто выстраивает коммуникации с бизнесом. Мы говорим бизнесу: первый уровень показывает, насколько счастливы обучаемые от обучения, на втором уровне они успешно прошли тест и т.д. по всей модели. Кроме того, согласно исследованиям, которые я видел, результаты обучения используются редко (как раз то, что ценится бизнесом больше всего). Все другие уровни оценки могут быть полезны только в процессе проектирования учебного процесса, поскольку они помогают нам понять, какой тип оценки применить в какой проблемной ситуации. Тем не менее, за этими рамками, эти уровни никому не интересны. Большая часть менеджмента интересует лишь влияние обучения и ответ на вопрос: те ресурсы, что мы потратили на обучение работников, дают вклад в развитие и процветание нашего бизнеса?

Оценка обучения проводится для того, чтобы понять, как повысить его эффективность, какими способами можно его улучшить.

В связи с этим предлагается ответить на следующие восемь вопросов:

· В какой мере содержание тренинга соответствует потребностям участников?

· Является ли выбор преподавателя оптимальным?

· Использует ли преподаватель наиболее эффективные методы для поддержания интереса участников, передачи им знаний, формирования у них навыков и установок?

· Являются ли условия для проведения обучения удовлетворительными?

· Устраивает ли участников расписание занятий?

· Способствуют ли аудиовизуальные средства улучшению коммуникации и поддержанию интереса участников?

· Была ли координация программы удовлетворительной?

· Что еще может быть сделано для улучшения программы?

Оценка обучения имеет четыре уровня:

1. Реакция (Reaction)

2. Научение (Learning)

3. Поведение (Behavior)

4. Результаты (Results)

Оценка на первом уровне - реакция определяет, как участники программы реагируют на нее. В случае, когда обучение проводится внутри фирмы, реакция участников не всегда интерпретируется как удовлетворенность потребителей. Дел в том, что участие в таких тренингах бывает обязательным. У людей просто нет выбора. Руководство компании определяет необходимость данного тренинга и обязывает сотрудников принимать в нем участие. Казалось бы, в этом случае, нужно говорить о реакции руководства. Киркпатрик подчеркивает, что и в этом случае реакция участников является очень важным критерием успешности тренинга, как минимум, по двум причинам. Во-первых, люди делятся своими впечатлениями от тренинга со своим руководством, и эта информация уходит выше. Следовательно, она влияет на принятие решений о продолжении тренинга. Во-вторых, если участники не будут реагировать позитивно, то у них не будет мотивации к научению. По мнению Киркпатрика, позитивная реакция не гарантирует успешного освоения новых знаний, умений и навыков. Отрицательная же реакция на тренинг почти наверняка означает уменьшение вероятности научения.

Научение определяется как изменение установок, улучшение знаний и совершенствование навыков участников в результате прохождения ими программы обучения. Киркпатрик утверждает, что изменение поведения участников в результате тренинга возможно только тогда, когда произойдет научение (изменятся установки, улучшатся знания или усовершенствуются навыки). Поведение - н а этом уровне происходит оценка того, в какой степени изменилось поведение участников в результате обучения. Киркпартик указывает на то, что отсутствие изменений в поведении участников не означает, что тренинг был неэффективен. Возможны ситуации, когда реакция на тренинг была позитивной, научение произошло, но поведение участников в дальнейшем не изменилось, поскольку для этого не были соблюдены необходимые условия. Поэтому отсутствие изменения поведения участников после тренинга не может быть поводом для принятия решения о прекращении программы. Киркпартик рекомендует в этих случаях кроме оценки реакции и научения проверить наличие следующих условий:

· Желание участников изменить поведение.

· Наличие у участников знаний о том, что и как делать.

· Наличие соответствующего социально-психологического климата.

· Поощрение участников за изменение поведения.

К результатам относятся изменения, которые произошли в связи с тем, что участники прошли обучение. В качестве примеров результатов Киркпатрик приводит увеличение производительности, улучшение качества, уменьшение количества несчастных случаев, увеличение продаж, снижение текучести кадров. Киркпатрик настаивает на том, что результаты не следует измерять в деньгах. Он считает, что перечисленные выше изменения могут, в свою очередь, приводить к увеличению прибыли. Оценка на этом уровне – самая сложная и дорогостоящая. Вот несколько практических рекомендаций, которые могут помочь в оценке результатов:

· если возможно, использовать контрольную группу (не проходившую обучение),

· проводить оценку через некоторое время, чтобы результаты стали заметны,

· по возможности, проводить оценку до и после программы,

· провести оценку несколько раз в ходе программы,

· сопоставить ценность информации, которую удастся получить с помощью оценки и стоимость получения этой информации.

Как уже неоднократно упоминалось выше, проблема оценки эффективности обучения все еще остается актуальной для многих компаний, занимающихся развитием своего персонала.

Интересно, что вокруг предложенного Киркпатриком подхода не умолкают споры, еще в конце 1950-х годах, он сформулировал ныне известные 4 уровня оценки эффективности, однако его модель оценки тренингов остается одной из базовых, а его книги - наиболее цитируемыми. Киркпатрик рассматривает оценку как неотъемлемую часть цикла проведения обучения, который включает 10 этапов:

1. Определение потребностей.

2. Постановка целей.

3. Определение предметного содержания.

4. Выбор участников обучения.

5. Формирование оптимального расписания.

6. Подбор соответствующего помещения.

7. Подбор соответствующих преподавателей.

8. Подготовка аудиовизуальных средств.

9. Координация программы.

10. Оценка программы.

Киркпатрик считает, что в большинстве случаев оценка ограничивается использованием анкет по окончании тренинга - изучением непосредственной реакции слушателей на обучение. Он называет эти анкеты "листами для улыбки" (smile-sheets), имея в виду, что чаще всего участники используют анкеты для выражения благодарности.

Четыре уровня, по Кирктпатрику, определяют последовательность проведения оценки обучения. Он пишет: «Каждый уровень важен и влияет на следующий за ним уровень. При переходе от уровня к уровню процесс оценки становится более трудным и требует больше времени, но при этом позволяет получить более ценную информацию» .

· Уровень 1 - Реакция (Reaction)

· Уровень 2 - Научение (Learning)

· Уровень 3 - Поведение (Behavior)

· Уровень 4 - Результаты (Results)

1. Реакция

Оценка на этом уровне определяет, как участники программы реагируют на нее. Сам Киркпатрик называет это оценкой удовлетворенности потребителей. В случае, когда обучение проводится внутри фирмы, реакция участников не всегда интерпретируется как удовлетворенность потребителей. Зачастую руководство определяет необходимость участия в какой-либо образовательной программе. Киркпатрик подчеркивает, что и в этом случае реакция участников является очень важным критерием успешности тренинга, как минимум, по двум причинам.

· Во-первых, люди так или иначе делятся своими впечатлениями от тренинга со своим руководством, и эта информация уходит выше. Следовательно, она влияет на принятие решений о продолжении тренинга.

· Во-вторых, если участники не будут реагировать позитивно, то у них не будет мотивации к научению. Позитивная реакция не гарантирует успешного освоения новых знаний, умений и навыков. Отрицательная же реакция на тренинг почти наверняка означает уменьшение вероятности научения.

2. Научение

Научение определяется как изменение установок, улучшение знаний и совершенствование навыков участников в результате прохождения ими программы обучения. Изменение поведения участников в результате тренинга возможно только тогда, когда произойдет научение (изменятся установки, улучшатся знания или усовершенствуются навыки).

3. Поведение

На этом уровне происходит оценка того, в какой степени изменилось поведение участников в результате обучения. Киркпартик указывает на то, что отсутствие изменений в поведении участников не означает, что тренинг был неэффективен. Возможны ситуации, когда реакция на тренинг была позитивной, научение произошло, но поведение участников в дальнейшем не изменилось, поскольку для этого не были соблюдены необходимые условия. Поэтому отсутствие изменения поведения участников после тренинга не может быть поводом для принятия решения о прекращении программы. В этих случаях кроме оценки реакции и научения рекомендуется проверить наличие следующих условий:

· Желание участников изменить поведение.

· Наличие у участников знаний о том, что и как делать.

· Наличие соответствующего социально-психологического климата.

· Поощрение участников за изменение поведения.

Говоря о социально-психологическом климате, Киркпатрик имеет в виду прежде всего непосредственных руководителей участников обучения. Он выделяет пять видов "климата": запрещающий, обескураживающий, нейтральный, поддерживающий, требующий. Позиция руководителя, соответственно, меняется от запрета на изменение поведения до требования изменить поведение после окончания тренинга. Киркпатрик считает, что единственный способ создания позитивного климата - вовлечение руководителей в разработку учебных программ.

4. Результаты

К результатам относятся изменения, которые произошли в связи с тем, что участники прошли обучение. В качестве примеров результатов Киркпатрик приводит увеличение производительности, улучшение качества, уменьшение количества несчастных случаев, увеличение продаж, снижение текучести кадров. Результаты не следует измерять в деньгах.

По мнению Киркпатрика, оценка на этом уровне - самая сложная и дорогостоящая. Вот несколько практических рекомендаций, которые могут помочь в оценке результатов:

· если возможно, использовать контрольную группу (не проходившую обучение),

· проводить оценку через некоторое время, чтобы результаты стали заметны,

· проводить оценку до и после программы (если это возможно),

· провести оценку несколько раз в ходе программы,

· сопоставить ценность информации, которую удастся получить с помощью оценки и стоимость получения этой информации (автор считает, что проведение оценки на 4 уровне не всегда целесообразно в связи с ее высокой стоимостью).

К принципиальным недостаткам данного подхода относится тот факт, что выделенные информационные блоки не связаны между собой, кроме этого отсутствуют механизмы обратной связи, позволяющие управлять процессом генерации и передачи знаний.. Остальные трудности связаны с неразработанностью процедурного уровня сбора информации и ее обработки. Вследствие этого:

1) обобщенные числовые характеристики объективно не отражают состояния и отношения в измеряемой эмпирической системе;

2) используемые измерительные техники не обладают свойствами валидности, чувствительности и надежности;

3) не учитывается влияние внешних факторов;

4) не ясно, как выделить «чистый эффект» от обучения».