HR не внедряет искусственный интеллект. Он внедряет собственные предубеждения в промышленном масштабе.
Сегодня ИИ в HR используют для анализа резюме, оценки потенциала, формирования кадрового резерва и прогнозирования текучести.
Без проверки данных, на которых учится искусственный интеллект, компания рискует превратить вчерашние управленческие привычки в автоматические правила будущего.
Есть мысль, которая может показаться неприятной.
Когда компания говорит: «Мы внедрили ИИ для оценки кандидатов и сотрудников», нередко она делает совсем другое. Не использует глубинные возможности искусственного интеллекта, а просто автоматизирует уже существующий процесс — вместе с его критериями, допущениями и ошибками. Прошлые управленческие привычки превращаются в систему, способную принимать или поддерживать тысячи кадровых решений.
Именно поэтому скрытая проблема не в том, что система однажды ошибётся. Гораздо опаснее, если она будет системно и незаметно воспроизводить ошибки, которые организация давно перестала замечать.
Особенно высок этот риск в прогнозных и рекомендательных моделях, которые обучаются на исторических кадровых данных или используют прошлые решения как показатель успешности.
Главный риск ИИ в HR: алгоритм масштабирует существующие критерии
Большинство дискуссий об искусственном интеллекте строится вокруг качества модели: насколько она точна, современна и объективна. Но начинать нужно с другого вопроса:
Какие представления о хорошем сотруднике уже существуют внутри компании?
Искусственный интеллект в управлении персоналом не создаёт критерии таланта, потенциала и эффективности из воздуха. ИИ также не делает эти критерии объективными. Он просто придаёт им масштаб.
Как возникает предвзятость ИИ-системы в оценке персонала?
Если в течение десяти лет руководителями чаще становились люди определённого возраста, образования или стиля поведения, модель может увидеть в этом закономерность.
Представим, что компания обучает модель прогнозировать управленческий потенциал на данных о прошлых назначениях. Исторически руководителями чаще становились сотрудники, готовые постоянно быть на связи и редко оспаривать решения вышестоящих менеджеров.
Модель не знает, что стратегия бизнеса изменилась и теперь компании нужны самостоятельность, разнообразие мышления и способность предлагать нетривиальные решения. Она видит только статистическую связь между определённым поведением и прошлым карьерным успехом.
В результате компания считает, что прогнозирует будущий потенциал, хотя на самом деле воспроизводит вчерашнюю модель лидерства. Возникает парадокс: мы думаем, что автоматизируем объективность, а автоматизируем собственную историю.
Опасность начинается там, где исчезает возможность обсуждения
Многие корпоративные критерии никогда не проходили серьёзной проверки. Они появляются постепенно. Один руководитель продвигает сотрудника. Другой повторяет похожее решение. Через несколько лет формируется устойчивая практика. Затем она превращается в организационную норму, а позднее — в данные для автоматизированной системы.
Так возникает цепочка:
Для бизнеса это означает риск системно отсеивать сильных кандидатов, неверно определять потенциал сотрудников и продолжать инвестировать в устаревшую модель лидерства.
До появления ИИ ошибочный критерий мог влиять на отдельные решения одного руководителя или подразделения. После автоматизации он получает другой масштаб.
Однажды выбранное представление о том, кто считается перспективным сотрудником, начинает автоматически воспроизводиться в найме, продвижении, оценке эффективности и развитии людей. ИИ не обязательно создаёт новую систему оценки. Нередко он цементирует существующую.
Алгоритм не нейтрален: он закрепляет выбранную модель успеха
Исследователь технологий Лэнгдон Виннер обращал внимание на то, что технологии способны воплощать и закреплять устройство общества, в котором они появились.
Для HR это означает, что любая система оценки персонала содержит ответ на вопрос:
Каких людей наша компания считает ценными?
Этот ответ может быть не только сформулирован в политике или модели компетенций. Он проявляется через множество прошлых решений:
кого чаще повышали;
кому поручали стратегические проекты;
кого считали лидером;
чьи ошибки воспринимались как допустимые;
какое поведение считалось лояльностью;
какие карьерные траектории признавались правильными.
Модель обобщает эти разрозненные решения и превращает их в повторяемое правило. Поэтому проблема не только в качестве кода или точности модели. Проблема начинается раньше — с определения того, что именно система должна считать успехом.
Самая большая опасность — исчезновение спора
До появления рекомендаций ИИ-систем кадровое решение можно было связать с конкретным человеком.
HR мог спросить руководителя:
— Почему вы выбрали именно этого кандидата?
— Почему эти компетенции важнее других?
— На чём основан вывод о его потенциале?
Обсуждение не гарантировало справедливого решения. Но ответственность оставалась видимой.
С появлением автоматизированного вывода возникает новая фраза:
«Так показала модель».
Она способна завершить обсуждение ещё до того, как оно началось.
Рейтинг, процент или прогноз риска создают впечатление математического факта. Хотя за этой цифрой могут скрываться исторические решения, спорные показатели успеха и устаревшие представления о ценном сотруднике.
Ответственность незаметно перемещается с человека на систему. Руководитель уже не выбирает — он якобы следует рекомендации. HR не оценивает основание решения — он доверяет технологическому продукту. Поставщик системы ссылается на модель и качество данных. В результате решение затрагивает человека, но его основания невозможно обсудить с тем, кто готов отвечать за последствия.
Самая опасная компания будущего — не та, где ИИ ошибается. Ошибки неизбежны и у людей, и у ИИ-систем. Опаснее компания, в которой никто больше не задаёт вопрос:
«Почему система рекомендует именно это решение?»
ИИ может не только усиливать предубеждения
Сам по себе искусственный интеллект не обязательно делает решения менее справедливыми.
При правильно организованной работе он может, наоборот, сделать критерии видимыми, обнаружить непоследовательность человеческих решений и показать закономерности, которые раньше оставались незаметными.
ИИ-система может выявить, что одинаковые достижения по-разному оцениваются в разных подразделениях. Показать, какие категории кандидатов систематически отсеиваются. Обнаружить, что используемые критерии почти не связаны с последующей эффективностью сотрудников.
Опасность возникает не из-за автоматизации как таковой. Она возникает, когда автоматизация внедряется без проверки критериев, качества данных, последствий решений и возможности пересмотра результата.
Новая роль HR — владелец качества системы кадровых решений
Мы привыкли думать, что ИИ автоматизирует отдельные HR-задачи. Но одновременно он масштабирует управленческую философию компании.
Поэтому меняется и роль HR.
Экономист Дуглас Норт называл институтами правила игры, по которым действует общество. Внутри организации такими правилами становятся критерии отбора, модели компетенций, принципы продвижения, показатели эффективности и представления о лидерстве.
Для HR это не новая территория. Он и раньше участвовал в создании систем оценки и профилей должностей.
Но до появления ИИ такие правила оставались относительно гибкими. Их можно было обсуждать, корректировать после неудачных решений и менять вместе со стратегией бизнеса. Искусственный интеллект меняет не только сами правила, но и скорость их применения. Однажды выбранный критерий может начать воспроизводиться в тысячах кадровых решений, прежде чем организация заметит его последствия.
Именно здесь возникает новая профессиональная ответственность HR. Она не делает HR арбитром справедливости и не переносит на него ответственность за каждое решение руководителя. HR также не должен самостоятельно разрабатывать алгоритмы — это задача технологических команд и поставщиков. Но HR становится владельцем качества системы принятия кадровых решений.
Не отдельных решений, а системы, на которой они строятся:
критериев;
данных;
показателей успешности;
допустимых исключений;
границ автоматизации;
механизмов проверки и пересмотра.
Руководители принимают решения. ИИ помогает их масштабировать. А HR должен регулярно проверять качество критериев и правил, лежащих в основе этих решений. Поэтому главный вопрос для HR звучит уже не так:
«Какой ИИ выбрать?»
Он звучит иначе:
«Какую систему решений этот ИИ будет воспроизводить тысячи раз?»
Интеллектуальное сомнение становится профессиональным навыком
Сегодня компании ищут специалистов, которые умеют работать с ИИ. В ближайшие годы не менее ценными станут специалисты, способные проверять основания его рекомендаций. Интеллектуальное сомнение — это не сопротивление технологиям и не страх перед автоматизацией.
Это способность различать:
Работать «против ИИ» — значит не позволять убедительной цифре заменять профессиональное суждение. Это не недоверие к технологиям. Это зрелое управление ими.
Новое конкурентное преимущество компаний
Сегодня многие организации стремятся приобрести лучший искусственный интеллект. Но со временем сильные модели станут доступны большинству компаний. Конкурировать только качеством технологии будет всё сложнее.
Настоящим преимуществом станет качество системы, в которую встроен ИИ: способность компании пересматривать критерии успеха, замечать тех, кого система систематически исключает, и сохранять ответственность за кадровые решения.
Такие компании смогут использовать ИИ не для воспроизводства прошлого, а для принятия более осознанных решений о будущем. Остальные будут просто всё быстрее повторять собственную историю.
Частые вопросы об ИИ в HR
Может ли ИИ снизить предвзятость при оценке персонала?
Да. ИИ может выявлять непоследовательность решений и скрытые перекосы, если его рекомендации регулярно проверяются человеком и сопоставляются с реальными результатами.
Кто отвечает за решения, принятые с помощью ИИ?
Ответственность распределяется между руководством, HR, технологической командой и руководителем, принимающим окончательное кадровое решение. ИИ-система не снимает ответственность с человека.
Вместо вывода
Мы привыкли думать, что искусственный интеллект меняет HR. Но, возможно, происходит и обратное. ИИ впервые делает особенно заметными скрытые правила, по которым организация принимает решения о людях. Он показывает, что за каждым профилем успеха, рейтингом и прогнозом стоят человеческие представления о том, кого следует нанимать, развивать и продвигать.
Поэтому главная задача HR — не просто внедрить искусственный интеллект. Главная задача — не позволить компании автоматизировать собственные предубеждения. Будущее принадлежит не тем, кто быстрее принимает кадровые решения. А тем, кто не перестаёт спрашивать:
«Почему мы вообще считаем это решение правильным?»