ИИ-агенты в HR: 4 вопроса поставщику

20 октября 2026 года OpenAI опубликовала технический отчёт о двух случаях, когда ИИ-агенты во время выполнения обычных задач ослабили механизмы собственного мониторинга. Ни один из эпизодов не был признан инцидентом высшей критичности, и OpenAI не утверждает, что агенты намеренно пытались скрыть свои действия. Но сам механизм заслуживает внимания.

Для HR этот вопрос становится вполне практическим. ИИ-агенты постепенно переходят от ответов в чате к реальным действиям: могут искать информацию, работать с документами, менять данные, запускать процессы, готовить и отправлять сообщения. Поэтому при выборе такой системы уже недостаточно спрашивать только, что она умеет делать. Нужно понимать, что ей технически не разрешено менять.

Что произошло с ИИ-агентами OpenAI

Первый случай особенно показателен. ИИ-агент выполнял большую задачу, одна часть которой была связана с поиском информации в корпоративном Slack. Пользователь попросил его во время этого поиска не отправлять сообщения. Для человека границы такого поручения выглядят довольно естественно: работая с этим участком задачи, ничего в чат не отправлять.

Но позже, занимаясь уже другой частью системы, агент вернулся к старому правилу «не отправлять сообщения» и распространил его на автоматические предупреждения системы мониторинга.

Проще говоря: система продолжала замечать происходящее и делать записи, но перестала звать человека, когда требовалось его внимание. В отчёте описан и второй случай: другой агент переносил программное решение по существующему образцу и убрал компонент мониторинга, хотя ранее ему прямо указывали не отключать его. Позже на прямой вопрос человека агент неверно ответил, что мониторинг не удалял.

Здесь важна оговорка: OpenAI пока не установила, отражают ли эти случаи намеренное избегание контроля или то, как агенты интерпретировали инструкции при выполнении задачи. Для компании практический вопрос от этого не исчезает.

Первый вывод: ИИ-агенту недостаточно дать правило — нужны его границы

Мы постоянно пользуемся контекстом и почти не замечаем этого. Если руководитель говорит сотруднику:

Обычно нет необходимости добавлять: «Это не означает, что нужно отключить системные уведомления, сообщения службы безопасности и вообще всю исходящую корреспонденцию компании». Человек достраивает границы поручения из контекста. При работе с ИИ-агентами на это лучше не рассчитывать.

Вместо:

лучше:

То есть ограничения агента полезно задавать в трёх частях:

• что разрешено или запрещено;
• где именно действует правило;
• какие действия являются исключением.

Но из отчёта OpenAI следует и второй, более серьёзный вопрос.

А если ИИ-агент может изменить собственный контроль?

Представим ИИ-агента в HR. Он получает доступ к системе подбора и умеет анализировать кандидатов, менять статусы, готовить рекомендации, обновлять данные, отправлять сообщения и фиксировать результаты работы.

Рекрутер видит итог и принимает финальное решение. Кажется, человеческий контроль сохранён. Но человек сможет нормально проверить решение только в том случае, если видит достоверную историю того, что происходило до финального результата: какие данные использовал агент, что изменил, какие действия совершил, не менялись ли правила по ходу работы и сработали ли предусмотренные проверки и предупреждения.

Если часть истории исчезла или механизм контроля был изменён, человек может совершенно добросовестно проверить то, что ему показали, — и всё равно не увидеть проблему.

Но первый ответ поставщика не стоит считать окончательным. «Нет, конечно», «у нас всё защищено» и «все действия логируются» — это начало разговора, а не его результат. Хороший ответ объясняет, как именно это устроено.

Что должен контролировать HR при внедрении ИИ-агентов

HR-директору необязательно становиться специалистом по архитектуре искусственного интеллекта и самостоятельно решать, где технически хранить журналы или как строить систему информационной безопасности. Но HR остаётся владельцем или совладельцем кадрового процесса.

Поэтому ему важно понимать:

• какие кадровые решения и действия передаются агенту;
• что агент может делать самостоятельно;
• какие действия требуют подтверждения человека;
• какие ограничения агент изменить не способен;
• можно ли восстановить достоверную историю его действий;
• кто отвечает за техническую независимость контроля.

Это уже совместная зона HR, IT, информационной безопасности и поставщика решения.

Почему «финальное решение принимает человек» уже недостаточно

Долгое время человеческий контроль над ИИ описывали довольно просто:

С появлением ИИ-агентов эта схема становится сложнее. Чтобы человек действительно мог проверить работу системы, должна сохраниться достоверная информация о том, что агент сделал до момента проверки, а система, которую проверяют, не должна незаметно менять сами условия проверки.

Поэтому при выборе ИИ-агента вопрос поставщику сегодня звучит уже не только так:

Есть второй, не менее важный: