Автоматизированные системы подбора персонала на основе ИИ уже стали обыденностью: они читают резюме, ранжируют отклики, проводят первичный скрининг и даже анализируют видеоинтервью. При этом все чаще всплывает главный неудобный вопрос: «А кто отвечает за решения алгоритма и насколько они законны?»

Что такое «черный ящик» и почему кандидаты против

В HR под «черным ящиком» обычно понимают систему, которая:

• автоматически оценивает или отсекает кандидатов;
• использует сложную модель, логику которой невозможно объяснить простыми словами;
• не показывает кандидату, какие данные использовались и почему он получил отказ.

Из‑за этого у соискателя возникает ощущение несправедливости и беспомощности: он не понимает, как его оценили, не может исправить ошибочные данные и не знает, кого в итоге считать ответственным — HR, программиста или «нейросеть». В результате появляются жалобы, публичные конфликты и судебные иски, где кандидаты требуют «открыть» алгоритм и объяснить критерии отбора.

Международная практика: где уже возникли проблемы

За последние годы в США и Европе накопилось несколько показательных кейсов, в которых кандидаты оспаривали работу ИИ‑систем найма. Общие мотивы у этих дел похожи:

• кандидатов не предупреждали, что их оценивает алгоритм;
• решения принимались автоматически и очень быстро, без участия человека;
• люди не могли получить внятное объяснение, почему им отказали;
• в отдельных случаях алгоритмы воспроизводили дискриминационные практики (по возрасту, полу, расе, инвалидности).

Отдельные иски касались и обработки данных: скрытого анализа профилей в соцсетях, сбора биометрии из видеоинтервью, профилирования «по поведенческим признакам» без понятного согласия. Регуляторы и суды в таких делах подчеркивали:

• использование ИИ не освобождает работодателя от ответственности за дискриминацию;
• автоматизированные решения в сфере труда требуют особой осторожности;
• полный «черный ящик» (без прозрачности и возможности апелляции) оценивается как фактор повышенного риска.

Российский правовой фон: что уже действует

В России нет отдельного закона, полностью посвященного ИИ в HR, но это не означает отсутствия правил. На применение ИИ в найме уже сейчас влияют:

• Трудовое законодательство
  • Запрет дискриминации при приеме на работу по полу, возрасту, национальности, инвалидности и другим признакам.
  • Обязанность работодателя по запросу объяснить причины отказа в приеме.
• Закон о персональных данных
  • Требование законности и минимизации обработки данных.
  • Необходимость информировать соискателя о том, какие данные используются и с какой целью.
  • Жесткие правила для биометрии (изображение лица, голос, особенности поведения).
• Общие нормы о защите прав граждан
  • Потенциальные претензии к недобросовестным практикам (например, скрытый сбор данных, профилирование без уведомления).

Кроме того, в России уже обсуждаются принципы этичного ИИ и проекты регулирования, где прозрачно указывается: непрозрачные, неинтерпретируемые системы, принимающие решения о человеке, создают повышенные риски и требуют дополнительных гарантий.

Конкретные риски для работодателя при использовании ИИ в найме

1. Дискриминация «по умолчанию»

Даже если компания не закладывает в алгоритм дискриминационные критерии, модель может обучиться на исторических данных и начать повторять старые перекосы. Например:

• отсеивать женщин в технических ролях;
• снижать рейтинг кандидатов старшего возраста;
• хуже ранжировать людей с определенными фамилиями, местом проживания или типом образования.

В российском праве факт дискриминации важнее, чем способ, которым она реализована. Если ИИ массово отсекает определенную группу, аргумент «так решила нейросеть» не защищает работодателя.

2. Нарушение требований к персональным и биометрическим данным

Рискованные практики, которые часто встречаются в автоматизации подбора:

• анализ профилей в соцсетях, форумов и других открытых источников без явно донесенной до кандидата цели и правового основания;
• использование анализа мимики и голоса в видеоинтервью для оценки «честности», «стрессоустойчивости» и иных качеств;
• передача данных кандидата третьим лицам (провайдерам сервисов, зарубежным инфраструктурам) без соблюдения требований по трансграничной передаче и безопасности.

Все это может привести к претензиям надзорных органов, штрафам и необходимости «задним числом» перестраивать процессы.

3. Полная автоматизация решений без участия человека

Если отказ кандидату фактически принимает алгоритм, возникают вопросы:

• была ли у человека возможность получить человеческий пересмотр решения;
• можно ли объяснить логику отказа так, чтобы ее понял не специалист по машинному обучению, а обычный соискатель;
• предусмотрены ли механизмы исправления очевидных ошибок (например, некорректно распознанное образование или опыт).

Международная практика показывает: именно сочетание «черного ящика» и полного отсутствия человека в цепочке решения сильнее всего раздражает кандидатов и провоцирует конфликты.

4. Ответственность за подрядчиков и внешние сервисы

Даже если ИИ‑систему поставляет сторонний провайдер, для кандидата и для регулятора заказчик остается «лицом, принимающим решения». Это означает, что:

• нельзя просто сослаться на инструкцию или ограничение сервиса, если алгоритм ведет к дискриминации;
• компания должна сама оценить соответствие инструмента требованиям российского права;
• важны договорные механизмы: кто отвечает за защиту данных, инциденты, корректировку алгоритмов и предоставление необходимой информации.

Как снизить юридические риски: практичные шаги для HR и ИТ

Ниже — меры, которые можно внедрять уже сейчас без глубокого юридического бэкграунда.

1. Сохранить человека в контуре решений

• Не превращать ИИ в «финальный суд»: пусть он помогает сортировать, но не ставит окончательную точку.
• Ввести правило: по спорным случаям и жалобам решение пересматривает человек.

2. Повысить прозрачность для соискателя

• Честно сообщать, что в процессе подбора используются автоматизированные инструменты.
• Кратко объяснять, какие типы данных анализируются и с какой целью.
• Давать понятный канал связи для вопросов и просьб уточнить причины отказа.

3. Пересмотреть набор собираемых данных

• Отказываться от «лишних» данных, которые не нужны для оценки профессиональной пригодности.
• Очень осторожно относиться к биометрии и эмоциональному анализу — оценивать, действительно ли это оправдано и законно.

4. Регулярно тестировать алгоритмы на предвзятость

• Периодически смотреть, как система ранжирует разные группы кандидатов при сопоставимых навыках.
• Фиксировать результаты таких проверок и решения по корректировке процедур, чтобы в случае вопросов была демонстрируемая практика.

5. Укрепить договорную базу с поставщиками

• Прописать в договорах требования по защите данных кандидатов и информированию о любых инцидентах.
• Заранее договориться о том, в каком объеме провайдер готов раскрывать информацию о логике работы алгоритмов, если возникнут вопросы у регуляторов или у самих кандидатов.

6. Обучать HR‑команду работе с ИИ

• Проводить базовое обучение по рискам ИИ: что нельзя делать, где чаще всего возникают претензии, как правильно объяснять кандидатам используемые инструменты.
• Формировать культуру, в которой ИИ — помощник, а не «безответственный арбитр».