Когда ИИ в HR повернул не туда 👀

Все мечтают о “умном рекрутинге” и “объективной оценке кандидатов”.
Но ИИ уже не раз показывал, что может быть не только инструментом, но и источником проблем.
Вот 3 реальных кейса, после которых HR-директора поседели.

💀 1. Amazon и дискриминация по алгоритму
Amazon запустил внутренний AI-инструмент для оценки резюме.
Но модель обучили на данных прошлых лет — где большинство нанятых были мужчины.
В результате алгоритм “научился” занижать рейтинг женских кандидатов, особенно если в резюме было слово “women” (например, “women’s chess club”).
Проект закрыли в 2018 году.

Вывод: ИИ наследует предвзятость из прошлого. Если данные несправедливы — решения тоже будут такими.

👻 2. HireVue и “умное” видео-интервью
Стартап оценивал кандидатов по выражению лица, тону голоса и микромимике.
Компании вроде Hilton и Unilever активно тестировали систему.
Но эксперты выяснили, что модель коррелирует эмоции с успешностью без научного обоснования.
В 2021 году под давлением регуляторов HireVue убрала анализ лиц из продукта.

Вывод: HR-технологии, влияющие на судьбы людей, требуют не хайпа, а этики и верификации.

🌚 3. Банк в Великобритании и чатбот, который уволил 30% персонала
Банк внедрил систему автоматической оценки эффективности сотрудников: AI анализировал отчёты и логи активности.
Через полгода система рекомендовала “оптимизировать” треть команды.
Позже выяснилось: алгоритм считал “низкоэффективными” тех, кто больше общался с клиентами (вместо ввода данных в CRM).
Итог — суд, кризис и пересмотр стратегии.

Вывод: автоматизация HR без человеческого надзора превращается в холодную машину сокращений.

Мораль такова:
ИИ в HR — мощный помощник, если работает вместе с человеком, а не вместо него. Как это сделать?
Разберем ИИ в найме по косточкам на GenAI Workshop Days! 20% скидка по промокоду HALLOWEEN

Главная метрика успеха — не скорость подбора, а качество решений и доверие людей.