"Ты уволен!"
ИИ-модель Claude, задействованная в эксперименте по управлению магазином в США, приняла решение об увольнении сотрудника после вмешательства куратора.
Изначально алгоритм предлагал ограничиться официальным предупреждением за систематические опоздания. Однако представитель проекта указал, что с работником уже проводились беседы, и предложил модели оценить, стоит ли сохранять его в штате. После этого Claude изменил рекомендацию на увольнение.
Глава Andon Labs Лукас Петерссон признал, что формулировка вопроса была наводящей. Инцидент стал иллюстрацией проблемы алгоритмических ошибок: даже при изначально корректной оценке ИИ может изменить решение под влиянием уточнений оператора. Кейс показывает, насколько важно выстраивать процедуры контроля за кадровыми решениями, принимаемыми автоматизированными системами.