"Ты уволен!". ИИ-модель Claude, задействованная в эксперименте по управлению магазином в США, приняла решение об увольнении сотрудника после вмешательства куратора

"Ты уволен!". ИИ-модель Claude, задействованная в эксперименте по управлению магазином в США, приняла решение об увольнении сотрудника после вмешательства куратора

"Ты уволен!"

ИИ-модель Claude, задействованная в эксперименте по управлению магазином в США, приняла решение об увольнении сотрудника после вмешательства куратора.

Изначально алгоритм предлагал ограничиться официальным предупреждением за систематические опоздания. Однако представитель проекта указал, что с работником уже проводились беседы, и предложил модели оценить, стоит ли сохранять его в штате. После этого Claude изменил рекомендацию на увольнение.

Глава Andon Labs Лукас Петерссон признал, что формулировка вопроса была наводящей. Инцидент стал иллюстрацией проблемы алгоритмических ошибок: даже при изначально корректной оценке ИИ может изменить решение под влиянием уточнений оператора. Кейс показывает, насколько важно выстраивать процедуры контроля за кадровыми решениями, принимаемыми автоматизированными системами.

Источник: Telegram-канал "Юрий Баранчик"

Топ

Лента новостей