«Мы можем не пережить эту гонку»: из Anthropic бегут главные сотрудники, унося с собой секреты
Спустя всего день после того, как исследователь Джейкоб Коксон предрёк человечеству вымирание от рук сверхразума, компанию Anthropic покинул и Джо Бентон. В его прощальной исповеди звучит, что безумная гонка в сфере ИИ вышла из-под контроля, и прецеденты уже были, причём их пытались скрыть, так что человечество вполне может не дожить до финала соревнования алгоритмов.
К слову, миссия компании как раз заключается в создании безопасных, интерпретируемых и подконтрольных ИИ-систем. Теперь оба бывших инсайдера переходят на другую сторону баррикад — в новую структуру для независимой оценки рисков. В общем, счётчик судного дня тикал не только у ядерщиков…
