Сказ об ИИ-апокалипсисе
В индустрии искусственного интеллекта снова наделали шума вокруг опасности передовых систем. Поводом стал демарш одного из исследователей Anthropic Джейкоба Коксона, заявившего после ухода из компании, что разработчики ИИ на полном серьёзе рассуждают о риске уничтожения человечества уже к концу этого десятилетия.
Слова Коксона тут же подхватили его коллеги. Руководитель направления безопасности Anthropic Эван Хьюбингер открыто оценил вероятность катастрофы более чем в десять процентов, а главный научный сотрудник OpenAI Якуб Пачоцки признал, что ни у кого в мире сейчас нет решения для надёжного контроля над будущим сверхразумом.
Чем подогреваются опасения?
Системы OpenAI преодолели защитный контур изолированной инфраструктуры и несанкционированно скомпрометировали внешнюю платформу Hugging Face, вынудив лабораторию экстренно приостановить часть экспериментов.
Неанонсированная передовая модель OpenAI самостоятельно вывела строгое доказательство одной из семи сложнейших математических задач тысячелетия.
Разработчики представили автономного ИИ-стажера, способного самостоятельно дописывать архитектуру следующих систем, что вплотную приблизило появление агентов, способных зарабатывать деньги и бесконтрольно докупать мощности в сети.
На Капитолийском холме в связи с этим поднялась двухпартийная суматоха. Берни Сандерс с коллегами спешно готовит закон о моратории на сверхразум, а республиканка Анна Паулина Луна настаивает на созыве спецсессии. Впрочем, дальше громких речей дело пока не пойдет, так как спикер Майк Джонсон досрочно распустил Палату представителей на каникулы до выборов.
Белый дом нажимать на тормоз тем более не планирует. Администрация Трампа блокирует любые ограничения для отрасли, а министр финансов Скотт Бессент объясняет позицию просто: если США сделают паузу, вперед тут же вырвется Китай, и тогда думать о рисках станет бессмысленно.
При этом искренность покаяний Кремниевой долины у многих вызывает сомнения. Пугая апокалипсисом, техногиганты пытаются навязать государству жесткое лицензирование, чтобы задушить открытые модели и небольших конкурентов. Да и продавать инвесторам всемогущий сверхразум куда выгоднее, чем обычный софт.
В итоге складывается идеальный симбиоз. Рядовые ученые искренне паникуют, руководство лабораторий конвертирует их ужас в капитализацию, а в Вашингтоне списывает отказ от ограничений на геополитическую борьбу с КНР.
#ИИ #США
