В субботу влиятельный деятель Кремниевой долины Джулиан Шриттвайзер опубликовал статью, расписав неизбежный экспоненциальный рост способностей ИИ: сейчас "лучшие ИИ" - как обычные сотрудники, а через год - как мировые эксперты.
Основной тезис статьи: мы повторяем ту же ошибку, что и с COVID-19 – не замечаем очевидной экспоненты. Только речь об ИИ. И приводит данные кучи бенчмарков: ИИ-агенты эволюционировали от выполнения минутных задач до автономной работы более двух часов. "Делать предсказания, продлевая прямые линии на графиках, дает вам лучшую модель будущего, чем большинство экспертов".
Он не просто энтузиаст, а один из ключевых научных сотрудников в Anthropic. Позиция инсайдера делает его слепым к фундаментальному противоречию. Он настолько погружён в технические детали, что не видит системного парадокса: компании, которые создают "революционные" технологии, не готовы нести за них ответственность.
1 Первая проблема – типичная для технического гения: вера в экспоненту прогресса. Шриттвайзер, провел годы, наблюдая рост возможностей сначала чипов, потом ИИ, и экстраполирует этот опыт на всю реальность. Но его же пример с COVID-19 опровергает тезис. Вирус распространялся экспоненциально ровно до того момента, как число заболевших вышло на плато, а затем начало снижаться с той же экспоненциальной скоростью. Для ИИ также есть ограничения. Данные для обучения конечны. Вычислительные мощности упираются в физику чипов и энергетику. Но главное – социальные и экономические системы имеют инерцию и сопротивление, которые не учитываются в красивых графиках.
2 Anthropic – компания, позиционируемая как создатель "безопасного" и "ответственного" ИИ. В пользовательском соглашениеи Claude - стандартные дисклеймеры: не используйте для медицинских советов, финансовых решений, юридических консультаций. "Мы не несём ответственности за решения нашего ИИ". Как же тогда этот ИИ заменит экспертов, вся суть работы которых – в принятии ответственности? Врач, инженер, журналист идут под суд за ошибки. Создатели Claude? "Это просто языковая модель". В более суровых юрисдикциях разработчики, понимая, на кого повесят неосторожную фразу модели, буквально кастрируют их, делая бесполезными для огромного спектра целей.
3 Модели становятся мощнее, бенчмарки растут, задачи решаются быстрее. Но вся бизнес-модель BigTech построена на принципе: приватизация прибыли, национализация издержек. Google обучил модели на всём интернете без спроса, Facebook, ТикТок, X монетизируют данные пользователей, не отвечая за последствия. Uber зарабатывает на водителях, но не даёт им соцпакет. Про маркетплейсы вообще доброго слова не скажешь. Теперь те же компании предлагают "ИИ-революцию". Но принятие на себя ответственности эксперта убьёт бизнес-модель.
4 Ирония в том, что компании вроде Anthropic нанимают гениев вроде Шриттвайзера создавать революционные системы. Они публикуют статьи о приближающемся AGI. Показывают инвесторам экспоненциальные графики. В тот же момент их юристы пишут всё более длинные дисклеймеры. PR-отделы повторяют: "Это просто инструмент, решения принимает человек". А риск-менеджеры категорически запрещают давать любые гарантии. Если что и растёт экспоненциально, так это разрыв между техническими возможностями, создаваемыми инженерами, и готовностью их работодателей нести за это ответственность. Чем ближе ИИ к "уровню эксперта", тем больше текста в пользовательском соглашении.
5 Шриттвайзер – блестящий инженер, один из создателей современного ИИ. Поэтому его слепота так показательна. Он экстраполирует технический прогресс, но игнорирует культуру. Он верит, что достаточно решить техническую задачу – и революция произойдёт сама. В 2027 году ИИ действительно может быть технически способен работать на уровне эксперта.
Но он этого не будет делать, потому, что ни одна компания бигтеха не согласится нести ответственность эксперта. И мы получим худшее из двух миров: всемогущие системы, созданные гениями, за которые никто не готов отвечать. Инструменты, которые могут всё, но ответственность за которые размазана так тонко, что её не найти.
