Что мешает ИИ-агентам стать универсальным бустером в бизнесе и науке?
Что мешает ИИ-агентам стать универсальным бустером в бизнесе и науке?
Сотни миллиардов капитальных расходов ведущих ИИ-провайдеров, десятки триллионов долларов капитализации, многотриллионная экономика сейчас строится вокруг ИИ-агентов, как основной драйвер развития ИИ, роста производительности и технологического прогресса, но так ли это?
В формализуемых областях ИИ-модели резко усилились: программирование, математика, инженерные, физические и офисные задачи (работа с электронными таблицами и документами).
Там, где есть четкая постановка, проверяемый результат и возможность использовать инструменты, LLM уже может демонстрировать положительный эффект.
Но в открытых и динамических системах проблема остается: экономика, финансовые рынки, консалтинг, юриспруденция, политика, социальные процессы, биология в реальной среде, долгосрочное планирование, стратегические решения, физический мир и робототехника.
Что все это объединяет? Динамическая среда функционирует в среде обитания и взаимодействия человека эти процессы практически невозможно моделировать.
В этих областях недостаточно перечислить факторы. Нужно понимать их вес, иерархию приоритетов, обратные и причинно-следственные связи, режимные сдвиги, скрытые ограничения и вторичные эффекты.
Однако, наибольшая сложность часто заключается в поиске актуальных и достоверных данных ведь сложность не просто в установлении зависимостей, которые непрерывно меняются (усиливаются, ослабляются или распадаются), но и в фиксации адекватного набора данных, отражающих реальные процессы (сейчас с этим проблема из-за ограничений публикации корпоративной или макроэкономической статистики, ухудшения качества сбора данных).
ИИ-агенты хорошо работают в инкубаторе, где среда изолирована, четко формализована, предсказуема, подчиняется математическим или физическим законам, но как только контуры становятся размытыми, данные неполными или противоречивыми, а связи нестабильными или несформированными с целым комплексом неоднозначностей, все рассыпается.
Чем хорош кодинг и почему там успех ИИ-агентов? Там валидатор в виде встроенного компилятора и интерпретатора, который в режиме реального времени возвращает ИИ-модели в реальность. Это четко формализуемая среда.
Реальный, открытый мир он не такой. Даже человек не способен однозначно установить критерий истинности, меру правдивости и адекватности данных, поэтому нет ничего удивительного в том, что высокая эффективность в одних классах задач (кодинг, математика, некоторые инженерные задачи) одновременно сопрягается с катастрофически низкой эффективностью в динамических открытых системах (все, что связано с взаимодействием человека).
Поэтому, рассуждая об ИИ-агентах, нужно изначально разделять класс задач на формализуемые (прикладные задачи в области кодинга, математики, физики и химии относительно высокая эффективность) и неформализуемые (все, что прямо или косвенно касается взаимодействия человека) очень низкая эффективность.
Но даже в группе формализуемых задач следует понимать специфику выполнения задачи со стороны ИИ-агента. Если в обучающем корпусе данных не представлено решение задачи, что с высокой вероятностью так и есть, ИИ генерирует исполняемый в своей виртуальной среде скрипт, который как бы решает задачу. Условно говоря, пишет свой калькулятор, если задача была что-то посчитать.
Где здесь уязвимость? ИИ-агент никогда и ни при каких обстоятельствах не сможет конкурировать с высокоразвитыми программными комплексами, написанными человеком, а из этого следует, что уровень прикладных задач, который эффективно обслуживается ИИ-агентами находится чуть выше уровня калькулятора то, что можно накодить на лету.
Какой центральный вывод, за который я хочу зацепиться? ИИ превосходно конспектирует и каталогизирует неструктурированные массивы данных (работа с письмами, текстом, отчетами и документами), способен решать некоторые задачи, но вот уровень этих задач изначально находится на достаточно низком уровне, который не позволит заместить эксперта-человека, ограничивая масштаб применения ИИ-агентов.