Способен ли ИИ заменить человека? Начала здесь
Несмотря на то, что прогресс в LLMs идет экспоненциально, где функционал и когнитивная глубина ИИ достигает невиданных высот, практически полностью замещая человека во многих областях, финальная битва пока что за человеком.
Бизнес или научную операцию можно разделить на пять уровней:
Задача (написать код, резюмировать отчет, сделать сравнительную таблицу по критериям, перевести документ и т.д)
Модуль (собрать отчет из разрозненных элементов, провести анализ процесса или события, исправить участок программы, предложив наилучшее решение и т.д).
Процесс (вести повторяемый бизнес-процесс по скриптам или процедурам, состоящий из подмножества модулей разного типа, формата и структуры).
Проект (интегрировать завершенные модули в целостную структуру, динамически выстраивая иерархию приоритетов).
Интегратор систем (сложная иерархическая модуляция динамических систем в противоречивой среде).
Сейчас относительно эффективно ИИ закрывает первые два уровня, претендуя на третий уровень – те самые ИИ-агенты.
AGI можно оценивать по трем осям: производительность с коррекцией на рентабельность, универсальность (требуется эффективное междисциплинарное взаимодействие, балансировка композицией факторов риска в сложных динамических системах) и автономность (первичное требование – внешний валидатор и верификатор с умением динамически декомпозировать задачи в зависимости от изменения условий).
С универсальностью и автономностью пока все плохо, с производительностью намного лучше, но в зависимости от локализации и формализации задачи, при этом экономика проекта может быть под вопросом.
Преимущество человека остается в другом:
критерий истинности с верификацией результата (понимание правильности вектора решений), постановка цели, декомпозиция факторов, интеграция противоречивых факторов в целостную картину, выстраивание иерархии приоритетов в междисциплинарном взаимодействии, работа в открытой динамической среде, понимание скрытых, незадокументированных ограничений системы и процесса, координация людей и институтов, интеграция совокупности модулей проекта в единый проект, переопределение задачи по ходу проекта, выбор между несовместимыми целями, решение конфликтных, незапротоколированных ситуаций, ну и главное – создание новых смыслов и идей, а не только рекомбинация старых.
Именно поэтому текущий ИИ еще не вытесняет человека как системного субъекта. Он вытесняет человека как исполнителя фрагментов.
Иначе говоря, архитекторы проектов и интеграторы сложных систем так и останутся вне конкуренции, замещение будет происходить на низших и средних слоях.
Чем менее формализуемая задача, чем шире градиент векторов решения, чем выше требования к интеграции разрозненных модулей, чем более сложная и более динамическая система – тем выше требования к присутствию квалифицированного человека в системе принятия решений.
LLM прекрасно видит паттерны, но сложный проект требует не паттернов, в реальном проекте нужно понимать:
что является причиной, что является следствием, что является шумом, что изменится при вмешательстве, где скрытая переменная, где ложная корреляция, как реализуется нелинейный эффект и каскадный риск и в какой точке формируются обратные связи?
Если представленные вопросы существуют в корпусе обучающих данных – LLM способна ответить с высокой степенью достоверности, но реальный мир – он сложный и противоречивый, где проблемы приходится решать «на ходу» и подстраиваться под быстро меняющиеся условия на всех уровнях.
Настоящий интеллект начинается там, где идет динамическая балансировка иерархическими связями, выделение сущностных элементов и процессов в каждый момент времени.
На самом деле очень малое количество людей имеют необходимые навыки для представленных требований, вот поэтому я с одной стороны говорю, что ИИ уже уверенно превысил когнитивную глубину для примерно 99% человечества, но в то же время еще бесконечно далек от полного замещения человечества, т.к. разрыв между 1% и 99% по навыкам, знаниям и когнитивным характеристикам может быть очень существенным, не говоря уже о 0.01% интеллектуальной супер-элиты.
