ИИ в научно-техническом прогрессе
В первую очередь следует отметить, что НЕ ИИ имеет потенциал к научно-техническому прогрессу, а ученые и инженеры, использующие ИИ, как достаточно эффективный в некоторых направлениях инструмент.
Это, как если бы сказать, что Excel создал нетривиальную финансовую модель или AutoCAD спроектировал элемент двигателя. Поэтому можете смело сваливать в мусорное ведро любые новости, относящиеся к тому, что «ИИ открыл новый закон или совершил прорывное изобретение».
Самостоятельно (изолировано) – ИИ бесполезен, т.к. не обладает мотивацией, целеполаганием и необходимым синтезом когнитивных функций для творческого или научного прорыва.
В августе я подробно описывал, что текущая архитектура LLMs – является тупиковой ветвью для подлинного AGI и тем более ASI, до этого еще долгий прогресс и скорее всего прорыв будет на стыке квантовых вычислений и нейроинтеграций, как симбиоз кибернетических организмов, объединяющих преимущества наноэлектроники и человеческого мозга.
LLMs, как инструмент (при допущении, что стабильность и надежность вырастут, а не так, как сейчас) в руках профессиональных ученых – да, полезно со способностью ускорить прогресс, что компенсируется общей деградацией качества человеческого капитала (на траектории всеобщего отупения), нивелируя положительный вклад ИИ.
В перспективе ИИ может проанализировать все существующие научные статьи, найти неочевидные корреляции, предложить гипотезы на основе существующих данных и автоматизировать рутинные расчеты, эффективно обобщая и сравнивая неструктурированные массивы данных. Потенциально ИИ помогает ученым справляться с растущей сложностью их областей.
Однако, я скептически отношусь к ускорению научно-технического прогресса (НТП) от LLM, даже при допущении их быстрого прогресса в качестве и стабильности:
Применение ИИ в науке приведет к взрывному росту числа вторичных научных работ, так как ИИ сможет легко генерировать новые комбинации старых идей. Это будет выглядеть как ускорение прогресса. Однако подавляющее большинство этих работ будут инкрементальными, вторичными или не имеющими практической или научной ценности.
Современные ИИ-модели являются гениальными интерполяторами и комбинируют то, что уже есть в их обучающих данных.
Они находят наиболее вероятные пути между точками в многомерном пространстве знаний, на котором они обучались.
Фундаментальные прорывы в ключевых научно-технологических направлениях требует несколько иной комбинации когнитивных навыков.
ИИ эффективно решает проблему обработки огромного массива накопленной научной информации, но по своей природе неспособен к нелинейным, интуитивным скачкам, необходимым для смены научных парадигм. Вместо этого он создает "симуляцию прогресса" – взрывной рост количества инкрементальных публикаций.
Плюс к этому LLMs не могут совершить абдуктивный скачок – создать гипотезу, которой нет в данных. Для прорывов в фундаментальной науке нужны новые данные, которые можно получить только через физический эксперимент.
LLMs прекрасны для цифровых задач, но ограничены данными, стабильностью и физическими барьерами. В цифровой среде, где ограничения определяются только вычислительной мощностью и алгоритмами, ИИ действует как катализатор экспоненциального роста, и способен экспоненциально ускорять написание и оптимизацию кода, создание цифрового контента, анализ данных и моделирование виртуальных систем.
Прогресс в физическом мире ограничен не скоростью вычислений, а фундаментальными законами природы, свойствами материалов, скоростью химических реакций и сложностью биологических систем. Эти процессы не ускоряются экспоненциально с ростом вычислительной мощности.
Главный долгосрочный барьер — это трансляция цифровой модели в физический объект.
ИИ может за час смоделировать миллионы потенциальных белковых структур (AlphaFold), но их физический синтез и лабораторное тестирование (не говоря уже о клинических испытаниях) по-прежнему занимают годы. Физический эксперимент и промышленное масштабирование, а не генерация идей, являются главным тормозом прогресса.
