О возможностях и пространстве технологического прогресса в ИИ мире
Все еще продолжаю заочно оппонировать Хуангу. Концепция Дженсена Хуанга заключается в том, что стремительное развитие ИИ приведет к экспоненциальному росту технологического прогресса на всех уровнях и слоях технологического развития, затрагивая все ключевые отрасли экономики.
Другими словами, ИИ настолько сильно ускорит скорость разработки и R&D, что ИИ начнет ежедневно выхаркивать фундаментальные прорывы: на тебе термоядерный синтез утром, на тебе через пару часов фундаментальные трансформации в энергетике и повышение КПД ближе к 100%, к ужину новые виды аккумуляторов с бесперебойной работой месяцами и быстрой зарядкой, к завтрашнему утру звездолет, через пару дней преодоление скорости света и путешествие по Галактике, через неделю лекарство от всех болезней и вечная жизнь, клонирование мозга и т.д.
Хуанг рисует сказочные миры, но Хуанг промоутирует свои дико дорогие чипы в несколько миллионов долларов (вычислительные кластеры) и разогревает капитализацию, сделав Nvidia самой дорогой компанией мира под 4.5 трлн.
Моя позиция более сдержанная. Эксплуатация грез технооптимистов через техноутопию занимательна, но все же рассчитана на идиотов. Благо дефицита идиотов никогда не было (результат на табло).
Сразу оговорюсь. LLMs – они прекрасны и величайшее изобретение человечества, которое снижает порог входа в цифровой мир, позволяя писать код, решать математические и физические задачи без профильного образования, конспектировать за несколько секунд сотни страниц отчетов, автоматически классифицировать и сводить неструктурированные массивы текста, быть лучшей экспертной системой (Google+Wiki в одном флаконе), генерировать текст и делать много других замечательных цифровых дел.
Даже если отбросить физические, ресурсные (дефицит электроэнергии и чипов) и финансовые ограничения, изолировать юридические, регуляторные ограничения, предположить, что датасеты останутся качественными и представить, что LLMs станут необычайно стабильными, точными и смышлёными (здесь слишком много допущений, но предположим), здесь многое не сходится.
Если по Хуангу чатботы скоро будут проектировать звездолеты на космических скоростях, барражирующих между Галактиками, почему … рост вычислительных мощностей в миллиарды раз за 30 лет, развитие средств связи на несколько порядков, внедрение высокоуровневых программных комплексов - не привели к взрывному росту производительности и технологического прогресса за последние десятилетия?
За последние 30-35 лет и особенно последние 10-15 лет мы наблюдает даже не линейный, а очень медленный поступательный рост (ближе к плато) почти во всем спектре технологий, не связанных с цифровым миром.
Где был прогресс за последние 30 лет? Все, что касается аудио, видео, мультимедиа, цифровой и компьютерной техники, но и здесь свои проблемы.
• Смартфоны вышли на плато в 2020-2021 гг – за последние 5 лет минимальные технические улучшения, минимальный прогресс в качестве, функционале и возможностях.
• Компьютеры и ноуты в 2012-2014 вышли на плато, но с 2017 ренесанс из-за многоядерности, который закончился в 2022.
• ТВ и мониторы вышли на плато в 2018-2019 годах:
• Цифровые камеры в 2014-2017, сейчас прогресс только в камерах смартфонов, который закончился в 2022, далее только цифровые мозги и ИИ-улучшения фото:
• Hi-Fi Аудио техника перестала развиваться в 2005-2008:
• Кухонная и бытовая техника вышла на плато в 2005-2010:
• Принтеры и сканеры в 2008-2010:
• ПК гарнитура в 2005-2010:
• Беспроводные гаджеты в 2022-2023.
Даже в мире цифровых и электронных гаджетов/оборудования застой в 5-20 лет.
Весь прогресс идет в методах, средствах и способах обработки, генерации, интерпретации и визуализации информации – как раз LLMs и чуть ранее соцсети.
Если у вас холодильник 2015 года, ТВ и монитор 2020 года, а комп с телефоном 2022 года маловероятно, что текущие «новшества» возбудят на замену.
Хуанг, так куда уходят вычислительные мощности, которые в миллиарды раз больше, бигдата и волшебный софт, которого не было раньше?
