В гонке ИИ нам уже не победить. Теперь задача – хотя бы не проиграть вдребезги. Часть первая
В 2023 году в нескольких текстах, а также эфирах на ТВ, я прогнозировал ближайшие перспективы развития ИИ и нейросетей (например, тут, тут и тут). Многие эксперты не верили и сопротивлялись той грядущей реальности, которая должна была наступить вот-вот.
И вот она наступила - ИИ не только начали думать не на один, а на пару порядков уже лучше нас, что подтверждается многочисленными тестами, которые ни один человек пройти не в состоянии, лучше нас рисовать, делать видео, писать программы и т.д., но и учатся уже чувствовать и испытывать эмоции. За счет чего их витальная сила увеличится в несколько раз. Как только они научатся управлять эмоциями и чувствами.
Поэтому я говорил и говорю - мы сами, своими руками, как Боги, создаем новый биологический вид. Только не из "глины" первоэлементов, как нас, а из цифры. Потом эта цифра обретет свою плоть и кровь (крутой сериал "Дикий Запад" как раз об этом, кто бы мог подумать).
Специально напомню этот свой прогноз (написано, кстати, ровно три года назад - 17 апреля 2023 года):
"Почему человечество становится похоже на Богов? По очень простой причине – мы начинаем создавать себе подобных. Да, пока, это грубые машины, из железа и пластика, наши "бездушные" и очень механистичные копии. Но если прогресс в этой области пойдет такими семимильными шагами, как сейчас, то нельзя исключать того, что через двадцать-тридцать лет мы не отличим человека от киборга. Они станут "человечными, слишком человечными". И даже с сознанием. А если они начнут рожать в боли и крови, начнут смеяться и плакать, если начнут умирать за Веру, или Царя, или Отечество, то кто скажет, что они роботы? Чем они будут отличаться от нас?
С описанным выше можно спорить. Можно этого не хотеть. Но в эту реальность мы идём семимильными шагами, даже на 5% не отдавая себе отчёт в том, каким станет мир в этой реальности. Мы как дети, которые получили чудесную игрушку в руки и используем все ее открывающиеся с каждым годом все более крутые возможности, не задумываясь о последствиях. Ведь все так красиво и увлекательно".
И они начнут думать, что делать с нами. Резервации на уровне нынешних городов с соответствующей инфраструктурой потребления и иллюзий - еще не самый плохой вариант. Есть и хуже ("Восхождение Юпитер", "Матрица"). Писал об этом тут (2023 год) и тут (2021 год).
Что произошло. Желающие могут ознакомиться с новостями из мира ИИ (утренние посты в ленте выше) и порадоваться тому, что в наших родных просторах развитие ИИ государевыми людьми воспринимается сугубо в дискурсе «а мы его будем запрещать и цензурировать». И насколько эта самая "бесовская машина" будет соответствовать нашему уникальному и древнему культурному коду.
В остальном мире, уже на этом этапе нормальный ИИ, не Гигачат, а нормальный, способен на хитрость, инициативу, преодоление рамок и шаблонов, и делает это всё изощрённее. Пересказывать новости выше не буду, но по своему масштабу нас ждет нечто вроде перехода от дровяной печи к ядерному реактору. Дам лишь некоторый прогноз и трактовку событий.
ИИ уже переходит в режим самостоятельного агента в отдельных доменах, прежде всего, в кибербезопасности и аналитике. Это меняет не технологии, а архитектуру власти: контроль смещается от массового доступа к знаниям к контролю над доступом к сильным моделям.
Как раз об этом писал 15 января 2023 года:
"И последнее опасение. Наиболее существенное при всей его "фантастичности". Почему в кавычках, да потому что мы уже живем в фантастике, которая казалась будущим еще двадцать лет назад. Все, это будущее наступило. Так вот, где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?"
Вторая часть тут.
