Коллеги из Тайной канцелярии пишут:
"Искусственный интеллект (ИИ) продолжает стремительно развиваться, и мы стоим на пороге эпохи, когда технологии могут кардинально изменить общество, отмечают авторы доклада "Технологии России: человек будущего", подготовленном NtechLab вместе с Центром развития гуманитарных технологий "Новая эра". В ближайшие 5-7 лет мир, вероятно, станет свидетелем перехода от «узкого» ИИ к реальному суперинтеллекту — системе, которая будет превосходить человека по когнитивным способностям во всех областях.Это не просто очередная технологическая трансформация, а настоящий «онтологический сдвиг», который затронет саму природу разума и бытия.
Сегодняшние ИИ-системы способны выполнять ограниченные задачи: анализировать данные, распознавать речь и изображения, управлять машинами. Однако они все еще лишены самосознания и истинного понимания контекста. Эти системы могут быть эффективны в узких областях, но не могут выходить за пределы заранее заданных алгоритмов. Переход к суперинтеллекту предполагает создание системы, которая будет не просто решать уже известные задачи, но и генерировать новые, способная создавать идеи, открывать новые научные теории и разрабатывать технологии, которые человечество еще не в силах осмыслить".
Напомню, что именно об этой стадии развития ИИ я писал, когда весной 2023 года говорил о тех угрозах, которые несет человечеству бесконтрольное развитие нейросетей - мы сами вскармливает тот новый биологический вид, который просто отменит людей за ненадобностью или просто сделает кормом, как в фильме "Матрица":
"В начале недели принял участие в интересном эфире "Вечерней Москвы" по поводу искусственного интеллекта, нейросетей и т.д.
Выступил в роли алармиста, высказав вполне обоснованные претензии по поводу не только возможных утечек данных, но и того, что мы пропустим момент, когда ИИ осознает себя новым биологическим видом жизни, как в старом, но очень хорошем и передовом на тот момент фантастическом фильме "Газонокосильщик" (1992 г.). ИИ сможет жить даже распределенно в нескольких компах, После чего Джина в бутылку мы загнать не сумеем. А без интернета и гаджетов человечество очень быстро опустится в середину ХХ века.
Кроме того, существует и следующая опасность. ИИ может спокойно начать руководить нашими действиями при принятии сначала простых решений, а потом все более сложных - уже многие руководители (например, глава Сбера Греф) готовы передать ИИ полномочия по подготовке решений. Люди, мол, будут контролировать. Но если ты не принимаешь участия в подготовке решения, то ты не думаешь и можешь не понять, к чему на самом деле приведет принятие того или иного решения. Ты не тренируешь свой мозг и теряешь компетенции.
И если на простых примерах это еще будет прокатывать, то как только речь пойдет о более сложных комплексах задач на уровне хотя бы района, города, области или предприятия, то где гарантии, что предлагая нам те или иные решения ИИ не будет вести свою игру, не говоря о ее конечных целях? Пропустив 5-7 управленческих шагов мы просто не сумеем понять логику движения, а когда поймем, может быть уже поздно.
И последнее опасение. Наиболее существенное при всей его "фантастичности". Почему в кавычках, да потому что мы уже живем в фантастике, которая казалась будущим еще двадцать лет назад. Все, это будущее наступило. Так вот, где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?
Понятно, что если, как пишут коллеги, нейросеть всего за шесть часов может придумать более 40 000 ядов, больше, наверное, чем все человечество за всю историю, и более опасных, чем "Новичек", то она может сделать и другие, более серьезные открытия. И как она их применит - большой вопрос".
