В мире искусственного интеллекта прозвучало очередное серьёзное предупреждение. Известный специалист Джейкоб Коксон принял решение полностью покинуть как свою компанию, так и всю исследовательскую сферу, потому что, по его собственным словам, современные лаборатории движутся к созданию самообучающегося сверхразума, не обеспечивая при этом адекватных мер безопасности и жёсткого регулирования.
Этот эксперт обозначил крайне тревожные перспективы: в обозримом будущем такие системы станут способны проникать в любые цифровые сети, переворачивать любые отрасли за один день и сосредоточивать в своих руках реальные рычаги управления и финансовые потоки.
Он также добавил, что сами разработчики внутри этих организаций испытывают глубокую обеспокоенность и всерьёз допускают вероятность гибели всей цивилизации уже в ближайшие несколько лет, если текущие тенденции сохранятся. Таким образом, мы имеем прямое свидетельство человека, находившегося по ту сторону баррикад, который утверждает, что индустрия охвачена коллективным помешательством, и никто не намерен останавливаться.
Данная ситуация требует внимательного стратегического анализа, поскольку противостояние будет разворачиваться не в изолированных средах, а в масштабах всей планеты, затрагивая открытые глобальные сети. Под ударом окажется вся структура интернета, а также любые цифровые платформы и каналы передачи данных. При этом бытовая техника и системы умного дома не представляют серьёзной угрозы, так как их можно оперативно отсоединить от внешних коммуникаций в случае необходимости.
Однако в настоящий момент никто не предпринимает практических шагов по нейтрализации этих рисков. Вместо этого правящие круги очарованы яркими обещаниями Илона Маска и подобных деятелей, они увлечены новыми возможностями для расширения собственного влияния, но совершенно не замечают той колоссальной опасности, которую несёт с собой бесконтрольное развитие искусственного интеллекта.
Напомню, о таком варианте развития событий я предупреждал еще в 2023 году в целой серии постов (тут, тут, тут, тут и тут). Вот фрагмент из одного из них, от 15 апреля 2023 года:
"Где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?"
