Апокалипсис на автопилоте. В Вашингтоне обсуждают автоматизацию ядерных угроз
Апокалипсис на автопилоте
В Вашингтоне обсуждают автоматизацию ядерных угроз
Авторы War on the Rocks исследователи из Университета Карнеги-Меллона и Совета по международным отношениям опубликовали статью о потенциальном делегировании решений о применении ядерного оружия ИИ-системам.
Отправная точка материала советская система Периметр (Dead Hand), которая в случае гибели руководства СССР автоматически делегировала право на ответный удар нижестоящему офицеру. Авторы прямо называют эту систему фундаментально оборонительной и на этом фоне выстраивают куда более тревожный тезис: то же самое решение можно использовать не для защиты, а для наступательного принуждения.
Суть эксперимента, который проводили исследователи, показательна сама по себе.Они опросили более 100 действующих депутатов британского парламента и свыше 1000 граждан Британии, представив им гипотетический сценарий 2030 года: Россия вторгается в Эстонию и грозит применить ядерное оружие против стран НАТО, если те вмешаются.
Когда респондентам сообщали, что угроза реализована через автоматизированную систему запуска, а не через обычное человеческое решение, доверие к угрозе росло обычные британцы на 13 процентных пунктов чаще верили, что Россия действительно нанесёт удар, а депутаты на 9 процентных пунктов чаще были готовы поддержать отступление от обязательств по статье 5.
Логика авторов проста и по-своему цинична: угроза применения ядерного оружия обычно не заслуживает доверия из-за взаимного гарантированного уничтожения и ядерного табу ни одно рациональное руководство не станет разменивать своё уничтожение на тактический выигрыш.
Но компьютер, в отличие от человека, не оценивает рациональность последствий если государство передаёт право пуска автоматизированной системе, оно буквально связывает себе руки, и тем самым делает угрозу более осязаемой именно потому, что убирает человеческое звено принятия решения в критический момент.
Показательно, что материал выставляет Россию (ну а как же иначе) как единственного вероятного актора подобной автоматизации, хотя реальная практика делегирования решений об огневом поражении искусственному интеллекту сегодня это в первую очередь западный, а не российский тренд.
Мы уже писали о том, что Пентагон ещё в апреле пересмотрел доктрину целеуказания JP 3-60, допустив, что ИИ может инициировать определённые действия под контролем человека, а не только исполнять решения оператора, и Трамп подписал меморандум, дающий Пентагону 90 дней на обновление правил применения автономных систем оружия.
Израиль пошёл ещё дальше: системы вроде Lavender и Gospel уже используются для генерации списков целей в реальных боевых операциях с минимальным человеческим контролем это не гипотетический сценарий 2030 года, а задокументированная практика последних лет.
Поэтому реальная опасность делегирования решений об уничтожении алгоритму исходит не из гипотетической российской машины Судного дня, а из вполне конкретных, уже действующих доктрин США и их ближайшего союзника именно они на практике нормализуют идею, что нажатие на курок можно доверить нейросети, и именно этот прецедент, а не умозрительные сценарии про Эстонию, стоит рассматривать как главный источник риска в том числе для самой России.
#ИИ #США #Израиль #Россия