Александр Сладков: Дмитрий Астрахань. «Болты в томате» для ценителей боевой техники, оружия и экипировки
Дмитрий Астрахань. Болты в томате для ценителей боевой техники, оружия и экипировки
Теория игр и ядерное оружие: как математика делает мир безопасней, но психология лидеров или бездушный ИИ могут его уничтожить.
- Период полураспада человечества сейчас составляет около 35 лет, - сказал недавно лауреат нобелевки по физике Дэвид Гросс. Имеется в виду, что он оценивает вероятность полного самоуничтожения нашего вида в ближайшие 35 лет в 1/2 (50%). Почему же мы не уничтожили себя раньше, имея такую возможность и почему риск растёт сейчас?
В математике есть такое понятие, как теория игр. Это интересная область, в которой сложные процессы моделируются с помощью всей мощи современного аппарата - не просто теория вероятности, а модели поведения рациональных "игроков" и оценки выгодных стратегий. Собственно, можно встретить различные виды легенд о том, что теория игр возникла в ходе поисков ответа на вопрос о том, стоит ли применять ЯО в том или ином виде. А если нет, то как должно работать ядерное сдерживание?
Естественно, пока в этой игре был один игрок, то вопрос не стоял. Именно поэтому можно сказать, что разработка собственной ядерной бомбы спасла СССР. Иначе выгоды одностороннего удара могли бы просто перевесить прочие соображения. Дальше началась гонка вооружений, пересказывать историю которой полностью мы не будем, но закончилась она договорами об ограничениях и взаимным ядерным сдерживанием, а также ограниченным "ядерным клубом", ставшим совбезом ООН и принципом нераспространения ядерного оружия. Почему же это работало раньше и как-то работает сегодня?
В терминах теории игр наибольший выигрыш получает игрок, который может победить с использованием ЯО, но не получить ответный удар. Соответственно, выгодно использовать оружие при гарантии отсутствия ответного удара. Но такая гарантия была только до появления второго игрока с ядерной бомбой. Дальше, соответственно, идёт гонка вооружений, которая сжирает огромные ресурсы, но так и не даёт никому гарантию победы. В итоге, два основных игрока могут либо постоянно, раунд за раундом, нести огромные убытки недоверяя друг-другу. Либо серьёзно эти убытки сократить, пойдя на сотрудничество и решив не продолжать гонку.
Но почему бы одному из игроков не обмануть другого? Ответ в том, что игрок не уверен, что после его обмана не последует следующий "раунд" игры с тем же обманутым, или другими игроками. И если в одиночной игре успешный обман выгоден, то в повторяющейся - это верный взаимный проигрыш.
Проблема теории игр в том, что это модель базирующаяся на рацинальности участников. Таковые понимают выгоды сдерживания и сотрудничества, среди них нет людей с личными психическими проблемами и т.д. Именно поэтому в своё время президент США Буш (старший) не хотел независимости Украины и чуть позже уже независимую Украину лишили ядерного оружия: кому нужен ещё один игрок, ещё и с набором явных проблем в мотивации, комплексами и любовью к шантажу.
Теория игр говорит достаточно четко: ЯО не предмет шантажа, блефа и не подходит для локальной эскалации. Все эти варианты скорее приводят к уничтожению (взаимному или нет), чем к победе рискового игрока. Логика достаточно ясна: с тем кто единожды сыграл против кооперации, в следующих раундах повторять сотрудничество нет смысла.
Но если все так просто, то почему же стрелки часов судного дня (одна из символически моделей вероятности глобальной ядерной войны) стабильно приближаются к отметке 12.00? Игроков все равно становится больше, науку не остановить, и не все уверенны в рациональности остальных. Тем более, чем больше количество играющих, тем больше шансов получить среди них рискового любителя пойти вабанк.
А второй фактор тоже связан с наукой. Оказывается, что рациональность ИИ может не совпадать с человеческой. Точнее, ИИ программа, а программы не ошибаются. Но ошибаются люди, которые их делают. ИИ нацеленный на победу и лишенный человеческого понимания рисков по умолчанию, применяет ЯО гораздо легче и идёт на сценарии эскалации,