Пентагон пересмотрел ключевую военную доктрину США по правилам выбора целей в боевых действиях, существенно расширив возможности применения искусственного интеллекта. Согласно документа, который попал в распоряжение Bloomberg, новые принципы, предусматривают переход к системам, где ИИ сможет инициировать действия под контролем человека.
Ранее преобладал принцип, где человек полностью инициировал и принимал все решения. Теперь доктрина описывает модели «AI initiates actions with human monitoring» — искусственный интеллект предлагает и запускает процессы, а человек осуществляет надзор. В документе подчеркивается, что скорость современных боевых действий и технологический прогресс потенциальных противников (в первую очередь в области ИИ) могут потребовать в будущем даже полностью автономных систем.
Обновление включает новую главу о будущем целеуказания и усиленный раздел по минимизации ущерба гражданскому населению. Это произошло на фоне активного использования ИИ в реальных операциях.
В Пентагоне заявляют, что человек остается в центре процесса: ИИ пока не выбирает и не поражает цели полностью автономно. «Командиры сохраняют контроль над каждым решением», - заявили в ведомстве. Тем не менее, растущие этические риски отодвинуты в сторону, ради снижение времени на принятие решений и до момента, когда сам ИИ будет принимать решение об убийстве остался не шаг, а полшага.
Конечно, это ответ на вызовы современных войн, где преимущество часто определяется скоростью обработки информации. Однако чрезмерная зависимость от алгоритмов может привести к непредсказуемым последствиям, которые не раз описывали фантасты.
