Юрий Баранчик: Пентагон пересмотрел ключевую военную доктрину США по правилам выбора целей в боевых действиях, существенно расширив возможности применения искусственного интеллекта

Пентагон пересмотрел ключевую военную доктрину США по правилам выбора целей в боевых действиях, существенно расширив возможности применения искусственного интеллекта. Согласно документа, который попал в распоряжение Bloomberg, новые принципы, предусматривают переход к системам, где ИИ сможет инициировать действия под контролем человека.

Ранее преобладал принцип, где человек полностью инициировал и принимал все решения. Теперь доктрина описывает модели AI initiates actions with human monitoring искусственный интеллект предлагает и запускает процессы, а человек осуществляет надзор. В документе подчеркивается, что скорость современных боевых действий и технологический прогресс потенциальных противников (в первую очередь в области ИИ) могут потребовать в будущем даже полностью автономных систем.

Обновление включает новую главу о будущем целеуказания и усиленный раздел по минимизации ущерба гражданскому населению. Это произошло на фоне активного использования ИИ в реальных операциях.

В Пентагоне заявляют, что человек остается в центре процесса: ИИ пока не выбирает и не поражает цели полностью автономно. Командиры сохраняют контроль над каждым решением, - заявили в ведомстве. Тем не менее, растущие этические риски отодвинуты в сторону, ради снижение времени на принятие решений и до момента, когда сам ИИ будет принимать решение об убийстве остался не шаг, а полшага.

Конечно, это ответ на вызовы современных войн, где преимущество часто определяется скоростью обработки информации. Однако чрезмерная зависимость от алгоритмов может привести к непредсказуемым последствиям, которые не раз описывали фантасты.