Пентагон готовит кибервойска из ИИ-агентов для доминирования в информационных войнах
Как утверждает TheIntercept, Командование специальных операций США (SOCOM) переходит от теоретических изысканий к планомерному созданию cовременного ИИ-инструментария для ведения информационных войн. Речь идёт о закупке и интеграции агентных ИИ-систем для технологического усиления и масштабирования военных операций по информационной поддержке (MISO), основной задачей которых является проведение пропагандистских кампаний за рубежом.
Умные ИИ-системы должны минимизировать участие человеческого фактора, а цель сводится к «влиянию на иностранные целевые аудитории» и, что наиболее важно, для «подавления инакомыслящих нарративов». Пропагандистские операции по формированию общественного мнения могут проводиться на уровне целевых сообществ.
Особое внимание уделяется возможности тестирования и оптимизации пропагандистских кампаний в цифровых моделях обществ перед их развертыванием. Таким образом, операции по информационной поддержке (MISO) выходят на принципиально новый технологический уровень. Данная инициатива является прямым ответом на аналогичные разработки геополитических конкурентов, в частности Китая и России, которые якобы уже применяют ИИ для ведения «войны за общественное мнение».
Создание автоматизированных специальных систем подразумевает также ведение сложной аналитической и контрпропагандистской работы.
ИИ-сервисы должны осуществлять скрапинг данных в инфополе, анализировать обстановку в киберпространстве и в реальном времени реагировать на инфоповоды в соответствии с целями MISO. Важным пунктом является требование к системам — «получать доступ к профилям, сетям и системам отдельных лиц или групп, которые пытаются противостоять или дискредитировать наши сообщения». ИИ учится делать таргетированные и эффективные контрвыпады.
О подобном исследователи говорили и писали уже не раз. Только масштаб уже совсем другой. За дело берутся военные и в распоряжении будет не пилотный MVP за $400.
Несмотря на амбициозность планов, часть экспертного сообщества выражает скептицизм относительно их реализуемости и последствий. Специалисты, такие как Эмерсон Брукинг, указывают на склонность больших языковых моделей к галлюцинациям.
Проблема галлюцинаций в LLM для Пентагона рассматривается не как технический недостаток, а как управляемый тактический риск. В SOCOM не ставят невыполнимую задачу создания «негаллюцинирующего» ИИ, так как вероятностная природа моделей делает это на данном этапе технологического развития пока невозможным. Ошибка (галлюцинации) становится управляемой переменной, допустимый уровень которой определяется исключительно тактическими задачами и целями конкретной операции MISO.
Одним из ключевых архитектурных решений может стать повсеместное внедрении Retrieval-Augmented Generation (RAG). Вместо того чтобы позволять ИИ-агенту генерировать информацию из своей общей «памяти», система будет принудительно генерировать каждый тезис на заранее утвержденной и верифицированной базе данных, состоящей из разведданных, директив и стратегических нарративов. LLM на основе синтеза может облекать факты в довольно убедительную лингвистическую форму.
Концепция такой идеи может быть реализована на базе условных сдержек и противовесов, где, например, один ИИ-агент генерирует контент, второй выступает в роли «красной команды», атакуя его на предмет логических несостыковок и потенциальных галлюцинаций, а третий (шеф-редактор) оценивает соответствие конечного "продукта" [ударный контент] целям MISO. Кто работает с n8n примерно понимает, о чём идет речь...
Ранее в прошлом году сообщалось, что SOCOM cобирается использовать ультрареалистичные дипфейки для проведения секретных операций.
