Может ли взломать чужой сервер любой школьник с ChatGPT? «Фонтанка» поговорила с экспертами «Лаборатории Касперского» и компании «Хайвтрейс» о том, как ИИ изменил работу хакеров и почему неприятности с ним могут возникнуть даже у тех, кто ничего взламывать не собирался.
В августе австралийский телеканал ABC рассказал историю мужчины, который пользовался ИИ-агентом OpenClaw. Он попросил программу записать его в спортзал. Агент обнаружил уязвимость в системе бронирования и сумел выполнить поручение, но при помощи вайб-хакинга.
Позже мужчина захотел попасть на другое занятие, но оказался четвёртым в очереди. Тогда он попросил помощника переместить его на первое место. Проверяя, что можно сделать с системой бронирования, нейросеть удалила из списка человека, который стоял первым. В результате её хозяин поднялся на третью строчку. Мужчина попросил вернуть чужую запись, но выяснилось, что сделать это агент уже не может.
«При помощи ИИ, не владея специальными знаниями, крупную компанию можно взломать, я считаю, только если очень повезёт. А что-то мелкое, если разработчики не разбираются в информационной безопасности и не проводили аудит защищённости, — можно», — рассказал «Фонтанке» старший эксперт Глобального центра исследования и анализа угроз «Лаборатории Касперского» (Kaspersky GReAT) Георгий Кучерин.
Сегодня необязательно самому писать каждую строчку кода. Можно объяснить нейросети обычными словами, что требуется, а она напишет программу, проверит её и при необходимости исправит ошибки.
Кучерин сравнивает происходящее с переходом автомобилей с механической коробкой передач на автоматическую. На «механике» учиться сложнее, а с «автоматом» за руль смогло сесть гораздо больше людей. Примерно то же самое случилось с программированием.
«Человек, который абсолютно не владеет информационными технологиями, сейчас может разрабатывать вредоносные программы и запускать их», — говорит эксперт.
«Существующие инструменты дают непрофессиональным участникам, школьникам-хулиганам возможность, допустим, какой-нибудь сервер местного ЖЭКа атаковать. Потому что, скорее всего, на этом сервере нет обновлений по безопасности, нет средств защиты», — приводит пример руководитель компании «Хайвтрейс» Евгений Кокуйкин.
Однако у популярных нейросетей вроде ChatGPT, Claude и Gemini есть защитные механизмы, призванные не допускать их использования для незаконных действий. Злоумышленники пытаются обходить эти запреты или используют модели, которые можно скачать и запустить самостоятельно.
По словам Кучерина, «Лаборатория Касперского» уже изучала случаи, когда злоумышленники оснащали нейросети дополнительными инструментами и использовали их для атак на организации. Однако говорить, что хакеры благодаря ИИ получили решающее преимущество, пока рано.
«Я бы охарактеризовал эту борьбу как равный бой. Это бесконечная игра в кошки-мышки, которая постоянно продолжается. Нельзя сказать, что с развитием ИИ у защитников как-то ослабли позиции», — говорит он.
Но проблемы искусственный интеллект способен устроить и вполне законопослушному пользователю. Особенно если речь идёт об ИИ-агентах, которым разрешают самостоятельно отправлять письма, управлять счетами или работать с личными данными.
Кокуйкин советует не бояться таких помощников, но и не доверять им безоговорочно. Прежде чем предоставлять агенту доступ к очередному сервису, стоит выяснить, что он сможет делать без разрешения хозяина.