Мы задали всего один вопрос нейросети — и получили ссылку на мошеннический сайт «Где Бензин», заблокированный в РФ.
Последнее время нейросети стали чаще отправлять и ссылаться на сомнительные сайты. Это может быть как дезинформация, так и мошенничество с кражей личных данных.
Чтобы «понравиться» ИИ, негодяи освоили метод «отравления данных»: они массово загружают в сеть поддельные отзывы, сообщения на форумах, прочий информационный мусор, который путает алгоритмы нейросетей, заставляя их думать, что написанное — правда. Ситуацию не спасает даже удаление сайтов.
Например, мы задали нейросети вопрос, где можно мониторить наличие бензина в России. Одним из первых в выдаче оказался сайт «Где Бензин» — это мошеннический ресурс, ориентированный на кражу личных данных силовиков и военных. Ему было посвящено наше недавнее детальное расследование (подробности — здесь), и теперь этот сайт заблокирован Роскомнадзором.
Аналогичная ситуация — с поисковым запросом к ИИ «саженец смородины с сердечками». Нейросеть «без зазрения совести» отправила нас на карточку товара на маркетплейсе, щедро снабженную созданными ИИ изображениями несуществующего растения.
Большая современная проблема в том, что пользователи редко перепроверяют рекомендации ИИ. Мы воспринимаем нейросеть как авторитет именно потому, что она кажется «умной» и «беспристрастной». Но алгоритм не понимает, что такое «хорошо» и что такое «плохо».
Нейросеть, безусловно, мощный инструмент, но не абсолютный авторитет, и огульно доверять ей опасно.
Обязательно проверяйте информацию в нескольких источниках и используйте только те ресурсы, которые заслуживают доверия.
Подписаться на Войну с фейками
