Мы задали всего один вопрос нейросети — и получили ссылку на мошеннический сайт «Где Бензин», заблокированный в РФ
Мы задали всего один вопрос нейросети и получили ссылку на мошеннический сайт Где Бензин, заблокированный в РФ.
Последнее время нейросети стали чаще отправлять и ссылаться на сомнительные сайты. Это может быть как дезинформация, так и мошенничество с кражей личных данных.
Чтобы понравиться ИИ, негодяи освоили метод отравления данных: они массово загружают в сеть поддельные отзывы, сообщения на форумах, прочий информационный мусор, который путает алгоритмы нейросетей, заставляя их думать, что написанное правда. Ситуацию не спасает даже удаление сайтов.
Например, мы задали нейросети вопрос, где можно мониторить наличие бензина в России. Одним из первых в выдаче оказался сайт Где Бензин это мошеннический ресурс, ориентированный на кражу личных данных силовиков и военных. Ему было посвящено наше недавнее детальное расследование (подробности здесь), и теперь этот сайт заблокирован Роскомнадзором.
Аналогичная ситуация с поисковым запросом к ИИ саженец смородины с сердечками. Нейросеть без зазрения совести отправила нас на карточку товара на маркетплейсе, щедро снабженную созданными ИИ изображениями несуществующего растения.
Большая современная проблема в том, что пользователи редко перепроверяют рекомендации ИИ. Мы воспринимаем нейросеть как авторитет именно потому, что она кажется умной и беспристрастной. Но алгоритм не понимает, что такое хорошо и что такое плохо.
Нейросеть, безусловно, мощный инструмент, но не абсолютный авторитет, и огульно доверять ей опасно.
Обязательно проверяйте информацию в нескольких источниках и используйте только те ресурсы, которые заслуживают доверия.
Подписаться на Войну с фейками