До 80% книг на таких платформах, как Amazon, особенно в разделах о лечении травами или грибах написаны искусственным интеллектом.
The Guardian и New Scientist выяснили, что многие издания содержат недостоверные или даже опасные советы. Так, в прошлом году грибников предупреждали не покупать книги, созданные чат-ботами, потому что в них встречались фатальные ошибки в рекомендациях, как различать съедобные и ядовитые грибы.
Каково будущее искусственного интеллекта и куда ведёт стремительное распространение машинно созданного контента?
Существует понятие «модельного коллапса» — явления, при котором ИИ начинает обучаться на собственных текстах, а не на человеческих. Первые поколения нейросетей развивались, анализируя огромное количество работ, созданных людьми, и именно поэтому их ответы казались осмысленными и глубоко контекстуальными, аИИ развивался и поражал нас своими возможностями. Однако рано или поздно он обработает всё, что было создано человеком, и начнёт обучаться на собственных текстах, написанных за последние годы. Это, как утверждают учёные, неизбежно приведёт к так называемому «коллапсу модели».
Исследование Оксфордского университета 2023 года показало: «Если на каждом поколении ИИ обучать на данных, сгенерированных предыдущим поколением, то качество модели деградирует экспоненциально».
Свежий анализ трёх тысяч ответов популярных языковых моделей, включая ChatGPT и Gemini. Оказалось, что почти половина ответов содержала серьёзные ошибки или искажения фактов, а более восьмидесяти процентов — неточности и поверхностные формулировки. Это свидетельствует о том, что качество машинных текстов уже начало снижаться: ИИ вырабатывает единообразный, упрощённый стиль и склонен избегать сложных тем ради «безопасных» и общих суждений.
Другими словами, ИИ постепенно начинает повторять самого себя, теряя способность к новизне, точности и смысловой глубине — «тупеет».
Будьте внимательны. Нейросети — полезный инструмент, но не стоит воспринимать ИИ как окончательный источник истины.
