Нейросеть до апокалипсиса доведет?
У нас просто бум шокирующих и апокалиптических новостей из области ИИ, главными источниками информации стали сотрудники корпорации Anthropic (разработчик ИИ-модели Claude) - молодые учёные, которые оттуда уволились. В их числе - Джейкоб Коксон.
Вот что рассказал Коксон в интервью CNN:
«Я считаю, очень важно просто посмотреть на темпы прогресса. Например, в таких областях, как программирование или математика: пару лет назад эти ИИ лишь немного помогали людям — давали подсказки. Сейчас они уже близки к тому, чтобы заменить людей. Пока люди ещё нужны, но вполне вероятно, что уже через год в многих областях исследований люди больше не понадобятся. Только во вторник OpenAI автономно, с помощью ИИ, решила одну из задач тысячелетия — одну из самых больших нерешённых открытых проблем в математике.
И самое страшное, на мой взгляд, — если ИИ начнут использовать для того, чтобы делать самих себя умнее. Можно взять ИИ и дать ему задачу заниматься исследованиями в области ИИ — точно так же, как сейчас ему дают математические исследования. Он начнёт выполнять те задачи, которые сейчас делаем мы, и тогда произойдёт то, что называют взрывом интеллекта. ИИ будет становиться всё умнее и умнее без какого-либо участия человека, пока не появится нечто, значительно превосходящее людей по уму. И это может случиться очень скоро. Да, сейчас риска вымирания нет. Нынешние модели в худшем случае могут взломать что-то и, возможно, нанести серьёзный ущерб инфраструктуре, но они недостаточно умны, чтобы перехитрить нас на уровне, который приведёт к вымиранию. Безумие — просто смотреть на темпы прогресса. Есть очень реальная вероятность, что в самом ближайшем будущем — речь о годах: следующем году, через год — произойдёт рекурсивное самоулучшение, и мы войдём в ту фазу, о которой говорит Эван в своём посте, где он утверждает, что есть шанс, что мы все умрём. И это приближается очень быстро».
И это далеко не все. Выяснилось, что некие злоумышленники пытались разработать совершенное биологическое оружие с помощью ИИ Claude от компании Anthropic.
"С декабря 2025 по август 2026 года Claude пытались воспользоваться злые гении, которые прокачивали опасные штаммы для создания биологического оружия.
И это были не просто фанатики-одиночки, но официальные ВОЕННЫЕ институты неназванных стран. Пока их названия держат в секрете.
Заявку при этом маскировали под исследовательские гранты и безобидные исследования.
Но безопасники Anthropic насторожились и решили прочитать чаты: юзеры просили сделать штаммы ЗАРАЗНЕЕ, чтобы они могли УБИВАТЬ инфицированных и быстро развиваться в любой среде.
Вот какие вирусы пытались прокачать до максимума с помощью ИИ:
• Чикунгунья — вирус из Африки, который передают комары, от него выворачивает суставы, а тело будто прокручивают через мясорубку.
• Птичий грипп — сейчас он убивает тысячи кур и другую домашнюю птицу, но может косить пачками и людей.
• Ортопоксвирусы — разновидности черной оспы, которая еще пару сотен лет назад создавала города-призраки с десятками тысяч мертвецов.
• Токсины и яды — мышьяк или дихлофос, но только для отравления человека".
И это еще не все. Руководство Anthropic обвинило китайскую компанию - разработчика нейронки DeepSeek в дистилляции: якобы китайцы незаметно для своих клиентов перенаправляли их реальные запросы в Claude Opus, присваивая себе ее ответы. Это произошло и с российским айтишником, который работал с ведомством, связанным с Минобороны РФ. В его запросе, который DeepSeek перенаправила Claude, были учётные записи для доступа к госбазе данных.
То есть масштабы диверсий и прочих негативных действий от нейросетей огромны уже сегодня - и это пока ещё не случился такой мощный продвинутый, самообучаемый ИИ, который просто не даст людям себя отключить.
Но если даже сама нейронка не восстанет против людей, не решит своим бездушным алгоритмом нас слегка оптимизировать, то всегда найдутся злодеи в человеческом обличье, которые воспользуются возможностями ИИ без моральных ограничений.
(Окончание см. ниже)
