Олег Царёв: О развитии ИИ. Боты впервые обогнали людей по числу веб-запросов к страницам, следует из данных Cloudflare Radar

О развитии ИИ

Боты впервые обогнали людей по числу веб-запросов к страницам, следует из данных Cloudflare Radar. То есть по форме интернет всё ещё состоит из сайтов для людей, но по факту просматривают их всё чаще не люди (на них приходится 42,5%), а боты и AIагенты (57,5% запросов), которые работают по нашему поручению. Причем этот переход произошел быстрее прогноз был лишь на 2027 год.

Такими же стремительными темпами развивается сам искусственный интеллект. На этой неделе в компании Anthropic (создатели одной из лучших ИИ-моделей Claude) выступили с революционным предложением притормозить гонку за всё более мощными передовыми моделями, которые начинают развиваться быстрее, чем люди успевают их контролировать и осмыслять.

По их оценкам, длина задач, которые ИИ выполняет без участия человека, сейчас удваивается каждые четыре месяца. Модели сами уже пишут значительную часть кода для следующих версий ИИ, и момент, когда люди превратятся из авторов в наблюдателей, перестаёт быть фантастикой. Главная угроза здесь не в том, что нейросеть взбунтуется, и нас ждёт восстание машин, а в том, что люди перестанут успевать понимать и контролировать, что именно эти системы делают. Отсюда пойдут ошибки, которые будут переходить из одного поколения ИИ в другое.

Anthropic проводит аналогию с ядерными договорами. ДРСМД ограничивал производство ракет, и теперь нужен аналогичный механизм чтобы никто в одностороннем порядке не разгонял гонку самых мощных моделей. Хочешь обучать модель выше определённого уровня? Сначала независимые аудиторы проверяют, что она не вышла из-под контроля. Причем делать это нужно всем, потому что если остановится одна компания, конкуренты просто ускорятся.

И судя по тому, что идею поддержали только в академическом сообществе, а крупные компании либо молчат, либо открыто выступили против, так и будет. Более того, крупные игроки (Meta, Google, Microsoft) добиваются 10-летнего моратория на любое регулирование ИИ в США.

Мы не успеем понять, что создаём, говорит Anthropic о контроле над скоростью ИИ.

Мы ничего не заработаем с того, что вы создадите, в это время политики беспокоятся о контроле над выгодами от ИИ.

Вчера Трамп заявил, что поддерживает предложение OpenAI о Фонде общественного благосостояния, который даст каждому американцу небольшую долю в росте стоимости ИИкомпаний своего рода дивиденд с технологической революции. Левый сенатор Берни Сандерс и вовсе предложил обложить крупнейшие AIлаборатории 50% налогом в виде акций для национального фонда. По сути, национализировать половину отрасли.

Такие разные подходы. Но все хотят одного контроля. Только Anthropic говорит о контроле над темпами разработки по соображениям безопасности. А Сандерс и Трамп с фондами говорят о контроле над доходами от разработки.

В интересное время живем.

Олег Царёв. Telegram и Max.