Пока серьезные люди считают танцующих в кокошниках роботов символом технологического лидерства, в разлагающемся мире чистогана происходит свои небезынтересные процессы

Пока серьезные люди считают танцующих в кокошниках роботов символом технологического лидерства, в разлагающемся мире чистогана происходит свои небезынтересные процессы.

В мае Лев XIV выпустил Magnifica Humanitas - энциклику об искусственном интеллекте, и на её представлении среди приглашённых оказался человек от Anthropic. Технологический комментариат прочёл это как великое знамение. Церковь освятила повестку безопасности, два авторитета моральный и технологический - встали рядом.

4 июня Anthropic выкладывает собственный манифест о том самом "ответственном замедлении", о котором публично грезит Папа. Если текстов не читать, складывается трогательная картина. Лаборатория идёт за понтификом, повторяя за ним про ответственность и паузу. Но тексты мы читаем. Из них следует обратное. Служка, которого в мае фотографировали у алтаря, за пару недель поднялся на амвон и принялся писать устав прихода.

1 Папа написал, что наверху цифровой пирамиды теперь частный игрок без обязанности перед общим благом и без внешнего контроля. И тут же по инерции должности принялся звать государство обратно: регулируйте жёстче. Одновременно отпевание модели государство, как арбитр, и попытка ее реанимации.

Anthropic реанимировать не пытается. Anthropic занимает освободившееся место. Решение о тормозе по их идее принимают между собой несколько богатых лабораторий, с взаимной проверкой, что все честно встали. Государства тоже приглашены на разговоры, которые компания обещает созвать в ближайшие месяцы. Буквально курятник проводит совещание по технике безопасности. Основные докладчики - лисы, куры подтянутся к прениям.

2Лев сказал: вершина теперь частная и бесконтрольная. Anthropic не спорит, а демонстрирует предлагая документ, где замедление устраивают компании, проверяют компании, а бывшего суверена сажают сбоку послушать. Церковь нарисовала пустой трон с подобающей скорбью и зарыдала о грехах человечества. Лаборатория на него присела и достала из кармана регламент, очевидно заготовленный заранее.

3У Папы долг не зависит от поведения соседа: похвально и душеспасительно притормозить, даже если другие гонят. У Anthropic замедление условное. Остановимся, если остальные остановятся проверяемым образом. На входе мораль, на выходе торг лавочников, каждый из которых боится закрыть лавку первым. Anthropic предлагает сравнение с договором о РСМД и сам признает, что прятать тут легче, чем ракетную шахту: тренировку модели скрыть проще, а соблазн тихо смошенничать огромен.

4Anthropic пишет, что остаётся первым в гонке и зовёт к торможению в забеге, который возглавляет. Давайте все разом и под протокол замрём из уст лидера - просьба сделать фото в момент, когда ты на полкорпуса впереди и придать снимку силу финишного протокола. Текст появился через считаные дни после заявки на размещение акций при оценке вокруг триллиона. Воззвание о готовности себя ограничить публикуется в минуту, когда привлекают максимум денег. Это не совпадение, а жанр. На серьезных щах нынче идёт отдельной строкой в смете и продаётся как платная опция этичной компании к основному продукту.

5 В результате, вся история начинает выглядеть по-другому. Лаборатория одолжила Ватикану свой словарь, Ватикан вернул его освящённым, и теперь лаборатория занимает кафедру, на которую метила Церковь. Буквально богословие сдали на подряд в конструкторское бюро, бюро прислало смету.

А если серьезно, весь сюжет упирается не в то, замедлят ли. Он упирается в то, кто будет судьёй. Папа честно не знает и предлагает набор гипотез разной степени эсхатологичности. Anthropic знает твёрдо. Судьёй станет тот, кто соберёт переговоры и напишет правила проверки. Пустой престол пустует всегда недолго, и занимает его обычно не тот, кто громче скорбел, а тот, кто принёс свой стул. И это точно не государство, но и не Церковь, как возможно рассчитывал Папа.