Пока серьезные люди считают танцующих в кокошниках роботов символом технологического лидерства, в разлагающемся мире чистогана происходит свои небезынтересные процессы.
В мае Лев XIV выпустил «Magnifica Humanitas» - энциклику об искусственном интеллекте, и на её представлении среди приглашённых оказался человек от Anthropic. Технологический комментариат прочёл это как великое знамение. «Церковь освятила повестку безопасности, два авторитета – моральный и технологический - встали рядом».
4 июня Anthropic выкладывает собственный манифест о том самом "ответственном замедлении", о котором публично грезит Папа. Если текстов не читать, складывается трогательная картина. Лаборатория идёт за понтификом, повторяя за ним про ответственность и паузу. Но тексты мы читаем. Из них следует обратное. Служка, которого в мае фотографировали у алтаря, за пару недель поднялся на амвон и принялся писать устав прихода.
1 Папа написал, что наверху цифровой пирамиды теперь частный игрок без обязанности перед общим благом и без внешнего контроля. И тут же по инерции должности принялся звать государство обратно: регулируйте жёстче. Одновременно отпевание модели «государство, как арбитр», и попытка ее реанимации.
Anthropic реанимировать не пытается. Anthropic занимает освободившееся место. Решение о тормозе по их идее принимают между собой несколько богатых лабораторий, с взаимной проверкой, что все честно «встали». Государства тоже приглашены на «разговоры», которые компания обещает созвать в ближайшие месяцы. Буквально курятник проводит совещание по технике безопасности. Основные докладчики - лисы, куры подтянутся к прениям.
2Лев сказал: вершина теперь частная и бесконтрольная. Anthropic не спорит, а демонстрирует предлагая документ, где замедление устраивают компании, проверяют компании, а бывшего суверена сажают сбоку послушать. Церковь нарисовала пустой трон с подобающей скорбью и зарыдала о грехах человечества. Лаборатория на него присела и достала из кармана регламент, очевидно заготовленный заранее.
3У Папы долг не зависит от поведения соседа: похвально и душеспасительно притормозить, даже если другие гонят. У Anthropic замедление условное. Остановимся, если остальные остановятся проверяемым образом. На входе мораль, на выходе торг лавочников, каждый из которых боится закрыть лавку первым. Anthropic предлагает сравнение с договором о РСМД и сам признает, что прятать тут легче, чем ракетную шахту: тренировку модели скрыть проще, а соблазн тихо смошенничать огромен.
4Anthropic пишет, что остаётся первым в гонке и зовёт к торможению в забеге, который возглавляет. «Давайте все разом и под протокол замрём» из уст лидера - просьба сделать фото в момент, когда ты на полкорпуса впереди и придать снимку силу финишного протокола. Текст появился через считаные дни после заявки на размещение акций при оценке вокруг триллиона. Воззвание о готовности себя ограничить публикуется в минуту, когда привлекают максимум денег. Это не совпадение, а жанр. «На серьезных щах» нынче идёт отдельной строкой в смете и продаётся как платная опция «этичной компании» к основному продукту.
5 В результате, вся история начинает выглядеть по-другому. Лаборатория одолжила Ватикану свой словарь, Ватикан вернул его освящённым, и теперь лаборатория занимает кафедру, на которую метила Церковь. Буквально богословие сдали на подряд в конструкторское бюро, бюро прислало смету.
А если серьезно, весь сюжет упирается не в то, замедлят ли. Он упирается в то, кто будет судьёй. Папа честно не знает и предлагает набор гипотез разной степени эсхатологичности. Anthropic знает твёрдо. Судьёй станет тот, кто соберёт «переговоры» и напишет правила проверки. Пустой престол пустует всегда недолго, и занимает его обычно не тот, кто громче скорбел, а тот, кто принёс свой стул. И это точно не государство, но и не Церковь, как возможно рассчитывал Папа.
