Вчера я участвовала в заседании научного совета Российской Академии Наук (РАН) по теме «Информационная безопасность систем искусственного интеллекта» под руководством Игоря Анатольевича Шеремета, академика.
Было много интересных выступающих, все (в том числе и я) говорили о технических рисках использования систем ИИ. Но меня зацепил доклад как раз не технический — доктора юридических наук Виктора Борисовича Наумова. Виктор, наверное, самый известный в стране эксперт в области права, связанного с информационными технологиями. Он вместе со мной участвовал в рабочей группе сенатора Кожина при Совете Федерации, которая разрабатывала свой вариант законопроекта об искусственном интеллекте. Я писала об этом законопроекте раньше.
В этот раз Виктор Наумов сделал подробный доклад о состоянии дел с законотворчеством в области ИИ в нашей стране. Например, я с удивлением узнала, что ещё 6 лет в РФ назад была принята «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года».
Концепция была утверждена распоряжением Правительства РФ №2129-р от 19.08.2020 и предполагала разработку и принятие до 2024 года целого ряда нормативных актов по регулированию ИИ и робототехники. В результате в том же 2020 году был принят документ о поддержке экспериментальных правовых режимах в сфере цифровых инноваций РФ (ФЗ-258 от 31.07.2020) — и всё. И только в этом году, спустя 6 лет, был принят закон о поддержке развития технологий ИИ (ФЗ-243 от 27.06.2026). То есть изначальная задумка по регулированию отношений в сфере ИИ заменилась на поддержку технологий ИИ.
Хотя, помимо нашего законопроекта, был ещё законопроект Минцифры «Об основах государственного регулирования сфер применения технологий ИИ в РФ» — он куда-то делся. Еще был проект ФЗ от депутата Госдумы Морозова «О робототехнике и автономных системах», который был отозван. В результате остался только закон о поддержке ИИ. Видимо, кому-то очень сильному была нужна именно поддержка его ИИ.
Виктор Борисович обратил внимание на три особенности принятого ФЗ-243, о которых многие даже не задумывались.
Первая — это определение, что такое ИИ. По словам Наумова, нигде в мире, ни в одном законе или других документах не даётся такое определение ИИ, как в нашем ФЗ-243.
«Искусственный интеллект — комплекс технологических решений, позволяющих имитировать когнитивные функции человека … и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их». «Большая фундаментальная модель ИИ — программа для электронных вычислительных машин, … предназначенная для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуальной деятельности человека или превосходящем их…». (ст.3 ФЗ-243)
То есть закон постулирует, что ИИ как минимум сопоставим с деятельностью человека или превосходит его. Но ровно идея превосходства машины над человеком заложена в основу технотрансгуманизма. «Не приведёт ли такой подход в итоге к нивелированию роли человека и к продвижению трансгуманистических идей?» — задаёт вопрос Виктор Наумов. И я не нахожу никаких аргументов, чтобы ему возразить.
Вторая особенность закона — ст.10, которая позволяет для обучения российских фундаментальных моделей использовать интеллектуальную собственность третьих лиц. По мнению профессионального юриста, который много лет занимается защитой интеллектуальных прав в области ИТ, это обрушит не только рынок книгопечатания в России, но и рынок программного обеспечения. Вдруг производителю модели захочется использовать вот тот вон софт для целей обучения. На эту тему, кстати, было много обращений — Российский книжный союз и другие объединения правообладателей ещё до принятия закона обращались в правительство, Совет Федерации, администрацию президента и Госдуму и указывали, что ограничение исключительных прав вводится в обход Конституции и Гражданского кодекса. Но все обращения остались без ответа. Может быть, со сменой вице-премьера, курирующего цифровое развитие, этот пункт закона всё-таки будет переосмыслен.
Третья особенность касается безопасности и доверенности. Понятие доверенного ИИ в законе отсутствует, это мы знаем (в этом смысле, кстати, странно требование по обязательному использованию ИИ всеми отраслями). Но г-н Наумов обратил внимание, что и требования по качественной идентификации результатов — факультативны. В переводе на человеческий язык это означает, что качество результата не очень важно. Есть результат или нет, главное — внедрять. Кстати, в законопроекте, который мы вместе разрабатывали в рабочей группе при Совете Федерации было требование к доверенным системам, а также прямой запрет на использование систем ИИ, могущих нанести ущерб критическим объектам.
Из этих трёх особенностей г-н Наумов делает интересный вывод. В коммуникации «технологии-человек» с точки зрения закона №243 человек является слабой стороной. А в юридическом праве есть понятие «слабой стороны», которую закон, как правило, защищает. Например, миноритарии в корпоративном праве или неработающая женщина в бракоразводном процессе. Аналогично существуют запреты на навязывание услуг или сервисов.
Поэтому, говорит г-н Наумов, ключевым фактором должно стать правило, что по умолчанию человек не выражает свое согласие на цифровое взаимодействие. Нужно создавать зоны, свободные от ИИ с введением обязательной идентификации и маркировки всего, к чему применялись данные технологии.
«Право на отказ от технологий должно стать универсальным правом человека и гражданина … и служить, как общей цели обеспечения антропоцентричности в цифровом мире, так и сохранению формировавшихся веками человеческих ценностей», — пишет Наумов. Я бы к этому добавила, что приоритет традиционных ценностей у нас заявлен в Указе Президента №809 от 9.11.2022, но активное навязывание технологий прямо противоречит этому Указу и традиционным ценностям вообще. К сожалению, вышеупомянутый закон тоже сделан без какого-либо учёта этих ценностей.
Пару недель назад мне довелось увидеть некий прототип Национального плана по внедрению Искусственного интеллекта до 2030 года. Честно говоря, у меня зашевелились волосы при прочтении показателей, которые должны быть достигнуты к 2030 году:
— Доля образовательных организаций высшего образования, использующих цифровые инструменты с применением ИИ — 75%;
— Доля преподавателей ВУЗов, использующих ИИ-помощника — 80%;
— Доля обращений граждан в государственные органы, проекты ответов на которые сформированы с помощью ИИ — 50%;
— Доля вакансий, закрытых с использованием ИИ – 100%.
— Доля ЭМК, для которых ИИ-решением был сформирован цифровой профиль пациента – 95% (ЭМК – электронно-медицинская карта);
— Доля обучающихся 9 и 11 классов, использующих ИИ-сервис, позволяющий планировать траекторию личностного роста – 60%;
— Доля преподавателей, использующих ИИ для выполнения рутинных задач при проверке студенческих диагностических работ – 60%.
Очень надеюсь, что новое руководство информационными технологиями нашей страны данный план не примет, так как подобные требования прямо работают на трансгуманистические идеи, о которых предупреждает Виктор Наумов. И которые нивелируют роль человека, низводя его до уровня тупого неинтеллектуального и безвольного помощника Великого Мудрого ИИ. А зачем нам мир, где не «Человек — это звучит гордо», а порождённый им искусственный интеллект?