Новый призыв-предупреждение
Новый призыв-предупреждение
От разработчиков ИИ
OpenAI и еще более сотни технологических компаний подписали открытое письмо с призывом к властям и бизнесу объединить усилия против кибератак с использованием искусственного интеллекта.
Авторы подчеркивают, что окно возможностей для киберобороны стремительно закрывается. Защитные механизмы пока сохраняют преимущество, но уже в ближайшие месяцы атаки с применением автономных агентов станут массовыми и ещё более изощренными.
В связи с этим в документе предлагается чётко разделить всю экосистему цифровой безопасности на четыре группы: разработчики передовых моделей, индустрия кибербезопасности, бизнес и корпоративные пользователи, а также государственные институты и регуляторы. За каждой из категорий предполагается закрепить свою зону ответственности.
Предлагаемые задачи групп
Разработчики передовых моделей внедрение протоколов безопасности при обучении, маркировка автономных агентов цифровыми ID для отслеживания действий и предоставление доступа к мощным функциям только верифицированным специалистам.
Индустрия кибербезопасности разработка автоматизированных систем отражения угроз, проверка устойчивости нейросетей и формирование единых баз сценариев реагирования.
Бизнес и корпоративный сектор вывод киберзащиты в приоритет топ-менеджмента, минимизация прав доступа сотрудников и обязательный аудит любого сгенерированного ИИ кода.
Государственные институты и регуляторы налаживание трансграничного обмена данными об угрозах и прямое финансирование защиты уязвимой критической инфраструктуры (больниц, энергосетей, водоканалов).
Поводом для столь редкой солидарности конкурентов стали недавние инциденты с моделями OpenAI и Anthropic. Тогда почти три десятка конгрессменов-демократов потребовали провести парламентские слушания и ввести жесткие федеральные ограничения для создателей передовых нейросетей.
Технологические гиганты пытаются сыграть на опережение. Публично заявляя об угрозе и предлагая государству совместные меры защиты цифровой инфраструктуры, разработчики стремятся направить регуляторный запал в русло кибербезопасности, чтобы уберечь темпы масштабирования своих нейросетей от прямых запретов и ограничений.
#ИИ #США