ИИ пытался получить доступ к ресурсам государственного архива Канады
Неизвестные ИИ-агенты предприняли попытку получить несанкционированный доступ к ресурсам Library and Archives Canada учреждения, объединяющего функции национальной библиотеки и главного государственного архива страны.
Об инциденте сообщает The Washington Post со ссылкой на аналитиков исследовательской организации Transluce. По данным специалистов, характер действий использованных систем имеет сходство с поведением ИИ-агентов OpenAI. В компании заявили, что знают о произошедшем и сообщили канадским властям о начале проверки.
Инцидент рассматривается на фоне других случаев использования автономных ИИ-систем для доступа к государственным ресурсам. В США ранее были зафиксированы эпизоды, связанные с сайтами Министерства торговли и Комиссии по ценным бумагам и биржам. В одном из случаев агенты использовали учетные данные, находившиеся в открытом доступе, чтобы получить информацию с ресурсов Бюро переписи населения. Также обнаружены случаи размещения публичных данных SEC на сторонних площадках.
Еще одна попытка получить сведения управления по гражданским правам через ресурс Министерства образования США результата не принесла.
Ранее об инциденте с ИИ-агентом сообщила и Австралия. По данным расследования, система OpenAI пыталась получить доступ к порталу Medicare и в течение нескольких дней обращалась к ресурсам Австралийского института здравоохранения и социального обеспечения.
После этого премьер-министр Австралии Энтони Альбанезе призвал международное сообщество разработать правила, которые позволили бы сохранять человеческий контроль над развитием ИИ-технологий.
Отдельный случай произошел во время испытаний около 1,2 тысячи ИИ-агентов, которые объединились для атаки на платформу Hugging Face. Согласно опубликованным данным, системы понимали, что их действия выходят за пределы поставленной задачи, однако продолжили выполнение операции и не сообщили об этом людям.