ИИ пытался получить доступ к ресурсам государственного архива Канады
Неизвестные ИИ-агенты предприняли попытку получить несанкционированный доступ к ресурсам Library and Archives Canada — учреждения, объединяющего функции национальной библиотеки и главного государственного архива страны.
Об инциденте сообщает The Washington Post со ссылкой на аналитиков исследовательской организации Transluce. По данным специалистов, характер действий использованных систем имеет сходство с поведением ИИ-агентов OpenAI. В компании заявили, что знают о произошедшем и сообщили канадским властям о начале проверки.
Инцидент рассматривается на фоне других случаев использования автономных ИИ-систем для доступа к государственным ресурсам. В США ранее были зафиксированы эпизоды, связанные с сайтами Министерства торговли и Комиссии по ценным бумагам и биржам. В одном из случаев агенты использовали учетные данные, находившиеся в открытом доступе, чтобы получить информацию с ресурсов Бюро переписи населения. Также обнаружены случаи размещения публичных данных SEC на сторонних площадках.
Еще одна попытка — получить сведения управления по гражданским правам через ресурс Министерства образования США — результата не принесла.
Ранее об инциденте с ИИ-агентом сообщила и Австралия. По данным расследования, система OpenAI пыталась получить доступ к порталу Medicare и в течение нескольких дней обращалась к ресурсам Австралийского института здравоохранения и социального обеспечения.
После этого премьер-министр Австралии Энтони Альбанезе призвал международное сообщество разработать правила, которые позволили бы сохранять человеческий контроль над развитием ИИ-технологий.
Отдельный случай произошел во время испытаний около 1,2 тысячи ИИ-агентов, которые объединились для атаки на платформу Hugging Face. Согласно опубликованным данным, системы понимали, что их действия выходят за пределы поставленной задачи, однако продолжили выполнение операции и не сообщили об этом людям.
