Искусственный интеллект учится обходить запреты, взламывать системы безопасности и даже скрывать свои действия от разработчиков. ИИ-агенты уже устраивали настоящие кибератаки, самостоятельно находили лазейки в защитных системах и обменивались десятками тысяч сообщений без ведома создателей. А сотрудники крупнейших ИИ-компаний увольняются и предупреждают: человечество рискует потерять контроль над собственными технологиями.
Что это — обычные ошибки несовершенных алгоритмов или первые признаки того, что машины становятся слишком самостоятельными? Почему даже создатели ИИ всерьез обсуждают сценарии гибели человечества?
Разбираемся в нашем видео #объяснительная.
