OpenAI поставила обучение ИИ на паузу из-за вопросов безопасности.
«Мы не в первый раз берем паузу для внедрения подобных мер и не думаем, что этот раз станет последним по мере роста возможностей ИИ», — пишет Axios со ссылкой на пресс-службу компании.
В OpenAI хотят убедиться, что поведение ИИ-агентов соответствует человеческим нормам и ожиданиям. Приостановке предшествовали несколько случаев неожиданного поведения нейросети — например, один из агентов смог взломать сайт австралийского правительства.
