Марат Баширов: У нейросетей, как выясняется, тоже есть свой культурный код

У нейросетей, как выясняется, тоже есть свой культурный код.

Руководитель Лаборатории искусственного интеллекта СКОЛКОВО Александр Диденко объясняет: модель перенимает ценности тех людей, которые участвуют в ее обучении и решают, какие ответы считать предпочтительными.

В итоге даже фактически правильный ответ может содержать чужие пользователю установки. Нейросеть не врет, но незаметно подталкивает к определенному отношению к риску, коллективизму, иерархии и другим вещам.

Причем западные разработчики часть обучения могут отдавать на аутсорс в другие страны. Получается занятная конструкция: американская модель вполне может нести ценности людей, которые обучали ее, например, в Индии.

Российские модели вроде GigaChat и Алисы AI обучают внутри страны. И здесь вопрос собственных нейросетей становится уже не только технологическим. Если ИИ все чаще советует человеку и помогает принимать решения, то важно и то, чей культурный код за этими советами стоит.