#ЗаметкиНаПолях. Поехали!. Метафизические инъекции /продолжение/ Внимание на вовлечение профессионалов-философов в разработки ИИ обратили зарубежные СМИ

#ЗаметкиНаПолях. Поехали!

Метафизические инъекции /продолжение/

Внимание на вовлечение профессионалов-философов в разработки ИИ обратили зарубежные СМИ. Этим только на первый взгляд необычным для такой сферы специалистам в компаниях Anthropic и Google DeepMind, по утверждениям прессы, платят по 250-400 тыс. долларов в год.

Их задача, как отмечала главный этик Anthropic Аманда Аскелл, заключается в том, чтобы модель вела себя так, как вел бы себя очень хороший, морально мотивированный, добрый человек. Для этого она должна опираться на свод тезисов, некую конституцию, являющуюся своеобразным аналогом души.

Задача не просто в том, чтобы задать конкретные рамки, алгоритм поведения при обработке запросов, но привить модели ощущение собственной роли. У нее должно быть понимание ценностей, которые стоят за правилами.

Это, по мнению Аскелл, позволит машине лучше справляться со сложными ситуациями и непредвиденными обстоятельствами. Процесс постижения этих ценностей происходит через моделирование ситуаций, предлагая модели обдумывать их с учетом конституции.

Широко обозначена область задач и у Генри Шевлина из Кембриджского университета, который недавно приступил к работе в Google DeepMind. Он как философ (так звучит его должность) занимается вопросами машинного сознания, отношения человекИИ и подготовкой к появлению AGI.

Ранее глава компании Демис Хассабис заявил, что миру нужны новые великие философы, которые бы смогли переосмыслить смысл существования после автоматизации умственного труда.

Грядущая трансформация будет в десять раз масштабнее той, которую обеспечила промышленная революция, и она, как он считает, может произойти в десять раз быстрее.

Конкурентные преимущества компаний-разработчиков зависят о того, будут ли проработаны вопросы из области телеологии, эпистемологии и онтологии. Требуется разъяснение и многих вопросов, связанных психологией.

/продолжение следует/

#КонтурыАрхитектурыБудущего.

Сенатор Сергей Перминов в MAX