#ЗаметкиНаПолях. Поехали!
Метафизические инъекции /продолжение/
Внимание на вовлечение профессионалов-философов в разработки ИИ обратили зарубежные СМИ. Этим только на первый взгляд необычным для такой сферы специалистам в компаниях «Anthropic» и «Google DeepMind», по утверждениям прессы, платят по 250-400 тыс. долларов в год.
Их задача, как отмечала главный этик «Anthropic» Аманда Аскелл, заключается в том, чтобы «модель вела себя так, как вел бы себя очень хороший, морально мотивированный, добрый человек». Для этого она должна опираться на свод тезисов, некую «конституцию», являющуюся своеобразным аналогом души.
Задача — не просто в том, чтобы задать конкретные рамки, алгоритм поведения при обработке запросов, но привить модели ощущение собственной роли. У нее должно быть «понимание ценностей, которые стоят за правилами».
Это, по мнению Аскелл, позволит «машине» лучше справляться со сложными ситуациями и непредвиденными обстоятельствами. Процесс постижения этих ценностей происходит через моделирование ситуаций, предлагая модели обдумывать их с учетом конституции.
Широко обозначена область задач и у Генри Шевлина из Кембриджского университета, который недавно приступил к работе в «Google DeepMind». Он как философ (так звучит его должность) занимается вопросами машинного сознания, отношения человек–ИИ и подготовкой к появлению AGI.
Ранее глава компании Демис Хассабис заявил, что миру нужны «новые великие философы», которые бы смогли переосмыслить смысл существования после автоматизации умственного труда.
Грядущая трансформация будет в десять раз масштабнее той, которую обеспечила промышленная революция, и она, как он считает, может произойти в десять раз быстрее.
Конкурентные преимущества компаний-разработчиков зависят о того, будут ли проработаны вопросы из области телеологии, эпистемологии и онтологии. Требуется разъяснение и многих вопросов, связанных психологией.
/продолжение следует/
#КонтурыАрхитектурыБудущего.
Сенатор Сергей Перминов — в MAX
