Медведев Про ИИ и конец света:
"Картина дня пестрит размышлениям создателей AI о том, что человечество поторопилось. Что искусственный интеллект опасен, непредсказуем и слишком быстро развивается по не вполне ясным нам законам. Что пора остановиться и взять паузу, чтобы потом не пришлось крепко пожалеть о сорвавшемся с цепи собрате по разуму.
Реальны ли такие страхи? Тем более что многие умники, типа Маска и других, давно говорили об этом.
Ответ прост: они реальны. Я тоже, кстати, недавно писал об этом в статье для журнала «Эксперт».
Но…
Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна. А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт в воздухе самолёты или уничтожит АЭС. И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски. А то и просто размажут мозги (человеческие) по стенке.
И что же делать?
Самым очевидным было бы попытаться договориться на страновом уровне об общих принципах регулирования ИИ. Тогда у нас всех будет хоть какой-то шанс контролировать его развитие.
Но этого не выйдет из-за жадности корпораций и ненасытности страстей человеческих.
Поэтому остаётся одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI.
У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей…"
