Американские врачи хотят, чтобы за ошибки медицинского ИИ отвечали не они, а разработчики нейросетей
Американская медицинская ассоциация (AMA) решила, что если врач пользовался нейросетью, а она ошиблась, отвечать должен производитель нейросети. Логика понятна, но крайними станут разработчики. Это может привести к тому, что разработчики запретят своим ИИ обсуждать с пользователями медицину вообще.
Мне очень нравится анекдот:
— Доктор, как мне это вылечить?
— Сейчас загуглю.
— А может, я сам?
— Вот давайте не будем самолечением заниматься…
В этой истории есть парадокс. ИИ даёт врачу может дать врачу пояснение, совет, но не команду действовать определенным образом. Врач может его оценить, спросить коллегу или другую нейросеть, вынести вопрос на консилиум, но решение всё равно принимает он. И несёт ответственность за это решение.
Если же врач без собственного мнения выдает пациенту ответ нейросети за свой и при этом не хочет отвечать за результат, то непонятно, зачем такой врач вообще нужен. Проще сразу отправить пациента советоваться с ИИ.
Смешно, но использование ИИ врачами — уже реальность. По опросу AMA, ИИ в работе используют 81% американских врачей, а в 2023 году было 38%. Чаще всего его используют, чтобы свериться с исследованиями и стандартами лечения.
Если нейросети перестанут давать советы о медицине, врачебная помощь станет менее качественной. Врачей не хватает: в России, по данным Минздрава, не хватает более 23 тысяч врачей, а в мире к 2030 году будет не хватать 11 миллионов медработников. Квалификация у всех разная. В медицине, как и во всех профессиях есть умные специалисты, а есть не очень. Врачу, как и пациенту, тоже нужно с кем-то посоветоваться.
Надо понять, что использование искусственного интеллекта в медицине — это объективный процесс, и помешать этому невозможно.