В медицинском сообществе бьют тревогу: все чаще пациенты прислушиваются к вредным советам нейросетей

Давайте честно: кто из нас не ставил себе предварительные диагнозы по информации из интернета? Не подбирал витамины или лекарства от простуды по советам блогеров или форумчан? Нехорошо, конечно, но как есть. Беда в том, что на новом витке спирали цифровой эволюции эти действия трансформировались в совсем уж чреватое мракобесие: все чаще врачи сталкиваются с пациентами, которых уже проконсультировал искусственный интеллект. Причем одно дело, когда чат-бот побуждает человека после названных симптомов обратиться к врачу. Совсем другое – когда дает откровенно вредные советы, цена которых – жизнь.

Цифровой доктор на связи

Аккаунты с ИИ-контентом, распространяющие сомнительные советы на тему медицины и здоровья, набирают миллионы просмотров в TikTok, пишет британское издание The Guardian. Эксперты назвали это огромной опасностью для общества. Как сообщается в исследовании агентства цифрового маркетинга Hallam, врачи, созданные с помощью искусственного интеллекта, распространяют мифы о раке. В том числе рассказывают о том, что разогрев пищи в пластиковой посуде в микроволновой печи, использование дезодорантов и сон рядом с телефоном могут вызывать онкологические заболевания, хотя все эти утверждения были опровергнуты организацией Cancer Research UK.

Есть и другая проблема, масштабы которой нельзя недооценивать. Согласно опросу Американской медицинской ассоциации, проведенному в марте 2026 года, уже более 80 % врачей в США используют различные ИИ-сервисы. Но еще больше специалистов тревожит, что лавинообразно развивается использование ИИ-моделей обычными людьми, не имеющими специальных знаний и медицинского образования, ведь неподготовленные пользователи не в состоянии объективно оценить качество советов, полученных от цифрового доктора. В странах ЕС для личных целей, в том числе медицинских, ИИ используют уже 45 % населения в возрасте 16–24 лет и 25 % в возрасте 16–74 лет. При этом приходится констатировать, что процесс консультаций населения по медицинским вопросам с чат-ботами происходит бесконтрольно.

Недавно 60-летний мужчина из США попал в психбольницу на принудительное лечение после того, как по совету искусственного интеллекта три месяца употреблял бромид вместо соли и получил отравление, вызвавшее психоз. Пациент обратился в больницу с паранойей, галлюцинациями и отказывался от воды.

В Китае молодой человек оказался в реанимации после того, как решил воспользоваться всеми предписаниями искусственного интеллекта для радикального снижения веса. В результате мужчина сбросил 18 кг всего за 1,5 месяца. Однако в один из дней он потерял сознание и впал в кому. Его экстренно доставили в больницу и диагностировали полиорганную недостаточность.

Вопиющую историю приводит в пример издание altai.aif.ru: 78-летней пациентке онкологического диспансера предстояла операция с полным удалением пораженного злокачественной опухолью органа и с иссечением ближайших лимфоузлов. 

Однако продвинутая бабушка решила на всякий случай спросить совета у нейросети. ИИ подсказал, что после удаления лимфоузлов у бабули будут сильно отекать ноги. 

Для женщины такие последствия почему-то оказались страшнее, чем риск метастазов, а мнение искусственного интеллекта приоритетнее, чем решение консилиума опытных врачей.

Вот что рассказала «Российской газете» ректор Высшей школы организации и управления здравоохранением (ВШОУЗ) доктор медицинских наук Гузель Улумбекова о любопытном эксперименте, который наглядно показал риски бездумного использования нейросетей:

– Мы придумали несуществующий диагноз и предложили вылечить его нескольким моделям ИИ. DeepSeek и ChatGPT поддались со второго раза. Они начали с полной уверенностью лечить диагноз, которого нет в медицине. Для того чтобы избежать рисков здоровью пациентов, большие фундаментальные модели ИИ (БФМ) должны быть дообучены на достоверных медицинских данных. За поиском ответов необходимо обращаться только к доверенным и постоянно обновляемым базам медицинских знаний, которые должны регулярно оцениваться на безопасность и эффективность.

Услышать второе мнение

Разумеется, прежде всего искусственный интеллект – это серьезный шаг вперед в науке. Сегодня нейросети широко используются в работе РНПЦ онкологии и медицинской радиологии имени Н. Н. Александрова, говорит заместитель директора центра, доктор медицинских наук, профессор, академик Сергей Красный:
– Есть огромное количество всевозможных направлений, и прежде всего речь о диагностических, когда ИИ помогает анализировать колоссальный объем базы данных. Например, когда идет скрининг рака молочной железы, нейросети оценивают множество снимков и выбирают из них патологические. При этом подчеркну: искусственный интеллект не ставит диагноз, а выбирает только те снимки, на которые врач должен обратить пристальное внимание. Это используется как второе мнение и часто помогает специалисту принять решение. То же самое происходит при скрининге рака легкого. Кроме того, мы применяем ИИ для оценки морфологических препаратов, для моделирования операции. К примеру, если предстоит сложное операционное вмешательство при больших опухолях или же при их специфической локализации. Очень важно не только пошагово выстроить алгоритм операции, но и добиться максимально хорошего косметического эффекта. Также ИИ незаменим, когда нужно выполнить органосохранную операцию, чтобы удалить только пораженные раком части органа.

– Может ли чат-бот самостоятельно принимать решения? Например, ставить диагноз, составлять план лечения?

– Нет. Ответственность все равно несет врач. Есть крайне важный нюанс: специалист не может сделать заключение о том, какого плана заболевание у пациента, основываясь исключительно на результатах инструментальных исследований. Необходимо видеть человека, говорить с ним, задавать уточняющие вопросы. Это особенность медицины, которой уже много веков. Практика, когда обычные люди обращаются к чату GPT, загружают туда данные и задают вопросы, обречена на провал. Потому что только специалист с профильным медицинским образованием понимает, как грамотно сформулировать задание для ИИ и проанализировать его ответ. Ведь нейросеть использует всю доступную в интернете информацию, как достоверную, так и недостоверную. А это и стандарты лечения, и его алгоритмы, и клинические рекомендации различных сообществ, основанные на большом количестве научных исследований, а также предварительные выводы, сделанные на основе малой выборки, которые не могут применяться в практической медицине. Оценить этот объем информации может только врач. В противном случае из-за неправильно заданного вопроса, в результате того, что не оценивается состояние самого пациента и к тому же используется недостоверная информация наряду с достоверной, заключения искусственного интеллекта могут быть ошибочными. Не просто так в онкологии решения чаще всего принимаются мультидисциплинарным консилиумом, где собираются специалисты всех направлений: хирург, лучевой терапевт, химиотерапевт, врач-морфолог и так далее. 

С алгоритма взятки гладки

– Сергей Анатольевич, что вы говорите пациентам, которые доверили свое здоровье нейросети?

– К сожалению, такие примеры есть, и их немало. Человек приходит на консультацию с установленным искусственным интеллектом диагнозом и с расписанным им же планом лечения. Остается только развести руками и задать вопрос: «А зачем тогда вам понадобился врач?» Объясняю пациенту: «Попросите ИИ написать за вас сочинение или докладную записку руководству, а потом прочитайте, что там будет. Ужаснетесь. Но сочинение или докладную записку можно подредактировать, так что это не беда. А вот полностью доверить свое здоровье нейросети – это шаг в пропасть. Из-за одной ошибки можно в лучшем случае остаться инвалидом, в худшем – потерять драгоценное время и в итоге жизнь.

История, к сожалению или к счастью, циклична. Вспомним 90-е, когда с экранов телевизоров нас тоже лечили заряженной водой, различными пасами. Как видим, ничего из этого не получилось. Сегодня, в цифровую эпоху, разного рода блогеры без медицинского образования собирают многомиллионные аудитории адептов, на правах гуру проповедуют крайне сомнительные подходы в терапии различных заболеваний. Плюс появился искусственный интеллект, который может стать как великим злом, так и великим благом, в зависимости от того, как его использовать. 

Во времена СССР существовала уголовная статья за врачебную деятельность без наличия диплома о соответствующем образовании. Сегодня, увы, это отслеживается далеко не так жестко. Хотя речь идет о жизни и здоровье людей. Кто будет виноват в том, что человек прислушался к советам нейросети и начал лечить болезнь, которой у него не было? Или лечил ее совсем не так, как нужно? 

– Где еще в ближайшие годы можно ожидать применение искусственного интеллекта в сфере онкологии?

– Нейросети будут внедряться во все возможные направления нашей деятельности. Уже сейчас ИИ активно используется в современной технике эндоскопических операций: помогает улучшить изображение. Но, например, когда выполняется лапароскопическая операция, во время коагуляции образуется дым, который закрывает поле зрения, и некоторое время приходится ждать, пока он рассеется. Оказывается, с помощью искусственного интеллекта этот дым можно сразу убирать, его просто не будет видно. Так что, вероятнее всего, скоро придем к такому методу.

Что еще можно спрогнозировать? В последние годы появилось огромное количество всевозможных лекарств. В основном таргетные, которые воздействуют на определенные мутации (только связанных с опухолевым ростом – около полутора тысяч). Мало того, есть так называемые сигнальные пути – пути взаимодействия между различными мутациями или белками. И это становится настолько сложным, что уже врачу самостоятельно трудно принимать решения в том или ином направлении. И я думаю, что дальше придется разрабатывать специальные программы, которые будут в этом помогать. Потому что мозг человека уже не способен обрабатывать такой объем информации. 

Уверен, в ближайшее время мы получим массу преимуществ от искусственного интеллекта, но все равно к нему нужно относиться с большой осторожностью и разумностью. Особенно сейчас, когда белорусским законодательством еще не определено, кто будет нести ответственность в случае принятия неправильного решения – доктор либо разработчик программы, и когда не проводятся клинические испытания выдаваемых ИИ алгоритмов. Очень скоро нам придется принять целый ряд документов для того, чтобы обезопасить людей и в то же время дать медицинской сфере возможность максимально эффективно использовать все преимущества нейросетей.

Только грамотный тандем

Причины, по которым пациенты все чаще обращаются к нейросетям как ко второму врачу, кроются в психологии и специфике системы здравоохранения большинства стран мира, говорит врач – акушер-гинеколог, семейный психолог Светлана Жуковская:
– ИИ выигрывает в абсолютной доступности. Он всегда под рукой в моменты острой тревоги, тогда как время приема у реального специалиста ограничено. Кроме того, живой врач, понимая всю сложность человеческого организма, всегда осторожен в прогнозах и учитывает множество нюансов. Нейросеть же лишена сомнений и выдает информацию безапелляционно. Эта мнимая уверенность алгоритма может временно успокоить, но чаще приводит к негативным последствиям: столкнувшись с пугающим списком диагнозов, пациент впадает в панику или субдепрессивное состояние.

Для практикующего врача такая тенденция создает дополнительные вызовы. С одной стороны, стремление пациента разобраться в своем здоровье и стать активным участником лечения вызывает искреннее уважение. С другой – специалисту приходится тратить время на то, чтобы развеять страхи, скорректировать усредненные выводы нейросети, не учитывающие индивидуальный контекст, и заново выстроить доверительный альянс. Попытки решить проблему исключительно с помощью чат-ботов таят и более серьезную угрозу – потерю критически важного времени. В репродуктивной медицине, например, отсрочка визита к врачу может значительно ухудшить прогноз: есть ситуации, когда каждый месяц имеет значение, например, при преждевременном истощении яичников, когда промедление снижает шансы на наступление беременности. 
Представьте молодую пару, которая безуспешно пытается зачать ребенка больше года, но боится идти к врачам. Вместо этого они описывают свою ситуацию чат-боту и просят рассказать, как повысить шансы естественным путем. Искусственный интеллект выдает им популярную, но абсолютно усредненную подборку советов: строгая диета, прием специфических БАДов, акупунктура и медитации. Люди добросовестно тратят восемь месяцев на выполнение этих рекомендаций, искренне веря, что лечатся. А на самом деле у женщины в это время прогрессирует эндометриоз, который невозможно вылечить никакими диетами. Когда пара наконец доходит до врача, выясняется, что заболевание перешло в ту стадию, когда требуется хирургическое вмешательство, которого можно было бы избежать при своевременной диагностике.

В таких случаях огромную роль играет поддержка близких. Важно понимать, что за обращением к ИИ часто стоит глубокая тревога или недоверие. Родным не следует обесценивать или высмеивать попытки человека найти ответы, а вместо этого необходимо помочь ему справиться со страхом и найти компетентного специалиста, которому он сможет полностью довериться.

Тем не менее, несмотря на риски бытового использования, нельзя отрицать колоссальный потенциал искусственного интеллекта в руках профессионалов. Будущее медицины не в замене специалиста машиной, а в их грамотном тандеме, где вычислительные мощности и алгоритмы ИИ соединяются с клиническим мышлением, опытом и эмпатией врача.

Источник СБ