Поделиться
Владимир Воробьёв: ИИ может ставить диагноз за секунды, но ответственность — всегда за врачом
Российское здравоохранение стоит на пороге важных регуляторных изменений. Правительство РФ приступило к разработке законопроекта, ограничивающего автономию искусственного интеллекта в нескольких областях, в том числе здравоохранении. Ключевая инициатива документа — юридически закрепить решающую роль человека при принятии любых клинических решений. Интеллектуальных систем поддержки принятия врачебных решений (СППВР) пока немного, но они уже используются в российском здравоохранении. Насколько необходимо устанавливать ограничения для применения ИИ на законодательном уровне и как они повлияют на разработки в этой области, CNews поговорил с инженером и руководителем компании-разработчика интеллектуальных систем для медицины Владимиром Воробьёвым, чья СППВР, учитывающая требования регулятора и проверенные медицинские данные, стала победителем всероссийского конкурса, организованного Фондом НТИ совместно со Сколково и Сеченовским университетом в 2024 г.
CNews: Владимир, сейчас в России разрабатывается законопроект, который юридически закрепит за врачом последнее слово при использовании ИИ. Как разработчик интеллектуальных систем для диагностики заболеваний, что думаете о таком ограничении автономии нейросетей?
Владимир Воробьёв: Я поддерживаю данную инициативу. На практике врачи не всегда осознают, кто несет ответственность за принятие решений. При первом знакомстве с нашими системами у них иногда даже появляется надежда, что ответственность будет лежать на компании-разработчике, а не на медперсонале. Мы же исходим из того, что техническая реализация должна строиться на принципе «второго мнения», где ИИ изначально не предполагает замену врача, а выступает как экосистема решений, которая помогает ему быстрее собрать и зафиксировать данные пациента и на их основе получить интерпретируемые выводы для дальнейшего принятия решений.
CNews: В своей системе для помощи в постановке диагнозов легочных заболеваний, для обучения ИИ, вы использовали массивы данных из реальных электронных медкарт, рекомендаций Минздрава и других источников. Насколько сложным был процесс и почему вообще решили этим заняться?
Владимир Воробьёв: Процесс был нетривиальным, поскольку нужно было работать над созданием системы, не имеющей аналогов в России, в условиях ограниченного набора данных и конкуренции с ведущими медтех-компаниями. В ходе работы пришлось взаимодействовать с текстом электронных медкарт пациентов. На данный момент в Росздравнадзоре зарегистрировано только 7 медицинских изделий на основе ИИ, которые работают с данными электронной медкарты, и разработка новых является текущим приоритетом Минздрава. В рамках моей профессиональной деятельности, связанной с применением искусственного интеллекта в сложных областях, таких как юриспруденция, я решил расширить свои компетенции и сосредоточиться на области здравоохранения, чтобы способствовать автоматизации рутинных процессов и улучшению качества предоставляемых медицинских услуг. Создание СППВР в области лечения заболеваний легких способно существенно сократить сроки выздоровления, порой более чем на неделю. Особенно актуальна такая система для пациентов с ограниченным доступом к качественной медицинской помощи или страдающих редкими заболеваниями, такими как хроническая тромбоэмболическая легочная гипертензия. В подобных ситуациях СППВР может стать решающим фактором для спасения жизни.
CNews: Во время конкурса на лучшую СППВР команды соревновались в точности и скорости постановки диагнозов. В финале ваша команда обошла трех других финалистов, показав, как сказано на сайте конкурса, наивысшую скорость при стопроцентной точности в определении вирусной пневмонии. Почему при таких показателях вы все равно закладываете необходимость контроля врача?
Владимир Воробьёв: Потому что ИИ только начал массово внедряться в медицину, и большого опыта работы с ним у врачей нет. На сегодняшнем этапе СППВР рассчитаны на автоматизацию медицинских задач, на роль ассистента врача, но не могут полноценно заменить специалиста. Поэтому сейчас необходимо выстраивать такую парадигму: врач — главное лицо, принимающее решение, СППВР — инструмент, который помогает ускорить его работу. Невозможно за раз создать идеальный ИИ, особенно в медицинском домене, где очень много тонкостей, поэтому, пока программы развиваются, и закладывается контроль итогового решения от врача. ИИ может ставить диагноз за секунды, но ответственность — всегда за врачом.
CNews: Финал конкурса проходил в Аналитическом центре при Правительстве РФ, а итоговый призовой фонд составил 50 миллионов рублей. Свою часть выигрыша вы вложили в разработку нового ИИ-инструмента, ускоряющего врачам заполнение медкарт. Расскажите, как это выглядит на практике?
Владимир Воробьёв: Важно понимать, что ИИ-модуль в медицине — не «гуру», выдающий готовый вердикт, а прозрачный аналитический инструмент. Например, один из инструментов работает по сути как интеллектуальный аудио-суфлер: фиксирует диалог врача с пациентом, автоматически собирает жалобы, анамнез и данные физикальной диагностики, а затем структурирует всю информацию. Модуль полностью заполняет необходимые поля в электронной медицинской карте, избавляя специалиста от рутины и позволяя ему уделить больше внимания пациенту. Когда данные структурированы и внесены, вступает в дело блок поддержки принятия решений. Он подсвечивает для врача основные параметры пациента, важные для дальнейшего лечения, обоснованно предлагает возможные варианты диагноза на основе клинических рекомендаций и дальнейшие варианты обследований и лечения. Таким образом, ИИ-модули избавляют медиков от рутины и помогают им быстрее ориентироваться в ситуации пациента, не принимая никаких решений за врачей.
CNews: Этот модуль прошел коммерческую проверку, и вы представили его на крупнейших национальных деловых мероприятиях ПМЭФ и ЦИПР. Где уже прошли «обкатку» ваши технологии?
Владимир Воробьёв: Помимо лабораторных тестов, модуль прошел полномасштабные пилотные испытания в ряде медицинских учреждений. Он тестировался в больнице города Горячий Ключ, а также в крупных частных сетях. Например, испытания в «Клинике Фомина» подтвердили, что автоматизация сбора жалоб и фиксация диалога позволяют на 50% быстрее завершать документирование приема по сравнению с ручным вводом, не теряя при этом в качестве медицинской записи.
CNews: До медицинских ИИ-разработок вы работали с NLP и системами, где критически важны точная интерпретация текста и работа по строгим правилам. Что из этого опыта оказалось наиболее полезным при создании решений для здравоохранения?
Владимир Воробьёв: Этот бэкграунд стал тем самым «полигоном», на котором отрабатывались технологии, критически важные для медицины. Переход от юриспруденции и общих лингвистических моделей к здравоохранению не был случайным — это была эволюция сложности. Опыт работы с нормативными актами помог выстроить алгоритмы, которые анализируют данные пациентов, строго придерживаясь медицинской логики и доказательных стандартов. А наработки в NLP позволили создать «переводчик» с бытового языка на медицинский. Система понимает смысл сказанного, как бы его ни сформулировали, и структурирует это в понятные для ИИ и врача данные. Представьте типичную ситуацию: врач проводит осмотр, торопится, пациент использует просторечия. На входе мы имеем сырой поток речи, а на выходе — юридически и клинически выверенный документ.
CNews: Владимир, как разработчик IT-решений в области здравоохранения, которые уже тестируются в клиниках, поделитесь мнением: готовы ли сейчас российские врачи доверять ИИ-помощникам?
Владимир Воробьёв: Хотя все еще присутствует значимая доля скептицизма среди врачей, все больше из них готовы проверять, как на практике ИИ-решения могут улучшить их опыт работы. С ростом осведомленности о реальных способностях ИИ и после выхода на рынок достаточного количества проверенных решений как врачи, так и пациенты станут больше доверять интеллектуальным медицинским помощникам, а новый закон лишь поможет четко разграничить зоны ответственности, что пойдет на пользу всему здравоохранению.
CNews: Вы говорите о пользе ИИ для медицины, но чем больше система работает с электронными медкартами и речью врача, тем выше риск утечки чувствительных данных. Почему пациенты и клиники должны верить, что удобство и скорость не достигаются ценой приватности?
Владимир Воробьёв: Для медицинского ИИ вопрос приватности не менее важен, чем вопрос точности, поэтому мы изначально спроектировали систему так, чтобы снизить риски на уровне самой модели работы с данными. Обработка ведется в рамках требований федерального законодательства, используется только необходимый минимум информации, а после завершения обработки данные не сохраняются. Такой подход позволяет уменьшить поверхность риска: чем меньше данных система накапливает и чем короче жизненный цикл этих данных, тем ниже вероятность компрометации. На мой взгляд, пациенты и клиники должны доверять не потому, что им это предлагают на словах, а потому, что защита приватности встроена в саму логику решения. В медицине это обязательное условие: нельзя говорить о пользе ИИ, если не обеспечена безопасность данных пациента.
Короткая ссылка
