Обязательное использование ИИ врачами: какие задачи решит технология и почему эксперты против формального подхода
Совет по профессиональным квалификациям в здравоохранении совместно с Минздравом подготовил проект, который должен закрепить работу с искусственным интеллектом в трудовых функциях медицинских работников. Документ рассчитан на специалистов, самостоятельно принимающих клинические решения, - прежде всего врачей шестого квалификационного уровня и выше.
Проект предусматривает 12 конкретных действий при использовании ИИ. В их числе - составление структурированных запросов к большим языковым моделям, анализ и проверка ответов, фиксация самого факта обращения к нейросети, а также оценка возможных рисков. Обсуждение документа должно продолжаться до 25 сентября. К нему приглашены врачи-практики, представители научных и образовательных учреждений, а также специалисты ИТ-отрасли.
Как ИИ предлагают применять в медицине
Согласно проекту, системы поддержки принятия врачебных решений могут использоваться при обследовании пациента, постановке диагноза, выборе лечения и оценке вероятных осложнений. Однако заключение алгоритма не должно автоматически становиться основанием для медицинского решения.
Врач обязан сопоставлять рекомендации нейросети с действующими клиническими рекомендациями, стандартами и порядками оказания помощи. От специалиста также потребуется выявлять фактические и логические ошибки, замечать признаки недостоверности и оценивать, подходит ли вывод конкретному пациенту.
Если врач сомневается в безопасности или клинической применимости результата, он сможет отказаться от использования предложенной системой рекомендации. О нежелательных последствиях и ошибках, связанных с работой ИИ, предполагается сообщать уполномоченным сотрудникам.
При применении нейросетей для поиска, обобщения и систематизации медицинской информации необходимо будет проверять первоисточники. Это особенно важно при подготовке диагностических и лечебных решений, поскольку алгоритм может убедительно изложить сведения, которые окажутся устаревшими, неполными или ошибочными.
Защита данных пациентов
Отдельный блок требований связан с конфиденциальностью. Если врач работает с ИИ-сервисом за пределами защищенной информационной системы медицинской организации, данные пациента придется обезличивать. Нельзя передавать во внешние сервисы фамилию, адрес, номер полиса, контактные сведения и другие признаки, позволяющие установить личность человека.
Кроме того, медработникам придется различать официально зарегистрированные в России медицинские изделия с функциями искусственного интеллекта и универсальные сервисы общего назначения. Последние не всегда проходят медицинскую сертификацию, не предназначены для постановки диагнозов и могут не обеспечивать необходимый уровень защиты информации.
В России уже зарегистрировано 56 медицинских изделий на основе ИИ. При этом действующие профессиональные стандарты врачей пока не содержат подробных требований к использованию нейросетей. Новый проект должен устранить этот пробел и установить единые правила для медицинских организаций и специалистов.
Почему эксперт считает обязательный подход спорным
Директор Института экономики здравоохранения ВШЭ Лариса Попович считает, что применение нейросетей может быть оправданным в образовательных целях, при обучении моделей на медицинских данных и в экспериментальных проектах. Однако саму идею обязать каждого врача использовать ИИ эксперт назвала спорной.
По ее мнению, медиков действительно нужно обучать работе с алгоритмами. От формулировки запроса во многом зависит результат, который выдаст система. При этом нейросети обучаются на разных массивах данных, а эти массивы могут быть неполными, нерепрезентативными или содержать систематические ошибки.
Даже одинаковый запрос способен привести к разным ответам. Поэтому врач должен понимать, на каких данных создана модель, каковы ее ограничения и в каких ситуациях результат можно использовать только как вспомогательную информацию. При необходимости вывод алгоритма следует перепроверять по медицинской документации и надежным источникам.
Особую опасность представляют так называемые галлюцинации ИИ - убедительно сформулированные, но вымышленные факты, ссылки или медицинские выводы. В медицине подобная ошибка может повлиять не только на качество документации, но и на здоровье или жизнь пациента.
"Врачей нужно учить работать с нейросетями - формулировать запросы и критически оценивать ответы. Это уже не будущее, а реальность. Если специалист не умеет правильно взаимодействовать с ИИ, он рискует столкнуться с ошибками алгоритма", - подчеркнула Попович.
При этом эксперт считает, что решение об использовании нейросети должно оставаться за врачом. Если специалист не видит практической необходимости или считает предложенный инструмент ненадежным, он должен иметь возможность работать без него.
Насколько врачи готовы к внедрению ИИ
Опросы показывают, что более половины российских врачей уже сталкивались с нейросетями - от единичных экспериментов до периодического применения в работе. Однако регулярно используют ИИ в повседневной практике только 15-25% медработников.
Наиболее распространенные задачи связаны с поиском и проверкой информации - 35,6% случаев. Еще 20,6% приходится на подготовку документов, а 14,4% - на объяснение диагноза и медицинских сведений пациентам.
Главным препятствием остается недоверие к точности ответов: его обозначили 37,6% опрошенных. Специализированное обучение работе с ИИ прошли лишь 18,9% врачей. Таким образом, медики видят пользу технологии, но пока не располагают достаточными знаниями для ее безопасного применения.
Попович отмечает парадоксальную ситуацию: большинство специалистов готовы использовать искусственный интеллект, однако полностью подготовлены к этому лишь немногие. Потенциал нейросетей очевиден, но вопросы надежности, ответственности и проверки результатов пока остаются нерешенными.
ИИ как способ снизить бюрократическую нагрузку
Минздрав рассматривает искусственный интеллект прежде всего как инструмент сокращения административной работы. Алгоритмы способны быстро анализировать электронную историю болезни, находить нужные сведения, сопоставлять данные обследований и помогать готовить медицинские документы.
Технология может быть полезна для расшифровки результатов исследований, сортировки обращений, формирования предварительных резюме и напоминаний о важных показателях. Это способно освободить врачу время для общения с пациентом и принятия клинических решений.
Однако автоматизация документации не отменяет обязанности специалиста проверять готовый текст. Нейросеть может пропустить важный симптом, неправильно интерпретировать сокращение или приписать пациенту сведения, которых не было в истории болезни. Поэтому итоговый документ должен утверждаться врачом, а не формироваться без контроля.
Какие компетенции понадобятся медикам
Внедрение ИИ потребует от врачей не столько навыков программирования, сколько цифровой и аналитической грамотности. Специалисту придется уметь ставить задачу алгоритму, уточнять запрос, распознавать неоднозначные ответы и проверять рекомендации.
В обучающие программы целесообразно включить основы устройства медицинских моделей, принципы работы с данными, правила обезличивания информации и порядок действий при обнаружении ошибки. Важное место должны занимать практические сценарии: диагностика, подбор терапии, подготовка выписки и анализ рисков.
Отдельно необходимо обучать врачей оценке качества источников. Ответ нейросети не является доказательством сам по себе. Он должен подтверждаться официальными рекомендациями, результатами исследований, медицинской документацией и профессиональным опытом специалиста.
Кто будет отвечать за ошибку алгоритма
Один из ключевых вопросов - распределение ответственности. ИИ не может самостоятельно нести юридическую ответственность за принятое решение. Если врач использовал рекомендацию системы, окончательное решение все равно остается за ним.
Поэтому в медицинских организациях должны появиться понятные внутренние правила: какие сервисы разрешены, в каких случаях обязательна проверка результата, где фиксируется применение ИИ и кому сообщать о сбоях. Также важно вести журналирование действий системы, чтобы при необходимости можно было восстановить ход принятия решения.
Формальное выполнение требования - например, обязательное обращение к нейросети ради отметки в документации - может не повысить качество помощи. Напротив, оно способно создать дополнительную бюрократию и увеличить риск некритичного доверия к алгоритму.
Как безопасно внедрять технологию
Оптимальным подходом может стать поэтапное внедрение ИИ. Сначала технологии стоит применять в задачах с относительно низким риском: поиске информации, сортировке документов, подготовке черновиков и административной аналитике. После оценки результатов можно расширять сферу использования.
Для каждого инструмента необходимо определить клиническое назначение, допустимые сценарии работы, ограничения и требования к защите данных. Врач должен видеть не только итоговый ответ, но и предупреждения о возможной неполноте информации или недостаточной надежности вывода.
Таким образом, искусственный интеллект способен стать полезным помощником врача, но не заменой профессионального суждения. Главная задача регулирования - не заставить медика механически обращаться к нейросети, а обеспечить безопасное, обоснованное и контролируемое использование технологии там, где она действительно улучшает качество медицинской помощи.
