То, что алгоритм прописал

Технологии искусственного интеллекта (ИИ) в медицине признаются одним из важнейших драйверов развития отрасли. Уже сегодня роботы справляются со значительным числом задач, а стремительный прогресс в области ИИ, каждый год меняющий наши представления о возможном, ставит вопрос о границах роботизации такой крайне индивидуальной, приватной сферы, как лечение людей.

Может ли ИИ выполнять ключевые задачи здравоохранения, такие как диагностика заболеваний, не хуже, а иногда даже лучше, чем люди?

Немного о цифрах

Использование решений на базе ИИ в медицине – не новая тенденция. Первые попытки его внедрения в эту сферу были предприняты еще в 1960-е годы. Этот период характеризуется в первую очередь оцифровкой данных, тогда были разработаны системы анализа и поиска медицинской литературы, которые позже стали подспорьем для развития биомедицины. В это же время были разработаны системы, составившие основу для дальнейших разработок. Например, в начале 1970-х появилась экспертная система MYCIN, на базе которой развивались более совершенные информационные системы, а в 1986 году запущена система поддержки принятия врачебных решений (СППВР) DXplain, база которой была расширена с изначальных 500 болезней до более 2400.

За последние несколько десятилетий в медицинском использовании ИИ произошел невероятный скачок, связанный с качественным развитием самих технологий - в первую очередь с появлением нейросетей и систем глубокого обучения. Вспышка пандемии СOVID-19 дополнительно подстегнула зависимость сектора здравоохранения от виртуальных технологий. Многие специалисты увидели в скорости, масштабируемости и способности систем ИИ реагировать на динамичный характер кризиса ключ к быстрому преодолению пандемии.

Мировые тренды в развитии медицины, важнейшие из которых – экспоненциальный рост объема медицинских данных и перенос взаимодействия между пациентом и врачом из «офлайна» в «онлайн», указывают на неизбежность дальнейшей «роботизации» медицины.

ИИ вряд ли в обозримом будущем заменит врачей, но врачи, использующие ИИ, точно заменят врачей, не использующих ИИ

Берталан Меско

Аналитики по-разному оценивают размер рынка ИИ в здравоохранении, что связано, вероятно, не только с различными методами подсчета, но и с тем фактом, что «искусственный интеллект» – это зонтичный термин, границы которого могут быть крайне подвижными. Вместе с тем, независимо от разницы в оценках, большинство экспертов сходятся в прогнозах десятикратного роста этого рынка в ближайшие годы. Acumen Research and Consulting, например, оценивает размер рынка ИИ в здравоохранении в 7,9 млрд долл. в 2021 году и прогнозирует рост до 201,3 млрд долл. к 2030. Вместе с этим растет и интерес инвесторов к таким технологиям. По данным CB Insights, в 2021 году объем суммарных инвестиций в ИИ-решения для сферы здравоохранения вырос вдвое по сравнению с предыдущим годом: с 6,627 до 12,2 млрд долл.

Все это приводит к тому, что медицинскими разработками на основе ИИ достаточно плотно занимаются такие непрофильные корпорации, как Google, IBM или Microsoft, сформировавшие специальные подразделения, занимающиеся вопросами здравоохранения. В России такой компанией является Сбер, на базе которого было создано подразделение СберМедИИ.

Алгоритмы вместо врачей?

В любой сфере, куда проникают решения на базе ИИ, рано или поздно возникает опасение (или надежда) полной автоматизации – вплоть до вытеснения алгоритмами людей или отведения последним вспомогательной функции. Сфера здравоохранения не стала тут исключением. Возможно, главная причина этого общий информационный шум, окружающий сферу ИИ и предрекающий ей большое будущее. Тайваньский предприниматель Ли Кайфу в интервью СNBC говорил о том, что в следующем десятилетии роботы заменят 50% всех рабочих мест. Венчурный предприниматель Винод Хосла в статье «Нам нужны доктора или алгоритмы?» писал, что машины заменят 80% докторов.

Дополнительную актуальность этим опасениям придают успехи, которых удалось достичь на этом направлении в последние годы. Решения на основе ИИ в сфере здравоохранения применяются по нескольким направлениям.

Область, в которой технологии ИИ демонстрируют наиболее внушительные результаты – классификация изображений и выявление аномалий на основе технологий глубинного обучения. Эти решения еще называют «компьютерным зрением». Сегодня ИИ может анализировать любые виды медицинских изображений: от томографических и рентгеновских снимков до ЭКГ и снимков лица для выявления фенотипов генетических нарушений.

Осенью 2018 года исследователи из больницы Сеульского национального университета и Медицинского колледжа разработали алгоритм DLAD для анализа рентгенограмм грудной клетки и выявления аномального роста клеток, таких как потенциальные раковые образования. Производительность алгоритма сравнивалась со способностью группы врачей обнаружить патологию на одном и том же изображении и превзошла 17 из 18 врачей.

Другой алгоритм был разработан исследователями из Google Healthcare – подразделения компании, занимающегося разработками медицинских систем. Осенью 2018 года они создали обучающий алгоритм LYNA, который анализировал образцы ткани для выявления метастатических опухолей рака молочной железы по результатам биопсии лимфатических узлов. LYNA была протестирована на двух наборах данных и продемонстрировала точность в классификации образцов как злокачественных или доброкачественных в 99% случаев. Кроме того, когда этот алгоритм был предоставлен врачам для использования в сочетании с их обычным анализом образцов тканей, среднее время анализа сократилось вдвое.

Все начинается с данных. Пока не будет внятного понимания, какие должны быть данные, на каких правилах они должны формироваться, какими методологиями пользоваться, ничего не получится

Антон Вячеславович Владзимирский

Почти каждый день появляются сообщения о новых направлениях исследований и новых патологиях, которые учатся «видеть» умные технологии.

Анализ изображений используется не только для выявления уже существующих патологий, но и для предсказания потенциальных. Так, исследователи из Каунасского университета в Литве разработали метод, основанный на глубоком обучении, который может предсказать возможное начало болезни Альцгеймера по изображениям мозга с точностью более 99%.

В России также активно развиваются ИИ-продукты, основанные на анализе медицинских изображений. Именно на этом поле рынка медицинских ИИ-решений сформировалась самая конкурентная среда. Согласно данным компании Webiomed, в России по меньшей мере 28 компаний предлагают решения в области выявления различного рода патологий при помощи ИИ.

Еще одно, возможно, наиболее очевидное направление использования ИИ в медицине – управление данными и диагностика. Как показано выше, именно с дата-менеджмента началось проникновение ИИ в медицину. Сбор, хранение, приведение данных к общему виду и прослеживание связей с уже накопленной информацией помогают составить более полную картину, которую можно не увидеть в неструктурированных медицинских картах. Наиболее известными примерами в мире можно назвать компанию DeepMind Health, которую в конце 2018 года выкупил Google, и проект Watson Health от IBM. Разработанные компаниями сервисы используются для сбора медицинских данных и составления рекомендаций и предварительных диагнозов на основе обработки доступной информации о симптомах пациентов.

Если сервисы типа тех, которые разрабатывают Google или IBM, предназначены в первую очередь для врачей, то ряд приложений разработаны специально для самостоятельного отслеживания состояния здоровья. Речь идет о телемедицине (mHealth) – дистанционном предоставлении медицинских услуг, которое включает решения для смартфонов и умных часов на основе ИИ. Эти приложения работают как на основе системы «вопрос-ответ», когда пользователи описывают свои симптомы и получают информацию о проблеме и возможных методах лечения, так и с изображениями, когда пользователь загружает фотографии, на которых ИИ может распознать аномалии.

Спрос на телемедицину ожидаемо вырос на фоне коронавирусной пандемии, однако стремительного развития этих технологий не произошло, так как часть потенциальных вложений были перераспределены на более неотложные разработки. Некоторые эксперты именно в телемедицине видят будущее здравоохранения. Президент и исполнительный директор компании Philips Франс ван Хаутен, например, считает, что будущее медицины за предотвращением заболеваний с помощью использования технологий телемедицины. В качестве примера он привел «умные» зубные щетки, которые при использовании могут анализировать слюну и сигнализировать об отклонениях.

Мы должны прекратить обучать людей рентгенологии. Очевидно, что в течение пяти лет алгоритмы на основе глубокого обучения будут делать это лучше, чем рентгенологи

Джеффри Хинтон

Этими двумя примерами не ограничивается весь спектр медицинских задач, которые решаются с помощью ИИ-решений. Вне рассмотрения остались решения для «умных» больниц, создания лекарств, автоматизации рутины и планирования, однако уже по этим примерам видна степень проникновения технологий в сферу медицины и тренд на ее дальнейшую автоматизацию.

Вызовы на пути внедрения

Несмотря на то, что ИИ стремительно догоняет «живых» врачей по уровню компетенции и нет оснований полагать, что этот тренд исчерпается в ближайшее время, «замена докторов машинами» – это псевдопроблема. Сегодня уже общим местом стал тот факт, что цифровые технологии в медицине будут играть роль именно вспомогательного инструмента, освобождая докторов от рутинного труда и уменьшая вероятность ошибки.

При этом, если при первом рассмотрении кажется, что умные технологии в медицине – это сплошная история успеха, то при чуть более глубоком погружении становятся очевидными вызовы, которые заставляют усомниться в чересчур оптимистичных прогнозах относительно перспектив «дегуманизации» медицины.

Одна из главных проблем – недостаток качественных наборов данных. Любая нейросеть требует значительных объемов данных для обучения, однако с медицинскими датасетами есть ряд проблем. Получение данных для тестирования алгоритмов затрудняется тем, что эти данные чаще всего фрагментированы по нескольким платформам и электронным книжкам. Кроме того, медицинские данные из разных организаций могут отличаться из-за различий в оборудовании. Так, изображения с разных рентгеновских аппаратов могут иметь визуальные различия, и нейросеть, которая обучалась на одних снимках, может не распознать другие. Самое очевидное решение этой проблемы – сбор и анализ максимального количества разных снимков. Однако это крайне долгий и дорогостоящий процесс. Выходом может быть использование технологии препроцессинга, то есть специальной обработки данных перед их подачей в нейронную сеть, которая может включать автоматическое изменение яркости и контрастности, а также другие процедуры нормализации.

Отдельные компании предоставляют свои датасеты в свободный доступ для того, чтобы стимулировать развитие отрасли. В частности, российский Центр диагностики и телемедицины опубликовал базу данных из 500 компьютерных томографий легких с разметкой патологических очагов для обучения медицинских нейросетей. Правительства также могут играть существенную роль в облегчении процесса унификации данных, например, предоставив доступ к исследованиям и снимкам пациентов. Так поступило правительство Москвы, создав библиотеку обезличенных наборов данных, которую предоставили разработчикам ИИ-решений.

Особняком стоит вопрос конфиденциальности и безопасности данных, угроза которым неизбежно возникает, когда речь заходит о цифровизации отрасли. Чтобы работать эффективно, ИИ требует значительные вычислительные мощности, которые невозможно обеспечить в пределах одного медучреждения. Необходимость хранить данные в облачных сервисах увеличивает вероятность утечек и манипуляций, которые в итоге могут привести к неверному диагнозу и поставить под угрозу здоровье пациентов.

Вопросы государственного регулирования отрасли – еще один камень, о который спотыкаются сторонники скорого внедрения ИИ-решений. Работы в направлении регулирования сферы ведутся, однако, небыстро. В 2019 году в России был принят указ «О развитии искусственного интеллекта в РФ», в котором прописаны принципы использования ИИ для повышения качества услуг в сфере здравоохранения. С тех пор был принят ряд ГОСТов, регламентирующих использование ИИ в клинической медицине. Вместе с тем, в российском законодательстве до сих пор не прописаны стандарты, регламентирующие работу медицинских ИИ-сервисов. Отдельное препятствие представляет необходимость регистрации ПО как медицинского изделия, что само по себе является непростым и детально регулируемым законодательством процессом.

Никуда не делись и вопросы этического характера, на которые пока нет внятных ответов. Повлекшая смерть медицинская ошибка доктора имеет ясные юридические последствия, но кто будет отвечать в случае аналогичной ошибки со стороны ИИ? Сегодня такие вопросы на повестке не стоят, потому что алгоритмы не обрели значительную степень автономности, но они неизбежно возникнут по мере развития отрасли. Кроме того, нет однозначного ответа относительно того, как оценивать с точки зрения этики успехи или неуспехи ИИ. Согласно Минздраву России, врачебные ошибки приводят более чем к 70 тысячам осложнений ежегодно. Если при внедрении алгоритмов количество врачебных ошибок сократится вдвое, но сам ИИ будет ответственен за несколько сотен смертей в год, можно ли считать такой результат успехом или провалом? Подобные вариации «дилеммы вагонетки» неизбежно будут вставать по мере дальнейшего проникновения технологий в медицину.

ИИ в здравоохранении – это не просто новый рынок, это волна преобразований, которая изменит всю отрасль

Ли Кайфу

Даже в случае успешного решения приведенных выше, а также оставленных за скобками вызовов остается другая фундаментальная проблема – это отсутствие доверия к технологиям ИИ. Серия интервью, проведенная в 2019 году американскими учеными, показывает, что участники предпочитают «живых» врачей машинам даже при условии более высокой стоимости услуг первых и одинаковой диагностической точности. Недоверие к алгоритмам среди пользователей медицинских услуг может быть вызвано как принципиальным отсутствием у ИИ эмпатии, так и не до конца проясненным вопросом об ответственности в случае потенциальной ошибки.

То же самое касается и докторов, которые часто крайне скептичны относительно перспектив автоматизации медицинских процессов. Согласно проведенному компанией Medscape опросу, 49% докторов в США чувствуют себя неуверенно при использовании ИИ. В Европе таких докторов 35%, а в Латинской Америке – 30%. Похожие тренды показывают опросы докторов в России, многие из которых или не работали с подобными технологиями вообще (39%), или даже не поняли, о каких технологиях их спрашивают (34%). Из тех же, кто имел опыт работы со вспомогательными цифровыми инструментами, только 27% оценили свой опыт как положительный.

Наконец, недоверие к ИИ-решениям наблюдается и среди инвесторов. Их опасения связаны как с достаточно долгим циклом выхода компании на самоокупаемость, так и с чередой банкротств и мошенничеств на рынке за последние несколько лет. Высокий интерес к ИИ в последние годы привел к тому, что значительное количество стартапов стали маркировать себя как занимающиеся разработкой ИИ, на самом деле ей не занимаясь. Аналитики британской венчурной фирмы MMC проанализировали данные о 2830 стартапах из 13 стран Евросоюза и обнаружили, что только 60% заявленных предприятий, официально занимающиеся ИИ, на самом деле используют его в своей работе.

Иронично, но похоже, что доверие технологиям обратно пропорционально доверию институтам и согражданам в каждом конкретном обществе. Социологи обращают внимание на то, что в России уровень технооптимизма существенно выше, чем, например, в Европе. По некоторым подсчетам, две трети граждан России не испытывают опасений перед ИИ и готовы видеть робота в роли врача или судьи. Таким образом, представить ситуацию полного вытеснения врачей технологиями ИИ (даже при условии решения всех остальных проблем) невозможно без удовлетворения одного из двух условий: либо граждане в какой-то момент станут тотальными технооптимистами и будут готовы доверить свою жизнь машине в подавляющем числе случаев, либо доверие к реальным докторам и институтам здравоохранения станет таким низким, что гражданам будет, в сущности, все равно.

Развитие ИИ-решений в медицине во многом повторяет траекторию развития «умных технологий» в других сферах, где первоначальный энтузиазм и оптимизм постепенно сталкиваются с глыбой государственного регулирования, человеческого недоверия и других факторов, которые сильно корректируют прогнозы технологических энтузиастов. Вместе с тем, достаточно очевидно, что решения на основе машинного обучения, голосовые ассистенты и «умные» приложения уже сейчас преобразуют сферу здравоохранения, ставя новые технические, этические и юридические вопросы.

Автор - Иван Жужгин