3.2 ОТНОШЕНИЕ К НОВЫМ ИТ-ТЕХНОЛОГИЯМ НА ПРИМЕРЕ ЗДРАВООХРАНЕНИЯ

Авторы раздела:

Цифровые решения и ИИ в здравоохранении перестают быть вспомогательными ИТ-системами; с точки зрения безопасности и эффективности они все больше напоминают лекарства или медицинское оборудование. Но если фармацевтические корпорации проводят исследования и публикуют их результаты, их деятельность регулируется стандартами, а сами они находятся под жестким надзором, применительно к системам ИИ подобные практики только начинают складываться.

Медицина — яркий пример того, как доверие к технологиям влияет на сами технологии и, напротив, как использование технологий влияет на уровень доверия к отрасли в целом. Цифровые технологии становятся основным инструментом повышения эффективности практического здравоохранения: они позволяют сократить число врачебных ошибок и разгрузить врачей от рутинной обработки больших данных, а также создают возможности для масштабных исследований.

Скорость развития в медицине таких технологий, как ИИ и прогнозная аналитика, напрямую зависит от доступности качественных больших данных, получение которых невозможно без доверия пациентов. При создании новых медицинских сервисов этические вопросы требуют детальной проработки. Если при создании сервиса «Электронная медкнижка», который позволяет выявлять (и не допускать к работе) людей, имеющих недостоверные или фальсифицированные данные о прохождении медосмотров, вмешательство в частную жизнь кажется обоснованным, то идея ведения единого реестра людей с психическими расстройствами, которая активно обсуждалась в России в 2016 году, не получила общественной поддержки.

Проблема доверия в медицине возникает и при использовании цифровых продуктов на базе ИИ, которые все сильнее влияют на постановку диагноза, принятие врачами решений и даже на выполнение лечебных манипуляций. Алгоритмы, которые используются для диагностики заболеваний, часто обучены на дата-сетах, где недостаточно представлены данные некоторых категорий пациентов.

Доказать, что медицинская технология достойна доверия, — задача ее разработчика. Один из сильных аргументов — наличие государственного разрешения на использование технологии. Чтобы его получить, производитель цифровых продуктов должен создать у себя систему менеджмента качества, пройти сложные процедуры независимых технических и клинических испытаний, а затем и экспертизу.

В последние годы в России стал активно обсуждаться ряд этических проблем, связанных с цифровым здравоохранением, особенно в том, что касается использования систем на основе ИИ (см. таблицу 1). В частности, введены критерии отнесения программного обеспечения к программным медицинским изделиям (ПМИ). В соответствии с методическими рекомендациями Международного форума регуляторов медицинских изделий (International Medical Device Regulators Forum, IMDRF) определены классы потенциального риска применения ПМИ, в том числе созданных с использованием ИИ.

Создание цифровых продуктов невозможно без данных. Биомедицинские данные имеют особый статус и специальные режимы использования. Сегодня не всегда можно превратить медицинскую информацию в данные, пригодные для дальнейшей работы. Медицинская информация и данные сейчас разрозненны, содержатся в изолированных хранилищах и несовместимых системах и форматах (многое существует только на бумаге или на пленке) и почти всегда защищены законом.

Для научных исследований и создания медицинских цифровых продуктов необходимы качественные наборы данных, получение которых в России сейчас затруднено. В процессе лечения собирается как медицинская информация (история болезни, результаты анализов и исследований, рентгеновские снимки и т. п.), так и некоторые ПДн пациента (ФИО, дата рождения, пол, возраст, регион). Сейчас в России не определены условия, на которых можно было бы предоставлять обезличенные данные пациентов разработчикам систем ИИ или научным организациям.

При обращении к врачу пациент подписывает согласие на использование его данных в конкретном медицинском учреждении и только для оказания медицинской помощи. Научные исследования и разработка систем ИИ не входят в список целей обработки ПДн, предусмотренных законом и текстом согласия. Это означает, что в стране накапливается огромное количество ценнейшей медицинской информации, но использовать ее для развития ИИ-рынка пока сложно. Единого федерального банка обезличенных медицинских данных, пригодного для создания ИИ, нет, как нет возможности проводить научные исследования и разработки в этой сфере на том же уровне, что и в США, Китае, Великобритании.

Этот вопрос имеет два аспекта. С одной стороны, от его решения зависит, как скоро появятся российские цифровые продукты в медицинской сфере, — потребность в них велика, и есть вероятность, что, если время будет упущено, нишу займут импортные производители. С другой стороны, пациенты совершенно оправданно опасаются за безопасность своих данных, и их права должны быть в полной мере соблюдены (см. рисунок 4).

Сейчас Россия существенно отстает от стран-лидеров как по количеству научных публикаций, так и по числу разработок и исследований в сфере

ИИ для медицины. Те немногочисленные примеры сбора и подготовки обезличенных медицинских данных, которые есть в нашей стране, не удовлетворяют спрос разработчиков и ученых, содержат относительно небольшое количество записей в наборе, обычно несколько тысяч пациентов. В Европе и в Китае выходят публикации с масштабными, часто миллионными выборками, потому что там разработчик может получить доступ к качественным обезличенным данным через этический комитет, через соглашение о партнерстве с научно-исследовательской организацией или через готовые национальные базы данных.

Необходимо внести точечные изменения в законодательство, чтобы сохранить ценность данных для ИИ, но при этом страховать риски пациентов — особенно учитывая, что по планам Минздрава к 2024 году не менее 50% учреждений здравоохранения должны будут использовать изделия и сервисы с ИИ. Предполагается также, что доступ к медкартам россиян могут получить в том числе и частные компании.

В России сейчас вся ответственность за принятие решений лежит на враче. Вся его деятельность строго регламентирована; например, врач в государственной клинике не может потратить на прием пациента больше отведенного времени и при этом должен успеть оформить все документы. Предположим, врач использует цифровой продукт, созданный с применением ИИ. Кто будет отвечать в этом случае за врачебную ошибку, врач или разработчик? Как понять, допущена ошибка из-за неправильного применения или из-за ошибки в алгоритме? (Подробнее об ответственности разработчиков см. раздел 7).

Все это влияет на представление о границах ответственности врача и оправданности медицинского риска. Сейчас врачи боятся применять технологии ИИ по двум причинам. Во-первых, потому что не имеют доказательств того, что цифровой продукт полезен и безопасен, а во-вторых, боятся, что ИИ негативно оценит результаты их работы. Искусственному интеллекту невозможно объяснить, что врач устал и что времени, отведенного на прием пациента, для подробного осмотра недостаточно, но то, что протокол осмотра в историях болезни создан с помощью копипаста, ИИ в состоянии отследить.

Инструменты, созданные с помощью ИИ, становятся все точнее. Они будут указывать на несовершенства системы, на возможные должностные нарушения, фальсификации, отписки, ошибки диагностики, нарушение протоколов лечения. Чем точнее инструмент, тем быстрее он вскрывает проблему. Но является ли это благом? Это этический вопрос, и он требует общественной дискуссии.