Данные о работе медицинских систем с ИИ будут собираться автоматически

Разработчики медицинских технологий с искусственным интеллектом (ИИ) должны будут передавать данные о частоте использования таких устройств, сбоях и отклонениях в их работе в Федеральную службу по надзору в сфере здравоохранения (Росздравнадзор) в автоматическом режиме. О разработке соответствующих требований "Ведомостям" рассказал представитель ведомства. Речь идет о системах поддержки принятия врачебных решений, направленных на помощь в обнаружении патологий, формирование предварительных диагнозов и сортировку целевых сведений, говорит собеседник. Такие системы используют диагностику электронных изображений, их визуальную оценку в режиме реального времени и обработку электронных медицинских карт, уточнил он.

"Проработка соответствующих требований поможет повысить эффективность мониторинга применения данных продуктов", – сообщил представитель Росздравнадзора, отметив, что документ находится на межведомственном обсуждении. По словам опрошенных "Ведомостями" экспертов, на текущий момент у Росздравнадзора нет соответствующей системы или платформы под это и ее только предстоит создать.

По данным Росздравнадзора, в России зарегистрировано 48 медицинских изделий с ИИ, из которых 43 – отечественной разработки. Например, компания Botkin.AI разрабатывает платформу для выявления патологических проявлений в рентгенологических исследованиях, КТ и МРТ, Webiomed – платформу прогнозной аналитики и управления рисками, а также поддержки принятия врачебных решений, "Третье мнение" – платформу для обработки МРТ, КТ, рентгенографических данных, цифровых мазков крови и костного мозга, а также для анализа видеопотока из медицинских учреждений.

Сейчас компания "Третье мнение" один раз в год направляет отчет о таких событиях в Росздравнадзор, рассказала генеральный директор платформы Анна Мещерякова. В некоторых случаях разработчики медизделий должны публиковать отчет о внутренней проверке по неблагоприятному событию и анализ информации, включая взаимодей‌ствие с пользователем изделия, знает она. Когда медорганизация уведомляет разработчика о наступлении неблагоприятного события, тот должен провести внутреннюю проверку и направить отчет в ведомство, уточнила Мещерякова. "Ведомости" направили запрос в Botkin.AI и Webiomed.

В предлагаемой инициативе речь идет о системе постоянного мониторинга работы решений на базе ИИ в медицине для обеспечения безопасности и эффективности их применения, говорит основатель медтех-стартапа Unim Алексей Ремез. Но, по его словам, такая инициатива кажется избыточной: подобного требования к медизделиям без ИИ нет. Но, видимо, в силу новизны технологий регулятор стремится контролировать процесс внедрения, считает Ремез.

Уже много десятилетий ведется учет неблагоприятных реакций при применении лекарств, то же самое Росздравнадзор пытается организовать в отношении медицинских систем с ИИ, рассуждает директор Ассоциации разработчиков и пользователей искусственного интеллекта в медицине "Национальная база медицинских знаний" (НБМЗ) Борис Зингерман. Но в первом случае такой факт выявляет сам человек, принимающий лекарственный препарат. А в случае с ИИ-решениями система должна будет сама собирать информацию с устройств о сбоях или некорректной работе, уточняет он.

Упомянутые данные относятся к категории технической телеметрии и напрямую не содержат персональной информации о пациентах, говорит начальник отдела маркетинга ЦКБ АО "РЖД-медицина" Гарник Арутюнян. Но они все же являются чувствительными, так как по ним можно оценить качество работы конкретного изделия, частоту ошибок и потенциальные уязвимости, уточняет он. "В случае привязки таких данных к определенным клиникам или системам они косвенно могут отражать уровень заболеваемости и нагрузку на медучреждения, – поясняет Арутюнян. – Сами по себе эти сведения не позволяют взломать систему, но могут подсветить слабые места: повторяющиеся сбои, особенности конфигурации или версий ПО. На этой основе злоумышленники способны подготовить целевые атаки".

Публикация данных об ошибках может подорвать доверие к конкретному медицинскому изделию или организации, а информация об ошибках и эффективности ПО может раскрывать слабые места продукта, что представляет коммерческий интерес для конкурентов, уточняет директор департамента расследований T.Hunter Игорь Бедеров.

Поэтому уровень чувствительности таких данных можно охарактеризовать как средний, резюмирует Арутюнян: они не являются медицинской тайной, но имеют стратегическое значение и требуют защиты на уровне госмедконтуров через СМЭВ-каналы (каналы системы межведомственного электронного взаимодействия), криптографическое шифрование и строгий аудит доступа.

Стоит разделить надзорную функцию за продуктами, которые уже имеют статус медицинских изделий с ИИ, и теми, которые еще только будут разрабатываться, отмечает ведущий научный сотрудник Института AIRI Виктор Гомболевский. Тут у любой организации, в том числе медицинской, есть вариант не сообщать никуда о разработке до тех пор, пока разработчики не примут решение о том, что она может претендовать на статус медицинского изделия с ИИ, отмечает эксперт.