Background.

Сегодня информационные технологии играют ключевую роль во многих сферах общественной деятельности, в том числе в здравоохранении. С середины XX века наблюдается активное развитие информационных систем, направленных на обработку данных. Благодаря техническому прогрессу произошел переход от простейших методов обработки данных (вроде поиска и сортировки) к сложным инструментам, способным выполнять задачи, ранее считавшиеся прерогативой человеческого разума.

В последние несколько лет наиболее перспективным направлением все чаще называют внедрение искусственного интеллекта (ИИ) в систему здравоохранения. Наибольший интерес вызывают решения с ИИ на основе машинного обучения – информационные системы, способные обучаться самостоятельно на основе данных, а не действовать согласно явно составленному алгоритму. По мнению многих экспертов, внедрение подобных технологий открывает новые перспективы для диагностики заболеваний, разработки индивидуальных планов лечения, прогнозирования эпидемий и многих других направлений.

Подобный значительный сдвиг в медицинской практике не может не сопровождаться рядом трудностей. Среди технологических – подготовка базы данных для обучения ИИ с оценкой достоверности данных, потребность в высоких вычислительных мощностях, а также возникновение потенциальных ошибок, которых не удастся избежать в свете сложности задач. Среди организационных – необходимость корректной интерпретации результатов работы ИИ, низкий уровень доверия к новым технологиям как со стороны медицинских специалистов, так и пациентов, а также недостаток навыков работы с относительно новыми инструментами.

Актуальность темы настоящей статьи обусловлена процессом стремительного внедрения технологий ИИ в клиническую практику, что обуславливает необходимость развития у медицинских работников компетенций, без которых невозможно использовать инновационные инструменты эффективно и безопасно.

Цель работы

Целью исследования является анализ текущего состояния и перспектив внедрения ИИ в медицинскую практику, а также выявление ключевых вызовов и возможностей, связанных с этим процессом.

Предпосылки и основы внедрения ИИ в здравоохранении

Чтобы оценить актуальное состояние системы здравоохранения в свете внедрения технологий с использованием ИИ, необходимо осветить обоснование этого процесса в системе здравоохранения. Специфика внедрения инновационных технологий в систему здравоохранения РФ такова, что главную роль в ней играет государство.

Ключевым документом, очерчивающим контуры процесса внедрения искусственного интеллекта, в том числе в систему здравоохранения, является Указ Президента Российской Федерации от 10.10.2019 № 490 (ред. от 15.02.2024) «О развитии искусственного интеллекта в Российской Федерации», в котором утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 года» (далее – Стратегия ИИ) [1]. В документе содержатся основные принципы развития и использования технологий ИИ. В контексте здравоохранения особенно важными являются:

• защита права на труд и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики;
• предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта;
• объяснимость работы искусственного интеллекта и процесса достижения им результатов, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий искусственного интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта.

Ценность принципов безопасности и прозрачности очевидна в контексте здравоохранения, где речь нередко идет о благополучии, здоровье и даже жизни пациентов, и цена врачебной ошибки может быть крайне высока. Принцип защиты прав и свобод человека важен тем, что в нем закрепляется право на обучение навыкам и знаниям, необходимым для работы с искусственным интеллектом. В том же документе описываются необходимые условия для повышения уровня обеспечения российского рынка технологий искусственного интеллекта квалифицированными кадрами и уровня информированности населения о возможных сферах использования таких технологий, среди которых:

• разработка и внедрение образовательных модулей в рамках образовательных программ всех уровней образования, программ повышения квалификации и профессиональной переподготовки;
• привлечение организаций, осуществляющих деятельность в области искусственного интеллекта, к участию в мероприятиях, направленных на развитие общего и профессионального образования;
• стимулирование (в том числе материальное) работодателей к принятию мер, направленных на получение сотрудниками компетенций в области искусственного интеллекта и в смежных областях его использования.

Таким образом, кроме непосредственно технологических и экономических аспектов, в Стратегии ИИ уделяется внимание вопросу компетентности специалистов в вопросе обращения с технологиями на основе искусственного интеллекта и подчеркивается важность их обучения.

Для рассмотрения этической стороны вопроса использования ИИ в здравоохранении необходимо обратиться к Кодексу этики применения искусственного интеллекта в сфере охраны здоровья. (утв. Межведомственной рабочей группой при Минздраве России по вопросам создания, развития и внедрения в клиническую практику медицинских изделий и сервисов с использованием технологий искусственного интеллекта, протокол от 14.02.2025 № 90/18-0/117) [2]. Он также закрепляет основные принципы применения ИИ в здравоохранении: ограниченная автономность; прозрачность и объяснимость; конфиденциальность данных и безопасность пациентов; справедливость и равенство доступа; научное партнерство и профессиональная ответственность; информирование; проведение этической экспертизы и апробации СИИ; контроль.

При этом данный кодекс имеет и практико-ориентированное значение с точки зрения преодоления сложностей, возникающих при внедрении ИИ. В частности, в нем указаны такие проблемы, как недостаток доказательств эффективности и безопасности; повышенный риск причинения вреда здоровью пациентов в силу потенциальных ошибок; проблема «черного ящика»; повышенные риски от ИИ с непрерывным обучением, которые способны изменять свою работу вследствие появления новых данных; риски, связанные с добросовестностью разработчика системы ИИ; сложность определения конкретного субъекта ИИ, ответственного за финальное принятое решение на основании работы ИИ; необходимость предоставления гражданину или его законному представителю в доступной форме полной информации о целях, методах оказания медицинской помощи, связанном с ними риске, возможных вариантах медицинского вмешательства (в том числе с применением технологий ИИ), о его последствиях.

Мероприятия по решению проблем, указанных в Кодексе этики, должны осуществляться и в медицинских образовательных учреждениях, так как способность врачей использовать медицинские изделия с применением технологий ИИ (далее – МИ с ИИ) в своей деятельности является критически важным условием успешности внедрения этих технологий в систему здравоохранения. Без соответствующих компетенций медицинские специалисты не могут адекватно оценить риски, правильность результатов, безопасность, проинформировать пациентов о сути процедур и т. д.

Другой документ, освещающий этическую проблематику применения ИИ в здравоохранении – Национальный стандарт Российской Федерации ПНСТ 9612024 «Системы искусственного интеллекта в здравоохранении. Этические аспекты» [3]. В нем, в частности, обращают на себя внимание следующие указания: риск для пациента при использовании ИИ не должен превышать риск нанесения вреда без применения ИИ; пациенты должны быть проинформированы в доступной форме о роли ИИ; при использовании ИИ должно быть организовано обучение для медработников.

Таким образом, основополагающие документы, регулирующие внедрение технологий на основе искусственного интеллекта, четко устанавливают и обосновывают необходимость обучения врачей теоретико-практическим основам работы с МИ с ИИ. На практике часто обучение медицинского персонала осуществляется только в контексте взаимодействия с конкретным программным продуктом, что не позволяет работникам развить компетенции для работы с ИИ в целом.

Статус внедрения медицинских изделий с искусственным интеллектом

На региональном уровне регулирующие органы определяют конкретные положения и правила внедрения, использования и оценки МИ с ИИ. В частности, эту задачу выполняет приказ Департамента здравоохранения города Москвы от 26.04.2024 № 360 «О правилах проведения эксперимента по автоматизированной интерпретации данных рентгенологических исследований на основе технологий искусственного интеллекта» [4].

Данный документ утверждает перечень видов рентгенологических исследований, подлежащих автоматизированной интерпретации данных на основе технологий ИИ, а именно: рентгенологические и флюорографические исследования органов грудной клетки. При этом Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы (ГБУЗ «НПКЦ ДиТ ДЗМ») не реже чем раз в два месяца с учетом сформированной оценки результатов работы медицинских изделий осуществляет распределение потока направлений рентгенологических исследований от лучшего результата к худшему: при использовании трех медицинских изделий – 50:35:15, при использовании двух медицинских изделий – 60:40. Ежемесячно должна проводиться оценка качества работы медицинских изделий и экспертиза по случаям расхождения результатов автоматизированной интерпретации данных рентгенологических исследований, в которых отсутствуют признаки патологических изменений в состоянии здоровья пациента, и врачебных медицинских заключений исследованиям. Подобные регламентированные процедуры оценки качества и мониторинга являются важным фактором, без которого невозможно соблюдение основополагающих принципов, указанных выше.

Рассмотрим подробнее ситуацию на рынке МИ с ИИ – как с технологической, так и юридической точки зрения.

Зарегистрированные МИ с ИИ

Специфика российского здравоохранения имеет две плоскости. Первая – инструменты на основе искусственного интеллекта должны быть зарегистрированы как медицинские изделия. Таким образом регламентируется их использование, регистрируются полученные с их помощью результаты, реализуются и защищаются права пациента и медицинских работников. Вторая же плоскость возникает из положения о технологическом суверенитете принципов развития и использования технологий Стратегии ИИ, которая заключается в обеспечении необходимого уровня самостоятельности Российской Федерации в области ИИ. Отечественным правообладателям ПО, в том числе и МИ с ИИ, для получения мер государственной поддержки следует регистрировать свои решения в едином реестре российских программ для электронных вычислительных машин и баз данных (реестр отечественного ПО).

Нами были проанализированы сведения о зарегистрированных МИ с ИИ на 17.10.2025. Анализ позволил сделать следующие заключения: всего зарегистрировано 49 МИ с ИИ, из которых 44 произведено в России, одно – в Нидерландах, одно – в Корее, одно – в Швеции, два – в Японии. В реестр отечественного ПО на момент написания статьи внесены 34 зарегистрированных МИ с ИИ. Таким образом, на рынке МИ с ИИ в Российской Федерации преобладают отечественные продукты.

Абсолютное большинство зарегистрированных медицинских изделий с применением технологий искусственного интеллекта (30 МИ с ИИ) предназначены для анализа радиологических изображений – как для широкого спектра патологий (например, для анализа снимков КТ органов грудной клетки), так и конкретных заболеваний (диагностика инсульта). Это обусловлено тем, что компьютерное зрение среди технологий ИИ является одной из наиболее зрелых, а также полезных и понятных в применении для медицины. Кроме того, обучение ИИ-моделей для выявления артефактов на медицинских изображениях требует относительно небольших усилий – нужно лишь провести дополнительное обучение на специализированных наборах данных. Искусственный интеллект, выполняющий другие задачи, может потребовать разработки специальной архитектуры, что, в свою очередь, потребует больших затрат от компании-разработчика.

Из 44 российских зарегистрированных МИ с ИИ 39 разработаны коммерческими организациями, и только пять – государственными учреждениями: ФГБУ «НМИЦ им. В.А. Алмазова» Минздрава России (три МИ с ИИ) и Институтом системного программирования им. В.П. Иванникова Российской академии наук (одно МИ с ИИ), ФГАОУ ВО «Первый МГМУ им. И.М. Сеченова» Минздрава России (1 МИ с ИИ). Данный факт подтверждает, что развитие МИ с ИИ в России, несмотря на значительную вовлеченность государства в этот процесс, остается движимым рыночными механизмами.

Если анализировать медицинские изделия по годам выдачи регистрационных удостоверений, то мы увидим следующую картину: два изделия были зарегистрированы в 2020 г., 10 – в 2021 г., семь – в 2022 г., шесть – в 2023 г., 14 – в 2024 г. и 10 – в 2025 г. Таким образом, наблюдается значительный рост количества зарегистрированных МИ с ИИ с 2024 г.

Актуальная проблематика обучения медицинского персонала

Здравоохранение – сфера, в которой внедрение практически любых инноваций предваряет обучение персонала и обеспечение достаточного уровня его квалификации. Обучение медицинского персонала по обращению с внедренным МИ с ИИ редко включает технико-теоретическую базу, а касается только практического обращения с программным обеспечением. Большинство МИ с ИИ предназначены для анализа радиологических изображений, то есть процесс лечения и диагностики пациента остается под полным контролем медицинских работников, так как именно они принимают решения о степени достоверности результатов, необходимости дополнительных обследований и формулировании выводов исследований.

Таким образом, для обеспечения законодательно закрепленных принципов, внедрение медицинских изделий с ИИ должно проводиться вместе с теоретико-методологическим обучением специалистов, обеспечивая должный уровень компетенций, необходимый для работы с ИИ.

Conclusion.

Проведенное исследование актуального состояния системы здравоохранения в контексте внедрения искусственного интеллекта позволяет сделать следующие выводы:

1. Технологический потенциал искусственного интеллекта в медицине демонстрирует значительные перспективы, особенно в области анализа медицинских изображений. Существует как спрос на медицинские изделия с ИИ, так и технические возможности реализовать инновационные продукты.
2. Образовательный компонент внедрения ИИ в систему здравоохранения является необходимым и обязательным во исполнение принципов, заложенных в основу этого процесса. Программы обучения в медицинской практике требуют пересмотра, так как их недостаточность ограничивает способность врачей полноценно оценивать достоверность и надежность получаемых результатов, что угрожает безопасности пациентов.
3. Этические и правовые вопросы остаются недостаточно урегулированными. Несмотря на наличие основополагающих закрепленных принципов работы с искусственным интеллектом в медицине, лишь отдельные аспекты применения ИИ регулируются в достаточной степени, с конкретными и четкими правовыми границами и регламентом. Юридическая неопределенность в отношении ответственности за возможные ошибки ИИ-систем создает серьезные риски как для пациентов, так и для медицинских работников. Необходим четкий механизм регулирования ответственности всех субъектов процесса.

На наш взгляд, для успешного внедрения ИИ в систему здравоохранения необходимо:

• Разработать комплексную систему обучения медицинских специалистов, включающую теоретико-методологический компонент.
• Продолжить совершенствование нормативно-правовой базы, регулирующей ответственность сторон, вовлеченных в процессы использования ИИ-систем, и обеспечивающей безопасность пациентов.
• Проводить регулярные мониторинг и оценку экономической эффективности внедрения ИИ-решений.

Таким образом, успешная интеграция искусственного интеллекта в систему здравоохранения возможна только при условии комплексного подхода к решению всех выявленных проблем и создания надежной правовой, образовательной и экономической инфраструктуры. Такой подход позволит максимально эффективно использовать потенциал ИИ-технологий в интересах пациентов и медицинских работников.

1. Decree of the President of the Russian Federation of October 10, 2019 No. 490 (as amended on February 15, 2024) “On the Development of Artificial Intelligence in the Russian Federation", which approved the «National Strategy for the Development of Artificial Intelligence through 2030»”. (In Russian).
2. Code of Ethics for the Application of Artificial Intelligence in Healthcare. Version 2.1 (approved by the Interdepartmental Working Group under the Russian Ministry of Health on the Creation, Development, and Implementation of Medical Devices and Services Using Artificial Intelligence Technologies into Clinical Practice, Protocol No. 90/18-0/117 of February 14, 2025). (In Russian).
3. National Standard of the Russian Federation PNST 961-2024 “Artificial Intelligence Systems in Healthcare. Ethical Aspects.” (In Russian).
4. Order of the Moscow Department of Healthcare dated April 26, 2024, No. 360 “On the rules for conducting an experiment on automated interpretation of X-ray examination data based on artificial intelligence technologies.” (In Russian).
5. Mracek v. Bryn Mawr Hospital, 610 F. Supp. 2d 401 (E.D. Pa. 2009).