Введение

Сегодня информационные технологии играют ключевую роль во многих сферах общественной деятельности, в том числе в здравоохранении. С середины XX века наблюдается активное развитие информационных систем, направленных на обработку данных. Благодаря техническому прогрессу произошел переход от простейших методов обработки данных (вроде поиска и сортировки) к сложным инструментам, способным выполнять задачи, ранее считавшиеся прерогативой человеческого разума.

В последние несколько лет наиболее перспективным направлением все чаще называют внедрение искусственного интеллекта (ИИ) в систему здравоохранения. Наибольший интерес вызывают решения с ИИ на основе машинного обучения – информационные системы, способные обучаться самостоятельно на основе данных, а не действовать согласно явно составленному алгоритму. По мнению многих экспертов, внедрение подобных технологий открывает новые перспективы для диагностики заболеваний, разработки индивидуальных планов лечения, прогнозирования эпидемий и многих других направлений.

Подобный значительный сдвиг в медицинской практике не может не сопровождаться рядом трудностей. Среди технологических – подготовка базы данных для обучения ИИ с оценкой достоверности данных, потребность в высоких вычислительных мощностях, а также возникновение потенциальных ошибок, которых не удастся избежать в свете сложности задач. Среди организационных – необходимость корректной интерпретации результатов работы ИИ, низкий уровень доверия к новым технологиям как со стороны медицинских специалистов, так и пациентов, а также недостаток навыков работы с относительно новыми инструментами.

Актуальность темы настоящей статьи обусловлена процессом стремительного внедрения технологий ИИ в клиническую практику, что обуславливает необходимость развития у медицинских работников компетенций, без которых невозможно использовать инновационные инструменты эффективно и безопасно.

Цель работы

Целью исследования является анализ текущего состояния и перспектив внедрения ИИ в медицинскую практику, а также выявление ключевых вызовов и возможностей, связанных с этим процессом.

Предпосылки и основы внедрения ИИ в здравоохранении

Чтобы оценить актуальное состояние системы здравоохранения в свете внедрения технологий с использованием ИИ, необходимо осветить обоснование этого процесса в системе здравоохранения. Специфика внедрения инновационных технологий в систему здравоохранения РФ такова, что главную роль в ней играет государство.

Ключевым документом, очерчивающим контуры процесса внедрения искусственного интеллекта, в том числе в систему здравоохранения, является Указ Президента Российской Федерации от 10.10.2019 № 490 (ред. от 15.02.2024) «О развитии искусственного интеллекта в Российской Федерации», в котором утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 года» (далее – Стратегия ИИ) [1]. В документе содержатся основные принципы развития и использования технологий ИИ. В контексте здравоохранения особенно важными являются:

• защита права на труд и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики;
• предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта;
• объяснимость работы искусственного интеллекта и процесса достижения им результатов, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий искусственного интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта.

Ценность принципов безопасности и прозрачности очевидна в контексте здравоохранения, где речь нередко идет о благополучии, здоровье и даже жизни пациентов, и цена врачебной ошибки может быть крайне высока. Принцип защиты прав и свобод человека важен тем, что в нем закрепляется право на обучение навыкам и знаниям, необходимым для работы с искусственным интеллектом. В том же документе описываются необходимые условия для повышения уровня обеспечения российского рынка технологий искусственного интеллекта квалифицированными кадрами и уровня информированности населения о возможных сферах использования таких технологий, среди которых:

• разработка и внедрение образовательных модулей в рамках образовательных программ всех уровней образования, программ повышения квалификации и профессиональной переподготовки;
• привлечение организаций, осуществляющих деятельность в области искусственного интеллекта, к участию в мероприятиях, направленных на развитие общего и профессионального образования;
• стимулирование (в том числе материальное) работодателей к принятию мер, направленных на получение сотрудниками компетенций в области искусственного интеллекта и в смежных областях его использования.

Таким образом, кроме непосредственно технологических и экономических аспектов, в Стратегии ИИ уделяется внимание вопросу компетентности специалистов в вопросе обращения с технологиями на основе искусственного интеллекта и подчеркивается важность их обучения.

Для рассмотрения этической стороны вопроса использования ИИ в здравоохранении необходимо обратиться к Кодексу этики применения искусственного интеллекта в сфере охраны здоровья. (утв. Межведомственной рабочей группой при Минздраве России по вопросам создания, развития и внедрения в клиническую практику медицинских изделий и сервисов с использованием технологий искусственного интеллекта, протокол от 14.02.2025 № 90/18-0/117) [2]. Он также закрепляет основные принципы применения ИИ в здравоохранении: ограниченная автономность; прозрачность и объяснимость; конфиденциальность данных и безопасность пациентов; справедливость и равенство доступа; научное партнерство и профессиональная ответственность; информирование; проведение этической экспертизы и апробации СИИ; контроль.

При этом данный кодекс имеет и практико-ориентированное значение с точки зрения преодоления сложностей, возникающих при внедрении ИИ. В частности, в нем указаны такие проблемы, как недостаток доказательств эффективности и безопасности; повышенный риск причинения вреда здоровью пациентов в силу потенциальных ошибок; проблема «черного ящика»; повышенные риски от ИИ с непрерывным обучением, которые способны изменять свою работу вследствие появления новых данных; риски, связанные с добросовестностью разработчика системы ИИ; сложность определения конкретного субъекта ИИ, ответственного за финальное принятое решение на основании работы ИИ; необходимость предоставления гражданину или его законному представителю в доступной форме полной информации о целях, методах оказания медицинской помощи, связанном с ними риске, возможных вариантах медицинского вмешательства (в том числе с применением технологий ИИ), о его последствиях.

Мероприятия по решению проблем, указанных в Кодексе этики, должны осуществляться и в медицинских образовательных учреждениях, так как способность врачей использовать медицинские изделия с применением технологий ИИ (далее – МИ с ИИ) в своей деятельности является критически важным условием успешности внедрения этих технологий в систему здравоохранения. Без соответствующих компетенций медицинские специалисты не могут адекватно оценить риски, правильность результатов, безопасность, проинформировать пациентов о сути процедур и т. д.

Другой документ, освещающий этическую проблематику применения ИИ в здравоохранении – Национальный стандарт Российской Федерации ПНСТ 9612024 «Системы искусственного интеллекта в здравоохранении. Этические аспекты» [3]. В нем, в частности, обращают на себя внимание следующие указания: риск для пациента при использовании ИИ не должен превышать риск нанесения вреда без применения ИИ; пациенты должны быть проинформированы в доступной форме о роли ИИ; при использовании ИИ должно быть организовано обучение для медработников.

Таким образом, основополагающие документы, регулирующие внедрение технологий на основе искусственного интеллекта, четко устанавливают и обосновывают необходимость обучения врачей теоретико-практическим основам работы с МИ с ИИ. На практике часто обучение медицинского персонала осуществляется только в контексте взаимодействия с конкретным программным продуктом, что не позволяет работникам развить компетенции для работы с ИИ в целом.

Статус внедрения медицинских изделий с искусственным интеллектом

На региональном уровне регулирующие органы определяют конкретные положения и правила внедрения, использования и оценки МИ с ИИ. В частности, эту задачу выполняет приказ Департамента здравоохранения города Москвы от 26.04.2024 № 360 «О правилах проведения эксперимента по автоматизированной интерпретации данных рентгенологических исследований на основе технологий искусственного интеллекта» [4].

Данный документ утверждает перечень видов рентгенологических исследований, подлежащих автоматизированной интерпретации данных на основе технологий ИИ, а именно: рентгенологические и флюорографические исследования органов грудной клетки. При этом Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы (ГБУЗ «НПКЦ ДиТ ДЗМ») не реже чем раз в два месяца с учетом сформированной оценки результатов работы медицинских изделий осуществляет распределение потока направлений рентгенологических исследований от лучшего результата к худшему: при использовании трех медицинских изделий – 50:35:15, при использовании двух медицинских изделий – 60:40. Ежемесячно должна проводиться оценка качества работы медицинских изделий и экспертиза по случаям расхождения результатов автоматизированной интерпретации данных рентгенологических исследований, в которых отсутствуют признаки патологических изменений в состоянии здоровья пациента, и врачебных медицинских заключений исследованиям. Подобные регламентированные процедуры оценки качества и мониторинга являются важным фактором, без которого невозможно соблюдение основополагающих принципов, указанных выше.

Рассмотрим подробнее ситуацию на рынке МИ с ИИ – как с технологической, так и юридической точки зрения.

Зарегистрированные МИ с ИИ

Специфика российского здравоохранения имеет две плоскости. Первая – инструменты на основе искусственного интеллекта должны быть зарегистрированы как медицинские изделия. Таким образом регламентируется их использование, регистрируются полученные с их помощью результаты, реализуются и защищаются права пациента и медицинских работников. Вторая же плоскость возникает из положения о технологическом суверенитете принципов развития и использования технологий Стратегии ИИ, которая заключается в обеспечении необходимого уровня самостоятельности Российской Федерации в области ИИ. Отечественным правообладателям ПО, в том числе и МИ с ИИ, для получения мер государственной поддержки следует регистрировать свои решения в едином реестре российских программ для электронных вычислительных машин и баз данных (реестр отечественного ПО).

Нами были проанализированы сведения о зарегистрированных МИ с ИИ на 17.10.2025. Анализ позволил сделать следующие заключения: всего зарегистрировано 49 МИ с ИИ, из которых 44 произведено в России, одно – в Нидерландах, одно – в Корее, одно – в Швеции, два – в Японии. В реестр отечественного ПО на момент написания статьи внесены 34 зарегистрированных МИ с ИИ. Таким образом, на рынке МИ с ИИ в Российской Федерации преобладают отечественные продукты.

Абсолютное большинство зарегистрированных медицинских изделий с применением технологий искусственного интеллекта (30 МИ с ИИ) предназначены для анализа радиологических изображений – как для широкого спектра патологий (например, для анализа снимков КТ органов грудной клетки), так и конкретных заболеваний (диагностика инсульта). Это обусловлено тем, что компьютерное зрение среди технологий ИИ является одной из наиболее зрелых, а также полезных и понятных в применении для медицины. Кроме того, обучение ИИ-моделей для выявления артефактов на медицинских изображениях требует относительно небольших усилий – нужно лишь провести дополнительное обучение на специализированных наборах данных. Искусственный интеллект, выполняющий другие задачи, может потребовать разработки специальной архитектуры, что, в свою очередь, потребует больших затрат от компании-разработчика.

Из 44 российских зарегистрированных МИ с ИИ 39 разработаны коммерческими организациями, и только пять – государственными учреждениями: ФГБУ «НМИЦ им. В.А. Алмазова» Минздрава России (три МИ с ИИ) и Институтом системного программирования им. В.П. Иванникова Российской академии наук (одно МИ с ИИ), ФГАОУ ВО «Первый МГМУ им. И.М. Сеченова» Минздрава России (1 МИ с ИИ). Данный факт подтверждает, что развитие МИ с ИИ в России, несмотря на значительную вовлеченность государства в этот процесс, остается движимым рыночными механизмами.

Если анализировать медицинские изделия по годам выдачи регистрационных удостоверений, то мы увидим следующую картину: два изделия были зарегистрированы в 2020 г., 10 – в 2021 г., семь – в 2022 г., шесть – в 2023 г., 14 – в 2024 г. и 10 – в 2025 г. Таким образом, наблюдается значительный рост количества зарегистрированных МИ с ИИ с 2024 г.

Актуальная проблематика обучения медицинского персонала

Здравоохранение – сфера, в которой внедрение практически любых инноваций предваряет обучение персонала и обеспечение достаточного уровня его квалификации. Обучение медицинского персонала по обращению с внедренным МИ с ИИ редко включает технико-теоретическую базу, а касается только практического обращения с программным обеспечением. Большинство МИ с ИИ предназначены для анализа радиологических изображений, то есть процесс лечения и диагностики пациента остается под полным контролем медицинских работников, так как именно они принимают решения о степени достоверности результатов, необходимости дополнительных обследований и формулировании выводов исследований.

Таким образом, для обеспечения законодательно закрепленных принципов, внедрение медицинских изделий с ИИ должно проводиться вместе с теоретико-методологическим обучением специалистов, обеспечивая должный уровень компетенций, необходимый для работы с ИИ.

Заключение

Проведенное исследование актуального состояния системы здравоохранения в контексте внедрения искусственного интеллекта позволяет сделать следующие выводы:

1. Технологический потенциал искусственного интеллекта в медицине демонстрирует значительные перспективы, особенно в области анализа медицинских изображений. Существует как спрос на медицинские изделия с ИИ, так и технические возможности реализовать инновационные продукты.
2. Образовательный компонент внедрения ИИ в систему здравоохранения является необходимым и обязательным во исполнение принципов, заложенных в основу этого процесса. Программы обучения в медицинской практике требуют пересмотра, так как их недостаточность ограничивает способность врачей полноценно оценивать достоверность и надежность получаемых результатов, что угрожает безопасности пациентов.
3. Этические и правовые вопросы остаются недостаточно урегулированными. Несмотря на наличие основополагающих закрепленных принципов работы с искусственным интеллектом в медицине, лишь отдельные аспекты применения ИИ регулируются в достаточной степени, с конкретными и четкими правовыми границами и регламентом. Юридическая неопределенность в отношении ответственности за возможные ошибки ИИ-систем создает серьезные риски как для пациентов, так и для медицинских работников. Необходим четкий механизм регулирования ответственности всех субъектов процесса.

На наш взгляд, для успешного внедрения ИИ в систему здравоохранения необходимо:

• Разработать комплексную систему обучения медицинских специалистов, включающую теоретико-методологический компонент.
• Продолжить совершенствование нормативно-правовой базы, регулирующей ответственность сторон, вовлеченных в процессы использования ИИ-систем, и обеспечивающей безопасность пациентов.
• Проводить регулярные мониторинг и оценку экономической эффективности внедрения ИИ-решений.

Таким образом, успешная интеграция искусственного интеллекта в систему здравоохранения возможна только при условии комплексного подхода к решению всех выявленных проблем и создания надежной правовой, образовательной и экономической инфраструктуры. Такой подход позволит максимально эффективно использовать потенциал ИИ-технологий в интересах пациентов и медицинских работников.

1. Указ Президента РФ от 10.10.2019 №490 (ред. от 15.02.2024) «О развитии искусственного интеллекта в Российской Федерации», в котором утверждена “Национальная стратегия развития искусственного интеллекта на период до 2030 года”».
2. Кодекс этики применения искусственного интеллекта в сфере охраны здоровья. Версия 2.1 (утв. Межведомственной рабочей группой при Минздраве России по вопросам создания, развития и внедрения в клиническую практику медицинских изделий и сервисов с использованием технологий искусственного интеллекта, протокол от 14 февраля 2025 г. N 90/18-0/117).
3. Национальный стандарт Российской Федерации ПНСТ 961-2024 «Системы искусственного интеллекта в здравоохранении. Этические аспекты».
4. Приказ Департамента здравоохранения города Москвы от 26.04.2024 № 360 «О правилах проведения эксперимента по автоматизированной интерпретации данных рентгенологических исследований на основе технологий искусственного интеллекта».
5. Mracek v. Bryn Mawr Hospital, 610 F. Supp. 2d 401 (E.D. Pa. 2009).