ЭТИЧЕСКИЕ АСПЕКТЫ ВНЕДРЕНИЯ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В КЛИНИЧЕСКУЮ ПРАКТИКУ: ВЫЗОВЫ МЕДИЦИНСКОГО ОБРАЗОВАНИЯ И ПРОФЕССИОНАЛЬНОЙ СОЦИАЛИЗАЦИИ БУДУЩИХ ВРАЧЕЙ

ETHICAL ASPECTS OF IMPLEMENTING ARTIFICIAL INTELLIGENCE SYSTEMS IN CLINICAL PRACTICE: CHALLENGES FOR MEDICAL EDUCATION AND PROFESSIONAL SOCIALIZATION OF FUTURE DOCTORS

Demakov Vladimir Ivanovich

Candidate of Technical Sciences, Associate Professor, Vice-Rector for Youth Policy and Educational Activities, Head of the Department of Medical and Biological Physics, Irkutsk State Medical University, Ministry of Health of the Russian Federation, Russia, Irkutsk

Belyaeva Alina Evgenievna

2nd-year Student, Irkutsk State Medical University, Ministry of Health of the Russian Federation, Russia, Irkutsk

Аннотация. Стремительное внедрение технологий искусственного интеллекта (ИИ) в здравоохранение трансформирует традиционную модель врачевания, порождая ряд этических дилемм. В 2025 году в России утверждена уже вторая версия Кодекса этики применения ИИ в сфере охраны здоровья, задающая нормативные ориентиры для всех участников процессов разработки и использования таких систем. Цель работы – проанализировать ключевые этические проблемы применения ИИ в клинической практике с точки зрения формирования профессионального сознания студентов-медиков и соотнести их с положениями действующего Кодекса.  Показано, что российский Кодекс этики ИИ содержит принципы (ограниченная автономность, прозрачность, справедливость, конфиденциальность), которые непосредственно адресуют данные вызовы, а также закрепляет права и обязанности субъектов – от разработчиков до пациентов. 

Abstract. The rapid introduction of artificial intelligence (AI) technologies into healthcare is transforming the traditional model of medical practice, giving rise to a number of ethical dilemmas. In 2025, Russia adopted the second version of the Code of Ethics for the Use of AI in Healthcare, establishing regulatory guidelines for all participants involved in the development and use of such systems. The aim of this study is to analyse the key ethical issues associated with the use of AI in clinical practice from the perspective of shaping the professional consciousness of medical students and to correlate them with the provisions of the current Code. It is shown that the Russian AI Code of Ethics contains principles (limited autonomy, transparency, fairness, confidentiality) that directly address these challenges, as well as enshrining the rights and responsibilities of stakeholders – from developers to patients.

Ключевые слова: искусственный интеллект, медицинская этика, биоэтика, медицинское образование, Кодекс этики ИИ, принятие решений, права пациентов, цифровизация здравоохранения.

Keywords: artificial intelligence, medical ethics, bioethics, medical education, AI Code of Ethics, decision-making, patient rights, digitalisation of healthcare.

Современный этап развития здравоохранения характеризуется активной экспансией технологий искусственного интеллекта (ИИ). Алгоритмы машинного обучения уже сегодня демонстрируют эффективность, сопоставимую с опытными врачами в лучевой диагностике [4], а системы поддержки принятия решений внедряются в рутинную практику терапевтов и хирургов. Однако за техническим прогрессом не всегда поспевает осмысление его этических последствий.

Осознание важности этического регулирования привело к разработке и утверждению в 2025 году «Кодекса этики применения искусственного интеллекта в сфере охраны здоровья. Версия 2.1» [1]. Документ разработан Межведомственной рабочей группой при Минздраве России и задает систему принципов и рекомендаций для всех участников жизненного цикла систем ИИ (СИИ) – от проектирования до вывода из эксплуатации.

Особую значимость этические аспекты приобретают в контексте подготовки будущих врачей. Студенты-медики, осваивающие профессию сегодня, окажутся на передовой цифровой трансформации. Им предстоит не просто использовать новые инструменты, но и разрешать моральные коллизии, для которых нет готовых алгоритмов в классических учебниках по биоэтике. Знание положений Кодекса становится неотъемлемой частью профессиональной компетенции. Цель работы – систематизировать этические вызовы, связанные с внедрением ИИ в медицину, и показать, как российский Кодекс этики ИИ отвечает на эти вызовы, определяя ориентиры для будущих врачей.

Исследование выполнено на основе анализа публикаций, посвященных этическим проблемам цифровизации здравоохранения, а также нормативных документов в области биоэтики. Ключевым источником для анализа стал текст «Кодекса этики применения искусственного интеллекта в сфере охраны здоровья. Версия 2.1» [1].

В результате анализа выделено пять ключевых проблемных областей. По каждой из них мы рассмотрим, какие положения содержит Кодекс и как это должно отразиться на подготовке студентов-медиков.

1. Эпистемологический разрыв: проблема «черного ящика» и информированное согласие.

Современные нейросети, особенно системы глубокого обучения, часто функционируют по принципу «черного ящика»: они выдают результат, но логика принятия решения остается непостижимой для человека [5]. Для врачебной профессии это создает фундаментальное противоречие. С одной стороны, эффективность алгоритмов подтверждена статистически. С другой стороны, принцип информированного добровольного согласия требует от врача объяснить пациенту, на чем основан диагноз или рекомендация.

Позиция Кодекса. В разделе 2.2 «Прозрачность и объяснимость» прямо указано: «СИИ должны проектироваться и разрабатываться с ориентацией на понятность и объяснимость результатов функционирования». Разработчик обязан обеспечить доступность информации о применяемых алгоритмах. Кроме того, в перечне этических проблем самого Кодекса фигурирует «сложность интерпретации решений при машинном обучении (проблема "черного ящика")», что подтверждает признание этого вызова на государственном уровне.

Значение для студента: в период обучения необходимо сформировать установку на критическое восприятие «цифрового авторитета». Будущий врач должен понимать, что отсутствие объяснимости – это не техническая мелочь, а фактор, ограничивающий применение алгоритмов в ситуациях, где требуется персонализированный подход. Студенту предстоит научиться выступать в роли «переводчика» между статистической логикой машины и экзистенциальными ожиданиями пациента, а также требовать от разработчиков необходимой информации в рамках, предусмотренных Кодексом.

2. Нормативный вакуум: проблема распределенной ответственности.

Традиционная медицинская этика исходит из персональной ответственности врача за исход лечения. Внедрение ИИ размывает эту цепочку. В случае врачебной ошибки, обусловленной неверной рекомендацией алгоритма, возникает ситуация «диффузии вины»: ответственность может быть возложена на разработчика ПО, администрацию клиники или врача, проигнорировавшего «мнение» машины [2].

Позиция Кодекса. Кодекс вводит четкое определение субъектов СИИ и их ролей (раздел 1.4). Среди субъектов – разработчики, производители, заказчики, владельцы, пользователи (в том числе медицинские работники), регуляторы. В разделе 2.1 «Ограниченная автономность» подчеркивается, что «все решения СИИ (при необходимости) должны быть проверены и одобрены субъектом ИИ с соответствующей ролью», и что субъекты должны иметь возможность отказаться от автоматизированных решений или изменить их. Тем самым Кодекс возлагает конечную ответственность за клиническое решение на врача-пользователя, одновременно обязывая разработчиков обеспечивать контролируемость системы.

Значение для студента: формирование правосознания будущего врача должно включать понимание границ собственной ответственности при работе с цифровыми инструментами. Учеба должна привить привычку к «двойному контролю» и навык верификации данных, полученных от ИИ, на основе фундаментальных клинических знаний. Студент должен знать, что, согласно Кодексу, он как пользователь имеет право и обязанность проверять и при необходимости отклонять рекомендации ИИ.

3. Социальная справедливость: алгоритмическая предвзятость и дискриминация.

ИИ обучается на исторических данных, которые могут содержать неявные предубеждения (bias). Исследования демонстрируют, что алгоритмы могут воспроизводить существовавшие ранее стереотипы в отношении расы, пола, возраста или социально-экономического статуса пациентов [2]. Это создает риск углубления цифрового неравенства в медицине.

Позиция Кодекса. Принцип 2.4 «Справедливость и равенство доступа» гласит: «Права всех субъектов СИИ, включая пациентов и представителей социально уязвимых групп населения, должны быть защищены и учтены при разработке и применении СИИ… Применение СИИ не должно приводить к стигматизации и дискриминации субъектов СИИ из-за их состояния здоровья, пола, возраста, национальности или иных характеристик». Кроме того, Кодекс требует от разработчиков научной добросовестности при формировании обучающих выборок.

Значение для студента: врач традиционно выступает защитником интересов пациента, независимо от его происхождения. В новой реальности эта функция дополняется требованием «алгоритмической бдительности». Для студента важно: если решение ИИ не соответствует уникальной клинической картине или социальному контексту пациента, приоритет остается за индивидуальным подходом. При обнаружении ошибок алгоритма будущий врач должен обращаться к разработчикам, реализуя свое право, закрепленное в Кодексе (п. 3.1: «право сообщать о любых проблемах, выявленных при работе с СИИ»).

4. Профессиональная деформация: дегуманизация и атрофия клинического мышления.

Чрезмерная зависимость от алгоритмов несет риск «депрофессионализации» врача. Исследователи предупреждают о феномене «цифрового аутизма» – утрате эмпатии и клинической интуиции, которые заменяются формальными показателями на экране [3]. Медицина рискует превратиться из искусства врачевания в техническое обслуживание биологических систем.

Позиция Кодекса. Принцип ограниченной автономности напрямую указывает на необходимость сохранения контроля человека над принятием решений. Кроме того, в разделе «Права и обязанности» на юридические лица (медицинские организации) возлагается обязанность «обеспечивать подготовку специалистов, участвующих в создании, проверке, эксплуатации, мониторинге функционирования СИИ». Это означает, что образовательные программы и клинические базы должны включать компоненты, развивающие не только технические навыки, но и этическую рефлексию.

Значение для студента: период обучения – это время накопления не только знаний, но и «живого» клинического опыта. Общение у постели больного, развитие коммуникативных навыков (soft skills) должны стать противовесом технократическому подходу. Именно человекоцентрированность останется ключевой компетенцией врача в эпоху тотальной алгоритмизации. Кодекс поддерживает это требование, закрепляя необходимость обучения.

5. Моральный выбор: этика автоматизированного триажа.

Одним из самых сложных этических вызовов является использование ИИ для распределения ограниченных ресурсов (триаж). Алгоритмы, оптимизирующие потоки пациентов, могут объективно оценивать прогноз и шансы на выживание, но они лишены морального чувства [3]. Передача функции сортировки машине означает перекладывание моральной ответственности с врача на программиста.

Позиция Кодекса. Хотя Кодекс прямо не упоминает триаж, общие принципы ограниченной автономности и контроля требуют, чтобы «все решения СИИ (при необходимости) были проверены и одобрены субъектом ИИ», и что субъекты могут «отказаться от автоматизированных решений». Это означает, что даже в условиях дефицита ресурсов окончательное решение должно оставаться за человеком. Кроме того, Кодекс подчеркивает необходимость определения критериев вывода из эксплуатации СИИ при выявлении критических ошибок, что актуально для систем триажа.

Значение для студента: в рамках изучения биоэтики будущие врачи должны участвовать в обсуждении сценариев «морального выбора». Недопустимо, чтобы критические решения, затрагивающие жизнь и смерть, принимались на основе исключительно утилитарной математической оптимизации без участия врачебного консилиума. Кодекс закрепляет за врачом право вето.

Внедрение искусственного интеллекта в медицину не отменяет фундаментальных принципов биоэтики – автономии пациента, благодеяния, непричинения вреда и справедливости. Однако оно требует их переосмысления в новом технологическом контексте. Принятый в России «Кодекс этики применения искусственного интеллекта в сфере охраны здоровья» задает важные нормативные ориентиры, которые должны стать настольным документом для каждого будущего врача.

Для студентов-медиков это означает необходимость формирования новой профессиональной идентичности, сочетающей владение цифровыми инструментами, знание этико-правовых норм и сохранение традиционных гуманистических ценностей врачевания. В связи с этим представляется целесообразным:

1. Ввести в программы медицинских вузов спецкурсы или модули по этике искусственного интеллекта с обязательным изучением текста Кодекса.
2. Развивать у студентов навыки критического мышления по отношению к данным, генерируемым алгоритмами, и способность аргументированно отклонять неверные рекомендации ИИ.
3. Сохранять и усиливать практико-ориентированное обучение, направленное на развитие эмпатии и коммуникативных навыков.
4. Обучать студентов механизмам информирования о проблемах, связанных с работой СИИ, как это предусмотрено Кодексом.

Будущий врач должен стать не оператором при умной машине, а моральным субъектом, способным взять на себя ответственность за решение, в котором соединились мощь искусственного интеллекта и мудрость живого человеческого сердца.