ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК ПОТЕНЦИАЛЬНЫЙ СУБЪЕКТ ПРЕСТУПЛЕНИЯ: УГОЛОВНО-ПРАВОВЫЕ И ПРОЦЕССУАЛЬНЫЕ АСПЕКТЫ

ARTIFICIAL INTELLIGENCE AS A POTENTIAL SUBJECT OF CRIME: CRIMINAL LAW AND PROCEDURAL ASPECTS

Sigida Ksenia Sergeevna

Student, Peter the Great St. Petersburg Polytechnic University, Russia, Saint Petersburg

Zobnina Yulia Sergeevna

Student, Peter the Great St. Petersburg Polytechnic University, Russia, Saint Petersburg

Ubushieva Arina Olegovna

Student, Peter the Great St. Petersburg Polytechnic University, Russia, Saint Petersburg

Аннотация. В статье рассматривается вопрос о возможности признания систем искусственного интеллекта субъектом уголовно-правовых отношений. Анализируется действующая доктрина субъекта преступления в российском уголовном праве, исследуются теоретические подходы к определению правосубъектности ИИ, предложенные в зарубежной и отечественной науке. Делается вывод о том, что действующие уголовно-правовые конструкции нуждаются в адаптации к условиям цифровой среды, однако полноценное признание ИИ субъектом преступления в настоящее время представляется нецелесообразным.

Abstract. The article examines the question of whether artificial intelligence systems can be recognized as subjects of criminal law relations. The current doctrine of the subject of crime in Russian criminal law is analyzed, and theoretical approaches to defining the legal personality of AI, proposed in foreign and domestic scholarship, are investigated. It is concluded that the existing criminal law constructs require adaptation to the conditions of the digital environment, however, full recognition of AI as a subject of crime is currently inadvisable.

Ключевые слова: искусственный интеллект, субъект преступления, уголовная ответственность, автономные системы, правосубъектность, цифровое право, уголовный процесс, доказательства.

Keywords: artificial intelligence, subject of crime, criminal liability, autonomous systems, legal personality, digital law, criminal procedure, evidence.

Стремительное развитие технологий искусственного интеллекта (далее –ИИ) обусловило появление принципиально новых правовых вопросов, выходящих за рамки традиционной доктрины. Автономные транспортные средства, алгоритмы принятия медицинских решений, боевые робототехнические комплексы и финансовые торговые системы уже сегодня способны совершать действия, причиняющие реальный вред охраняемым законом интересам, – и делают это без непосредственного участия человека в конкретном моменте принятия решения.

Российское уголовное право исторически строится на концепции личной виновной ответственности физического лица. В этом контексте попытка «вписать» ИИ в существующую систему субъектов преступления неизбежно порождает теоретические противоречия.

Согласно ст. 19 Уголовного кодекса Российской Федерации (далее – УК РФ), уголовной ответственности подлежит только вменяемое физическое лицо, достигшее возраста, установленного настоящим Кодексом. Данная норма закрепляет три обязательных признака субъекта преступления: физическую природу лица, достижение возраста уголовной ответственности и вменяемость [7].

Категория вменяемости в теории уголовного права традиционно понимается как способность лица осознавать фактический характер и общественную опасность своих действий (бездействия) и руководить ими. Именно эта способность служит основанием для правового порицания и, следовательно, для вины как центрального элемента состава преступления. Без вины – в форме умысла или неосторожности – уголовная ответственность в российской правовой системе невозможна (ст. 5 УК РФ).

Юридические лица в России субъектами преступления не признаются, хотя дискуссия о введении корпоративной уголовной ответственности ведется. Данный факт показателен: отечественный законодатель демонстрирует устойчивую приверженность персоналистической модели уголовной ответственности, которая еще более осложняет постановку вопроса о субъектности ИИ.

Таким образом, с позиций действующего законодательства ответ на вопрос, может ли ИИ быть субъектом преступления, является однозначно отрицательным. Проблема, однако, не снимается: она лишь смещается в плоскость распределения ответственности между людьми, причастными к созданию, распространению и использованию автономных систем [6].

В зарубежной и отечественной литературе сложилось несколько подходов к вопросу о правовом статусе ИИ. Условно их можно разделить на три группы.

Первый подход – инструментальный – рассматривает ИИ исключительно как сложный технический инструмент в руках человека, не обладающий самостоятельным правовым значением. В рамках данной концепции причинение вреда системой ИИ квалифицируется по аналогии с причинением вреда посредством использования механических устройств: ответственность несет тот, кто создал, запустил или использовал инструмент. Эта позиция наиболее полно согласуется с действующим законодательством, однако теряет убедительность применительно к подлинно автономным системам, чье поведение разработчик не мог ни предвидеть, ни предотвратить [4].

Второй подход – квазисубъектный – предполагает наделение отдельных категорий ИИ ограниченной правосубъектностью по аналогии с юридическими лицами. Предлагается конструкция «электронного лица» (electronic person), способного нести самостоятельную, хотя и специфическую, правовую ответственность. Европейский парламент в резолюции 2017 года упоминал о возможности создания специального правового статуса для роботов, однако впоследствии от этой идеи фактически отступил [1].

Третий подход – деликтный – не претендует на присвоение ИИ субъектности, но концентрируется на перераспределении ответственности среди людей через институт объективной ответственности (strict liability) [3]. Применительно к уголовному праву это означает установление специальных составов с неосторожной формой вины или даже без требования о доказывании субъективной стороны в традиционном смысле, что, впрочем, вступает в коллизию с принципом вины (ст. 5 УК РФ).

Каждый из подходов имеет как теоретические достоинства, так и практические ограничения. Вместе с тем именно их синтез, по всей видимости, способен дать наиболее жизнеспособные решения для законодательной политики.

Центральный вопрос практики – кто должен нести уголовную ответственность, если система ИИ совершила действие, образующее признаки преступления? Теоретически в качестве кандидатов рассматриваются разработчик (производитель), оператор (пользователь) и сама система.

Ответственность разработчика наиболее очевидна в случаях, когда вред стал следствием заведомо дефектного алгоритма или умышленного программирования системы на противоправное поведение. Здесь возможна квалификация по статьям о причинении вреда по неосторожности либо о более тяжких составах при наличии умысла. Главная сложность состоит в доказывании: необходимо установить, что разработчик мог и должен был предвидеть конкретный вредоносный результат, что крайне затруднительно в условиях сложных нейросетевых архитектур, чье поведение не поддается полному прогнозированию даже создателями.

Ответственность оператора (пользователя) возникает прежде всего тогда, когда система использовалась ненадлежащим образом, вопреки установленным правилам или при наличии осведомленности об имеющихся рисках. Данная ситуация в наибольшей мере соответствует традиционным уголовно-правовым конструкциям: оператор выступает своеобразным «опосредствующим звеном» между разработчиком и жертвой. Проблема, однако, в том, что при достаточном уровне автономии системы возможности оператора по контролю над ее действиями могут быть существенно ограничены.

Отдельную сложность представляет феномен «проблемы многих рук» (problem of many hands), описанный в зарубежной литературе применительно к цифровым технологиям: при распределенной разработке, многоуровневой цепочке поставок компонентов и сложной системе лицензирования установить конкретного виновного становится крайне затруднительно. Это создает реальный риск безнаказанности, который не устраняется лишь теоретическим указанием на то, что «кто-то все равно несет ответственность» [5].

Причинно-следственная связь – еще один проблемный аспект. Уголовно-правовая теория требует установления необходимой причинной связи между действием (бездействием) виновного и наступившим вредом. Когда между решением человека и причиненным ущербом располагается цепочка автономных решений системы ИИ, прямолинейная причинность разрывается. Ни теория эквивалентности (conditio sine qua non), ни теория адекватной причинности не дают в этих случаях однозначного ответа. Требуется либо выработка специальных критериев, либо переосмысление самого понятия причинной связи применительно к ИИ-системам.

Вина в российском уголовном праве представляет собой психическое отношение лица к совершаемому деянию и его последствиям. Применительно к ИИ принципиально важно, что сама система психическим отношением к своим действиям не обладает: ее «решения» являются результатом математических вычислений, а не сознательной волевой деятельности.

Для субъектов – людей, взаимодействующих с ИИ, вина может выражаться прежде всего в форме неосторожности. Речь идет о небрежности – когда лицо не предвидело возможности наступления общественно опасных последствий, хотя при должной внимательности и предусмотрительности должно было и могло их предвидеть (ст. 26 УК РФ). Именно этот критерий наиболее применим к разработчикам и операторам ИИ: от профессионала в данной области справедливо ожидать повышенного стандарта осмотрительности при разработке и внедрении систем с высоким риском причинения вреда.

Умышленная форма вины применительно к ИИ также допустима, и прежде всего в двух вариантах: намеренное программирование системы на совершение противоправных действий (фактически – использование ИИ как орудия преступления), осознанное уклонение от принятия мер по предотвращению известного риска при понимании неизбежности либо высокой вероятности вредоносного результата.

Особую проблему представляют «непредвиденные возможности» (emergent capabilities) систем машинного обучения – поведение, которое возникает в ходе обучения и не закладывалось разработчиком намеренно. В этих ситуациях традиционная модель вины испытывает наибольшее давление: разработчик не предвидел конкретного результата, оператор не имел возможности его предотвратить, а сам ИИ виновным в правовом смысле признан быть не может.

Помимо материально-правовых, развитие ИИ порождает ряд существенных процессуальных проблем. Они касаются как использования ИИ в качестве источника доказательств, так и применения алгоритмических систем непосредственно в судопроизводстве.

Доказательства, сформированные или собранные с использованием ИИ, становятся все более распространенными: системы распознавания лиц, алгоритмы анализа цифровых следов, автоматизированные системы мониторинга. Российское уголовно-процессуальное законодательство не содержит специальных норм о таких доказательствах, что порождает неопределенность в вопросах их допустимости.

Отдельного рассмотрения заслуживает вопрос о процессуальном статусе ИИ как «участника» судопроизводства. В ряде зарубежных юрисдикций обсуждается возможность допроса систем ИИ в качестве «технических свидетелей» или использования объяснений алгоритма в качестве заключения эксперта [2]. В российском законодательстве подобные формы не закреплены, а значит, соответствующие данные могут фигурировать в деле лишь в качестве вещественных доказательств или иных документов, что не всегда отражает их фактическую природу.

Существенна также проблема экспертизы в делах, связанных с ИИ. Проведение судебно-технической экспертизы алгоритмических систем требует высочайшей квалификации.

Международный опыт в данной сфере пока весьма неоднороден. В Европейском союзе принят Акт об искусственном интеллекте (Artificial Intelligence Act, 2024), вводящий систему классификации ИИ по уровню риска и устанавливающий требования к высокорисковым системам, однако вопросы уголовной ответственности в нем прямо не урегулированы [11]. США не имеют единого федерального законодательства об ИИ, и соответствующие дела разрешаются преимущественно на основе существующих норм деликтного права с адаптацией к конкретным обстоятельствам [9]. Китай активно развивает регулирование ИИ через подзаконные акты, акцентируя ответственность провайдеров сервисов [8].

Показательна судебная практика по делам, связанным с автономными транспортными средствами. В большинстве случаев суды привлекают к ответственности производителя или оператора, не ставя вопрос о самостоятельной «вине» системы.  Одним из примеров является дело Uber Technologies, Inc. v. Estate of Herzberg (США, штат Аризона, 2018–2023), в котором беспилотный автомобиль Uber (Volvo XC90) в автономном режиме сбил насмерть пешехода. Система не была запрограммирована на работу с нарушителями правил перехода, а аварийное торможение было намеренно отключено — несмотря на то что система зафиксировала пешехода за 5,6 секунды до столкновения. Прокуратура штата Аризона установила, что Uber как корпорация уголовной ответственности не несет. Все уголовное преследование было направлено исключительно против оператора-человека. Это подтверждает доминирование инструментального подхода на практике, даже там, где теоретическая дискуссия значительно продвинулась [10].

Для российского права наиболее перспективным представляется поэтапный путь: введение специальных норм об ответственности разработчиков и операторов высокорисковых систем ИИ, выработка стандартов должной осмотрительности в данной сфере, а также процессуальное регулирование работы с ИИ-доказательствами. Конструктивным шагом могло бы стать введение в УК РФ специальных квалифицирующих признаков для преступлений, совершенных с использованием автономных систем, что позволило бы учесть повышенную общественную опасность таких деяний.

Проведенный анализ позволяет сформулировать следующие выводы.

Во-первых, действующая конструкция субъекта преступления в российском уголовном праве исключает возможность признания ИИ таковым как с формально-юридической, так и с теоретической точек зрения: системы ИИ не обладают ни вменяемостью, ни волей, ни виной в том смысле, который вкладывает в эти понятия уголовно-правовая доктрина. Однако, это не означает, что проблема ответственности за вред, причиненный автономными системами, является неразрешимой в рамках действующего права. Ответственность разработчиков и операторов может устанавливаться на основе норм о неосторожном причинении вреда при условии разработки адекватных критериев должной осмотрительности.

Во-вторых, наиболее острые проблемы возникают применительно к подлинно автономным системам с непредсказуемым поведением – именно здесь действующие инструменты оказываются недостаточными. Имеется необходимость законодательно рассмотреть возможность специального регулирования, в том числе введения режима строгой ответственности для операторов высокорисковых ИИ-систем.

В-третьих, процессуальная сфера требует отдельного внимания: необходимы четкие правила допустимости доказательств, формируемых с участием ИИ, а также стандарты экспертного исследования алгоритмических систем.

Наконец, в-четвертых, вопрос о наделении ИИ самостоятельной правосубъектностью в обозримой перспективе остается исключительно теоретическим. Его практическое решение станет возможным лишь тогда, когда будет достигнут консенсус относительно природы интеллекта, сознания и моральной ответственности применительно к искусственным системам – а это задача не только и не столько юридическая, сколько философская и технологическая.