КОНЦЕПЦИЯ ОБЪЯСНИМОГО ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СУДЕБНОЙ СИСТЕМЕ РФ: ОТ ЭТИЧЕСКИХ СТАНДАРТОВ К ОБЯЗАТЕЛЬНОЙ СЕРТИФИКАЦИИ

Правовые механизмы образуют нормативную основу регулирования технологии искусственного интеллекта в судебной сфере. Однако опыт показывает, что одного законодательного регулирования недостаточно. Важно то, как системы ИИ внедряются и применяются на практике, какие стандарты качества к ним предъявляются, и кто контролирует их соблюдение.

Отправной точкой для выработки рекомендаций служит признание очевидного пробела в механизмах нормативного контроля. Основным действующим инструментом этического регулирования ИИ в России остаётся Кодекс этики в сфере искусственного интеллекта, принятый в 2021 году [4]. Документ закрепляет принципы прозрачности, подотчётности, недискриминации и ответственного контроля. Однако его ключевая характеристика состоит в том, что он носит добровольный характер. Присоединение к нему не является обязательным, механизмов принуждения к исполнению не предусмотрено, а санкции за нарушение закреплённых принципов отсутствуют.

В своей работе Волосова Н.Ю. отмечает «В сентябре 2022 г Председатель Верховного Суда РФ В. Лебедев озвучил возможность использования искусственного интеллекта для взыскания с россиян долгов по кредитам в приказном порядке. Однако этических принципов ни законодателем, ни правоприменителем не предусмотрено для такого использования систем искусственного интеллекта.» [2, с. 60]

Региональные эксперименты в Белгородской области и Москве развивались без единых стандартов качества и независимой проверки применяемых систем^. Поскольку организационное обеспечение деятельности мировых судей отнесено к ведению субъектов РФ, и каждый регион устанавливал собственные регламенты, которые не согласованные между собой. Результатом стала ситуация, при которой алгоритмические системы, непосредственно влияющие на судебные акты, внедрялись без какой-либо верификации их точности, предвзятости или объяснимости. Даже в сфере взыскания бесспорных задолженностей системы искусственного интеллекта нуждаются в жесткой предварительной сертификации и правовой регламентации, поскольку они выступают не просто техническим калькулятором, а полноценным элементом механизма государственного принуждения.

Европейский законодатель реализовал этот подход в рамках EU AI Act [10]. Регламент относит системы ИИ, применяемые в отправлении правосудия, к категории высокого риска и устанавливает для них обязательные требования до выхода на рынок. Разработчик обязан провести оценку соответствия системы установленным стандартам, обеспечить её документирование и зарегистрировать в специальной базе данных ЕС. Только после выполнения этих условий система может быть введена в эксплуатацию. Принципиально важно, что бремя доказывания соответствия лежит на разработчике, а не на органе, внедряющем систему.

Российскому законодателю предлагается воспринять эту логику применительно к судебной системе. Сертификация должна охватывать три обязательных параметра.

Первым шагом является проверка на предвзятость. Система не должна воспроизводить дискриминационные паттерны по признакам пола, возраста, национальности, социального положения или иным характеристикам участников процесса. Требование вытекает из принципа равенства всех перед законом и судом, закреплённого в ст. 19 Конституции РФ [6].

Далее, проверка точности. Система должна демонстрировать подтверждённый уровень точности на репрезентативной выборке судебных данных. Результаты проверки подлежат публичному раскрытию, чтобы суды и участники процесса могли оценить реальные возможности и ограничения конкретного инструмента.

Заключающим параметром является проверка объяснимости. Система должна быть способна генерировать понятное обоснование своих выводов. Если система, не способна объяснить логику своих рекомендаций, она не может считаться пригодной для использования в судопроизводстве.

Логичным шагом в реформировании отрасли представляется расширение компетенции Судебного департамента при Верховном Суде РФ путем наделения его функцией по обязательной сертификации применяемых в правосудии систем искусственного интеллекта. Предполагается, что Департамент будет утверждать требования к системам искусственного интеллекта и контролировать прохождение ими независимой проверки на объяснимость логики и отсутствие алгоритмических искажений.

Расширение компетенции именно судебного департамента обосновано его действующими полномочиями в сфере организационного обеспечения судов. Судебный департамент уже осуществляет функции по внедрению информационных технологий в судебную деятельность, ведёт соответствующие реестры и разрабатывает технические стандарты [5]. Наделение его полномочиями по сертификации систем искусственного интеллекта и органично вписывается в существующую компетенцию и не требует создания нового ведомства.

Система не допускается к работе, пока не подтвердит соответствие установленным стандартам сертификации. Но этого недостаточно для тех случаев, когда система уже применяется в конкретном деле. Здесь возникает отдельный вопрос о том, обязан ли суд раскрывать логику алгоритмического вывода и могут ли участники процесса его оспорить.

Требование объяснимости алгоритмических систем в судебной сфере не является техническим пожеланием, оно напрямую вытекает из одного из фундаментальных принципов процессуального права. Статья 198 ГПК РФ [3], ст. 170 АПК РФ [1] и ст. 297 УПК РФ [8] обязывают суд мотивировать принятое решение, то есть указать, на каких доказательствах оно основано и почему суд отверг иные доводы. Если судебный акт опирается на вывод алгоритмической системы, логика которого недоступна ни судье, ни участникам процесса, требование мотивированности становится формальным. Решение есть, но его реального обоснования нет.

Именно эту проблему фиксирует концепция объяснимого искусственного интеллекта. В научной литературе под объяснимостью понимается способность системы генерировать описание логики своих выводов в форме, доступной для понимания человеком без специальных технических знаний [9]. Для судебной сферы, это означает, что система должна быть способна указать, какие именно входные данные повлияли на её вывод и в какой мере.

Это подтверждается словами Огарок М.А.  «Правовые аспекты регулирования искусственного интеллекта предполагают реализацию права субъекта на объяснение результатов функционирования и решений, принятых когнитивными системами. Такие права, указанные, например, в GDPR, в первую очередь относятся к индивидуальным правам субъектов на получение объяснения для решений, которые существенно влияют на человека, особенно в юридическом или финансовом отношении.» [7, с. 96].

В российском процессуальном праве нет нормы, которая обязывает разработчиков систем высокого риска обеспечивать их интерпретируемость и документировать логику принятия решений в форме, понятной операторам системы. Это означает, что суд формально вправе использовать алгоритмическую рекомендацию, не имея возможности объяснить её участникам процесса и не будучи обязан это делать. Такое положение несовместимо с принципом состязательности, закреплённым в ст. 123 Конституции РФ и из-за этого сторона не может эффективно оспорить вывод, логика которого ей неизвестна [6].

Вместе с тем требование объяснимости необходимо сформулировать с учётом технических реалий. Часть алгоритмических систем работают по принципу «чёрного ящика» и не способны генерировать интерпретируемые объяснения своих выводов. Требовать полной объяснимости от любой системы значит фактически запретить использование целого класса технологий. Поэтому предлагаемый стандарт намеренно сужен и распространяется только на те результаты работы системы, которые непосредственно использованы судом при подготовке или вынесении судебного акта. Технические операции, не влияющие на содержание решения такие как распознавание текста, автоматическое распределение дел, под действие этого стандарта не подпадают.

Модернизация ГПК РФ [3], АПК РФ [1] и УПК РФ [8] должна пойти по пути внедрения нормы, обязывающей суд отражать в судебном акте наименование применённой системы искусственного интеллекта, характер использованных результатов и их значение для принятого решения. Помимо этого, результаты работы системы, логика формирования которых не может быть изложена в понятной для участников процесса форме, не должны использоваться судом в качестве основания для выводов, влияющих на существо принятого решения.

Предложенная норма решает сразу две задачи. Обеспечивают процессуальную прозрачность и это означает, что участники процесса получают право знать, какие алгоритмические инструменты применялись и какую роль они сыграли. И содержательное ограничение, которое исключает системы, способные влиять на существо решения, но не способные объяснить свою логику, хотя и могут продолжать использоваться для технических операций.

В совокупности предложения образуют целостную регуляторную модель, охватывающую три уровня. На нормативном уровне это понятийный аппарат и процессуальные нормы, закрепляющие статус искусственного интеллекта как вспомогательного инструмента. На принципиальном уровне обсуждается запрет автономных судебных решений и персональная ответственность судьи за содержательную оценку алгоритмических рекомендаций. На институциональном уровне вводится обязательная сертификация и стандарт объяснимости как условия допуска системы к работе с судебными данными.

Таким образом, цифровизация судопроизводства сама по себе не является ни благом, ни угрозой. Её последствия определяются качеством правовой среды, в которой она происходит, но такая среда в России пока не сформирована, однако уже находится на начальном этапе.