ИСПОЛЬЗОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРИ ПОДБОРЕ ПЕРСОНАЛА : ПРАВОВЫЕ РИСКИ И ВОПРОСЫ ДИСКРИМИНАЦИИ

Актуальность вопросов использования искусственного интеллекта (далее –ИИ) при подборе персонала обусловлена целым рядом рядом факторов, к основным из которых можно отнести достаточно масштабное внедрение ИИ

для автоматизации процессов подбора персонала, что создает предпосылки для возникновения новых правовых рисков, а также потенциальную возможность наличия скрытых предубеждений в алгоритмах ИИ, повышающиъ вероятность дискриминации по различным признакам, таким как пол, раса, возраст и т.д. Все указанное может, в свою очередь, привести к инициированию судебных разбирательств и возникновению существенных репутационных потерь для организации.

С технико-юридической точки зрения системы ИИ представляют собой совокупность алгоритмов машинного обучения и программных средств обработки данных, предназначенных для автоматизации процессов поиска, оценки и отбора кандидатов. Эти системы могут выполнять функции, ранее осуществлявшиеся исключительно человеком: сканирование резюме, анализ соответствия квалификации соискателя заявленным требованиям, проведение предварительных видеособеседований с использованием анализа речи и мимики, ранжирование кандидатов по степени приоритетности. Однако с правовой позиции указанные действия не приобретают самостоятельного юридического значения. ИИ не вступает в трудовые отношения, не обладает правом на заключение трудового договора и не может выступать стороной в процессе заключения трудового договора. ИИ следует квалифицировать в качестве инструмента, посредством которого наниматель реализует свои правомочия, закрепленные в п. 1 ст. 12 Трудового кодекса Республики Беларусь (далее – ТК) [1], согласно которому наниматель обладает правом заключать и расторгать трудовые договоры с работниками в порядке и по основаниям, установленным ТК и законодательными актами. Использование ИИ при подборе персонала (заключении трудового договора) не изменяет природу этого права, а лишь модернизирует способ его осуществления. Изучение текущего законодательства Республики Беларусь показывает, что в национальной правовой системе не существует отдельного нормативного правового акта, регулирующего применение ИИ в трудовых отношениях. ТК и иные акты законодательства о труде не содержат норм, которые непосредственно регламентировали бы порядок применения систем ИИ при подборе персонала, оценке кандидатов или принятии кадровых решений.

В то же время внедрение систем ИИ в процессы подбора персонала сопряжено с комплексом правовых рисков, охватывающих сферу персональных данных, прозрачность принимаемых решений и распределение юридической ответственности. Наиболее очевидные риски связаны с обработкой персональных данных кандидатов. Системы ИИ функционируют на основе сбора и анализа значительных массивов информации о соискателях. При этом нередко возникает избыточность обработки, когда алгоритм требует предоставления данных, выходящих за пределы установленных законом целей.

К таким данным могут относиться биометрические показатели, сведения о местах проживания, семейном положении, круге общения и иная информация, не имеющая прямого отношения к деловым качествам кандидата. Кроме того, многие системы хранят обработанные данные неопределенно долгое время для целей дальнейшего «обучения» нейросети, что противоречит принципу ограничения срока хранения персональных данных. Проблема усугубляется рисками утечек информации, поскольку автоматизированные системы, аккумулирующие большие объемы персональных данных, становятся привлекательной целью для кибератак. Кроме того, алгоритмы ИИ могут быть предвзятыми, т.к. обучаются на исторических данных, включающих неформальные предпочтения (например, по полу или возрасту). Принцип работы многих нейросетевых систем недостаточно прозрачен, даже разработчики не всегда могут объяснить причины тех или иных решений ИИ. Это затрудняет предоставление мотивированных отказов соискателям и противоречит ст. 16 ТК, требующей обоснования отказа в заключении трудового договора и закрепляющей право на судебную защиту в случае такого отказа. Поскольку ИИ не является субъектом права, он не может самостоятельно нести ответственность за допущенные нарушения. В правоприменительной практике преобладает подход, согласно которому ИИ следует рассматривать как инструмент, находящийся под контролем нанимателя. Наниматель, внедряя автоматизированную систему подбора персонала, извлекает выгоду от оптимизации кадровых процессов, следовательно, именно он должен нести ответственность за последствия ее функционирования. Если алгоритм, внедренный нанимателем, неправомерно отклоняет кандидата по дискриминационному признаку либо нарушает процедуру сбора данных, ответственность должна возлагаться на нанимателя. Вместе с тем, не исключается ответственность разработчика в случаях, когда ошибка алгоритма обусловлена недостатками программы, которые не могли быть выявлены нанимателем при разумной степени осмотрительности. В связи с изложенным в доктрине обосновывается необходимость закрепления обязанности нанимателя осуществлять регулярный мониторинг работы соответствующих алгоритмов и человеческий контроль за ключевыми решениями, принимаемыми с помощью ИИ.

Использование ИИ при подборе персонала создает также риски нарушения антидискриминационного законодательства. Так, запрещение дискриминации в сфере трудовых отношений является одним из ключевых принципов трудового права. Согласно ч. 1 ст. 14 ТК запрещается ограничение в трудовых правах или получение каких-либо преимуществ в зависимости от пола, расы, национального и социального происхождения, языка, религиозных или политических убеждений, участия или неучастия в профсоюзах или иных общественных объединениях, имущественного или служебного положения, возраста, места жительства, недостатков физического или психического характера, не препятствующих исполнению соответствующих трудовых обязанностей, иных обстоятельств, не связанных с деловыми качествами и не обусловленных спецификой трудовой функции работника. Однако развитие ИИ в подборе персонала приводит к появлению новых, трудноуловимых, форм дискриминации, которые сложно обнаружить и доказать. Наиболее ярким примером, демонстрирующим риски алгоритмической дискриминации, является опыт компании Amazon. В 2015 году корпорация разработала собственного помощника рекрутера на основе ИИ, который должен был автоматически отбирать наиболее подходящих кандидатов. Система обучалась на массиве резюме, поступавших в компанию за последние десять лет.

Поскольку в тот период в IT-сфере преобладали мужчины, алгоритм неосознанно усвоил, что кандидаты-мужчины являются более предпочтительными. Вскоре рекрутеры обнаружили тревожную закономерность: искусственный интеллект систематически отклонял резюме, содержавшие слово «женский» (например, «капитан женского шахматного клуба»), а также снижал рейтинг выпускниц женских школ и колледжей.

Инженеры предпринимали попытки исправить алгоритм, однако система продолжала отдавать предпочтение соискателям, использовавшим в описании глаголы мужского рода. В итоге компания была вынуждена отказаться от разработки [2]. Международный опыт, включая неудачный эксперимент Amazon, убедительно свидетельствует о необходимости выработки правовых механизмов, позволяющих минимизировать риски дискриминации и обеспечить защиту прав кандидатов. В этой связи представляется целесообразным закрепить в нормах законодательства о труде принцип недискриминации при автоматизации подбора персонала, обязав нанимателя настраивать алгоритмы таким образом, чтобы исключить возможность использования обстоятельств, не связанных с деловыми качествами и не обусловленных спецификой трудовой функции работника, в качестве критериев профессионального отбора. Мы предлагаем также внедрить принцип прозрачности, обязывающий нанимателя информировать кандидата о применении автоматизированных систем принятия решений и предоставлять мотивированное объяснение в случае отказа, последовавшего по результатам работы соответствующего алгоритма. При этом следует также установить требование сохранения человеческого контроля за ключевыми кадровыми решениями, что позволит своевременно выявлять и корректировать ошибки системы, связанные с предвзятостью алгоритмов или нарушением прав соискателей.