Статья:

МНОГОШКАЛЬНЫЙ АНАЛИЗ ПЛОТНОСТИ ТЕСТОВЫХ БАЛЛОВ В ЗАДАЧЕ АВТОМАТИЗИРОВАННОЙ КЛАССИФИКАЦИИ КОМПЕТЕНЦИЙ СПЕЦИАЛИСТОВ: МЕТОД СВОБОДНОЙ ГАУССИАНЫ

Конференция: XCVIII Международная научно-практическая конференция «Научный форум: технические и физико-математические науки»

Секция: Вычислительная математика

Выходные данные
Тарасов В.С. МНОГОШКАЛЬНЫЙ АНАЛИЗ ПЛОТНОСТИ ТЕСТОВЫХ БАЛЛОВ В ЗАДАЧЕ АВТОМАТИЗИРОВАННОЙ КЛАССИФИКАЦИИ КОМПЕТЕНЦИЙ СПЕЦИАЛИСТОВ: МЕТОД СВОБОДНОЙ ГАУССИАНЫ // Научный форум: Технические и физико-математические науки: сб. ст. по материалам XCVIII междунар. науч.-практ. конф. — № 7(98). — М., Изд. «МЦНО», 2026.
Конференция завершена
Мне нравится
на печатьскачать .pdfподелиться

МНОГОШКАЛЬНЫЙ АНАЛИЗ ПЛОТНОСТИ ТЕСТОВЫХ БАЛЛОВ В ЗАДАЧЕ АВТОМАТИЗИРОВАННОЙ КЛАССИФИКАЦИИ КОМПЕТЕНЦИЙ СПЕЦИАЛИСТОВ: МЕТОД СВОБОДНОЙ ГАУССИАНЫ

Тарасов Вячеслав Сергеевич
аспирант, кафедры корпоративных информационных систем, РТУ МИРЭА (МИРЭА — Российский технологический университет), РФ, г. Москва
Тарасов Илья Евгеньевич
научный руководитель, д-р техн. наук кафедры корпоративных информационных систем, РТУ МИРЭА (МИРЭА — Российский технологический университет), РФ, г. Москва

 

MULTISCALE DENSITY ANALYSIS OF TEST SCORES FOR AUTOMATED CLASSIFICATION OF SPECIALISTS’ COMPETENCIES: THE FREE-GAUSSIAN METHOD

 

Tarasov Vyacheslav Sergeyevich

PhD student, Department of Corporate Information Systems, RTU MIREA (MIREA – Russian Technological University), Russia, Moscow

Tarasov Ilya Evgenievich

Scientific supervisor, doctor of technical sciences sciences, Department of Corporate Information Systems, RTU MIREA (MIREA – Russian Technological University), Russia, Moscow

 

Аннотация. Рассматривается задача автоматизированной классификации компетенций специалистов системы непрерывного образования по результатам многомерного тестирования. Показано, что классическая постановка ядерной оценки плотности (KDE) с выбором единственного значения ширины полосы по правилу Сильвермана обладает принципиальной чувствительностью к погрешности оценки масштаба распределения, приводящей к ложному слиянию или дроблению кластеров. Предложен метод свободной гауссианы, в котором масштабный параметр σ трактуется как самостоятельная независимая координата, а оценка плотности — как двумерное скалярное поле f̂(x; σ) в пространстве масштабов. Структура распределения восстанавливается из топологии этого поля методами теории Морса и теории персистентных гомологий: строятся скелет максимумов, диаграмма персистентности и функция числа кластеров K(σ) с выделением устойчивых «жирных» зон. Установлено, что выборочное среднее и классический критерий слияния пиков Эйзенбергера возникают в методе как естественные предельные случаи, что обеспечивает соответствие принципу вложения новых методов в классические. На выборке n = 12 000 и в серии из 900 вычислительных экспериментов с применением парного критерия Вилкоксона показано, что качество классификации (ARI = 0,878 ± 0,005) статистически неотличимо от лучших современных методов при существенно меньшей дисперсии результата и на 1–3 порядка меньшей вычислительной стоимости.

Abstract. The problem of automated classification of specialists’ competencies from multidimensional testing data is considered. The classical kernel density estimation (KDE) with a single Silverman-rule bandwidth is shown to be inherently sensitive to scale-estimation error, which causes spurious merging or splitting of clusters. The free-Gaussian method is proposed, treating the scale parameter σ as an independent coordinate and the density estimate as a two-dimensional scalar field f̂(x; σ) over scale space. The distribution structure is recovered from the field topology via Morse theory and persistent homology: the maxima skeleton, the persistence diagram and the cluster-count function K(σ) with stable “fat zones” are constructed. The sample mean and Eisenberger’s peak-merging criterion arise as natural limiting cases. On a sample of n = 12 000 and across 900 computational trials with the paired Wilcoxon test, the classification quality (ARI = 0.878 ± 0.005) is statistically indistinguishable from the best modern methods at substantially lower variance and 1–3 orders of magnitude lower computational cost.

 

Ключевые слова: оценка плотности, пространство масштабов, теория Морса, диаграмма персистентности, кластеризация, классификация компетенций, непрерывное образование, поддержка принятия решений, GPGPU.

Keywords: density estimation, scale space, Morse theory, persistence diagram, clustering, competency classification, continuing education, decision support, GPGPU.

 

ВВЕДЕНИЕ

Современные требования к управлению подготовкой кадров диктуют необходимость повышения производительности труда за счёт качественного роста уровня квалификации сотрудников. Отсюда возникает прикладная задача оценки уровня квалификации, без решения которой невозможно обоснованное управленческое воздействие на образовательную траекторию специалиста. На каждом цикле обучения методист сталкивается с группой слушателей, существенно различающихся по исходной подготовке — от недавних выпускников до специалистов с многолетним стажем, чьи компетенции тяготеют к узкоспециализированным разделам. В этих условиях традиционная модель единого учебного потока оказывается субоптимальной: фронтальное преподавание одного и того же материала для разнородной аудитории снижает эффективность усвоения у обоих полюсов аудитории.

Указанная неоднородность не является случайным шумом, который можно усреднить или проигнорировать. Напротив, она отражает закономерное явление профессиональной специализации, при котором компетенции специалиста формируются под воздействием частоты встречаемости тех или иных задач в его повседневной практике. Следовательно, корректная диагностика уровня подготовки требует анализа профиля компетенций по нескольким тематическим осям одновременно, а не интегральной скалярной оценки: два специалиста с диаметрально противоположными профилями могут получить одинаковый итоговый балл и быть ошибочно отнесены к одной группе обучения, тогда как их образовательные потребности существенно различаются.

Современные платформы управления обучением (Learning Management System, LMS) обладают технической возможностью индивидуализации образовательной траектории, однако лишены формализованного математического аппарата, способного автоматически классифицировать слушателей по уровню и профилю подготовки. Применяемые методы группировки основаны преимущественно на экспертных или эвристических правилах, что не обеспечивает ни статистической обоснованности, ни воспроизводимости результата. Классические параметрические методы кластеризации (k-средних, модель гауссовых смесей с EM-алгоритмом) требуют априорного задания числа кластеров K, что для систем непрерывного образования методически некорректно: число содержательно различных архетипов подготовки заранее неизвестно и варьируется от цикла к циклу. Информационные критерии автоматического выбора K (BIC, AIC) возвращают единственное «оптимальное» значение, не отражающее устойчивость найденной конфигурации к малым изменениям выборки.

Целью настоящей работы является разработка математически строгого и вычислительно эффективного метода автоматизированной классификации компетенций специалистов на основе многошкального анализа плотности тестовых баллов. Центральная методологическая идея состоит в отказе от выбора единственного значения ширины полосы ядерной оценки плотности и во введении масштабного параметра σ как самостоятельной независимой координаты. Предлагаемый метод, получивший название метода свободной гауссианы, строит двумерную поверхность оценок плотности и анализирует её топологическую структуру. Изложение апробировано на материале системы непрерывного медицинского образования (НМО), однако сам метод инвариантен к предметной области и применим к любым числовым оценкам компетенций.

1. Постановка задачи и анализ существующих подходов

Программа профессиональной переподготовки структурно разделена на тематические модули, каждый из которых посвящён самостоятельному разделу предметной области. Анализ типовых учебных планов и тестовых баз позволяет выделить совокупность устойчиво воспроизводимых тематических доменов. Для апробационной предметной области (педиатрия) выделено T = 12 доменов, перечисленных в таблице 1.

Таблица 1.

Тематические домены предметной апробации

Тематический домен

Объём, вопр.

t1

Вакцинопрофилактика и иммунопрофилактика

15

t2

Неонатология и патология новорождённых

18

t3

Менингиты и нейроинфекции

14

t4

Гельминтозы и паразитарные инвазии

8

t5

Неотложные состояния детского возраста

17

t6

Детская кардиология

19

t7

Рахит и нарушения минерального обмена

9

t8

Детская пульмонология

16

t9

Гематология детского возраста

14

t10

Детская гастроэнтерология

13

t11

Детская нефрология

15

t12

Аллергология и иммунопатология

12

 

1.1. Модели измерения компетенций

В теории педагогических измерений выделяются три основные модели оценки компетенций. Классическая теория тестов (Classical Test Theory, CTT) исходит из аддитивной модели наблюдаемого балла X = T + E, где T — истинный уровень подготовки, E — случайная ошибка измерения с нулевым средним. Оценкой компетенции служит сырой балл, нормированный на максимально возможный; основное ограничение — зависимость оценки от конкретного набора заданий и измерение сложности задания и компетенции испытуемого в разных шкалах. Теория отклика на задание (Item Response Theory, IRT) преодолевает эти ограничения за счёт логистической модели вероятности правильного ответа, обеспечивающей раздельное оценивание компетенций и сложностей в общей логит-шкале, инвариантной к выбору задания. Иерархическая модель компетентности G. E. Miller (1990) различает четыре уровня — «знает», «знает как», «показывает как», «делает»; тестовые системы профессиональной переподготовки работают преимущественно с первым уровнем (фактологическая компетентность), что и определяет содержательную рамку настоящего исследования.

Все три модели направлены на оценивание индивидуального уровня подготовки. Однако задача автоматического выделения групп однородно подготовленных слушателей в исходно неструктурированной выборке требует привлечения иного класса методов — методов кластерного анализа на шкале компетенций. Используемый аппарат опирается на три самостоятельные методологические традиции: непараметрические методы оценки плотности (M. Rosenblatt, 1956; E. Parzen, 1962; B. W. Silverman, 1986), модели смесей распределений (K. Pearson, 1894; критерий слияния пиков I. Eisenberger, 1964) и многошкальные методы анализа данных с явным параметром масштаба. Идея введения явного параметра масштаба распределения ошибки как независимого инструмента анализа предложена И. Е. Тарасовым (2021): в пределе при росте масштаба метод вырождается в классическую регрессию, при малом масштабе — в преобразование Хафа. Применительно к задаче классификации компетенций аналогичное варьирование масштабного параметра как диагностического инструмента приводит к сочетанию непараметрической оценки плотности с критерием слияния пиков, что и составляет методологический подход настоящей работы.

Систематический анализ существующих LMS и платформ массовых открытых онлайн-курсов (МООК) выявляет пять принципиальных ограничений в задаче персонализированной диагностики компетенций. Первое — единый, не персонализированный учебный контент для всех слушателей одного курса. Второе — отсутствие тематической детализации диагностики: итоговый результат, как правило, представлен скалярным баллом, что приводит к потере значительной части диагностической информации по сравнению с поосевым профилем. Третье — невозможность автоматического выделения групп слушателей с однородными профилями при математически обоснованном критерии выбора числа групп. Четвёртое — статичность учебной траектории, отсутствие механизма обратной связи. Пятое — методологическая разнородность и непрозрачность алгоритмических основ существующих платформ.

1.2. Цикл управления подготовкой на основе мониторинговых данных

Управленческий мониторинг выступает источником исходных данных для принятия обоснованных решений. Применительно к рассматриваемой задаче он приобретает особое значение в связи с двумя обстоятельствами: объём накапливаемых данных превосходит возможности ручного анализа и принципиально требует автоматизированной обработки, а результат мониторинга непосредственно влияет на профессиональную деятельность специалиста и потому требует прозрачной и воспроизводимой методологической основы. Теоретические основы систем поддержки принятия управленческих решений (Decision Support Systems, DSS) сформулированы в работах P. G. W. Keen и M. S. Scott Morton (1978). К интеллектуальным системам поддержки принятия решений в рассматриваемой области предъявляются специфические требования: прозрачность алгоритмической основы, возможность экспертной проверки логики решения, устойчивость к малым изменениям входных данных (отсутствие резких «скачков» рекомендации), воспроизводимость результата при повторном запуске и интерпретируемость промежуточных и окончательных оценок в терминах, доступных специалисту-предметнику без привлечения математика-консультанта.

Применение мониторинговых данных в управлении подготовкой предоставляет ряд методических преимуществ. Во-первых, объективную оценку эффективности образовательных программ: распределение слушателей по жирным зонам функции K(σ) непосредственно характеризует степень неоднородности подготовки и служит количественным сигналом для пересмотра программы. Во-вторых, оптимизацию использования образовательных ресурсов: автоматическое выделение кластеров позволяет планировать распределение наставников по группам с учётом фактической, а не формальной однородности подготовки. В-третьих, прогнозирование и профилактику проблем в усвоении материала за счёт отслеживания траектории слушателя в пространстве масштабов и раннего обнаружения признаков отставания. В-четвёртых, формирование доказательной базы для аттестационных процедур: мониторинговая база с динамикой тематического профиля на нескольких контрольных точках предоставляет аттестационной комиссии существенно более полную диагностическую картину, чем единичный итоговый тест.

В федеральных системах с объёмом данных порядка сотен тысяч записей и потребностью выполнения многошкального анализа на нескольких контрольных точках суммарная вычислительная нагрузка делает невозможным применение классических CPU-реализаций оценки плотности с временем обработки порядка минут на одну выборку. Архитектурное решение этой задачи — программная реализация метода на основе массово-параллельных вычислений — рассмотрено в разделе 10.

Перечисленные ограничения образуют единый методический пробел. В литературе не обнаружено систематического исследования, объединяющего непараметрические методы оценки плотности, параметрический критерий слияния гауссовых компонент и иерархическое дерево разбиений в единый алгоритмический конвейер для задачи классификации компетенций. Восполнение указанного пробела составляет содержание настоящей работы. Предлагаемые метод и система образуют замкнутый контур управления уровнем квалификации в организационной системе: диагностика состояния (оценка и классификация) → принятие управленческого решения (адресная образовательная траектория) → исполнение (обучение в LMS) → повторная диагностика и корректировка. Такая трактовка управления квалификацией как целенаправленного воздействия на организационную систему по обратной связи соответствует предмету специальности 2.3.4 «Управление в организационных системах».

2. Математическая формализация данных тестирования

Положим, что в программе повышения квалификации участвуют n специалистов, и каждый проходит тестирование по совокупности T тематических блоков. Результаты полностью описываются матрицей X ∈ ℝⁿˣᵀ, в которой строка i соответствует i-му испытуемому, столбец t — t-му блоку, элемент xit ∈ [0, 100] — баллу, набранному i-м испытуемым по t-му блоку. Шкала [0, 100] выбрана как естественная нормировка процента правильных ответов.

Профилем i-го испытуемого называется вектор-строка матрицы X: xi = (xi1, xi2, …, xiT).

Не все тематические блоки равнозначны для итоговой оценки компетентности. Неравнозначность тем формализуется через вектор положительных весов w = (w1, …, wT), wt > 0, удовлетворяющий условию нормировки:

t=1ᵀ wt = 1.                                                                               (1)

Агрегированным баллом i-го испытуемого называется взвешенная сумма его тематических оценок:

xi = ∑t=1ᵀ wt · xit,   i = 1, …, n.                                                             (2)

Вектор агрегированных баллов x = (x1, … , xn) является основным объектом анализа. Переход от многомерного профиля к скалярному баллу есть сжатие информации с потерями: множество профилей с одинаковым агрегированным баллом образует (T минус 1)-мерную гиперплоскость. Тем не менее это сжатие необходимо для применения одномерного аппарата и не приводит к утрате тематического анализа: тематические столбцы сохраняются и используются при построении тематического профиля листа дерева разбиений (раздел 8).

Применимость аппарата налагает ограничения на объём выборки. Для устойчивого восстановления плотности при K ожидаемых модах требуется не менее ~50 наблюдений на моду, то есть n ≳ 50K. При K = 5 типичных архетипах нижняя граница объёма составляет порядка 250 испытуемых. С учётом итеративного дробления дерева разбиений рабочий диапазон метода составляет n ∈ [200, 100 000].

2.1. Выборочные статистики и эффективный масштаб

Описательные статистики выполняют двойную функцию: служат базовой характеристикой распределения и задают рабочий диапазон масштабов при построении пространства масштабов. Несмещённой оценкой стандартного отклонения служит величина с поправкой Бесселя:

σ̂ = √( (1/(n−1)) ∑i=1ⁿ (xi − x̄)² ).                                                         (3)

Делитель (n−1) восстанавливает несмещённость оценки: интуитивно потеря единицы в знаменателе соответствует потере одной степени свободы, использованной для оценки x̄ из той же выборки. Выборочное стандартное отклонение, однако, не является робастной оценкой и чувствительно к выбросам. Альтернативой служит межквартильный размах IQR = Q₃ − Q₁, для которого в случае нормального распределения справедливо соотношение IQR ≈ 1,349σ. Объединение несмещённости σ̂ для «чистых» данных и устойчивости IQR достигается введением эффективного масштаба:

σe = min( σ̂,  IQR / 1,34 ).                                                           (4)

При отсутствии выбросов обе оценки близки, и операция минимума не вносит искажений. При появлении выбросов величина σ̂ возрастает за счёт квадратичного вклада далёких точек, тогда как IQR/1,34 остаётся стабильной, и σe принимает значение робастной IQR-оценки, защищая последующий аппарат от завышенной ширины полосы.

2.2. Чувствительность классической постановки KDE

В классической постановке непараметрического анализа единственное значение ширины полосы вычисляется по робастному правилу Сильвермана h* = 0,9 · σe · n−1/5. Указанная постановка обладает принципиальной чувствительностью к погрешности оценки масштаба: относительная ошибка ε в оценке σe переносится непосредственно на ширину полосы. Критический порог, при котором два соседних пика становятся неразличимыми, определяется критерием Эйзенбергера (§ 7) и составляет σ* = (μ2 − μ1) / 2. Относительная погрешность порядка +0,3…+0,5 уже достаточна для ложного слияния пиков в типичной конфигурации трёх равноотстоящих групп. Следовательно, в классической постановке выбор робастной оценки масштаба является принципиальным условием работоспособности метода. Это ограничение служит непосредственной мотивацией перехода к многошкальному анализу, в котором проблема устраняется на уровне самой постановки задачи.

3. Метод свободной гауссианы: пространство масштабов

Принципиальная методологическая идея состоит в отказе от выбора единственного значения масштабного параметра и переходе к рассмотрению всей функции на пространстве масштабов. В качестве ядра используется гауссово ядро — плотность стандартного нормального распределения. Его выбор обоснован бесконечной дифференцируемостью получаемой оценки: KDE-оценка как конечная сумма гладких функций также бесконечно дифференцируема, что является необходимым условием корректного применения дифференциального критерия обнаружения мод через анализ знаков первой и второй производных. Альтернативные ядра (прямоугольное, Епанечникова) этому требованию не удовлетворяют и порождают артефактные моды.

Введём двумерное пространство координат (x, σ), где x ∈ [0, 100] — координата на шкале баллов, σ ∈ (0, ∞) — координата масштабного параметра. Для каждой пары (x, σ) определим скалярное поле:

f̂(x; σ) = (1 / (n σ √(2π))) ∑i=1ⁿ exp( −(x − xi)² / (2σ²) ).                                      (5)

Двумерное скалярное поле f̂: [0, 100] × (0, ∞) → ℝ≥₀ называется пространством масштабов выборки с гауссовым ядром. Поле непрерывно дифференцируемо по обеим переменным любого порядка, неотрицательно и при каждом фиксированном σ удовлетворяет условию нормировки плотности. Рабочий диапазон построения дискретной сетки выбирается на основе эффективного масштаба: нижняя граница σmin ≈ 0,04 · σe обеспечивает достаточную детализацию, верхняя граница σmax ≈ 2,5 · σe гарантирует выход в асимптотический режим единственной моды.

3.1. Полугрупповое свойство и марковость эволюции

Ключевым свойством, отличающим гауссово ядро, является полугрупповое свойство: свёртка двух гауссовых ядер с параметрами σ1 и σ2 есть гауссово ядро с параметром √(σ₁² + σ₂²). Это означает, что эволюция оценки плотности при росте σ описывается уравнением теплопроводности (диффузии):

∂f̂ / ∂τ = ∂²f̂ / ∂x²,   τ = σ² / 2.                                                             (6)

Уравнение (6) задаёт марковскую эволюцию оценки: значение f̂(x; σ + dσ) полностью определяется значениями f̂(·; σ) в окрестности точки x без необходимости обращения к выборке заново. Значение поля на большем масштабе может быть получено из значения на меньшем свёрткой с гауссовым ядром промежуточного параметра, что обеспечивает независимость результата от пути в плоскости (x, σ).

3.2. Принцип монотонного убывания числа максимумов

Из уравнения (6) непосредственно вытекает фундаментальное свойство causality пространств масштабов (T. Lindeberg, 1994): при росте σ число локальных максимумов оценки f̂(·; σ) монотонно не возрастает. Этот результат для гауссова ядра в одномерном случае доказан строго и не имеет аналогов для кусочно-определённых ядер, для которых при росте масштаба возможно появление новых максимумов вследствие нелокальных артефактов сглаживания. Принцип causality обеспечивает корректность процедуры прослеживания хребтов: каждый хребет, родившийся при некотором σbirth, продолжает существовать, перемещаясь по координате, вплоть до момента σdeath, когда происходит его слияние с соседним хребтом; новые хребты не возникают.

4. Теоретико-морсовский аппарат и персистентность

При фиксированном σ оценка f̂(·; σ) является гладкой функцией одной переменной. Критической точкой называется точка, в которой первая производная обращается в ноль. Согласно теории Морса, классификация критических точек проводится по знаку второй производной — индексу Морса:

  • индекс Морса 0 (локальный максимум): вторая производная отрицательна — точка пика плотности, соответствует центру кластера;
  • индекс Морса 1 (локальный минимум): вторая производная положительна — точка минимума плотности, естественная граница («перевал») между двумя соседними кластерами;
  • вырожденная критическая точка: вторая производная равна нулю — момент слияния максимума и минимума в одну точку перегиба при изменении масштаба.

Гладкая функция называется морсовской при данном масштабе, если все её критические точки невырожденные. Для почти всех значений σ функция морсовская; в конечном числе критических значений σc происходит структурное преобразование — слияние пары соседних критических точек противоположного индекса с их одновременным исчезновением (лемма Морса о слиянии). Между двумя последовательными критическими значениями число и тип всех критических точек постоянны, что обеспечивает строгое обоснование процедуры прослеживания хребтов.

4.1. Хребты и скелет максимумов

Хребтом скелета максимумов называется непрерывное отображение γ: [σbirth, σdeath] → [0, 100] такое, что для каждого σ из этого интервала точка γ(σ) является локальным максимумом сечения f̂(·; σ). Скелетом максимумов называется объединение всех хребтов выборки. Скелет образует одномерный комплекс в плоскости (x, logσ), структурно описывающий иерархию кластеров во всех масштабах одновременно, и является центральным геометрическим объектом многошкального анализа.

4.2. Персистентность и теорема устойчивости

Персистентностью хребта γ называется величина ℓ(γ) = log(σdeath / σbirth), выраженная в декадах логарифма масштаба и интерпретируемая как «во сколько раз масштаб должен возрасти, чтобы хребет исчез». Хребет с ℓ(γ) ≥ 1 (масштаб возрастает более чем в 10 раз) считается устойчивым, с ℓ(γ) < 0,3 — короткоживущим, то есть артефактным.

Диаграммой персистентности скелета называется множество точек (logσbirth, logσdeath) в соответствующей плоскости; расстояние точки до диагонали равно персистентности хребта. Согласно теореме устойчивости (Cohen-Steiner, Edelsbrunner, Harer, 2007), диаграмма персистентности непрерывно зависит от исходной выборки в смысле метрики Громова–Хаусдорфа. Этот результат обеспечивает устойчивость анализа к малым возмущениям данных — выбросам, ошибкам оценивания, шумам выборки — и является ключевым теоретическим преимуществом метода перед классическими подходами, не имеющими строгого обоснования устойчивости найденной конфигурации.

5. Функция K(σ) и устойчивые «жирные» зоны

Функцией K(σ) называется число локальных максимумов сечения f̂(·; σ), удовлетворяющих порогу значимости. Из принципа монотонного убывания следует, что K(σ) — кусочно-постоянная невозрастающая функция, принимающая натуральные значения; её точки разрыва совпадают с критическими значениями теории Морса.

Жирной зоной функции K(σ) называется интервал [σα, σβ], на котором число кластеров постоянно и log(σβ / σα) > 0,5 (масштаб варьируется минимум втрое без изменения числа кластеров). Жирная зона представляет собой устойчивую структурную конфигурацию: число найденных групп сохраняется в широком диапазоне масштабов и не зависит от конкретного выбора σ внутри зоны. Напротив, короткоживущая зона с log(σβ / σα) < 0,3 соответствует переходному режиму при слиянии хребтов и не должна выбираться как рабочая.

Выбор рабочего масштаба σwork производится методистом на основе анализа функции K(σ) и педагогических требований конкретной задачи. Если задача требует трёх укрупнённых групп, выбирается жирная зона K = 3; если требуется более тонкое различение для формирования индивидуальных траекторий, выбирается зона K = 4 или K = 5. Принципиально, что решение принимает методист, а математический аппарат предоставляет ему полную количественную картину устойчивости каждой возможной конфигурации, чего существующие платформы не обеспечивают. Конфигурация, принадлежащая жирной зоне, по построению инвариантна к погрешности оценки масштаба в пределах ±50 % и более, что превосходит характерные погрешности σ̂ при объёмах выборки n ≥ 200, и тем самым радикально смягчает проблему чувствительности классической постановки KDE.

6. Предельные режимы и принцип соответствия

Пространство масштабов обладает двумя содержательно важными асимптотическими свойствами на границах диапазона масштаба.

При σ → 0+ оценка f̂(x; σ) приближается к сумме дельта-функций Дирака, расположенных в точках выборки; число локальных максимумов приближается к n. Это режим максимальной детализации без сглаживания.

При σ → ∞ оценка приближается к единственной гауссиане с центром в выборочном среднем x̄; координата её единственного локального максимума сходится к x̄. Этот результат имеет принципиальное методологическое значение: выборочное среднее — центральное понятие классической параметрической статистики — возникает в предлагаемом методе как естественный предельный случай при предельном размытии ядра.

Согласно методологическому принципу соответствия (в духе работ А. И. Орлова), любой предлагаемый метод анализа данных должен иметь классические методы своими частными случаями. Для предлагаемого пространства масштабов это требование выполнено: K = 1 при σ → ∞ ⇔ x̄. Тем самым многошкальный анализ обеспечивает методологически обязательную преемственность с классической статистикой, а не противопоставляется ей.

7. Критерий слияния пиков двухкомпонентной смеси

Рассмотрим равновесную двухкомпонентную гауссову смесь с центрами μ1 < μ2, общим разбросом σ и равными весами. Содержательный вопрос состоит в том, при каких значениях разброса относительно межцентрового расстояния Δ = μ2 − μ1 плотность смеси обладает двумя локальными максимумами (двумя различимыми группами), а при каких — единственным.

Точкой симметрии распределения служит xs = (μ1 + μ2) / 2. В силу симметрии первая производная плотности в этой точке тождественно равна нулю при любых σ. Содержательная структура определяется знаком второй производной. Используя тождество для второй производной нормальной плотности, в точке симметрии получаем:

p′′(xs) = (1/σ²)( (Δ/2)²/σ² − 1 ) φ(xs; μ1, σ).                                                          (7)

Знак второй производной определяется знаком сомножителя в скобках. Анализ трёх режимов даёт:

  1. при σ < Δ/2 точка симметрии является локальным минимумом (седлом между двумя пиками) — распределение бимодально, две группы различимы;
  2. при σ > Δ/2 точка симметрии становится локальным максимумом — две моды слились в одну, группы неразличимы;
  3. при σ = Δ/2 — вырожденная критическая точка (точка перегиба), соответствующая моменту слияния двух максимумов. Это и есть граница бимодальности.

Полученный результат — критическое значение разброса

σ* = (μ2 − μ1) / 2                                                                                (8)

— впервые установлен в работе И. Эйзенбергера (1964). Геометрически: две группы становятся неразличимыми, как только стандартное отклонение внутри каждой группы достигает полурасстояния между их центрами. Для K равноотстоящих компонент с шагом Δ аналогичный анализ даёт обобщённый критерий σ*K = Δ/2: каждая пара соседних компонент сливается при тех же условиях.

В многошкальной интерпретации классический результат (8) переосмысляется: σ* становится координатой события слияния двух соседних хребтов скелета максимумов в плоскости (x, σ), то есть в точности σdeath того хребта, который существует на меньших масштабах между двумя соседними максимумами. Таким образом, многошкальный анализ вкладывает в себя классический критерий Эйзенбергера как частный случай.

8. Иерархическое дерево разбиений и тематический профиль

Иерархическое дерево разбиений получено не как самостоятельная конструкция, а как алгоритмическое следствие применения метода свободной гауссианы на каждом узле. На узле v с подвыборкой Gv строится рестрикция пространства масштабов, и узел подлежит дальнейшему ветвлению по жирным зонам функции K(σ). Критерием остановки ветвления является достижение единственной жирной зоны K(σ) = 1 на выборке узла, что обеспечивает терминируемость алгоритма без введения внешних эвристических порогов.

Указанное переподчинение устраняет необходимость во внешних параметрах (минимальный размер группы, максимальная глубина, порог однородности), которые в традиционных подходах выступают как самостоятельные эвристики: все они оказываются следствиями анализа функции K(σ) на соответствующих выборках. Единственным сохраняемым инженерным порогом остаётся минимальный объём подвыборки nmin, при котором узел вообще допускает дробление.

Для каждого листа дерева вводится тематический профиль:

δv,t = x̄v,t − x̄t                                                                                  (9)

— отклонение средней оценки группы v по теме t от глобальной средней по теме. Сформулированы диагностические правила: тема классифицируется как «проблемная зона» при δv,t < −3 и как «сильная сторона» при δv,t > +3. Профиль служит непосредственным входом для формирования индивидуальной образовательной траектории группы в LMS. Тем самым тематическое различие архетипов, неразличимых на одномерной шкале агрегированного балла, восстанавливается на этапе многомерного тематического анализа группы, что согласуется с фундаментальным разделением задачи на этап обнаружения групп (одномерный) и этап тематического профилирования (многомерный).

9. Численный эксперимент и сравнительный анализ

Для демонстрации работоспособности аппарата выполнен расчёт пространства масштабов на выборке n = 12 000 испытуемых, генерируемой согласно модели пяти архетипов компетенций: A1 (слабая группа, μ = 35), A2 (средняя группа большого размера, μ = 58), A3 и A4 (близкие группы среднего уровня с разной тематической структурой, μ = 68 и 65), A5 (экспертная группа, μ = 85). Дискретизация: N = 80 узлов по σ, логарифмически распределённых на отрезке [0,5; 30], и m = 300 узлов по координате балла.

При малых масштабах различимы четыре устойчивых хребта: близкие архетипы A3 и A4 сливаются на одномерной шкале агрегированного балла в единый хребет в области x ≈ 67, их различие исследуется отдельно через тематический профиль. При росте масштаба хребты последовательно сливаются, и в финале остаётся единственный хребет, асимптотически сходящийся к выборочному среднему x̄ ≈ 61,8. Количественные характеристики устойчивости конфигураций приведены в таблице 2.

Таблица 2.

Характеристики зон функции K(σ) на выборке n = 12 000

K

Диапазон σ

log(σβ/σα)

Статус зоны

4

[0,50; 3,77]

0,88

жирная (основная конфигурация)

3

[3,97; 6,67]

0,23

пограничная (укрупнённая)

2

[7,03; 7,80]

0,05

короткоживущая (переходная)

1

≥ 8,21

асимптотическая (→ x̄)

 

Все четыре найденных хребта имеют значительную персистентность (ℓ ≥ 3,47), что классифицирует их как устойчивые. Отсутствие точек, близких к диагонали диаграммы персистентности, означает отсутствие шумовых артефактных хребтов и подтверждает адекватность работы алгоритма. Эмпирически подтверждено, что положение глобального максимума плотности при σ > 8 стабилизируется в окрестности выборочного среднего x̄ = 61,82, что является прямым подтверждением предельного перехода § 6.

9.1. Сравнение с современными методами кластеризации

Для количественной верификации проведено систематическое сравнение с пятью современными алгоритмами одномерной кластеризации: GMM с фиксированным K = 5, GMM с автовыбором K по байесовскому информационному критерию (BIC), HDBSCAN, MeanShift, KMeans. Полный эксперimentальный план — 5 датасетов × 30 запусков × 6 алгоритмов (900 прогонов). В качестве метрики качества использован скорректированный индекс Рэнда (Adjusted Rand Index, ARI). Усреднённые результаты приведены в таблице 3.

Таблица 3.

Сравнение качества кластеризации (ARI, среднее ± станд. откл., 900 прогонов)

Метод

ARI

Примечание

Свободная гауссиана (K = 4)

0,878 ± 0,005

малая дисперсия

GMM (BIC)

0,882 ± 0,011

лучшее среднее

MeanShift

0,879 ± 0,005

сопоставимо

GMM (K = 5)

0,876 ± 0,068

высокая дисперсия

HDBSCAN

0,863 ± 0,003

KMeans (K = 5)

0,800 ± 0,115

наименее устойчив

 

 

Для статистической оценки значимости различий применён парный критерий Вилкоксона с поправкой Холма на множественные сравнения. Получено: качество классификации метода свободной гауссианы статистически неотличимо от лучших современных методов (GMM-BIC, MeanShift) при существенно меньшей дисперсии результата по независимым запускам. При этом вычислительная стоимость метода на 1–3 порядка ниже всех конкурентов. Таким образом, разработанный метод принадлежит Парето-фронту «качество — время» в одномерной задаче кластеризации балльных данных, обеспечивая одновременно высокое качество, устойчивость и воспроизводимость результата.

9.2. Ограничения метода в высокоразмерных пространствах

Изложенный аппарат реализован для одномерного случая на агрегированном балле. Прямой перенос изотропного гауссова ядра в полное тематическое пространство ℝᵀ наталкивается на эффект проклятия размерности (R. Bellman, 1961): при фиксированном объёме выборки и росте размерности объём гипершара растёт экспоненциально, что приводит к падению плотности данных в любой окрестности и исчезновению локальных максимумов в шуме. Методологически обоснованным путём преодоления служит сохранение одномерного характера этапа обнаружения групп (на агрегированном балле) с переносом многомерного анализа на этап тематического профилирования внутри уже выделенной группы. Анизотропное обобщение ядра с ковариационной матрицей рассматривается как самостоятельное направление развития метода.

10. Программная реализация и сервисная архитектура

Структура вычислений предоставляет идеальную основу для массово-параллельной реализации: вычисление каждого элемента матрицы поля F[i, j] = f̂(xj; σi) полностью независимо от вычисления остальных элементов и сводится к редукции n гауссовых вкладов. Построение пространства масштабов реализовано единственной тензорной операцией на современной массово-параллельной архитектуре (PyTorch / CUDA). Эталонная CPU-реализация на NumPy с батчированием по испытуемым показала измеренное время полного построения поля на стандартной задаче (n = 12 000, N = 80, m = 300) — 1,54 ± 0,01 с (5 независимых прогонов), и служит воспроизводимой опорной базой. Линейная зависимость времени от объёма выборки подтверждена эмпирически.

Программный комплекс построен по сервисно-ориентированной архитектуре: система декомпозирована на восемь слабосвязанных сервисов, граница и контракт каждого из которых совпадают с математическим определением соответствующего этапа конвейера. Реализованы сервис вычислительного ядра (построение поля f̂), сервис структурного анализа (детекция критических точек, трекинг хребтов, построение функции K(σ), выделение устойчивых зон), сервис иерархического дерева разбиений, сервис тематического профилирования листьев и сервис поддержки принятия управленческих решений, преобразующий листья дерева в назначение слушателей в группы и индивидуальные траектории, интегрируемые с внешней LMS.

Экспериментально показано, что разработанная архитектура обеспечивает повышение качества (воспроизводимая классификация, ARI = 0,878 ± 0,005), оперативности (отклик менее секунды в интерактивном режиме, обработка федеральных объёмов за счёт массово-параллельного ядра и горизонтально масштабируемой сервисной архитектуры) и эффективности (ресурсоэкономичность адресных траекторий и автомасштабируемого вычислительного слоя) управленческих решений при управлении профессиональной подготовкой.

ЗАКЛЮЧЕНИЕ

В работе разработан, теоретически обоснован и экспериментально верифицирован метод автоматизированной классификации компетенций специалистов, основанный на многошкальном анализе плотности тестовых баллов. Основные результаты сводятся к следующему.

4) Сформулирован метод свободной гауссианы — представление ядерной оценки плотности как двумерного скалярного поля в пространстве масштабов с масштабным параметром в роли самостоятельной независимой координаты. Метод отказывается от выбора единственного значения ширины полосы и анализирует структуру выборки одновременно во всех масштабах через топологию поверхности.

5) Введён теоретико-морсовский аппарат анализа критических точек; доказан принцип causality (монотонное убывание числа максимумов при росте масштаба); установлена устойчивость диаграммы персистентности к малым возмущениям выборки в силу теоремы Cohen-Steiner–Edelsbrunner–Harer.

6) Введено понятие жирной зоны функции K(σ) как диапазона масштабов с устойчивым числом кластеров, предоставляющее методисту прозрачный инструмент принятия решения о числе групп без обращения к информационным критериям с неинтерпретируемыми значениями.

7) Установлены предельные режимы и преемственность с классической статистикой: выборочное среднее возникает как естественный частный случай при предельном размытии ядра, что соответствует принципу соответствия А. И. Орлова.

8) Дан полный аналитический вывод критерия слияния пиков двухкомпонентной смеси σ* = (μ₂ − μ₁)/2, переосмысленного в многошкальной интерпретации как координата слияния соседних хребтов.

9) Иерархическое дерево разбиений получено как алгоритмическое следствие применения метода на каждом узле с критерием остановки K(σ) = 1, что устраняет внешние эвристические пороги; введён тематический профиль листа для формирования индивидуальных траекторий.

10) Проведено систематическое сравнение с пятью современными методами на 900 прогонах с применением критерия Вилкоксона и поправки Холма: качество классификации статистически неотличимо от лучших методов при существенно меньшей дисперсии и на 1–3 порядка меньшей вычислительной стоимости.

Полученные результаты соответствуют паспорту научной специальности 2.3.4 «Управление в организационных системах»: метод интеллектуальной оценки уровня квалификации соответствует разработке методов и алгоритмов интеллектуальной поддержки принятия управленческих решений в организационных системах, а практико-ориентированная технология управления уровнем квалификации, реализованная в виде системы поддержки принятия решений на основе сервисно-ориентированной архитектуры с интеграцией LMS, — разработке практико-ориентированных технологий управления организационными системами. Предложенный метод инвариантен к предметной области и применим к любым числовым оценкам компетенций специалистов в организационных системах.

 

Список литературы:
1. Силвермен Б. У. Анализ данных методом ядерного сглаживания / Б. У. Силвермен ; пер. с англ. — Москва : Финансы и статистика, 1989. — 174 с.
2. Silverman B. W. Density Estimation for Statistics and Data Analysis / B. W. Silverman. — London : Chapman and Hall, 1986. — 175 p.
3. Орлов А. И. Прикладная статистика : учебник / А. И. Орлов. — Москва : Экзамен, 2006. — 671 с.
4. Кобзарь А. И. Прикладная математическая статистика. Для инженеров и научных работников / А. И. Кобзарь. — Москва : ФИЗМАТЛИТ, 2006. — 816 с.
5. Rosenblatt M. Remarks on Some Nonparametric Estimates of a Density Function / M. Rosenblatt // The Annals of Mathematical Statistics. — 1956. — Vol. 27, № 3. — P. 832–837.
6. Parzen E. On Estimation of a Probability Density Function and Mode / E. Parzen // The Annals of Mathematical Statistics. — 1962. — Vol. 33, № 3. — P. 1065–1076.
7. Eisenberger I. Genesis of Bimodal Distributions / I. Eisenberger // Technometrics. — 1964. — Vol. 6, № 4. — P. 357–363.
8. Sheather S. J. A Reliable Data-Based Bandwidth Selection Method for Kernel Density Estimation / S. J. Sheather, M. C. Jones // Journal of the Royal Statistical Society: Series B. — 1991. — Vol. 53, № 3. — P. 683–690.
9. Jones M. C. A Brief Survey of Bandwidth Selection for Density Estimation / M. C. Jones, J. S. Marron, S. J. Sheather // Journal of the American Statistical Association. — 1996. — Vol. 91, № 433. — P. 401–407.
10. Fukunaga K. The Estimation of the Gradient of a Density Function / K. Fukunaga, L. D. Hostetler // IEEE Transactions on Information Theory. — 1975. — Vol. 21, № 1. — P. 32–40.
11. Dempster A. P. Maximum Likelihood from Incomplete Data via the EM Algorithm / A. P. Dempster, N. M. Laird, D. B. Rubin // Journal of the Royal Statistical Society: Series B. — 1977. — Vol. 39, № 1. — P. 1–22.
12. Milnor J. Morse Theory / J. Milnor. — Princeton : Princeton University Press, 1963. — 153 p.
13. Edelsbrunner H. Computational Topology: An Introduction / H. Edelsbrunner, J. Harer. — Providence : American Mathematical Society, 2010. — 241 p.
14. Comaniciu D. Mean Shift: A Robust Approach Toward Feature Space Analysis / D. Comaniciu, P. Meer // IEEE Transactions on Pattern Analysis and Machine Intelligence. — 2002. — Vol. 24, № 5. — P. 603–619.
15. Botev Z. I. Kernel Density Estimation via Diffusion / Z. I. Botev, J. F. Grotowski, D. P. Kroese // The Annals of Statistics. — 2010. — Vol. 38, № 5. — P. 2916–2957.
16. Hartigan J. A. The Dip Test of Unimodality / J. A. Hartigan, P. M. Hartigan // The Annals of Statistics. — 1985. — Vol. 13, № 1. — P. 70–84.
17. MacQueen J. Some Methods for Classification and Analysis of Multivariate Observations / J. MacQueen // Proceedings of the Fifth Berkeley Symposium on Mathematical Statistics and Probability. — Berkeley, 1967. — P. 281–297.
18. McInnes L. Accelerated Hierarchical Density Based Clustering / L. McInnes, J. Healy // 2017 IEEE International Conference on Data Mining Workshops (ICDMW). — IEEE, 2017. — P. 33–42.
19. Ester M. A Density-Based Algorithm for Discovering Clusters in Large Spatial Databases with Noise / M. Ester, H.-P. Kriegel, J. Sander, X. Xu // Proceedings of KDD-96. — AAAI Press, 1996. — P. 226–231.
20. Wilcoxon F. Individual Comparisons by Ranking Methods / F. Wilcoxon // Biometrics Bulletin. — 1945. — Vol. 1, № 6. — P. 80–83.
21. Holm S. A Simple Sequentially Rejective Multiple Test Procedure / S. Holm // Scandinavian Journal of Statistics. — 1979. — Vol. 6, № 2. — P. 65–70.
22. Demšar J. Statistical Comparisons of Classifiers over Multiple Data Sets / J. Demšar // Journal of Machine Learning Research. — 2006. — Vol. 7. — P. 1–30.
23. Тарасов И. Е. Математический метод определения параметров функциональных зависимостей с использованием многошкальных функций распределения вероятностей / И. Е. Тарасов // Mathematics. — 2021. — Vol. 9, № 10. — Article 1085.
24. Bishop C. M. Pattern Recognition and Machine Learning / C. M. Bishop. — New York : Springer, 2006. — 738 p.
25. Hastie T. The Elements of Statistical Learning / T. Hastie, R. Tibshirani, J. Friedman. — 2nd ed. — New York : Springer, 2009. — 745 p.
26. Miller G. E. The Assessment of Clinical Skills/Competence/Performance / G. E. Miller // Academic Medicine. — 1990. — Vol. 65, № 9 (Suppl.). — P. S63–S67.
27. Reich J. The MOOC Pivot / J. Reich, J. A. Ruipérez-Valiente // Science. — 2019. — Vol. 363, № 6423. — P. 130–131.
28. Челышкова М. Б. Теория и практика конструирования педагогических тестов : учебное пособие / М. Б. Челышкова. — Москва : Логос, 2002. — 432 с.
29. Звонников В. И. Современные средства оценивания результатов обучения : учебное пособие / В. И. Звонников, М. Б. Челышкова. — 4-е изд., стер. — Москва : Академия, 2009. — 224 с.
30. Harris C. R. Array Programming with NumPy / C. R. Harris [et al.] // Nature. — 2020. — Vol. 585, № 7825. — P. 357–362.
31. Pedregosa F. Scikit-learn: Machine Learning in Python / F. Pedregosa [et al.] // Journal of Machine Learning Research. — 2011. — Vol. 12. — P. 2825–2830.
32. ГОСТ Р 7.0.5–2008. Библиографическая ссылка. Общие требования и правила составления. — Москва : Стандартинформ, 2008. — 19 с.