Факторный анализ — метод сжатия данных¶

Факторный анализ — это статистический метод, который позволяет выявить скрытые (латентные) переменные — факторы, объясняющие связи между наблюдаемыми признаками. Простыми словами: если есть множество взаимосвязанных показателей, факторный анализ ищет за ними небольшое число общих причин. Например, за показателями «рост», «вес», «обхват груди» и «длина стопы» стоит один общий фактор — «телосложение».

¶Общая характеристика

Факторный анализ относится к классу методов снижения размерности (multivariate statistics). Его базовая идея: наблюдаемые переменные $X_1, X_2, \dots, X_p$ линейно зависят от меньшего числа невидимых факторов $F_1, F_2, \dots, F_m$ ($m < p$) плюс собственных ошибок:

$$X_i = a_{i1}F_1 + a_{i2}F_2 + \dots + a_{im}F_m + \varepsilon_i$$

Коэффициенты $a_{ij}$ называются факторными нагрузками — они показывают, насколько сильно каждый фактор влияет на конкретный признак. Сами факторы недоступны для прямого измерения, но их можно оценить по данным — это факторные оценки (или факторные счета) каждой наблюдаемой единицы.

¶Основные разновидности

¶История

Метод зародился в начале XX века в трудах Чарлза Спирмена (1904), который предложил двухфакторную модель интеллекта: все умственные тесты коррелируют между собой потому, что измеряют общий фактор $g$. В 1930-е годы Гарри Харман и другие статистики формализовали метод главных компонент и метод максимального правдоподобия для оценки факторных нагрузок. В СССР факторный анализ активно применялся в психологии (Б.Г. Ананьев, В.А. Феоктистов), экономике и генетике (Ю.М. Овчинников и др.).

¶Этапы проведения

1. Сбор матрицы данных — $n$ наблюдений, $p$ признаков.
2. Проверка пригодности — анализ корреляционной матрицы; используется критерий Кайзера–Мейера–Олкина (КМО ≥ 0,5 — приемлемо) и тест сферичности Бартлетта.
3. Выбор числа факторов — по критерию собственных значений (λ > 1), по «парковке камней» (scree plot) или по накопленной дисперсии (обычно ≥ 70 %).
4. Извлечение факторов — метод главных компонент, минимальных квадратов или максимального правдоподобия.
5. Вращение — обёрточное (varimax) или косое (promax), чтобы каждая переменная «привязалась» к одному фактору, а не распределялась между всеми.
6. Интерпретация — факторам дают содержательные названия по признакам с высокими нагрузками.

¶Области применения

• Психология и педагогика — построение тестов, выявление структуры личности (модель «Большой пятёрки» получена факторным анализом).
• Эконометрия — сжатие макроэкономических индикаторов в несколько сводных факторов.
• Медицина и биология — анализ генетических карт, классификация заболеваний по симптомам.
• Маркетинг — сегментация потребителей по факторам предпочтений.
• Обработка сигналов и изображений — сжатие данных, разделение источников сигнала.
• Машинное обучение — предобработка перед кластеризацией и классификацией, борьба с мультиколлинеарностью.

¶Достоинства и ограничения

Плюсы:

• Сильное сокращение числа переменных без потери основной информации.
• Выявление скрытых структур, неочевидных при анализе отдельных признаков.
• Интерпретируемость: факторы часто получают содержательные названия.

Минусы:

• Результаты зависят от выбора метода извлечения и вращения.
• Факторы — конструкты, их содержательная интерпретация не всегда однозначна.
• Требуется достаточно большой объём выборки (правило «10 наблюдений на переменную» или не менее 100–200 случаев).
• Метод линейный: нелинейные зависимости улавливается плохо.

¶Пример

Допустим, измерены четыре показателя успеваемости школьников: оценки по математике, физике, русскому языку и литературе. Корреляции показывают, что математика и физика сильно связаны между собой, а русский и литература — тоже, но между этими парами связь слабее. Факторный анализ выделит два фактора: «точные науки» и «гуманитарные науки». Вместо четырёх переменных исследователь работает с двумя, которые объясняют большую часть вариации.

¶История

Метод зародился в начале XX века в трудах Чарлза Спирмена (1904), который предложил двухфакторную модель интеллекта: все умственные тесты коррелируют между собой потому, что измеряют общий фактор $g$. В 1930-е годы Гарри Харман и другие статистики формализовали метод главных компонент и метод максимального правдоподобия для оценки факторных нагрузок. В СССР факторный анализ активно применялся в психологии (Б.Г. Ананьев, В.А. Феоктистов), экономике и генетике (Ю.М. Овчинников и др.).

¶Источники

• Харман Г. Современный факторный анализ. — М.: Статистика, 1972.
• Татаринов В.А. Методы факторного анализа в психологии. — М.: Флинта, 2005.
• Джоллинт Д. Статистика. — М.: Вильямс, 2007.
• Ананьев Б.Г. О проблемах современной психологии. — Л.: Наука, 1969.