Автокорреляция в статистике и анализе сигналов¶

Автокорреляция — это мера сходства между значениями стохастического процесса, отнесёнными к разным моментам времени, то есть корреляция сигнала с его собственной временно́й задержкой. В отличие от взаимной корреляции двух различных рядов, автокорреляция сравнивает ряд сам с собой, смещённым на некоторый лаг (временно́е запаздывание). Широко применяется в статистике, обработке сигналов, эконометрике, гидрологии и ряде других областей.

¶Определение и формулировка

Пусть $X_t$ — случайный процесс (или временной ряд). Автокорреляционная функция (АКФ) при лаге $k$ определяется как нормированное значение автоковариации:

$$\rho_k = \frac{\operatorname{Cov}(X_t, X_{t+k})}{\operatorname{Var}(X_t)} = \frac{\gamma_k}{\gamma_0},$$

где $\gamma_k = \operatorname{Cov}(X_t, X_{t+k})$ — автоковариация при лаге $k$, а $\gamma_0$ — дисперсия процесса. Коэффициент автокорреляции принимает значения от −1 до +1: значение +1 означает линейную зависимость без знакоперемены, −1 — линейную зависимость со знакопеременой, 0 — отсутствие линейной связи.

Для конечной выборки $x_1, x_2, \dots, x_n$ оценка АКФ обычно вычисляется по формуле:

$$\hat{\rho}_k = \frac{\sum_{t=1}^{n-k}(x_t - \bar{x})(x_{t+k} - \bar{x})}{\sum_{t=1}^{n}(x_t - \bar{x})^2}.$$

Часто используется связанное понятие автоковариационной функции (не нормированной на дисперсию), а также частичная автокорреляционная функция (ЧАКФ), которая измеряет корреляцию при лаге $k$, очищенную от влияния промежуточных лагов.

¶Свойства

• Значение при нулевом лаге всегда равно единице: $\rho_0 = 1$.
• Функция чётная относительно нуля: $\rho_{-k} = \rho_k$.
• Для стационарного процесса АКФ убывает по модулю с ростом лага, но не обязательно монотонно.
• Сумма квадратов всех коэффициентов автокорреляции для белого шума равна нулю (кроме нулевого лага).
• Для процесса случайного блуждания автокорреляция между далёкими наблюдениями близка к единице, что отражает нестационарность.

¶Оценка значимости

При проверке гипотезы о независимости наблюдений (белый шум) стандартная ошибка оценки $\hat{\rho}_k$ приблизительно равна $1/\sqrt{n}$. Поэтому для 95-процентного доверительного интервала используется граница $\pm 1{,}96/\sqrt{n}$: значения АКФ, выходящие за эти пределы, считаются статистически значимыми. Для более сложных моделей (например, ARMA) используются критерии Льюнга — Бокса, Портера — Дженкинса и другие.

¶Методы оценки

Прямое вычисление по определению требует $O(n^2)$ операций. На практике автокорреляция вычисляется значительно быстрее с помощью алгоритма быстрого преобразования Фурье (БПФ): ряд дополняется нулями до длины, равной степени двойки, выполняется преобразование Фурье, вычисляется спектр мощности, после чего обратное преобразование даёт автоковариации. Сложность такого подхода — $O(n \log n)$.

¶Применение

¶Анализ временных рядов

Автокорреляция — основной инструмент идентификации моделей семейства ARIMA (авторегрессионные модели с интегрированием и скользящим средним). По виду АКФ и ЧАКФ определяют порядок авторегрессии $p$ и порядок скользящего среднего $q$. Например, обрыв АКФ после лага $q$ при затухании ЧАКФ указывает на модель ARMA$(p,q)$.

¶Обработка сигналов

В теории сигналов автокорреляционная функция используется для обнаружения периодических компонент на фоне шума, определения основного периода процесса, построения корреляционных приёмников. Для оценки спектра мощности сигнала применяется теорема Винера — Хинчина, связывающая АКФ и спектральную плотность через преобразование Фурье.

¶Гидрология и метеорология

Автокорреляция осадков, стока рек или температурных аномалий позволяет выявлять сезонность, цикличность и долгопериодические колебания климатической системы.

¶Эконометрика

При анализе экономических рядов автокорреляция остатков регрессии служит индикатором пропущенных переменных, неправильной спецификации модели или нестационарности данных. Присутствие сильной автокорреляции приводит к несостоятельности стандартных оценок стандартных ошибок.

¶Связанные понятия

• Частичная автокорреляция — корреляция при лаге $k$, очищенная от влияния лагов $1, \dots, k-1$.
• Кросс-корреляция — корреляция двух различных рядов при разных смещениях.
• Стационарность — свойство, при котором статистические характеристики процесса не зависят от выбора момента времени; автокорреляция определена корректно именно для стационарных процессов.
• Коррелограмма — графическое представление АКФ в виде столбчатой диаграммы значений $\hat{\rho}_k$ для различных лагов.

¶Пример

Для ряда, описывающего ежемесячные температурные аномалии, автокорреляция при лаге 12 месяцев будет заметно выше, чем при соседних лагах, что отражает годовую цикличность. Если при лагах, кратных 12, АКФ убывает медленно, это указывает на наличие выраженного сезонного компонента, который необходимо учесть при построении модели SARIMA.

¶Источники

• Бокс Д., Дженкинс Г. «Анализ временных рядов. Прогноз и управление»
• Ханкельс Р., Кутнер М. «Статистические исследования в экономических и социальных науках»
• Протасов В. Ф. «Ряды Фурье»
• Броквелл П., Дэвис Р. «Time Series: Theory and Methods»
• Шумейкер С. «Статистический анализ временных рядов»