Состоятельная оценка

Состоя́тельная оце́нка в математической статистике — это точечная оценка, сходящаяся по вероятности к оцениваемому параметру.

Определения

• Пусть $X_1,\ldots, X_n,\ldots$ — выборка из распределения, зависящего от параметра $\theta \in \Theta$. Тогда оценка $\hat{\theta} \equiv \hat{\theta}(X_1,\ldots,X_n)$ называется состоятельной, если

$\hat{\theta} \to \theta,\quad \forall \theta\in \Theta$ по вероятности при $n \to \infty$.

В противном случае оценка называется несостоятельной.

• Оценка $\hat{\theta}$ называется си́льно состоя́тельной, если

$\hat{\theta} \to \theta,\quad \forall \theta\in \Theta$ почти наверное при $n \to \infty$.

Свойства

• Из свойств сходимостей случайных величин имеем, что сильно состоятельная оценка всегда состоятельна. Обратное, вообще говоря, неверно.
• Если оценка сходится к истинному значению параметра "в среднем квадратичном" или если оценка асимптотически несмещенная и ее дисперсия стремится к нулю, то такая оценка будет состоятельной.
• Поскольку дисперсия состоятельных оценок стремится к нулю, часто со скоростью порядка 1/n, то состоятельные оценки сравниваются между собой асимптотической дисперсией случайной величины $\sqrt {n} (\hat{\theta}-\theta)$ (асимптотическое математическое ожидание этой величины равно нулю).

Связанные понятия

• Оценка называется суперсостоятельной, если дисперсия случайной величины $n (\hat{\theta}-\theta)$ стремится к конечной величине. То есть скорость сходимости оценки к истинному значению на порядок выше чем у состоятельной оценки. Суперсостоятельными, например, оказываются оценки параметров регрессии коинтегрированных временных рядов.

Примеры

• Выборочное среднее $\bar{X} = \frac{1}{n} \sum\limits_{i=1}^n X_i$ является сильно состоятельной оценкой математического ожидания $X_i$.

• Периодограмма является несмещённой, но несостоятельной оценкой спектральной плотности.

См. также

• Несмещенная оценка
• Эффективная оценка