Бутстреппинг (статистика)

У этого термина существуют и другие значения, см. Бутстрэппинг (значения).

Статистический бутстрэппинг (англ. Bootstrapping) — компьютерный метод определения статистик вероятностных распределений. Основан на многократном генерировании выборок методом Монте-Карло на базе данных обучающей выборки.^[1]

Позволяет просто и быстро оценивать самые разные статистики (доверительные интервалы, дисперсию, корреляцию и так далее) для сложных моделей.

Принцип статистического бутстрэппинга

Бутстреппинг основан на том, что зачастую наиболее достоверную информацию о форме распределения случайной величины несёт имеющаяся у нас выборка значений этой случайной величины. Например, выборка наблюдений с двумя пиками в гистограмме не будет хорошо аппроксимироваться кривой нормального распределения, которая имеет только одну вершину. И вместо того, чтобы постулировать неадекватную форму распределения случайной величины (например, нормальную), мы используем форму распределения, которую даёт нам выборка.

В качестве примера предположим, что мы исследуем высоту людей во всем мире. Мы не можем измерить всех людей, а вместо этого выбираем лишь малую часть. Пусть в нашей выборке N людей. Мы можем посчитать среднее значение. Но для того, чтобы рассуждать о доверительном интервале роста населения, нам нужно некоторое представление о вариабельности среднего.

В простейшем варианте бутстреппинга мы, используя наши исходные данные о росте N различных людей, составляем новую выборку, также размера N. Это новая выборка взята из исходной случайным образом так, что одно значение может быть выбрано несколько раз (то есть, строя новую выборку, мы каждый раз случайным образом выбираем из N имеющихся значений). У такой выборки будет другое среднее. Сделав такую выборку много раз (возможно, 1000 или 10000 раз), каждый раз вычисляя среднее, мы получаем гистограмму распределения, которая можем ответить на вопросы о доверительном интервале.

Основной принцип бутстрепинга: имитировать многократное получение выборки из генеральной совокупности методом Монте-Карло, используя данные из имеющейся у нас выборки.

См. также

• Перекрёстная_проверка
• Ресемплинг_(статистика)

Примечания

1. ↑ http://lib.stat.cmu.edu/S/bootstrap.funs

Публикации

• [1]
• Bootstrap tutorial from ICASSP 99: Tutorial from a signal processing perspective
• Bootstrap sampling tutorial using MS Excel
• Animations for bootstrapping i.i.d data by Yihui Xie using the R
• bootstrapping tutorial
• package animation