Метод инструментальных переменных

Метод инструментальных переменных (ИП, IV - Instrumental Variables) - метод оценки параметров регрессионных моделей, основанный на использовании дополнительных, не участвующих в модели, так называемых инструментальных переменных. Метод применяется в случае, когда факторы регрессионной модели не удовлетворяют условию экзогенности, то есть являются зависимыми со случайными ошибками. В этом случае, оценки метода наименьших квадратов являются смещенными и несостоятельными.

По видимому, метод инструментальных переменных был впервые сформулирован Райтом (Wright) в 1928 году как метод оценки кривых спроса и предложения. Сам термин "инструментальные переменные" был впервые использован в статье 1941 года Риерсолом (Riersol) при обсуждении ошибок в переменных. Далее метод получил развитие в работах Дарбина (1954), Саргана (1958) и др. В контексте систем одновременных уравнений метод развивался параллельно под названием "двухшаговый МНК".

Сущность метода

Пусть имеется линейная регрессионная модель

$y=X b+\varepsilon$

Стандартная МНК-оценка

$\hat{b}_{OLS}=(X^TX)^{-1}X^Ty=b+V^{-1}_xC_{x\varepsilon}$

где $V_x=\frac{1}{n}X^TX, C_{xy}=\frac {1}{n}X^T\varepsilon$.

Данная оценка очевидно является состоятельной, если $V_x$ сходится по вероятности к некоторой невырожденной матрице,а $C_{x\varepsilon}$ сходится по вероятности к нулевому вектору. Второе условие выполнено, если факторы и случайные ошибки некоррелированы.

Если факторы и случайные ошибки коррелированы, то второе условие не выполнено и следовательно, МНК-оценки не являются состоятельными. То есть даже при очень большом количестве наблюдений, оценки могут не приближаться к истинным значениям.

Пусть имеются факторы Z, некоррелированые со случайными ошибками, количество которых равно количеству исходных факторов. Эти переменные называются инструментальными переменными. Среди них могут быть как "чисто" инструментальные переменные (отсутствующие в модели), так и переменные модели (последние сами предполагаются экзогенными). Тогда оценкой метода инструментальных переменных называется оценка следующего вида:

$\hat{b}_{IV}=(Z^TX)^{-1}Z^Ty=b+V^{-1}_{xz}C_{z\varepsilon}$

Если матрица $V_{zx}$ сходится по вероятности к невырожденной, а $C_{z\varepsilon}$ - к нулевому вектору, то оценка метода ИП состоятельна.

Случай простейшей регрессии

Для модели $y_t=a+b x_t+\varepsilon_t$ ИП-оценка коэффициента b равна

$\hat {b}=\frac {Cov(z,y)}{Cov(z,x)}$

Замечание

Несмотря на состоятельность, в общем случае ИП-оценки смещены и неэффективны. ИП-оценки тем лучше, чем сильнее инструментальные переменные коррелированы с исходными факторами модели (при сохранении некоррелированности со случайными ошибками). Выбор инструментальных переменных является отдельной достаточно сложной проблемой. Строгих рекомендаций по выбору инструментов нет.

Можно показать, что оценку методом ИП можно свести к двухшаговой процедуре: сначала обычным МНК необходимо оценить зависимость исходных факторов от инструментов и использовать полученные оценки факторов вместо самих факторов для оценки параметров исходной модели. Это так называемый двухшаговый МНК.

Обобщенный метод инструментальных переменных

В качестве инструментальных переменных могут быть выбраны МНК-оценки регрессии факторов на некоторые другие переменные Z, количество которых не меньше количества исходных факторов. То есть на первом этапе необходимо оценить регрессию $X=Z\beta+u_t$ обычным МНК:

$\hat{\beta}_{OLS}=(Z^TZ)^{-1}Z^TX$.

Тогда матрица инструментальных переменных в данном случае будет равна

$\hat{X}=Z\hat{\beta}=Z(Z^TZ)^{-1}Z^TX=P_Z X$

На втором этапе применяем метод инструментальных переменных с полученными инструментами $\hat{X}$:

$\hat {b}_{IV}=(\hat{X}^TX)^{-1}\hat{X}^Ty=(X^TP_ZX)^{-1}X^TP_Zy$

Если ковариационная матрица случайных ошибок модели пропорциональна единичной $\sigma^2 I$, то ковариационная матрица этих оценок равна $V_{\hat b_{IV}}=\sigma^2 (X^TP_ZX)^{-1}$

Если количество инструментов z совпадает с количеством исходных переменных (случай точной идентификации), то матрицы $Z^TX,~ X^TZ$ являются квадратными. Следовательно

$\hat{b}_{IV} = (X^TZ(Z^TZ)^{-1}Z^TX)^{-1}X^TZ(Z^TZ)^{-1}Z^Ty= (Z^TX)^{-1}(Z^TZ)(X^TZ)^{-1}(X^TZ)(Z^TZ)^{-1}(Z^Ty)=(Z^TX)^{-1}Z^Ty$

То есть получаем классическую формулу метода инструментальных переменных. Таким образом, несмотря на то, что этот метод выводится как частный случай, тем не менее его можно считать обобщением классического метода ИП. Это так называемый обобщенный метод инструментальных переменных (GIVE - Generalized Instrumental Variables Estimator).

Связь с двухшаговым МНК

Основная статья: Двухшаговый метод наименьших квадратов

Можно показать, что если на втором этапе применить не метод инструментальных переменных, а обычный МНК, то получим точно такую же формулу, так как

$\hat{X}^T\hat{X}=X^TP^T_ZP_ZX=X^TP_ZX=\hat{X}^TX$

Следовательно

$\hat{b}_{TSLS}=(\hat{X}^T\hat{X})^{-1}\hat{X}^Ty=(\hat{X}^TX)^{-1}\hat{X}^Ty=(X^TP_ZX)^{-1}X^TP_Zy=\hat{b}_{GIVE}$

Таким образом, обобщенный метод инструментальных переменных эквивалентен двухшаговому методу наименьших квадратов (ДМНК, TSLS, 2SLS - Two-Stage Least Squares).

См. также

• Двухшаговый метод наименьших квадратов
• Метод наименьших квадратов
• Метод моментов
• Обобщенный метод моментов
• Метод максимального правдоподобия
• Экзогенность
• Системы одновременных уравнений

Литература

• Магнус Я.Р., Катышев П.К., Пересецкий А.А. Эконометрика. Начальный курс. — М.: Дело, 2007. — 504 с. — ISBN 978-5-7749-0473-0