Ковариационная матрица и ее выборочная оценка

Вариации оценок параметров будут в конечном счете определять точность уравнения множественной регрессии. Для их измерения в многомерном регрессионном анализе рассматривают гак называемую ковариационную матрицу К, являющуюся матричным аналогом дисперсии одной переменной:

где элементы KtJковариации (или корреляционные моменты) оценок параметров (3, и (3; (i,j = 0, 1,..., р). Ковариация двух переменных определяется как математическое ожидание произведения отклонений этих переменных от их математических ожиданий (см. параграф 5.6). Поэтому

Ковариация характеризует как степень рассеяния значений двух переменных относительно их математических ожиданий, так и взаимосвязь этих переменных.

В силу того что оценки Ь}, полученные методом наименьших квадратов, являются несмещенными оценками параметров (3;, т.е. ) = 3/. выражение (13.33) примет вид

Рассматривая ковариационную матрицу К, легко заметить, что на ее главной диагонали находятся дисперсии оценок параметров регрессии, ибо

В сокращенном виде ковариационная матрица К имеет вид

(в этом легко убедиться, перемножив векторы (б-Р) и (б-Р)').

Учитывая (13.32), преобразуем это выражение: ибо элементы матрицы X — неслучайные величины.

Матрица М(ее') представляет собой ковариационную матрицу вектора возмущений s:

в которой все элементы, не лежащие на главной диагонали, равны нулю в силу предпосылки 4 о некоррелированности возмущений е, и между собой (см. (13.5)), а все элементы, лежащие на главной диагонали, в силу предпосылок 2 и 3 регрессионного анализа (см. (13.3) и (13.4)) равны одной и той же дисперсии а2:

Поэтому матрица М (ее') = а2Е, где Е — единичная матрица n-го порядка. Следовательно, в силу соотношения (13.35) ковариационная матрица вектора b оценок параметров:

или

Итак, с помощью обратной матрицы (Х'Х) 1 определяется не только сам вектор b оценок параметров (13.28), но и дисперсии и ковариации его компонент.

Входящая в выражение (13.36) дисперсия возмущений неизвестна. Заменив ее выборочной остаточной дисперсией

по формуле (13.36) получаем выборочную оценку ковариационной матрицы К. (В знаменателе выражения (13.37) стоит п - (р + 1), а не п - 2, как это было выше в формуле (13.6). Это связано с тем, что теперь р + 1 степеней свободы (а не две) теряются при определении неизвестных параметров, число которых вместе со свободным членом Ь0 равно р + 1).

 
Посмотреть оригинал
< Пред   СОДЕРЖАНИЕ   ОРИГИНАЛ     След >