Оценивание параметров методом наименьших квадратов

Для того чтобы МНК приводил к получению корректных результатов, необходимо выполнение ряда предположений о случайной составляющей уравнения (3.1) — ошибке е(.

  • 1. ?[е;] = 0, i = 1, 2, ..., N. Это условие означает, что Eyi ] = 90 + 0,х., т.е. при фиксированном _т среднее ожидаемое значение отклика равно 0О + 0,хг
  • 2. Е[г) | = D|e( | = a2, i = 1, 2, ..., N. Это условие говорит о том, что дисперсия ошибки для всех наблюдений одинакова. Оно называется условием гомоскедастичности (рис. 3.2, а). Случай, когда это условие не выполняется, называется гетероскедастичностъю (рис. 3.2, б). Также из данного условия следует, что D[z/(] = a2, i = 1, 2,..., N.
Вид исходных данных при гомоскедастичности (а) и гетероскедастичности (б)

Рис. 3.2. Вид исходных данных при гомоскедастичности (а) и гетероскедастичности (б)

3. E[stZj] = 0, i Ф j. Это условие указывает на некоррели- руемость ошибок для разных наблюдений. Если оно не выполняется, то говорят об автокорреляции ошибок.

Этих трех предположений достаточно для оценивания параметров модели (3.1) методом наименьших квадратов. Но если необходимо проводить более полный эконометрический анализ, то потребуется еще одно предположение — о нормальном распределении ошибок.

4. е. - Лг(0, сг), i = 1, 2, ..., N. При выполнении этого условия модель (3.1) называют нормальной линейной регрессионной моделью.

В соответствии с основной идеей МНК поиск неизвестных параметров уравнения (3.1) производится как решение задачи на экстремум [70]:

Запишем необходимое условие экстремума:

После раскрытия скобок и приведения подобных членов получим систему нормальных уравнений

Решением этой системы являются оценки неизвестных параметров

Здесь следует особое внимание обратить на разницу между такими понятиями, как «неизвестные параметры 0О и 0j» и «оценки неизвестных параметров 0О и 0,». Оценки параметров по своей сути являются случайными величинами и зависят от исходных данных. Каждое значение, полученное по соотношениям (3.5) и (3.6), можно рассматривать как отдельную реализацию случайной величины. Истинные же значения параметров всегда остаются неизвестными, так как на практике мы имеем дело только с оценками, степень доверия к которым может быть различной.

 
Посмотреть оригинал
< Пред   СОДЕРЖАНИЕ   ОРИГИНАЛ     След >