1.2. Оценка параметров линейной регрессии

Линейная регрессия сводится к нахождению уравнения вида:

(или ) (3)

Первое выражение позволяет по заданным значениям фактора храссчитать теоретические значения результативного признака, подставляя в него фактические значения факторах.На графике теоретические значения лежат на прямой, которые представляют собой линию регрессии.

Построение линейной регрессии сводится к оценке ее параметров - аиb.Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК).

МНК позволяет получить такие оценки параметров аиb, при которых сумма квадратов отклонений фактических значенийу от теоретических минимальна:

, или(4)

Для нахождения минимума надо вычислить частные производные суммы (4) по каждому из параметров - а иb -и приравнять их к нулю.

(5)

Преобразуем, получаем систему нормальных уравнений:

(6)

В этой системе n- объем выборки, суммы легко рассчитываются из исходных данных. Решаем систему относительноаиb, получаем:

(7)

(8)

Выражение (7) можно записать в другом виде:

(9)

где соv(х,у) - ковариация признаков, - дисперсия факторах.

Параметр bназывается коэффициентом регрессии.Его величина показывает среднее изменение результата с изменением фактора на одну единицу. Возможность четкой экономической интерпретации коэффициента регрессии сделала линейное уравнение парной регрессии достаточно распространенным в эконометрических исследованиях.

Формально а -значениеуприх=0.Еслихне имеет и не может иметь нулевого значения, то такая трактовка свободного членаане имеет смысла. Параметраможет не иметь экономического содержания. Попытки экономически интерпретировать его могут привести к абсурду, особенно приа < 0. Интерпретировать можно лишь знак при параметреа.Еслиа > 0, то относительное изменение результата происходит медленнее, чем изменение фактора. Сравним эти относительные изменения:

при.

Иногда линейное уравнение парной регрессии записывают для отклонений от средних значений:

y′ = b·x', (10)

где ,.При этом свободный член равен нулю, что и отражено в выражении (10). Этот факт следует из геометрических соображений: уравнению регрессии отвечает та же прямая (3), но при оценке регрессии в отклонениях начало координат перемещается в точку с координатами. При этом в выражении (8) обе суммы будут равны нулю, что и повлечет равенство нулю свободного члена.

Рассмотрим в качестве примера по группе предприятий, выпускающих один вид продукции, регрессионную зависимость издержек от выпуска продукции у = a + bx + ε.

Таблица 1

Система нормальных уравнений будет иметь вид:

Решая её, получаем а = -5,79, b = 36,84.

Уравнение регрессии имеет вид:

Подставив в уравнение значения х, найдем теоретические значенияy(последняя колонка таблицы).

Величина ане имеет экономического смысла. Если переменныехиувыразить через отклонения от средних уровней, то линия регрессии на графике пройдет через начало координат. Оценка коэффициента регрессии при этом не изменится:

, где,

В качестве другого примера рассмотрим функцию потребления в виде:

С = К·у + L

где С- потребление,у-доход,K, L– параметры. Данное уравнение линейной регрессии обычно используется в увязке с балансовым равенством:

y = C + I – r,

где I– размер инвестиций,r– сбережения.

Для простоты предположим, что доход расходуется на потребление и инвестиции. Таким образом, рассматривается система уравнений:

Наличие балансового равенства накладывает ограничения на величину коэффициента регрессии, которая не может быть больше единицы, т.е. К ≤ 1.

Предположим, что функция потребления составила:

Коэффициент регрессии характеризует склонность к потреблению. Он показывает, что из каждой тысячи рублей дохода на потребление расходуется в среднем 650 руб., а 350 руб. инвестируется. Если рассчитать регрессию размера инвестиций от дохода, т.е. , то уравнение регрессии составит. Это уравнение можно и не определять, поскольку оно выводится из функции потребления. Коэффициенты регрессии этих двух уравнений связаны равенством:

0,65 + 0,35 = 1

Если коэффициент регрессии оказывается больше единицы, то у < С + 1,и на потребление расходуются не только доходы, но и сбережения.

Коэффициент регрессии в функции потребления используется для расчета мультипликатора:

.

Здесь m≈ 2,86, поэтому дополнительные вложения 1 тыс. руб. на длительный срок приведут при прочих равных условиях к дополнительному доходу 2,86 тыс. руб.

При линейной регрессии в качестве показателя тесноты связи выступает линейный коэффициент корреляции r:

(11)

Его значения находятся в границах: 0 < r ≤ 1. Еслиb > 0, то0 ≤ r ≤ 1, приb< 0, – 1 ≤ r < 0.По данным примераr=0,991, что означает очень тесную зависимость затрат на производство от величины объема выпускаемой продукции.

Для оценки качества подбора линейной функции рассчитывается коэффициент детерминациикак квадрат линейного коэффициента корреляцииr².Он характеризует долю дисперсии результативного признакаy, объясняемую регрессией, в общей дисперсии результативного признака:

12

Величина 1 - r²характеризует долю дисперсииу,вызванную влиянием остальных, не учтенных в модели факторов.

В примере σ²= 0,092. Уравнением регрессии объясняется 98,2% дисперсииу,а на прочие факторы приходится 1,8%, это остаточная дисперсия.