logo
моделирование 1ч 1441

Множественная регрессия. Оценка параметров множественной регрессии

Множественная регрессия - уравнение связи с несколькими независимыми переменными:

. (1)

где у - зависимая переменная (результативный признак); x1, x2, , xp - независимые переменные (факторы).

Для построения уравнения множественной регрессии чаще используются следующие функции:

- линейная:

, (2)

- степенная:

(3)

- гиперболическая:

(4)

- экспоненциальная регрессия:

(5)

- и другие.

Одним из наиболее распространённых методов, используемых для оценки параметров уравнения множественной регрессии является метод наименьших квадратов (МНК).

Система уравнений, используемая для оценки параметров линейной регрессии (2.2) имеет вид:

(6)

Решая систему уравнений, получаем искомые параметры множественной регрессии. Для оценки параметров нелинейных регрессий используются методы линеаризации, аналогичные рассмотренным ранее.

Другим методом оценки является метод, связанный с использованием псевдообратной матрицы. Этот метод заключается в следующем:

- по исходным данным составляется система уравнений, описывающая зависимость выходной величины от входных, для каждой группы значений:

Обозначим:

A = {a, b1, b2,…, bp}, вектор оценок параметров регрессии;

Y = {yi}, - вектор значений зависимой переменной;

X = {xij}, , - матрица значений независимых переменных;

при этом p - количество независимых переменных, n - объем выборки.

Уравнение регрессии может быть представлено в следующим образом.

Для конкретного yi:

i = a + b1xi1 + b2xi2 + ... + bpxip , (7)

или в матричном виде:

Y = A X,

где X =

1   x11   x12    ...     x1p 1   x21   x22    ...     x2p

...

1   xn1   xn2    ...     xnp

Обратите внимание на то, что в матрицу X дополнительно введен столбец, все элементы которого равны 1, т.е. условно полагается, что в уравнении (1.7) свободный член a умножается на фиктивную переменную xi0, принимающую значение 1 для всех i.

Можно показать, что для общего случая множественной линейной регрессии, коэффициенты уравнения могут быть определены из следующего соотношения:

A = (Xт∙X)-1∙Xт∙Y. (8)

  1. Yandex.RTB R-A-252273-3
    Yandex.RTB R-A-252273-4