42. Регрессионный анализ.

Регрессионный анализ – статистический метод установления формы и изучения связей между метрически зависимой переменной и одной или несколькими независимыми переменными.

Регрессионный анализ используется, если необходимо: уточнить действительно ли переменные взаимосвязаны, определить форму связи, предсказать значения зависимой переменной, определить в какой степени вариацию зависимой переменной можно объяснить независимыми переменными (теснота связи).

Парная регрессия – метод установления математической зависимости между 2 метрическими переменными. Этапы:

1) Построение поля корреляции (диаграммы рассеяния) – графического представления точек с координатами, определяемыми значениями 2-х переменных для всех наблюдений. Поле корреляции показывает, можно ли зависимость Y по X выразить прямой линией и, следовательно, подходит ли к этим данным парная регрессионная модель.

2) Формулирование модели. Модель парной регрессии где – точка пересечения прямой регрессии с 0У;– тангенс угла наклона прямой;– остаточный член связанный сi-тым наблюдением характеризующий отклонение от функции регрессии; X–независимая переменная (предиктор); – зависимая.

3) Вычисление параметров. В большинстве случаев и неизвестны, тогда их определяют исходя из имеющихся выборочных наблюдений с помощью уравнения -=a+bx, где a и b – вычисляемые оценки Во и Вi. B- нормированный коэфициент регресии, показывающий ожидаемое изменение Y при изменении Х на единицу. ,

4) Вычисление нормированного коэффициента регрессии (бета-коэфициента) – показывающего изменение Y в зависимости от изменения X (угол наклона прямой уравнения регрессии), при условии, что все данные нормированы. , Byx= ryx

5) Проверка значимости. Исследование гипотез Но (β1=0) и Н1 (β1≠0). , гдеSE – стандартная ошибка коэффициента регрессии (стандартное отклонение b).

6) Определение тесноты и значимости связи. Коэффициент детерминации (r²) - статистический показатель, характеризующий тесноту связи между метрическими переменными. В пределах от 0 до 1 – указывает на долю полной вариации, которая обусловлена вариацией Х. . SSy=SSрегрессии+SSошибки.SSy=,SSрегрессии=,SSошибки=. Проверка значимости r^2. Гипотезы: Н0: r^2=0; Н1:r^2>0. Проверка проводится путем определения F-статистики.

7) Проверка точности предсказаний. Чтобы оценить точность предсказанных значений Y полезно вычислить стандартную ошибку оценки уравнения регрессии SEE, которая представляет собой стандартное отклонение фактических значений Y от теоретических значений. При наличии k независимых переменных: SEE=. Предполагается, что можно ожидать, что примерно 2/3 точек данных будут находится на расстоянии не болееSEE выше или ниже регрессии. Ококло 95% значений данных должны находится на расстоянии не более чем 2х SEE от линии регрессии.

8) Анализ остатков. Остаток – разность между наблюдаемым значением Y и его теоретическим значением, предсказанным уравнением регрессии. Анализ производится для подтверждения того, что модель регрессии подходит для анализа, с этой целью используется графический метод.

9) Перекрестная проверка модели.