5. Геометрическая интерпретация МНК. Матричная форма определения коэффициентов

эконометрика моделирование парная регрессия

Рассмотрим n-мерное векторное пространство Rⁿ со стандартным евклидовым скалярным произведением

(Х,У) = Х^ТУ = . Пусть

, , , ,

.

Здесь и - числовые коэффициенты, - вектор, лежащий в плоскости, образованной векторами S и Х (естественно, что S и Х неколлинеарны, т.е. у Х не все числа одинаковы). Задача состоит в отыскании таких и , чтобы длина вектора е была минимальна. Очевидно, что решением является такой вектор , для которого вектор е перпендикулярен плоскости, образованной S и Х. Для этого необходимо, чтобы

, и или ,

т.е. опять пришли к стандартным нормальным уравнениям. Обозначим теперь

, , ,

условие ортогональности е плоскости (S,X) запишется так Х^Те = 0 или

Х^Т(У - Х) = Х^ТУ - Х^ТХ = 0 Х^ТУ = Х^ТХ и

Нетрудно проверить, что все соотношения для и совпадают.