잔차의 모멘트

데이터 집합 $D = {(x_{i}, y_{i}) | i = 1, \dots, n}$ 에 단순선형회귀를 적용하여 적합선 $y = a + b x$ 를 얻고 ${\hat{y}}_{i} = a + b x_{i}$ , $e_{i} = y_{i} - {\hat{y}}_{i}$ 로 두었을 때 $e_{i}$ 를 잔차, $x_{i} e_{i}$ 를 잔차의 $x$ -모멘트, ${\hat{y}}_{i} e_{i}$ 를 잔차의 ${\hat{y}}_{i}$ -모멘트라고 한다.

(보조정리 7.6) 다음의 세 등식이 성립한다.

$\sum_{i} e_{i} = 0$
$\sum_{i} x_{i} e_{i} = 0$
$\sum_{i} {\hat{y}}_{i} e_{i} = 0$

(a)의 증명:

$f (a, b) \overset{def}{=} S S E := \sum_{i = 1}^{n} (y_{i} - (a + b x_{i}))^{2}$ 로 두었을 때 $f_{a} = \sum_{i = 1}^{n} - 2 (y_{i} - (a + b x_{i})) = \sum_{i = 1}^{n} - 2 (y_{i} - {\hat{y}}_{i}) = \sum_{i = 1}^{n} - 2 e_{i} = 0$ $✓$

(b)의 증명:

$f_{b} = \sum_{i = 1}^{n} - 2 x_{i} (y_{i} - (a + b x_{i})) = \sum_{i = 1}^{n} - 2 x_{i} (y_{i} - {\hat{y}}_{i}) = \sum_{i = 1}^{n} - 2 x_{i} e_{i} = 0$ $✓$

(c)의 증명:

\begin{aligned} \sum_{i} {\hat{y}}_{i} e_{i} & = \sum_{i} (a + b x_{i}) e_{i} = a \sum_{i} e_{i} + b \sum_{i} x_{i} e_{i} = a \cdot 0 + b \cdot 0 = 0 ✓ \end{aligned}

[홈으로]