확률변수인 표본평균은 중심극한정리에 의해 모평균을 중심으로 하는 종모양의 확률분포를 나타냅니다. 표본평균의 표준오차는 이 확률분포의 표준편차를 의미합니다. 표본평균의 기대값은 모평균입니다. 표본평균의 기대값인 모평균과 표본평균과의 편차(deviation)는 오차(error)이고 확률변수입니다. 이 확률변수의 확률분포의 표준편차를 표준오차라고 합니다. 만일, 확률변수의 확률분포가 정규분포라면 모표준편차를 표본크기($n$)의 제곱근으로 나눈값이 표본평균의 확률분포의 표준오차의 추정값(estimate)이며 표본평균의 표준오차의 추정값입니다.

 여기서 표준오차는 확률변수로서의 오차의 표준화라고 할 수 있습니다. 이는 확률변수의 단위를 표준편차로 할 수 있는 것과 같습니다.  참고로 정규분포에서의 표준화는 확률변수를 변환하여 표준편차를 1로 하는 과정을 말합니다.

정리하면 표본평균의 표준오차(standard error of the mean)는 표본평균 확률분포의 표준편차와 같습니다. 역으로, 표본평균의 퍼짐의 정도를 나타내는 표준편차($\sigma_{\bar{X}}$)는 표본평균의 표준오차입니다. 표본평균의 기대값은 중심극한정리에 따라 모평균이고 표준오차의 비교기준이라고 할 수 있습니다.

모집단과 표본의 확률변수

$$X$$

모집단모델

$$\{X_1, X_2, \cdots , X_{N}\}$$

여기서, $N$은 모집단크기이며 모집단이 무한집단이면 $N \rightarrow \infty$

표본모델

$$\{X_1, X_2, \cdots , X_{n}\}$$

여기서,  $n$은 표본크기

표본평균은 확률변수이며 확률변수에 “bar” 올려 표기

$$\bar X$$

표본평균($\bar X$)의 기대값: 모평균

$${\rm E}[\bar X]=\mu_X$$

표본분산($S^2$)의 기대값: 모분산

$${\rm E}[S^2]=\sigma^2_X$$

표본평균의 표집모델

$$\{{\bar X}_1, {\bar X}_2, \cdots , {\bar X}_{\infty}\}$$

여기서,  표본평균의 표집의 크기는 $\infty$

표본평균 표집분포의 평균: 표본평균 확률분포의 평균 = 표본평균의 기대값 = 모평균

$$\mu_{\bar X}={\rm E}[\bar X]=\mu_X$$

표본평균 표집분포의 분산: 모분산을 표본크기로 나눈 것

집단의 전체변동은 집단의 변동과 집단내 개체의 변동으로 나누어 생각할 수 있습니다.

모집단에서 표본을 추출(표집)하면 표본의 변동은 두 변동의 합으로 생각할 수 있습니다. 하나는 모평균을 원점으로 하는 좌표계에서의 표본의 변동, 즉 표본평균의 변동이고 다른 하나는 표본평균을 원점으로 하는 좌표계에서의 표본의 변동으로 생각할 수 있습니다. 표본이 하나의 집단으로 구성되어 있다면 표본의 변동은 표본평균의 분산과 개체 하나로 표준화된 표본내 변동으로 표현할 수 있습니다.

$$\sigma_{\bar X}^2={\rm Var}[\bar X]=\dfrac{\sigma_X^2}{n}$$

여기서,  $n$은 표본크기

표본평균 표집분포의 표준편차: 표본평균의 표준오차

$$\sigma_{\bar X}={\rm SD}[\bar X]=\sqrt{\dfrac{\sigma_X^2}{n}}$$

여기서,  $n$은 표본크기

표본평균($\bar X$)의 $Z$변환

$$Z=\dfrac{\bar X-\mu_X}{\dfrac{\sigma_X}{\sqrt{n}}}∼Z분포$$

여기서,  $n$은 표본크기이며 큰 수

표본평균($\bar X$)의 $t$변환

$$t=\dfrac{\bar X-\mu_X}{\dfrac{S_X}{\sqrt{n}}}∼t_{n-1}$$

여기서,  $n$은 표본크기 : $(n-1)$은 표본크기가 $n$인 표본의 자유도

$t_{n-1}$은 자유도가 $(n-1)$인 $t$분포

표본평균의 표준오차 : 표본평균 표집분포의 표준편차

$${\rm SE}(\bar X)=\sigma_{\bar X}={\rm SD}[\bar X]=\sqrt{\dfrac{\sigma_X^2}{n}} = \dfrac{\sigma_X}{\sqrt{n}}$$

여기서,  $\sigma^2_X$는 모분산

$\sigma_X$는 모표준편차

$n$은 표본크기

표본평균의 표준오차 – 표본크기가 큰 경우는 $\sigma_X≈S_X$

$${\rm SE}(\bar X)=\sigma_{\bar X}={\rm SD}[\bar X]=\sqrt{\dfrac{\sigma_X^2}{n}} = \dfrac{\sigma_X}{\sqrt{n}}≈\dfrac{S_X}{\sqrt{n}}$$

여기서,  $\sigma^2_X$는 모분산

$\sigma_X$는 모표준편차

$S_X$는 표본표준편차

$n$은 표본크기