[ PRML ] Ch2 - 2. Gaussian Distribution

 

Gaussian Distribution ~ Normal Distribution

연속 확률 분포 중 가장 널리 알려진 분포이다. 아래의 수식은, 단일 변수 x에 대해 가우시안 분포를 기술한 것이다. 만약, D차원의 벡터인 경우, 분산 대신 공분산 D가 입력으로 사용되게 된다. (아래의 수식 참고)

중심 극한 정리(Central Limit Theorem)

각각의 데이터 집단에서의 평균이 u이고, 분산이 시그마의 제곱인 모집단에서 추출한 확률 표본이라고 하자. 이 때, X를 n개의 표본에서 얻은 표본평균이라고 할 때, n이 커질수록 표준 정규분포에 수렴한다는 것입니다.

즉, 모집단에 대한 특정 분포에 상관 없이, 샘플 사이즈가 크다면, 표본 평균의 분포는 정규분포에 근사하게 된다는 것입니다. 

대한민국 전체 남성의 키를 파악하기에는 어렵습니다. 그러므로 표본을 충분히 잘 추출하면, 분포를 추정하는 것이 가능합니다. 이 때, 각 지역별로 남성을 100명씩 뽑아 평균을 내고, 평균을 내는 것을 반복해서 많은 평균들을 얻었을 때, 이 평균들은 어떤 분포를 띄게 될 것인데, 이러한 표본 평균들의 분포를 표본 분포(Sampling Distribution)이라고 합니다. 즉, 표본 분포(Sampling Distribution)는 모 분포의 모수를 추정하는 것이 가능합니다. 즉 중심 극한 정리(Central Limit Theorem)는 표본을 이용해서 모수를 추정하는 근거가 됩니다. 

 

잠깐..! 다른 분포를 설명하기 전, Qudratic Form 부터 살펴보도록 하겠습니다.

Conditional Gaussian Distribution