확률변수의 함수의 분포: 이산형 분포의 근사, 체비셰프 부등식과 확률수렴, 극한 적률생성함수

이산형 분포의 근사(Approximation of Discrete Distributions)

이산형 분포의 근사는 이산 확률분포를 연속 확률분포로 근사하여 계산을 간단하게 하거나 이론적 분석을 용이하게 하는 방법입니다. 대표적인 예로 포아송 분포와 이항 분포의 정규 분포로의 근사가 있습니다.

포아송 분포의 정규근사

평균 $\lambda$가 큰 포아송 분포는 평균과 분산이 $\lambda$인 정규 분포로 근사할 수 있습니다. 일반적으로 $\lambda \ge 30$일 때 유효하다고 여겨집니다.

이항 분포의 정규근사

시행 횟수 n이 크고, 성공확률 p가 0과 1에서 너무 멀지 않은 경우, 이항 분포 B(n,p)는 평균 np와 분산 np(1-p)를 가진 정규 분포로 근사할 수 있습니다. n이 크고 np와 n(1-p)가 모두 5 이상일 때 근사가 잘 됩니다.

체비셰프 부등식 (Chebyshev's Inequality)

체비셰프 부등식은 확률변수의 분산이나 표준편차를 사용하여 그 확률변수가 그 평균으로부터 얼마나 멀리 떨어져 있을 확률이 있는지를 추정하는 데 사용됩니다. 이 부등식은 분포의 형태에 상관없이 적용되는 강력한 도구입니다.

수식

확률변수 X의 평균 $\mu$이고 표준편차가 $\sigma$일 때, 모든 양의 k에 대해 다음이 성립합니다.

$$ P(|X - \mu| \ge k\sigma) \le \frac{1}{k^2}$$

이 부등식은 X가 $\mu$에서 $k\sigma$이상 벗어날 확률이 $\frac{1}{k^2}$ 이하임을 보장합니다.

확률수렴(Convergence in Probability)

확률수렴은 확률변수의 수열이 어떤 확률변수로 수렴한다는 개념입니다. 확률변수 $X_n$이 X에 확률 수렴한다는 것은 n이 증가함에 따라 $X_n$ 이 $X$의 값에 임의로 가까워질 확률이 1에 접근한다는 것을 의미합니다.

정의

수식으로 표현하면, 모든 $\epsilon > 0$에 대해 다음이 성립합니다:

$$ \lim_{n \to \infty}P(|X_n - X| < \epsilon) = 1$$

극한 적률생성함수(Limit of Momet Generating Functions)

확률변수의 수열 $X_1, X_2, ...$의 적률생성함수가 있을 때, 이들의 극한적률생성함수는 수열이 수렴하는 분포의 적률생성함수입니다. 만약 $X_n$의 적률생성함수 $M_X_n(t)$가 $M_X(t)$로 수렴한다면, 이는 $X_n$이 확률변수 X의 분포로 수렴한다는 것을 의미할 수 있습니다.