스털링 근사를 유도하기 위해 라플라스 근사가 쓰였다. 라플라스 근사(Laplace’s Approximation; 拉普拉斯近似)란, 다음과 같이 정적분의 근사치를 구하는 방법이다.
함수 $f$가 $x_0$에서 최댓값(엄밀히 말해 ‘상한’, note 참조.)을 가질 때, 즉 $f^{\prime}(x_0)=0$이고 $f^{\prime\prime}(x_0)<0$일 때 충분히 큰 $M$에 대해 다음이 성립한다.
$$ \int_{a}^{b}e^{Mf(x)}\space dx\approx e^{Mf(x_0)}\sqrt{\frac{2\pi}{M\vert f^{\prime\prime}(x_0)\vert}},M\to\infty $$
이 공식의 본격적인 유도를 시작하기 전에, $x_0$에서 최댓값을 가지는 함수가 어떤 특이한 성질이 있는지 그래프를 통해 관찰해보자. 라플라스 방법의 아이디어는 바로 이러한 관찰로부터 출발한다. $f(x):=\frac{\sin(x)}{x}$를 가정하자. 이 함수는 $x=0$에서 ‘최댓값’을 갖는다. (그래프 참조.) 다시 함수 $g(x;M):=e^{Mf(x)}$을 정의하고, 그래프를 그려보자.
note: 사실 $f(x)$는 $x\not=0$이어야 하므로 ‘최댓값’ $f(0)=1$을 가질 수 없지만, 여기서 중요한 것은 이러한 ‘추세’를 가진다는 것이다. 꼭 ‘최댓값’을 구체적으로 가질 필요는 없다. 이러한 점에서, 최댓값(Maximum; 最大值)보다는 상한(Supremum; 上界), 또는 최소상계(Least Upper Bound, LUB; 上确界)라는 표현이 좀 더 적절하다.
그래프를 관찰하면, $M$이 커질 수록 $g(x;M)$은 $x=0$에서 ‘뾰족’해진다. 즉, $x=0$에서 벗어날 수록 $e^{Mf(x)}$의 값은 빠르게 0과 비슷해진다. 따라서 이러한 조건을 만족하는 함수 $f$에 대해, $M$이 충분히 크다면 $e^{Mf(x)}$의 구간 $(a,b)$에서의 정적분을 $\mathbb{R}$에서의 정적분에 근사시킬 수 있다. 뾰족한 부분 주위의 적분값은 0이나 다름없기 때문이다.
$$ \int_{a}^{b}e^{Mf(x)}\space dx\approx\int_{-\infty}^{\infty}e^{Mf(x)}\space dx,M\to\infty $$
이제 본격적인 유도를 시작하자. 대략적인 방법에 대해 설명하자면, 정적분의 근사식에 테일러 공식(Taylor’s Formula; 泰勒公式)을 적용하고 가우스 적분(Gaussian Integral; 高斯积分)을 사용하여 계산한다. 가우스 적분을 사용하기 위해 $f^{\prime}(x_0)=0$임을 이용하여 1차항을 없애고, $f^{\prime\prime}(x_0)<0$임을 이용하여 절댓값기호를 씌운다. 또, 테일러 전개는 2차항까지만 한다는 것이 포인트이다.
$$ \begin{split} &f(x)\approx f(x_0)+f^{\prime}(x_0)(x-x_0)+\frac{1}{2}f^{\prime\prime}(x_0)(x-x_0)^2 \\ &=f(x_0)-\frac{1}{2}\vert f^{\prime\prime}(x_0)\vert(x-x_0)^2 \\ &(\mathrm{note:}\space f^{\prime}(x_0)=0, f^{\prime\prime}(x_0)<0) \\[5ex] &\therefore \int_{a}^{b}e^{Mf(x)}\space dx\approx\int_{-\infty}^{\infty}e^{Mf(x)}\space dx,M\to\infty \\ &\approx e^{Mf(x_0)}\int_{-\infty}^{\infty}e^{-\frac{1}{2}\vert f^{\prime\prime}(x_0)\vert(x-x_0)^2}\space dx=e^{Mf(x_0)}\sqrt{\frac{2\pi}{M\vert f^{\prime\prime}(x_0)\vert}} \end{split} $$
note: $\int_{-\infty}^{\infty}\exp \left(-a(x+b)^2\right)\space dx=\sqrt{\frac{\pi}{a}}$이다. 가우스 적분 참조.
라플라스 근사는 함수 $f(x)$가 $x=x_0$에서 최댓값을 가지면 된다. 예시로는 $f(x)=\sin x/x$으로 정했지만, 수리통계학에서 나오는 단봉분포들이 죄다 이렇게 $x=x_0$에서 최댓값을 가지는 형태이므로 써먹을 수 있겠다.
최댓값을 가진다는 조건에서 바로 떠오르는 것은 비교적 친숙한 $f(x)=-x^2$이다. 이때는 굳이 뒤의 복잡한 근사식으로 가지 않고 바로 가우스 적분을 계산하면 되겠다.
$$ \int_{a}^{b}e^{-Mx^2}\space dx\approx\int_{-\infty}^{\infty}e^{-Mx^2}\space dx=\sqrt{\frac{\pi}{M}} $$
