수치알고리즘

1. 들어가며: 보험계리에서의 수치계산 Why Numerical Algorithms?

보험계리·통계 모형에서는 적분이나 최적화를 손으로 닫힌 형태(closed form)로 풀 수 없는 경우가 대부분이다. 예컨대 우도(likelihood)를 최대화해 모수를 추정하거나, 사후분포(posterior)에 대한 기대값·주변밀도를 구하거나, 파산확률·준비금 같은 양을 계산할 때 우리는 결국 수치적 근사 알고리즘에 의존하게 된다. 이 표제어는 통계 계산에서 널리 쓰이는 세 갈래의 수치기법 — 수치적분(numerical integration), 최적화(optimization), 그리고 표본추출 기반의 몬테카를로·MCMC 방법 — 을 개관하고, 그 중에서도 결측자료 문제를 우아하게 다루는 EM 알고리즘을 자세히 소개한다.

2. 적분의 수치근사 Numerical Integration

통계에서 자주 마주치는 계산은 어떤 함수 g의 분포 π에 대한 기대값, 곧 적분이다.

차원이 낮을 때(보통 1~2차원)는 사다리꼴 공식·심프슨 공식·가우스 구적법(Gaussian quadrature) 같은 결정론적 구적(quadrature) 규칙으로 적분구간을 잘게 나누어 가중합으로 근사한다. 그러나 차원 d가 커지면 격자점의 수가 기하급수적으로 늘어 이런 방법은 곧 쓸 수 없게 된다(이른바 차원의 저주). 고차원 적분에서는 다음의 몬테카를로 방법이 사실상 표준 도구가 된다.

2.1 몬테카를로 적분 Monte Carlo Integration

적분을 기대값으로 보면, 분포 π에서 표본 θ₁, …, θ_N을 무작위로 뽑아 표본평균으로 근사할 수 있다.

큰 수의 법칙에 의해 이 추정량은 참값으로 수렴하고, 그 오차는 차원과 무관하게 대략 N^−1/2의 속도로 줄어든다. 분산을 줄이기 위해 중요도표본추출(importance sampling), 다단계 표본추출(multi-stage sampling) 등 여러 기법이 개발되었다.

2.2 라플라스 근사 Laplace Approximation

피적분함수가 한 점 주변에 뾰족하게 몰려 있을 때(특히 베이즈 사후적분)는, 지수의 안쪽을 그 최빈점 θ̂ 둘레에서 2차 테일러 전개하여 적분을 닫힌 형태로 근사하는 라플라스 근사가 유용하다.

여기서 H는 −h의 헤시안(2계 도함수 행렬)의 행렬식이다. 사후적률·주변밀도를 빠르게 근사하는 데 널리 쓰인다.

3. 최적화: 뉴턴–랩슨 Optimization: Newton–Raphson

최대우도추정(MLE)은 로그우도 ℓ(θ)를 최대로 만드는 θ를 찾는 최적화 문제다. 가장 기본적인 반복법은 뉴턴–랩슨(Newton–Raphson)법으로, 현재 점에서 우도의 기울기(gradient)와 곡률(헤시안 ∇²ℓ)을 이용해 다음 점을 정한다.

이 방법은 해 근처에서 매우 빠르게(2차로) 수렴하지만, 헤시안의 계산·역행렬이 부담스럽거나 출발점이 나쁘면 발산할 수 있다. 헤시안을 근사로 대체하는 준뉴턴(quasi-Newton)법, 기댓값으로 대체하는 피셔 점수법(scoring) 등 변형이 많이 쓰인다.

4. 마르코프 연쇄 몬테카를로 Markov Chain Monte Carlo (MCMC)

목표분포 π에서 직접 표본을 뽑기 어려울 때는, 그 π를 정상분포로 갖는 마르코프 연쇄를 구성해 충분히 오래 돌린 뒤 그 표본을 π의 표본처럼 쓴다. 이것이 MCMC이며, 베이즈 계산을 혁신한 도구다.

4.1 메트로폴리스–헤이스팅스 Metropolis–Hastings

제안분포 q(θ, θ′)에서 후보점 θ′을 뽑은 뒤, 다음 수락확률로 그 후보를 받아들이거나 현재 점에 머문다.

이 단순한 수락규칙만으로도, 만들어지는 연쇄의 정상분포가 정확히 π가 됨이 보장된다. 제안분포만 알면 되고 π의 정규화상수는 필요 없다는 점이 큰 장점이다.

4.2 깁스 표본추출 Gibbs Sampler

다차원 θ = (θ₁, …, θ_d)의 각 성분을 나머지 성분을 고정한 조건부분포에서 차례로 뽑아 갱신하는 방법이 깁스 표본추출이다. 메트로폴리스–헤이스팅스의 특수한 경우로, 조건부분포가 표본추출하기 쉬운 형태일 때 특히 강력하다. 영상 복원에서의 깁스 분포·확률완화(stochastic relaxation)가 그 출발점이었다.

5. EM 알고리즘 The EM Algorithm

기댓값–최대화(expectation–maximization, EM) 알고리즘은 결측자료가 있는 우도최대화 문제를, 결측값의 잠정 추정 → 우도 최대화 → 추정 갱신을 반복함으로써 우회한다. 흥미롭게도 실제로 결측자료가 없어도, 가상의(fictitious) 잠재변수를 일부러 도입하면 문제가 간단해지는 경우가 많은데, 이런 일반적 발상을 자료증대(data augmentation)라 한다. 은닉 마르코프 장(hidden Markov field)의 맥락에서 EM은 바움–웰치(Baum–Welch) 알고리즘으로도 알려져 있다.

관측자료를 D_obs, 완전자료를 D라 할 때, EM의 기본 도식은 다음과 같다. 적당한 초기값 θ₀을 고른 뒤 수렴할 때까지 두 단계를 반복한다.

E-단계(기댓값 단계): 현재 추정 θ_t 아래에서 완전자료 로그우도의 조건부 기댓값을 구한다.

M-단계(최대화 단계): 그 기댓값을 θ에 대해 최대화하여 추정을 갱신한다.

EM은 관측자료의 우도가 매 반복마다 줄어들지 않음이 보장되므로 수치적으로 안정적이다. 다만 수렴이 느린 경우가 흔하다. M-단계에서 완전한 최대화가 꼭 필요한 것은 아니며, Q(θ_t+1 | θ_t) > Q(θ_t | θ_t)이도록 값을 개선하기만 해도 충분하다(이른바 일반화 EM, GEM). 이를 위해 M-단계를 몇 번의 뉴턴–랩슨 단계로 대체하기도 한다.

6. 공통 유의점 A Common Caveat

위에 소개한 반복 알고리즘들은 잘해야 국소적으로(locally) 수렴한다. 즉 출발점이 좋아야 올바른 해에 도달하며, 나쁜 출발점에서는 국소 최적점이나 엉뚱한 곳에 갇힐 수 있다. 따라서 출발값을 신중히 고르고, 가능하면 여러 다른 출발값으로 실험해 안정적인 해를 확인하는 것이 바람직하다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 수치적분 (numerical integration) — 적분을 닫힌 형태로 풀 수 없을 때 격자점의 가중합 등으로 근사하는 계산.
• 몬테카를로 방법 (Monte Carlo) — 무작위 표본의 평균으로 기대값·적분을 추정하는 기법. 오차가 차원과 무관하게 N^−1/2.
• 라플라스 근사 (Laplace approximation) — 피적분함수를 최빈점 둘레에서 2차 전개해 적분을 닫힌 형태로 근사하는 방법.
• 뉴턴–랩슨법 (Newton–Raphson) — 기울기와 곡률(헤시안)로 다음 점을 정하는 빠른 반복 최적화법.
• MCMC (Markov chain Monte Carlo) — 목표분포를 정상분포로 갖는 마르코프 연쇄를 돌려 표본을 얻는 방법.
• 메트로폴리스–헤이스팅스 (Metropolis–Hastings) — 제안–수락 규칙으로 임의의 목표분포에서 표본을 뽑는 MCMC.
• 깁스 표본추출 (Gibbs sampler) — 조건부분포에서 성분을 차례로 갱신하는 MCMC의 특수형.
• EM 알고리즘 (expectation–maximization) — 결측자료가 있는 우도최대화를 E-단계·M-단계의 반복으로 푸는 안정적 방법.
• 자료증대 (data augmentation) — 가상의 잠재변수를 도입해 우도·사후 계산을 단순화하는 일반 전략.
• 국소수렴 (local convergence) — 참값 근처에서 출발해야 참값으로 수렴함을 뜻하는 보장. 전역수렴과 구별된다.

한국보험시장 현황 Korea Market Practice

수치알고리즘은 한국 계리 실무에서 IFRS17·K-ICS 체계와 함께 그 중요성이 크게 높아졌다. 최선추정부채(BEL) 산출은 계약별 현금흐름을 수백만 건 규모로 할인하는 작업인데, 이를 닫힌 형태로 풀 수 없으므로 수치적분(가우스-크리스토펠 구적법, 사다리꼴 공식)이 불가피하게 사용된다. 계약서비스마진(CSM) 상각은 보장단위 현재가치의 반복 계산을 수반하며, 이 역시 수치 최적화 루틴에 의존한다. K-ICS 요구자본은 충격 시나리오별 순자산변동으로 정의되므로, 금리·사망·해지 등 리스크 모듈별로 수치 계산 엔진이 별도로 작동한다.

보험료 산출과 준비금 계산에서는 수치적 이분법·뉴턴-랩슨이 내부수익률(IRR) 계산, GLM 최대우도 추정, 보험기간 내 해지율 보정 등에 반복적으로 쓰인다. 특히 무·저해지환급형 상품의 해지율 가이드라인(2024) 적용 이후, 해지율 민감도를 수치 편미분으로 측정하는 작업이 표준화됐다. 장기선임계리사가 서명하는 계리적 의견서도 수치 계산 로직의 정확성 검증을 포함한다.

수치 계산의 오차와 수렴 속도는 실무에서 종종 간과되는 위험 요소다. 대형 생보사가 탑재한 액추얼리 플랫폼은 수천 개의 스텝 사이즈·반복 한도 파라미터를 갖고 있으며, 이 파라미터 설정이 BEL과 CSM에 수십억 단위 차이를 낳을 수 있다. 내부 검증(벤치마크 모형 대비 비교)과 외부 검증(외부 계리법인 크로스-체크)은 수치 수렴 여부를 명시적으로 확인하는 절차를 포함해야 한다.