베이지안 통계

1. 모델링 철학 Modeling Philosophy

베이지안 통계(Bayesian statistics)는 통계적 모형화와 추론에 대한 특정한 접근법으로, 세 가지 주요 원칙을 사용한다.

• 모형 안의 모든 미지의 양(unknown quantities)은 그것이 관측 불가능한 변수이든, 모수이든, 다른 요인이든 모두 알려져 있거나 추정 가능한 확률분포를 갖는 확률변수로 간주한다. 추정이나 예측 같은 모든 통계적 추론은 엄격히 확률의 법칙만을 따르며, 외부적 원리를 끌어들이지 않는다. 필요하면 정확한 확률 계산에 대한 근사법을 쓸 수 있다.
• 통계적 표본실험은 확률량의 알려진 분포를, 실험 결과가 가져온 불확실성의 변화를 반영한 새 분포로 변환하는 작업으로 본다.

첫 원칙 덕분에 ‘주관적’ 확률과 ‘참’ 확률을 구분하는 복잡한 철학 논쟁을 피할 수 있다. 베이지안에게 둘은 같은 것이다. 둘째 원칙은 물리학·정보이론·퍼지집합 등 다른 분야의 ‘창의적’ 방법을 끌어오지 말라고 경계한다. 베이지안의 조리법은 명확하며, 계산이 어려울 때만 근사법을 쓰되 그것이 근사임을 밝힌다. 더 나은 근사법을 가진 연구자는 더 나은 추론을 할 수 있다. 마지막 원칙은, 실험의 목표가 미지의 양에 대한 창의적 추정값을 ‘제안’하는 것이 아니라, 실험이 더해준 정보가 그 확률분포에 어떻게 반영되는지를 보이는 데 있음을 말한다.

2. 베이즈 법칙 Bayes' Law

두 확률변수 x, y가 결합밀도 p(x, y)를 갖는다고 하자. 조건부 확률의 정의에서 결합밀도는 두 가지 형태로 전개된다. (관례상 변수의 알려진 범위는 따로 쓰지 않고, 대부분의 밀도는 인수가 어떤 밀도인지를 가리키도록 p(·)로 적는다.)

이를 정리하면 베이즈 법칙(Bayes' law) 또는 베이즈 규칙을 얻는다. 이는 목사 토마스 베이즈(Thomas Bayes, 1701–1761)의 업적으로, 동료 리처드 프라이스가 1763년 왕립학회 논문집에 사후 출간했다. 이 결과는 1774년 라플라스가 재발견할 때까지 묻혀 있었으며, 역확률(inverse probability)의 법칙이라고도 불린다.

3. 베이지안 추정과 예측 Bayesian Estimation and Prediction

어떤 모수 θ가 미지라고 하자. 베이지안은 이를 확률변수 θ̃로 보고 주어진 사전 모수밀도(prior density) p(θ)를 부여한다. 실험 결과는 데이터 D이며, 모수가 알려져 있을 때 데이터의 밀도를 명시하는 실험 모형밀도 p(D|θ)를 데이터 가능도(likelihood)라고도 한다. 중요한 점은 p(D|θ) 자체는 θ에 대한 확률적 진술이 아니라는 것이다. 베이즈 법칙을 적용하면 사후 모수밀도(posterior density)를 얻는다.

분모 p(D)는 사후밀도를 1로 정규화하는 상수일 뿐이므로, 비례기호(∝)를 쓰면 간단히 표현할 수 있다. 이 형태에서 가능도와 사전밀도의 ‘모양’이 곱해져 사후밀도의 모양을 만드는 것을 시각화할 수 있다.

두 함수가 조금이라도 단봉(unimodal)이면 결과 사후밀도는 (거의) 항상 사전보다 더 ‘뾰족한’(분산이 작은) 단봉 분포가 된다. 즉, 실험 데이터가 모수에 대한 불확실성을 줄인다. 참값 θ_T가 존재한다면, 데이터가 무한히 늘면 p(θ|D)는 θ_T에서의 퇴화(degenerate) 밀도로 수렴한다.

가장 단순한 표본실험에서는 모형밀도 p(x|θ)에서 n회 ‘독립시행’으로 데이터 D = {x₁, …, x_n}를 얻는다. 이때 데이터 가능도는 곱으로 쓰인다.

예측에서는 미래 관측값 w의 조건부 밀도 p(w|θ)에서 θ를 적분해 소거함으로써 예측분포(predictive distribution)를 얻는다. 사전 예측분포와 데이터가 반영된 사후 예측분포는 각각 다음과 같다.

최종적으로 추론 결과는 의사결정에 쓰인다. 결정을 위해 먼저 경제적·외부적 원리로 손실함수(loss function) g(d, θ)를 정하고, 미지 모수 θ̃ 앞에서 결정변수 d를 고른다. 한 점 추정값 θ₁을 대입해 g(d, θ₁)를 최소화하는 것은 바람직하지 않다. 베이지안은 모수의 전체 분포를 가지므로 베이지안 위험함수(Bayesian risk function)를 목적함수로 쓸 수 있다.

4. 충분통계량과 자연켤레사전 Sufficient Statistics; Natural Conjugate Priors

모형밀도가 충분통계량(sufficient statistics)을 가진다는 것은, 단순 표본실험의 전체 데이터 D = {x₁, …, x_n}를 더 적은 수의 요약통계량으로 대체해 가능도를 단순화할 수 있다는 뜻이다. 음의 지수모형을 예로 들면,

데이터 가능도는 θⁿ exp(−θ ∑x_j)이고 축소된 통계량은 {n, ∑x_j}이다. 단일 충분통계량 s(x)를 가지는 모든 1차원 모형밀도는 쿠프만–피트만–다르무아(Koopman–Pitman–Darmois) 지수족에 속하며 다음 정규형으로 쓸 수 있다.

여기서 a(x)는 커널 함수, s(x)는 충분통계량, c(θ)는 정규화 상수다. 이제 가능도와 모양이 같은 사전을 선택하면 큰 단순화가 일어난다. 이를 자연켤레사전(natural conjugate prior)이라 한다.

이 사전의 파라미터(초모수, hyperparameter) (n₀, s₀)를 주어진 사전분포에 ‘가장 잘 맞도록’ 조정한다. 그러면 베이즈 법칙 적용 후의 사후도 동일한 형태를 유지하며, 초모수만 다음처럼 갱신된다.

사전의 모양이 실험 후에도 유지된다는 것은 모수밀도의 그 족이 표본추출에 닫혀 있음(closed under sampling)을 뜻한다. 이 모형–사전 켤레 쌍에서는 수치 계산이 거의 필요 없을 정도로 분석이 단순해진다.

5. 다차원과 복합모형 Multiple Dimensions; The Compound Law

대부분의 흥미로운 계리 모형은 미지 모수가 여러 개이거나 관측값이 다차원이다. 정규밀도는 (평균, 정밀도) (μ, ω) 두 모수, 감마밀도는 (모양, 척도) (α, θ) 두 모수를 갖는다. 모수가 둘이면 가능도의 모양이 모수들을 사후적으로 종속(confounding)시켜 주의가 필요하며, 일정량의 데이터로 모수 둘을 추정하면 하나를 추정할 때보다 ‘배움’이 적어진다.

보험에서 가장 중요한 다모수 모형은 복합모형(compound law)이다. 한 노출년에 건수 ñ건의 클레임(빈도)이 발생하고, 각 클레임 금액(심도)이 x₁, …, x_n이면 총손해 ỹ는 다음과 같다.

빈도모수 λ와 심도모수 θ가 사전적으로 독립이고 모든 개별 심도와 빈도가 조건부 독립이면, 개별 심도를 모두 수집한 가장 세부적인 프로토콜에서 데이터 가능도는 빈도부·심도부로 분리된다.

이때 두 모수의 추정이 분리된다는 중요한 성질이 성립한다. 예측에서는 미래 총손해 w의 평균이 빈도 평균과 심도 평균의 곱으로 주어진다(완전한 닫힌 공식이 없을 때의 근사식).

6. 점 추정과 예측 Point Estimators and Predictors

사후분포 전체를 주더라도 실무에서는 종종 어떤 의미에서 ‘최선’인 한 개의 값이 필요하다. 보험에서는 이미 위험 과정의 클레임을 보장하는 계리적 공정보험료(actuarial fair premium)를 찾는 근본 요구가 있다. 단순 베이지안 모형에는 두 수준의 불확실성이 있다—(1) 클레임 과정 자체의 변동성, (2) 올바른 위험모수 값에 대한 불확실성이다. θ가 알려져 있으면 공정보험료는 관측값의 평균 m(θ) = E[x|θ]이다.

모수 대신 평균값 μ = m(θ̃)을 직접 다루면, 가장 단순한 선택은 그 기댓값을 쓰는 것이다(‘평균의 평균’).

제대로 된 베이지안은 원래 모수 θ를 먼저 추정해 m(θ₁)을 예측값으로 쓰는 ‘곡선을 먼저 맞추는’ 절차를 쓰지 않는다. 이 관행은 여전히 업계에 남아 있지만 바람직하지 않다.

7. 신뢰도 예측과 베이지안 Credibility Prediction

계리사들은 현대 통계기법 이전부터 비공식적·경험적 논거로 점 예측을 해 왔다. 그 대표가 손해보험의 신뢰도 공식(credibility formula)이다. 놀랍게도 이 공식은 베이지안 점 예측자와 깊은 관련이 있다. 특정 위험의 공정보험료(미래 평균 클레임액)를 예측하는 신뢰도 공식은 다음과 같다.

여기서 m은 비슷한 위험들의 공정보험료를 안내하는 업계 공표 기준보험료(manual premium)이고, x̄는 해당 위험의 경험 표본평균이다. 혼합계수 z를 신뢰도 계수(credibility factor)라 하며, n이 늘수록 경험평균에 더 큰 가중치가 실린다. 시간상수 n₀는 ‘계리사가 고르는’ 값이었다.

1967년 한스 뷜만(Hans Bühlmann)은 이 공식에 견고한 이론적 기초를 부여했다. ‘사후평균 E[μ̃|D]를 표본평균의 선형함수 a + bx̄로 근사할 때, 사전 믿음에 걸쳐 평균제곱오차를 최소화하는 a, b는?’를 물었다. 뷜만은 기준보험료를 사전평균과 동일시하고 시간상수를 과정분산의 두 성분의 비율로 두면 위 공식이 최적임을 증명했다.

1974년 주얼(Jewell)은 모형밀도가 단순 지수족이고 사전이 그 자연켤레사전일 때는 (거의) 항상 정확신뢰도(exact credibility)가 성립한다는—즉 신뢰도 공식이 E[μ|D]의 정확한 예측자가 된다는—조건을 보였다.

8. 모형과 사전의 혼합 Model and Prior Mixtures

사전 불확실성이 양봉(‘둘 중 하나’)이면 사전을 두 단순형의 혼합으로 표현할 수 있다.

여기서 0 ≤ π ≤ 1은 혼합계수다. 실험 데이터가 π에 의존하지 않으므로 각 성분 사전 p_i(θ)는 독립적으로 p_i(θ|D)로 갱신되며, 사후의 혼합계수만 다음처럼 바뀐다.

즉 사후는 두 가지로 변한다—각 성분 사전이 갱신으로 더 날카로워지고, 증거의 무게가 한 성분 쪽으로 옮겨간다. 또한 관측값이 두 개 이상의 서로 다른 모형밀도에서 나온다고 보는 관측혼합(분류모형)이나 극단값(outlier) 처리에도 혼합모형을 쓴다.

9. 계층 구조와 계산 Hierarchical Structures; Computation (MCMC)

비슷한 위험을 인수하는 여러 회사가 경험을 공유하면 모두의 예측력을 높일 수 있다. 그러나 각 회사의 위험모수 θ_i가 서로 완전히 독립이면 공유의 이득이 없다. 이를 해결하려면 업계 전체 초모수(hyperparameter) φ̃를 도입해 모든 회사 위험에 영향을 주고, 이에 대한 초사전(hyperprior) p(φ)를 둔다. 이것이 계층모형(hierarchical model)의 핵심이며, 개별 위험모수를 교환가능한 확률변수로 보는 것과 같다.

복잡한 기본 모형도 계층 형태로 확장되며, 이에 따른 마르코프 연쇄 몬테카를로(Markov Chain Monte Carlo, MCMC) 방법이 사용된다. 정규–정규–정규 구조처럼 해석해가 있는 경우는 드물고, 일반적인 경우에는 선형근사 점 예측자로 신뢰도형 결과를 얻거나 MCMC로 사후분포를 수치적으로 표본추출한다.

10. 역사와 개념적 저항 History and Conceptual Resistance

라플라스의 재발견 뒤 역확률의 법칙은 하나의 유용한 관계로 받아들여졌다. 1926–1928년 프랭크 램지(Ramsey)가 ‘개인적’ 확률을 제안했고, 1937년 브루노 데 피네티(de Finetti)가 ‘개인 확률’의 기초를 세웠으며, 1939년 해럴드 제프리스(Jeffreys)가 베이지안 관점을 제시했다.

하지만 2차 대전 후 피셔·네이만 등이 ‘가능도가 데이터의 모든 정보를 요약한다’는 개념에 기초한 고전(피셔–네이만) 통계를 발전시켰다. 이는 점 추정과 표본 크기에 의존하는 근사적 결과를 강조했고 사전정보 개념이 없었다. 핵심 갈등은 사전밀도 p(θ)의 본질과 역할에 관한 것이었다. 다행히도 대부분의 베이지안 사후분포는 데이터가 많아지면 선택한 사전에 무관해지고 한 값에 날카롭게 모인다. ‘모든 통계학자는 극한에서 일치한다.’ 그래서 베이지안 통계를 소표본 통계(small-sample statistics)라 부르자는 제안도 있다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 사전분포 (prior distribution) — 데이터를 보기 전 모수에 대한 믿음을 나타낸 분포 p(θ).
• 사후분포 (posterior distribution) — 데이터를 반영해 갱신된 모수 분포 p(θ|D).
• 가능도 (likelihood) — 모수가 주어졌을 때 데이터가 나타날 확률 p(D|θ). 모수의 함수로 본다.
• 예측분포 (predictive distribution) — 모수를 적분해 제거해 구한 미래 관측값의 분포.
• 자연켤레사전 (natural conjugate prior) — 가능도와 곱했을 때 사후가 사전과 같은 종류가 되는 사전.
• 충분통계량 (sufficient statistic) — 데이터의 모든 추론 정보를 담고 있는 요약 통계량.
• 손실함수 (loss function) — 결정 d와 참값 θ의 차이로 인한 비용 g(d, θ).
• 신뢰도 계수 (credibility factor) z — 개별 경험과 집단 평균을 섞는 가중치. z = n/(n+n₀).
• 계층모형 (hierarchical model) — 상위 초모수로 여러 위험을 연결해 정보를 공유하는 다단계 모형.
• MCMC — 정규화 상수 계산 없이 사후분포에서 표본을 만드는 수치 시뮬레이션 기법.

한국보험시장 현황 Korea Market Practice

베이지안 방법은 국내 계리실무에서 자료가 부족하거나 변동성이 큰 위험을 다룰 때 폭넓게 쓰인다. 본문의 사전분포→사후분포 갱신은 신뢰도(credibility) 기반 경험요율, 손해보험의 IBNR(미보고발생손해) 준비금 산정, 신상품의 기초율 설정에 그대로 적용된다. 신뢰할 만한 자체 경험이 쌓이기 전에는 업계 참조통계나 재보험사 경험을 사전정보로 삼고, 자사 실적이 누적될수록 사후추정이 자사 경험 쪽으로 이동한다.

제도적으로도 IFRS17의 최선추정(BEL)은 '현재 이용 가능한 모든 정보를 반영한' 가정을 요구하므로, 가정 검증·갱신 과정이 본문의 베이지안 갱신과 구조적으로 닮아 있다. K-ICS 표준모형이 부여한 충격계수를 자사 경험으로 조정하거나 내부모형을 승인받는 절차에서도, 모수·모형 불확실성을 사전·사후로 다루는 사고가 바탕이 된다.