확률론

확률론(probability theory)은 무작위 사건(random event)의 확률을 다루는 수학적 모형이다.

1. 역사 History

제롤라모 카르다노(Gerolamo Cardano, 1501–1576)가 무작위 게임에서 확률(또는 승률)에 관한 정량적 이론을 처음 세운 사람으로 보인다. 그는 저서 주사위 놀이에 관한 책(Liber de Ludo Aleae)에서 확률론의 두 기본 규칙을 발견했다. 덧셈규칙: 서로 배반인 두 사건 중 적어도 하나가 일어날 확률은 각 확률의 합이다. 곱셈규칙: 서로 독립인 두 사건이 동시에 일어날 확률은 각 확률의 곱이다. 열렬한 도박꾼이던 카르다노는 이 발견을 비밀에 부쳤고, 그의 책은 사후 100여 년이 지나서야 세상에 알려졌다.

1654년 피에르 드 페르마(Pierre de Fermat, 1601–1665)와 블레즈 파스칼(Blaise Pascal, 1623–1662)이 확률모형을 다시 고안했다. 페르마–파스칼 모형은 똑같이 일어날 법한 결과들로 이루어진 유한한 비공집합 Ω에서 출발한다. A가 Ω의 부분집합이면, A의 확률 P(A)는 다음 비율로 정의된다(|A|는 A의 원소 개수).

뒤에 하위헌스·드무아브르·라플라스·르장드르·가우스·푸아송 등이 이 모형을 확장하여, Ω가 결과 ω₁, ω₂, …의 유한 또는 가산(countable) 집합이고 각 결과에 확률 p₁, p₂, …(합은 1)가 붙는 경우를 다루게 되었다. 이때 사건 A의 확률은 다음과 같다.

네덜란드의 수학자·물리학자 크리스티안 하위헌스(Christiaan Huyghens, 1629–1695)는 파리를 방문해 페르마와 파스칼의 결과를 배운 뒤 주사위 게임에서 추론하는 법(De Ratiociniis in Ludo Aleae)을 썼는데, 이 책은 오랫동안 확률론의 표준 교과서가 되었다. 그는 여기서 기대값(expectation)이라는 중요한 개념을 도입했다. 상금 a₁, …, a_n을 받을 확률이 각각 p₁, …, p_n이면, 기대 상금('나의 기회의 가치')은 다음과 같다.

선박보험과 큰수의 법칙 Ship Insurance & the Law of Large Numbers

선박보험회사는 한 배가 항해에서 무사히 돌아올 확률을 정해야 하는데, 페르마–파스칼 모형으로는 이를 합리적으로 추정할 수 없었다. 이 문제는 야코프 베르누이(James/Jacob Bernoulli, 1654–1705)가 저서 추측술(Ars Conjectandi)에서 큰수의 법칙(law of large numbers)의 첫 형태를 증명하며 풀었다. '성공'과 '실패' 두 결과만 갖고 성공확률이 일정하지만 미지(p)인 사건을 독립적으로 반복 관측하면, 성공의 빈도(성공 횟수 ÷ 전체 횟수)는 관측 수가 무한히 커질수록 미지의 확률 p에 가까워진다.

생명보험과 톤틴 Life Insurance

최초의 생명보험인 톤틴(tontine)은, 가입자가 거액을 회사에 내고 예컨대 60세부터 죽을 때까지 매년 정해진 연금을 받는 형태였다. 회사는 지급할 연금 총액을 추정해야 했는데, 아브라함 드무아브르(Abraham de Moivre, 1667–1754)가 생명연금(Annuities upon Lives)에서 이를 풀었으며, 그 해법은 에드먼드 핼리(Edmond Halley, 1656–1742)의 생명표(life table)에 기초했다.

코앙몰고로프와 엄밀한 토대 Toward a Rigorous Foundation

(확장된) 페르마–파스칼 모형은 19세기의 많은 확률 문제에 불충분했지만, 그럼에도 확률론은 정밀한 수학적 토대 없이도 체비셰프·마르코프·랴푸노프·맥스웰 등에 의해 성공적으로 발전했다. 엄밀한 수학 분과로서의 돌파구는 1933년 안드레이 니콜라예비치 콜모고로프(Andrei N. Kolmogorov, 1903–1987)의 저서 확률론의 기초(Grundbegriffe der Wahrscheinlichkeitsrechnung)에서 열렸다. 그는 확률론의 공리적(axiomatic) 모형을 정식화했고, 이는 오늘날 대다수 확률론자가 사용하는 모형이 되었다(비슷한 시기 폰 미제스의 모형도 유명하다).

2. 콜모고로프 모형 Kolmogorov's Model

콜모고로프 모형은 세 가지 대상에서 출발한다. 비공집합 Ω(가능한 모든 결과의 집합), Ω의 부분집합들의 모임 F(관측 가능한 모든 사건의 집합), 그리고 F에서 단위구간 [0, 1]로 가는 함수 P(사건의 확률). 삼중쌍 (Ω, F, P)가 다음 공리를 만족하면 확률공간(probability space)이라 한다.

• F는 σ-대수(σ-algebra)다. 즉 Ω ∈ F이고, F, F₁, F₂, … ∈ F이면 여집합 F^c와 합집합 F₁ ∪ F₂ ∪ ⋯ 도 F에 속한다.
• P(Ω) = 1이고, F₁, F₂, … 가 서로 배반(F_i ∩ F_j = ∅, i ≠ j)이면 그 합집합의 확률은 각 확률의 합이다(가산가법성).

실직선 R에서 모든 구간을 포함하는 가장 작은 σ-대수를 보렐 σ-대수(Borel σ-algebra)라 하고, 그에 속하는 집합을 보렐 집합(Borel set)이라 한다. 확률변수(random variable) 개념은 체비셰프(약 1860년)가 도입했는데, 그는 이를 "지정된 확률로 서로 다른 값을 갖는 실변수"로 정의했다. 콜모고로프 모형에서 확률변수 X는, 모든 실수 a에 대해 {ω | X(ω) ≤ a} ∈ F를 만족하는 함수다. 이때 분포함수는 F_X(a) = P(X ≤ a)로, X가 a 이하일 확률을 나타낸다.

3. 조건부확률과 베이즈 정리 Conditional Probabilities

확률공간 (Ω, F, P)에서 P(B) > 0인 사건 A, B가 주어지면, B가 주어졌을 때 A의 조건부확률(conditional probability)은 다음과 같이 정의된다.

P(A|B)는 사건 B가 일어났음을 알 때 A가 일어날 확률로 해석된다. B₁, B₂, … 가 서로 배반이고 합집합이 Ω이며 각 P(B_i) > 0이면, 임의의 사건 A에 대해 전확률 법칙(law of total probability)이 성립한다.

그리고 베이즈 정리(Bayes' rule, 역확률 법칙)는 다음과 같다.

기대값과 조건부기대값 Expectation & Conditional Expectation

확률변수 X의 기대값(expectation) E(X)는 적분 ∫_Ω X(ω) P(dω)로 정의된다(적분이 존재할 때). X의 기대값이 유한할 때, Y = y가 주어진 X의 조건부기대값(conditional expectation) E(X|Y = y)는 거의 확실히 유일하게 정해지는 함수로 정의된다. (X, Y)가 결합확률질량함수 p_X,Y 또는 결합밀도함수 f_X,Y를 가지면, E(φ(X)|Y = y)는 각각 합 또는 적분으로 계산할 수 있다.

특성함수와 라플라스 변환 Characteristic Functions & Laplace Transforms

확률변수 X에 대해 φ(t) = E(e^itX)는 모든 실수 t에서 잘 정의되며 X의 특성함수(characteristic function)라 한다. 또 L(z) = E(e^zX)는 라플라스 변환(Laplace transform)이다. 특성함수는 분포함수를 유일하게 결정한다 — 즉 X와 Y가 같은 특성함수를 가질 필요충분조건은 같은 분포를 갖는 것이다(유일성 정리).

4. 콜모고로프 일치정리와 브라운 운동 Consistency Theorem & Brownian Motion

모수화된 확률변수족 (X_t | t ∈ T)에 대한 모형을 만들 때, 유한개의 시각 t₁, …, t_n에 대한 결합확률 P((X_t1, …, X_tn) ∈ B)를 지정한다고 하자. 이 지정에 (정밀하게 정의된 의미에서) 모순이 없으면, 콜모고로프 일치정리(consistency theorem)는 그 지정을 따르는 확률공간 (Ω, F, P)와 확률변수들 (X_t | t ∈ T)이 실제로 존재함을 보장한다. 모순 없는 모든 무작위 체계를 콜모고로프 틀 안에서 모형화할 수 있다는 이 정리는, 콜모고로프 모형이 거의 보편적으로 받아들여지는 주된 이유 중 하나다.

브라운 운동(Brownian motion). 원점에서 출발하는 브라운 입자의 시각 t에서의 첫째 좌표 위치를 X_t라 하자. 아인슈타인(1905)에 따르면 X_t는 다음을 만족한다. (i) X₀ = 0; (ii) X_t+s − X_t는 기대값 0, 분산 sσ²인 정규분포를 따른다(σ²는 입자의 질량·속도·유체의 점성에 의존하는 양수); (iii) 겹치지 않는 시간구간의 증분들은 서로 독립이다. 이 (i)(ii)(iii)에는 모순이 없어(콜모고로프 의미에서) 이를 만족하는 확률공간과 확률과정이 존재하며, 이 과정을 브라운 운동이라 한다 — 물리학·금융(주가)·유전학 등에 광범위하게 응용된다.

5. 0–1 법칙과 보렐–칸텔리 보조정리 The 0–1 Law & Borel–Cantelli

X₁, X₂, … 가 독립 확률변수열이라 하자. 사건 A가 유한개의 X_i의 값에 의존하지 않고 오직 무한히 먼 미래(tail)에만 의존한다고 하자(예: X_n(ω)가 수렴하는 ω들의 집합, 또는 평균 (X₁+⋯+X_n)/n이 수렴하는 집합). 그러면 0–1 법칙에 따라 P(A)는 0이거나 1이다. 즉 무한한 미래에만 의존하는 사건은 거의 확실히 일어나거나 거의 확실히 일어나지 않는다.

보렐–칸텔리 보조정리(Borel–Cantelli lemma)는 0–1 법칙의 특수한 경우다. 사건열 A₁, A₂, … 의 확률을 p₁, p₂, … 라 하고, A를 "무한히 많은 A_n이 일어나는 사건"이라 하자. 그러면 (i) Σp_n < ∞ 이면 P(A) = 0이고, (ii) A_n들이 독립이고 Σp_n = ∞ 이면 P(A) = 1이다.

6. 수렴 개념 Convergence Notions

확률론은 확률변수와 그 분포함수에 대한 여러 수렴 개념을 다룬다.

• 확률수렴(in probability): 모든 δ > 0에 대해 P(|X_n − X| > δ) → 0. 즉 X_n이 X와 임의의 작은 양수보다 더 벌어질 확률이 0으로 간다.
• 거의 확실한 수렴(almost surely, a.s.): 확률 0인 예외집합을 빼면 X_n(ω) → X(ω)가 통상적 실수열 수렴의 의미로 성립한다. a.s. 수렴은 확률수렴을 함의한다.
• 평균수렴(in p-mean): E|X_n − X|^p → 0. p=2이면 평방평균(quadratic mean) 수렴이다. p-평균수렴은 확률수렴과 더 낮은 차수의 평균수렴을 함의한다.
• 분포수렴(in distribution / weakly): F의 모든 연속점 a에서 F_n(a) → F(a). 연속성 정리에 따르면 이는 특성함수의 수렴 φ_n(t) → φ(t)와 동치다. 확률수렴은 분포수렴을 함의하지만 역은 일반적으로 성립하지 않는다.
• 전변동수렴(in total variation): |F − F_n|₁ → 0. 전변동수렴은 분포수렴을 함의한다.

7. 부분합의 극한 — 큰수의 법칙과 중심극한정리 Limits of Partial Sums

X₁, X₂, … 의 부분합을 S_n = X₁ + ⋯ + X_n이라 하자. a_n(S_n − b_n)의 극한 거동을 기술하는 정리가 많은데, a_n = n⁻¹(큰수의 법칙)과 a_n = n^−1/2(중심극한정리)가 가장 대표적이다.

큰수의 법칙 The Law of Large Numbers

큰수의 법칙은 확률론의 첫 극한정리로, 야코프 베르누이(약 1695)가 '황금정리(golden theorem)'라 불렀다. 일정 가정 아래, 중심화된 평균 (S_n − b_n)/n이 확률 또는 p-평균으로 0에 수렴하면 약법칙(weak law), 거의 확실히 수렴하면 강법칙(strong law)이라 한다. 특히 X_i가 독립이고 동일분포이며 유한 기대값 μ를 가지면, 다음이 성립한다.

또한 무상관(uncorrelated)이고 분산들이 일정 조건을 만족하면, (S_n − b_n)/n은 평방평균 및 확률로 0에 수렴한다.

중심극한정리 The Central Limit Theorem

중심극한정리(CLT)는 확률론의 두 번째 극한정리로, 드무아브르(약 1740)로 거슬러 올라간다. X_i가 유한 평균 μ_i와 유한 양분산 σ_i²를 갖고, b_n = μ₁+⋯+μ_n, s_n²= σ₁²+⋯+σ_n²을 S_n의 평균·분산이라 하자. 그러면 일정 가정 아래 표준화된 합 (S_n − b_n)/s_n이 표준정규분포로 분포수렴한다.

이 결론은 X_i가 독립·동일분포이고 평균 μ·분산 σ² > 0을 가질 때, 또는 독립이면서 린데베르크 조건(Lindeberg's condition)이나 랴푸노프 조건(Lyapounov's condition)을 만족할 때 성립한다.

8. 반복로그법칙과 아크사인 법칙 Law of Iterated Logarithm & Arcsine Law

반복로그법칙(law of the iterated logarithm). 이는 a_n(S_n − b_n)의 상·하한 변동폭을 기술하는 현대적 극한정리다. X_i가 독립·동일분포일 때 다음이 확률 1로 성립한다.

하극한은 같은 식에서 −σ가 된다. μ = 0이면 S_n은 공정한 게임 n회의 누적 상금을 뜻하며, 반복로그법칙은 누적 상금 S_n이 ±σ√(2n log(log n)) 사이에서 진동함을 말해준다.

아크사인 법칙(arcsine law). 이 법칙은 위의 극한정리들과 성격이 다르다. X_i가 독립·동일분포이고 게임의 상금을 나타내면, 부분합 S_n은 n회 후 누적 상금이다. 도박꾼은 S_n > 0일 때 앞서고 있다고 하며, N_n을 S₁, …, S_n 중 양수인 것의 개수라 하자. 그러면 N_n/n은 처음 n게임 중 도박꾼이 앞선 빈도다. P(S_n > 0) → α(0 < α < 1)이면, N_n/n은 모수 α의 아크사인 분포로 분포수렴한다.

α = ½이면 게임이 공정하지만, 이때 아크사인 밀도는 x = ½에서 최솟값을 가진다. 즉 "딱 절반의 시간 동안 앞서는" 것이 가장 일어나기 어려운 결과이고, 오히려 거의 내내 앞서거나 거의 내내 뒤지는 쪽이 더 흔하다 — 직관에 반하는 유명한 결과다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 확률공간 (probability space) — 표본공간 Ω, 사건들의 σ-대수 F, 확률측도 P의 삼중쌍 (Ω, F, P).
• σ-대수 (σ-algebra) — 여집합·가산합집합에 대해 닫혀 있는 부분집합들의 모임. 사건의 자격을 정의한다.
• 보렐 집합 (Borel set) — 실직선의 모든 구간으로부터 σ-대수 연산으로 만들어지는 집합.
• 확률변수 (random variable) — {ω | X(ω) ≤ a}가 항상 사건이 되는, 표본공간에서 실수로의 가측함수.
• 조건부확률 (conditional probability) — B가 일어났다는 정보 아래 A의 확률, P(A∩B)/P(B).
• 특성함수 (characteristic function) — φ(t) = E(e^itX). 분포를 유일하게 결정하며 분포수렴 판정에 쓰인다.
• 큰수의 법칙 (law of large numbers) — 표본평균이 참 평균으로 수렴함(확률수렴=약, a.s.수렴=강).
• 중심극한정리 (central limit theorem) — 독립합을 표준화하면 표준정규분포로 분포수렴함.
• 0–1 법칙 (zero–one law) — 무한히 먼 미래에만 의존하는 사건의 확률은 0 또는 1뿐이다.
• 아크사인 법칙 (arcsine law) — 누적 상금이 양수인 시간 비율의 극한분포. ½ 부근이 가장 드물다.

한국보험시장 현황 Korea Market Practice

확률론은 보험 계리 수학 전체의 수학적 기초이므로, 국내 계리 실무와의 연결은 특정 공식보다 계리사 자격과 교육 체계 측면에서 우선 언급할 수 있다. 한국계리사회(한국보험계리사회)가 주관하는 계리사 1차·2차 시험 과목 중 "보험수학"과 "손해보험계리"는 측도론적 확률론을 직접 전제하며, 시험 응시자들은 σ-대수·확률측도·조건부 기댓값의 엄밀한 정의를 숙지해야 한다. 이 교육 기반 위에서 IFRS17 현금흐름 추정, K-ICS 요구자본 산출, 경험통계 분석이 수행된다.

확률론의 핵심 도구인 조건부 기댓값 E[X|ℱ]는 국내 IFRS17 실무에서 직접 수식으로 등장한다. 최선추정(BEL)은 정보집합 ℱ 하에서의 미래 현금흐름 기댓값이며, 시간이 지날수록 정보가 추가되어 기댓값이 갱신(update)되는 구조—조건부 기댓값의 마팅게일 성질—가 IFRS17 CSM의 '잠금 후 갱신' 회계 논리와 정확히 일치한다. 이 대응을 이해하는 계리사는 CSM 측정 모형의 수학적 근거를 더 명확히 설계할 수 있다.

대수의 법칙과 큰 수의 법칙은 보험 풀링의 원리를 뒷받침한다. 동질적 리스크를 많이 모을수록 실제 손해율이 기댓값으로 수렴한다는 원리는 보험업의 존재 근거이며, 국내 소형 보험사가 특정 위험에 집중할 때 이 원리가 충분히 작동하지 않는 집중위험으로 인한 자본 요구가 K-ICS에서 별도로 반영된다. 하지만 보험사건 간 종속(자연재해·감염병 동시 사망)이 있으면 대수의 법칙이 약화되므로, 독립 가정의 성립 여부가 풀링 효율의 첫 번째 점검 사항이 된다.