대편차 (큰 편차)

1. 들어가며 — 드문 사건의 확률 Introduction

대편차(large deviations) 이론은 드문 사건(rare events)의 확률을 추정한다. 좁은 의미에서는 큰 수의 법칙(law of large numbers)을 정밀화한다. 한 예로 관점을 설명해 보자. ξ, ξ₁, ξ₂, …를 독립동일분포 확률변수라 하고, 기댓값 E(ξ)가 존재하며 x > E(ξ)가 고정되어 있다고 하자. Y_n = ξ₁ + ⋯ + ξ_n 으로 두자. 대편차 이론에서 관심 있는 전형적 사건은 큰 n에 대한 {Y_n/n ≥ x} 이다. 큰 수의 법칙은 이 사건의 확률이 n → ∞ 일 때 0으로 감을 말해 준다. 대편차 이론은 그 감소 속도까지 말해 준다.

여기서 I(x) ∈ [0, ∞] 은 구체적으로 특정할 수 있고, o(1)은 n → ∞ 일 때 0으로 간다. I(x)가 양이고 유한하다고 하자. 그러면 위 식은 P(Y_n/n ≥ x)가 지수적으로 빠르게 0으로 감을, 그리고 I(x)가 그 수렴 속도(rate)임을 보여 준다. 대편차 이론의 기본 문제는, 확률변수열(더 일반적으로는 분포열)에 대해 이런 속도 I(x)를 찾아내는 것이다.

2. 보험 문제와의 연결 Connections with Insurance Problems

분포의 꼬리와 작은 확률은 보험 응용에서 핵심이다. 앞 예에서 n을 포트폴리오의 보험계약자 수, ξ_i를 계약자 i의 해당 연도 총클레임액으로 해석하면, 위 추정 (1)은 회사 총클레임액의 오른쪽 꼬리에 대한 정보를 준다. 추정의 점근적 성격상 큰 포트폴리오를 전제한다.

또 다른 응용은 파산이론(ruin theory)이다. 이때 Y_n을 1, …, n 년 동안 보험회사의 누적 순지출로 해석하고 U₀를 초기자본이라 하자. 파산시각은 다음과 같이 정의된다(어떤 n에서도 Y_n ≤ U₀ 이면 +∞).

무한시간 파산확률 P(T < ∞)을 생각하자. 파산 사건은 다음과 같이 합집합으로 쓸 수 있다.

이 형태로부터 추정 (1)을 이용해 큰 U₀에 대한 파산확률을 근사할 수 있을 것 같다. 실제로 대편차 이론은 다음의 점근 추정으로 이어진다(U₀ → ∞).

모수 R는 룬드베리 지수(Lundberg exponent)로 알려져 있다. 다만 고전적 크라메르–룬드베리(Cramér–Lundberg) 근사는 이보다 더 날카로운(상수 인자까지 주는) 결과를 준다는 점에 유의하자. 대편차 이론은 표본경로(sample path) 묘사를 통해 파산 사건에 대한 추가적 통찰도 제공하며, 순지출의 일반 모형에도 적용된다.

3. 확률벡터열의 대편차 — LDP Large Deviations for Sequences of Random Vectors

X₁, X₂, …를 유클리드 공간 ℝ^d에서 값을 갖는 확률벡터라 하자. 대편차 원리(large deviations principle, LDP)는 대편차 이론의 기본 개념으로, 큰 묶음의 확률들에 대한 지수적 추정을 한꺼번에 제공한다.

정의 (속도함수와 LDP). 함수 I : ℝ^d → [0, ∞] 이 하반연속(lower semicontinuous)이면 속도함수라 한다. 확률열 {X_n}이 속도함수 I로 LDP를 만족한다는 것은, 모든 닫힌집합 F에 대한 상계와 모든 열린집합 G에 대한 하계가 동시에 성립함을 뜻한다.

4. LDP가 성립하는 경우 — 크라메르·게르트너–엘리스 Classes of LDPs

LDP가 존재하기 위한 충분조건들과 속도함수의 형태를 보자. ℝ^d 값 확률벡터열 {Y_n}에서 시작해 X_n = Y_n/n 으로 두자. 함수 Λ를 다음과 같이 정의한다(⟨·,·⟩는 유클리드 내적).

Λ가 유한한 λ들의 집합 D를 유효정의역(effective domain)이라 한다. Λ의 펜첼–르장드르 변환(Fenchel–Legendre transform) Λ^*는 다음과 같이 정의된다.

정리 1 (크라메르 정리, Cramér’s theorem). Y_n이 ℝ^d의 임의보행(random walk)이라 하자. 0 ∈ D 의 내부라고 가정하면, X_n = Y_n/n 은 속도함수 Λ^*로 LDP를 만족한다. 임의보행의 경우 식 (7)의 우변은 n에 의존하지 않으며, Λ는 단순히 Y₁의 적률생성함수의 로그가 된다. 즉 1차원에서 Λ(θ) = log M(θ) = log E[e^θξ] 이고, 속도함수는 처음에 나온 다음 형태가 된다.

이것이 대편차 이론의 역사적 출발점인 크라메르 정리의 핵심이다. 속도함수 I(x) = Λ^*(x)는 누율생성함수 log M(θ)의 르장드르 변환이다. 1차원 임의보행에서는 0이 D의 내부에 없어도 LDP가 성립하며, 다차원에서도 하계는 항상 성립한다(상계는 0이 내부에 없으면 깨질 수 있다).

정리 2 (게르트너–엘리스 정리, Gärtner–Ellis theorem). 0이 D의 내부에 있고 Λ가 본질적으로 매끄럽다(essentially smooth)고 하자. 그리고 식 (7)이 모든 λ에서 극한(limsup이 아닌 진짜 극한)으로 성립한다고 하자. 그러면 X_n은 속도함수 Λ^*로 LDP를 만족한다. 이는 크라메르 정리를 증분 사이에 종속성이 있는 경우(예: 마르코프 종속)로 확장한 것이다. 적용하려면 함수 Λ를 찾아 그 성질을 조사하면 된다.

5. LDP의 일반 성질 General Properties of the LDP

이론의 구조를 두 정리로 보인다. {X_n}이 속도함수 I로 LDP를 만족한다고 하자.

정리 3 (수축원리, Contraction principle). f : ℝ^d → ℝ^d₁ 을 연속함수라 하고, 함수 J를 다음으로 정의하자(공집합 위 하한은 ∞로 약속).

J가 하반연속이면 f(X_n)은 속도함수 J로 LDP를 만족한다. 즉 연속변환을 거치면 속도함수가 그 변환에 따라 “수축”된다(J가 하반연속이 아니어도 그 하반연속 포락이 속도함수가 된다).

정리 4 (바라단 적분보조정리, Varadhan’s integral lemma). 연속함수 f : ℝ^d → ℝ 가 적절한 적분가능 조건(가벼운 꼬리 조건)을 만족하면, 지수적분의 점근이 다음과 같이 속도함수로 표현된다.

이는 확률뿐 아니라 X_n에 관한 기댓값의 지수 점근을 다룬다. 라플라스 방법의 무한차원·확률적 일반화로 볼 수 있다.

이 개념들은 추상적 위상공간으로도 일반화된다. 표본경로 결과를 주는 모굴스키 정리(Mogulskii theorem), 경험측도를 다루는 사노프 정리(Sanov’s theorem)가 대표적 예다. 이런 추상적 관점은 이론적 흥미뿐 아니라, 파산의 표본경로 묘사처럼 직접적인 응용으로도 충분히 구체적이다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 대편차 (large deviations) — 표본평균이 기댓값에서 크게 벗어나는 드문 사건의 확률을 지수 속도로 추정하는 이론.
• 속도함수 (rate function, I) — 드문 사건 확률의 지수적 감소 속도 e^−nI(x)를 주는 하반연속 함수.
• 대편차 원리 (LDP) — 닫힌집합 상계·열린집합 하계로 표현되는, 지수 추정의 기본 틀.
• 크라메르 정리 (Cramér’s theorem) — 임의보행의 표본평균에 대해 속도함수가 누율생성함수의 르장드르 변환임을 보인 정리.
• 르장드르(펜첼–르장드르) 변환 — I(x) = sup_θ(θx − log M(θ)). 볼록 켤레변환으로 속도함수를 만든다.
• 적률생성함수 (M(θ)) · 누율생성함수 (log M) — E[e^θξ]와 그 로그. 대편차 속도의 출발점.
• 게르트너–엘리스 정리 — 증분에 종속성이 있어도 LDP가 성립함을 보장하는 크라메르 정리의 확장.
• 수축원리 (contraction principle) — 연속변환을 통과한 확률열의 속도함수를 하한으로 얻는 정리.
• 바라단 적분보조정리 — 지수적 기댓값의 점근을 속도함수로 주는, 라플라스 방법의 확률적 일반화.
• 룬드베리 지수 (Lundberg exponent, R) — 파산확률 e^−RU₀의 지수 감소율. 조정계수라고도 한다.

한국보험시장 현황 Korea Market Practice

대편차 이론은 분포의 먼 꼬리에서 일어나는 희귀한 대손실의 확률을 정밀하게 평가한다. 국내 건전성 규제가 신뢰수준 99.5%(K-ICS) 같은 극단 분위수를 요구하고, 꼬리위험 측도로 TVaR(조건부 꼬리기대)를 활용하는 흐름은 모두 이 '꼬리 확률을 제대로 본다'는 문제의식과 통한다.

특히 거대재해·집중위험처럼 평균적 직관이 통하지 않는 영역에서 대편차적 관점이 유효하며, Cat 모형·스트레스 시나리오·재보험 한도 설정의 사고틀이 된다.