극단값 이론 (Extreme Value Theory)

1. 고전 극단값 이론 Classical Extreme Value Theory

{ξ_n}을 공통 분포함수 F를 갖는 i.i.d. 확률변수열이라 하자. F의 상한점(upper endpoint)

은 도달 불가능하다고 하자. 즉 P(ξ₁ < û) = 1이다(û = ∞이면 자동으로 성립한다). 극단값의 확률이론에서 관심사는, 적당한 정규화 상수열 a_n > 0, b_n에 대해 정규화된 최댓값이 비퇴화 분포 G로 약수렴하는 상황

에서 어떤 G가 극한으로 나타날 수 있는지, 또 주어진 극한 G에 대해 어떤 F가 그 극한을 만들어내는지를 특징짓는 것이다. 위 수렴은 다음과 동치다: G의 모든 연속점 x에서

최솟값에 대한 대칭적 문제는 −ξ의 최댓값을 생각하면 그대로 환원되므로 최댓값만 논의하면 충분하다.

정리 1 (극단형 정리, Extremal Types Theorem; Fisher–Tippett, Gnedenko, de Haan). 가능한 극한분포는 어떤 상수 a > 0, b에 대해 G(x) = Ĝ(ax + b) 꼴이며, Ĝ는 다음 세 가지 극단값 분포 중 하나다.

제1형 (검벨, Gumbel)

제2형 (프레셰, Fréchet) — 상수 α > 0에 대해

제3형 (와이불, Weibull) — 상수 α > 0에 대해

분포함수 F에 대해 위 수렴이 제1형·제2형·제3형 극한으로 성립할 때, F가 각각 흡인영역 D(I), D_α(II), D_α(III)에 속한다고 말한다(문헌에 따라 D(Λ), D(Φ_α), D(Ψ_α)로도 쓴다).

2. 흡인영역의 판별 Domains of Attraction

정리 2 (흡인영역의 특성화; Gnedenko, de Haan). 각 흡인영역은 분포의 꼬리 1 − F의 감소 방식으로 판별된다.

(i) F ∈ D(I) ⇔ 어떤 함수 w(u) > 0이 존재하여 모든 x에 대해

(ii) F ∈ D_α(II) ⇔ û = ∞이고, 모든 x > −1에 대해

(iii) F ∈ D_α(III) ⇔ û < ∞이고, 모든 x < 1에 대해

조건 (ii)는 1 − F가 무한대에서 지수 −α < 0의 정칙변동(regularly varying) 함수라는 것과 동치다. 예를 들어 표준정규분포 Φ는 D(I)에 속하며, 이때 보조함수는 w(u) = 1/u로 잡을 수 있다. 또한 세 극단값 분포 자신도 각각 자기 자신의 흡인영역 D(I), D_α(II), D_α(III)에 속한다.

어느 흡인영역에도 속하지 않는 분포도 존재한다. 그런 분포에서는 정규화된 최댓값의 극한이 퇴화(상수)될 수밖에 없다. 흡인영역에 속하는 분포는 꼬리가 적어도 어떤 음수 차수의 다항식보다 빠르게 감소해야 하므로, 어떤 다항식보다도 느리게 감소하는 분포 — 예컨대 F(x) = 1 − 1/log(x ∨ e) — 는 흡인되지 않는다.

예제 파레토 꼬리의 프레셰 극한을 수치로 확인하기

클레임 ξ가 F(x) = 1 − x⁻² (x ≥ 1)인 파레토형 분포를 따른다(α = 2). a_n = n^1/2, b_n = 0으로 정규화할 때 극한분포를 구하고, n = 100건의 클레임 중 최댓값이 20을 넘지 않을 확률을 정확값과 극한 근사값으로 비교하라.

정규화된 최댓값의 분포함수는 x > 0에서

즉 α = 2인 프레셰분포가 극한이다. n = 100, x = 2 (즉 M₁₀₀ ≤ 20)이면 정확값은 (1 − 1/400)¹⁰⁰ = 0.77868, 프레셰 근사값은 exp(−1/4) = 0.77880이다. n = 100에서 이미 소수 셋째 자리까지 일치한다 — 점근이론이 실용적인 표본 크기에서도 잘 작동함을 보여준다.

3. 종속 수열의 극단값 Extremes of Dependent Sequences

이번에는 {η_n}이 공통 분포함수 F와 도달 불가능한 상한점 û를 갖는 정상(stationary) 수열이라 하자. 역시 정규화된 최댓값이 비퇴화 극한 G로 수렴하는지가 관심사다. 다음의 혼합형 조건 D(u_n) 아래에서 극단형 정리가 종속적 상황으로 확장된다.

조건 D(u_n) (Leadbetter). j₁ − i_p ≥ m인 임의의 시점들 i₁ < … < i_p < j₁ < … < j_q ≤ n에 대해, 사건 {η_i ≤ u_n}들의 결합확률과 두 블록 확률의 곱의 차가 어떤 α(n, m)으로 일양하게 눌리고, 어떤 m_n = o(n)에 대해 α(n, m_n) → 0이다. 즉, 멀리 떨어진 시점들 사이의 종속성이 점근적으로 사라진다는 약한 혼합 조건이다.

정리 3 (종속 수열의 극단형 정리; Leadbetter, Loynes). 정규화된 최댓값이 G로 수렴하고 조건 D(a_nx + b_n)이 모든 x에서 성립하면, G는 여전히 세 극단값 유형 중 하나여야 한다.

독립인 경우의 정리를 종속 수열로 옮기려면, 초과의 군집(clustering)을 막는 다음 조건이 추가로 필요하다.

조건 D′(u_n) (Loynes, Watson).

{ξ_n}을 {η_n}과 같은 분포함수 F를 갖는 i.i.d. 연관수열(associated sequence)이라 하자.

정리 4. 연관수열에 대해 독립 극단형 수렴이 성립하고, 조건 D(a_nx + b_n)과 D′(a_nx + b_n)이 모든 x에서 성립하면, 종속 수열 {η_n}의 최댓값도 같은 정규화 상수, 같은 극한으로 수렴한다.

예 (가우스 수열). {η_n}이 가우스 수열이면, 이른바 베르만 조건(Berman condition)

아래에서 정리 4를 적용할 수 있다. 조건 D′(u_n)을 완화하려는 연구가 많이 이루어졌고 그 경우 더 복잡한 극한이 나타날 수 있으나(Hsing, Hüsler & Leadbetter), 기술적으로 깊은 주제이므로 여기서는 다루지 않는다. 종속 수열 극단값의 주된 교과서는 Leadbetter, Lindgren & Rootzén의 제2부다.

4. 정상 확률과정의 극단값 Extremes of Stationary Processes

{ξ(t)}_t∈ℝ를 연속시간 정상 확률과정이라 하고, 단위구간별 최댓값으로 정상 수열

을 만들면(이 상한들이 잘 정의된 확률변수라고 가정한다) 앞 절의 종속 수열 이론(정리 3·4)을 쓸 수 있다. 그러나 가우스 과정 같은 전형적인 과정에서도, 매우 복잡한 확률변수 sup_t∈[0,1) ξ(t)의 분포에 관한 조건을 검증하려면 새로운 기술적 도구가 필요하며, 조건 D·D′의 검증도 마찬가지로 어렵다. 그래서 연속시간 이론은 수열 이론 위에 쌓아 올렸다기보다 사실상 처음부터 새로 개발된 것에 가깝다.

일반 정상과정의 극단값 이론은 수열의 경우보다 훨씬 미완성된 분야로, Leadbetter & Rootzén, Albin, 그리고 Berman의 긴 연구 계열이 대표적이다. 가우스 과정의 극단값은 훨씬 정리된 주제로, Cramér, Pickands, Volkonskii & Rozanov 등의 논문이 핵심이며 주된 교과서는 Piterbarg다. 다음은 수열의 정리 4에 대응하는 연속시간 결과 하나다.

{ξ(t)}를 완비 확률공간 위의 분리가능하고 확률연속인 정상과정, ξ(0)의 분포함수를 F라 하자. 상수 −∞ ≤ x < 0 < x̄ ≤ ∞와 연속함수 F̂(x) < 1, w(u) > 0이 존재하여

이 성립한다고 하자. 또한 sup_t∈[0,1] ξ(t)가 잘 정의된 확률변수라 가정하고, 시간 스케일 T(u)를

로 잡는다.

정리 5 (Albin). 위 조건과 약간의 추가적인 기술적 조건 아래, 어떤 상수 c ∈ [0, 1]이 존재하여 x < x < x̄에서

예 (가우스 과정). ξ가 평균 0, 분산 1인 정상 가우스 과정이면, 어떤 상수 α ∈ (0, 2], C > 0에 대해 국소 조건과 장기 혼합 조건

이 성립하면 w(u) = 1/u로 정리 5가 적용된다(Pickands). 연속시간 극단값의 새로운 방향으로는 로신스키와 사모로드니츠키(Rosiński & Samorodnitsky)의 두꺼운 꼬리 무한분해가능 과정 연구가 있다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 약수렴 (weak convergence, 분포수렴) — 확률변수열의 분포함수가 극한 분포함수의 모든 연속점에서 수렴하는 것.
• 비퇴화 분포 (nondegenerate distribution) — 한 점에 확률이 모두 몰려 있지 않은(상수가 아닌) 분포.
• 상한점 (upper endpoint) — 분포가 확률을 갖는 값들의 상한 û. 유한할 수도, ∞일 수도 있다.
• 정규화 상수 (normalizing constants) — 극한이 퇴화하지 않도록 최댓값을 평행이동(b_n)·확대축소(a_n)하는 상수열.
• 흡인영역 (domain of attraction) — 최댓값이 특정 극단값 분포로 수렴하는 원분포 전체의 집합.
• 정칙변동 (regular variation) — (1−F(ux))/(1−F(u)) → x^−α처럼 꼬리가 멱함수 비율로 행동하는 성질.
• 정상수열·정상과정 (stationary sequence/process) — 결합분포가 시간 이동에 대해 불변인 확률변수열·확률과정.
• 혼합조건 (mixing condition) — 멀리 떨어진 시점 사이의 종속성이 점근적으로 사라진다는 조건. D(u_n)이 그 약한 형태다.
• 군집 (clustering of exceedances) — 높은 수준의 초과 사건이 짧은 시간 안에 몰려 일어나는 현상. D′ 조건이 이를 배제한다.
• 극단지수 (extremal index) — 군집이 있을 때 극한이 G^θ로 약화되는 정도를 나타내는 θ ∈ (0, 1]. 군집 평균 크기의 역수.
• 가우스 과정 (Gaussian process) — 임의의 유한 시점들에서의 값이 다변량 정규분포를 따르는 확률과정.
• 분리가능·확률연속 (separable, continuous in probability) — 연속시간 과정의 상한 등을 잘 정의되게 하는 기술적 정칙 조건들.

한국보험시장 현황 Korea Market Practice

고전 극단값 이론이 한국 실무에서 가장 구체적으로 쓰이는 자리는 초과손해(XL) 재보험의 가격산정이다. 임계값 u를 넘는 클레임에 일반화 파레토분포(GPD)를 적합하고 층별 기대손해·초과확률을 계산하는 POT 방법은 대형손해 경험이 희소한 층(layer)의 요율을 다루는 표준 어휘로, 매년 1월 1일 갱신되는 국내 재보험 특약 협상에서 출재사·재보험사(코리안리와 외국계 재보험사들)가 공유하는 분석 틀이기도 하다. 본문의 정규화 상수와 흡인영역 조건은 이 실무 뒤에 있는 수학적 보증에 해당한다.

리스크관리 쪽에서는 K-ICS(2023)·ORSA 체계가 극단값 이론의 응용 무대다. 99.5% 신뢰수준의 요구자본, 스트레스테스트의 극단 시나리오, 운영리스크·대형 배상책임 손해처럼 두꺼운 꼬리가 의심되는 위험의 분위수 추정에서 "꼬리만큼은 GPD로 모형화한다"는 접근이 쓰인다. 다만 표준모형 충격계수는 당국이 제시하므로, 개별 회사가 EVT를 직접 적용하는 것은 내부모형류 분석·자체 검증·재보험 적정성 평가 같은 자율 영역이 중심이다. 금융권 전반으로 보면 은행 운영리스크·시장리스크에서 먼저 정착한 방법론이 보험으로 확산된 흐름이다.

본문이 다룬 정상성·혼합(mixing) 조건의 완화도 실무적 함의가 있다. 기후변화로 재해 빈도·강도의 정상성 가정이 흔들리고(비정상 GEV — 모수에 추세를 넣는 방법이 학계·기상청 분석에서 쓰인다), 보험 포트폴리오의 클레임은 i.i.d.가 아니라 계절성·전염성을 갖기 때문이다. "조건이 깨져도 극한 분포의 형태는 살아남는다"는 이론의 강건성이, 자료가 이상화된 가정을 만족하지 않는 현실에서 EVT를 계속 쓸 수 있게 하는 근거가 된다.