극단값 (Extremes)

1. 기본 모형 The Basic Model

현대 극단값 방법론은 "자료의 분포가 어떤 극단값 분포의 흡인영역에 속한다"는 가정 아래, 극단 분위수와 작은 초과확률을 통계적으로 추정하는 해법을 제공한다. 분포함수 F, 분위수함수 Q를 갖는 i.i.d. 자료 X₁, …, X_n에서, 정규화된 최댓값 X_n,n = max_i X_i가 극단값 분포로 수렴한다는 가정은 다음과 같이 쓸 수 있다. 어떤 a_n > 0, b_n, γ ∈ ℝ에 대해, 1 + γy > 0인 모든 y에서

모수 γ, 즉 극단값 지수(extreme value index, EVI)는 F의 꼬리 감소 방식을 특징짓는다(표제어 극단값 분포 참조). 위 관계는 z → ∞에 대해

로 다시 쓸 수 있다. 이는 높은 값 x에 대한 초과확률 p_x = P(X > x) = 1 − F(x)를 일반화 파레토분포(generalized Pareto distribution, GPD)의 생존함수

로 근사할 수 있음을 시사한다. 여기서 척도·위치모수 σ, μ가 a_z, b_z의 역할을 넘겨받는다. 더 구체적으로, 드 한(de Haan, 1970)의 연구 이래 위 수렴은 다음 두 동치 조건과 같음이 알려져 있다. 어떤 보조함수 a에 대해 모든 u ∈ (0, 1)에서

(γ = 0이면 h₀(1/u) = log(1/u)로 해석한다.) 또는 동치로, 보조함수 b = a(1/(1−F))에 대해

여기서 x₊는 분포의 (무한일 수 있는) 오른쪽 끝점이다. 이 조건들이 분명히 보여주듯, 꼬리 추정은 미지의 함수 a(또는 b)를 품은 점근적·비표준적 모형 아래에서 수행되며, EVI γ의 추정이 중요한 중간 단계가 된다.

2. 꼬리 추정 Tail Estimation

위 조건에서 t는 충분히 높은 임계값(threshold)으로 해석된다. 임계값을 넘는 초과분의 조건부확률 P(X − t > y | X > t)는 분포함수가

인 GPD로 근사할 수 있다. 척도모수 σ는 b(t)의 통계적으로 편리한 표기다. 임계값을 잡는 방식은 두 가지다 — 결정론적 임계값을 쓰면 초과 개수가 임의(random)가 되고, (k+1)번째 큰 관측값 X_n−k,n 같은 임의 임계값을 쓰면 초과 개수가 k로 고정된다. 여기서는 후자를 쓴다. n이 무한대로 갈 때 k를 고정하면 점근적으로 정보가 부족하므로, k도 함께 키우되 점근 모형이 유지되도록 너무 빠르지 않게(k/n → 0) 키우는 것이 자연스럽다.

γ, σ의 추정량 γ̂, σ̂이 주어지면 — 임의 임계값 방식에서 1 − F(t)를 k/n으로 추정하여 — 초과확률 p_x를 다음과 같이 추정한다.

또한 주어진 p(전형적으로 1/n보다 작다)에 대한 극단 분위수 q_p = Q(1 − p)는 위 식을 p와 같다고 놓고 x에 대해 풀어 얻는다.

이 식은 1절의 분위수 조건에서 uv = p, v = k/n으로 놓고 Q(1 − k/n)을 X_n−k,n으로 추정해도 그대로 나온다. 이러한 극단 분위수·꼬리확률 추정 접근법은 피칸즈(Pickands, 1975)가 시작했으며, 데커스–드 한(Dekkers & de Haan)과 스미스(Smith)가 대안적 형태와 해석을 제시했다.

3. 파레토형 분포와 POT 방법 Pareto-type Distributions and POT

γ > 0이라는 추가 가정을 확신할 수 있는 특수한 경우 — 이때 x₊ = ∞이고 분포는 두꺼운 꼬리, 즉 파레토형이다 — 에는 기본 조건이 다음으로 구체화된다.

즉 충분히 높은 t에 대해 조건부확률 P(X/t > y | X > t)를 순수 파레토분포로 근사할 수 있다. 임의 임계값 X_n−k,n을 쓰면 γ > 0에서 쓸 수 있는 꼬리 추정량이 나온다.

파레토형 꼬리에 대한 이 접근은 바이스만(Weissman, 1978)이 시작했으며, 위 추정량들은 원리적으로 γ = 0인 경우에도 쓸 수 있다(Davis & Resnick).

임계값(흔히 상위 관측값 중 하나로 잡는다)을 넘는 초과분 X_n−j+1,n − X_n−k,n(파레토형이면 비율 X_n−j+1,n/X_n−k,n)에 GPD(또는 파레토분포)를 적합하는 이 방식을 임계값 초과법(Peaks over Threshold, POT)이라 부른다. 고전적 문헌은 Smith(1985)다. GPD의 사용은 어디까지나 (임계값을 x₊로 보내는) 확률적 극한정리의 귀결이므로, 실제 자료에서 극한이 충분히 도달되었는지를 적합도 검정 등으로 반드시 검증해야 하며, 극단값 분석은 신중하게 수행되어야 한다. 이를 위한 그래프 도구가 다음 절의 분위수 그림이다.

4. 분위수 그림 Quantile Plotting

순서통계량 X_1,n ≤ … ≤ X_n,n을 특정 척도에 대고 그려보면 극단값 분석을 그래프로 뒷받침할 수 있다. 예컨대 γ > 0인 파레토형 분포에서는 파레토 분위수 그림

의 궁극적 선형성으로 모형을 평가할 수 있다. 파레토형 모형 아래에서 log Q(1−p)는 p → 0일 때 log(1/p)에 대해 기울기 γ로 근사적으로 선형이기 때문이다(p = j/(n+1)로 놓으면 작은 j, 즉 최대 관측값 쪽의 선형성을 보게 된다). 3절의 추정량들도 로그를 취하면

이 되어, 분위수 그림의 위쪽 k개 점에 적합한 회귀직선을 따라 외삽한 결과임이 분명해진다. 위쪽 k개 점에 회귀직선을 적합해 보면 파레토형 모형 자체를 평가할 수 있고, 선형이라면 그 기울기가 γ > 0의 추정량 γ̂⁺_LS,k이 된다.

γ의 부호를 가정하지 않는 일반적인 경우를 위해, 베일란트–빙키어–퇴헬스(Beirlant, Vynckier & Teugels, 1996)는 일반화 분위수 그림

을 제안했다. 여기서 H⁺_j,n = (1/j) Σ_i≤j log X_n−i+1,n − log X_n−j,n이다. 이 그림은 EVI의 부호와 무관하게 작은 j에서 궁극적으로 기울기 γ의 직선이 됨을 보일 수 있어, γ를 추정하지 않고도 모형을 시각적으로 검증할 수 있다. 선형이라면 위쪽 k개 점의 최소제곱 기울기가 추정량 γ̂_LS,k이 된다. 다만 이 일반화 그림으로는 2절의 꼬리 추정량을 직접 해석할 수는 없다.

물론 이 점근적 접근 전체는 "지금까지 관측된 극단값을 만들어낸 메커니즘이, 자료가 전혀 없는 더 극단적인 영역까지 그대로 지배한다"는 가정 위에서만 정당화된다. 응용에서는 유한표본에서 점근 관계로부터의 이탈이 만드는 모형화 오차를 고려해야 하며, 설정한 모형을 너무 많은 자릿수 너머까지 과도하게 외삽하지 않도록 주의해야 한다(Feuerverger & Hall).

5. 극단값 지수의 추정 Estimation of the EVI

상위 (k+1)개 관측값 X_n−j+1,n, j = 1, …, k+1에 기초한 대표적 추정량들을 살펴보자. 분위수 그림 접근에서 최소제곱 추정량 γ̂⁺_LS,k(Kratz & Resnick, Schultze & Steinebach)와 γ̂_LS,k이 나온다는 것은 이미 보았다(닫힌 형태의 최소제곱 공식이 존재한다). 가장 유명한 것은 힐 추정량(Hill, 1975)이다.

힐 추정량은, 파레토 분위수 그림의 위쪽 k+1개 점에 적합하는 최소제곱 직선을 점 (log((n+1)/(k+1)), log X_n−k,n)을 지나도록 제약한 제약 최소제곱 추정량으로 볼 수 있다(γ > 0 전용). 같은 제약 최소제곱을 일반화 분위수 그림에 적용하면 실수값 EVI에 쓸 수 있는 일반화 힐 추정량이 나온다.

힐 추정량을 실수값 γ로 일반화한 또 다른 추정량으로 적률 추정량(moment estimator; Dekkers, Einmahl & de Haan, 1989)이 있다.

여기서 S_k,n = (1/k) Σ_j≤k (log X_n−j+1,n − log X_n−k,n)²이다. 피칸즈 추정량(Pickands, 1975)

은 1절의 분위수 조건으로부터 일치성을 보일 수 있으며, 이를 다듬은 추정량들과 더 일반적인 추정량 계열이 드레스(Drees), 세헤르스(Segers) 등에 의해 논의되었다. M_k,n, γ̂_LS,k, H_k,n을 쓸 때 2절의 추정식에 들어갈 σ의 추정량으로는

을 쓸 수 있다. 더 직접적인 접근은 초과분 X_n−j+1,n − X_n−k,n에 GPD를 직접 적합해 γ ∈ ℝ와 σ를 동시에 추정하는 POT 방식이다. 최대가능도 추정량 γ̂_ML,k, σ̂_ML,k은 흔히 k의 함수로서 안정적인 추정값을 주며, 대부분의 보험계리 응용에서 성립하는 γ > −1/2의 경우 가능도방정식을 수치적으로 풀 수 있다(상세한 알고리즘은 Grimshaw). 확률가중적률법(Hosking & Wallis)도 널리 쓰인다. 로그변환 자료에 기초한 추정량들과 달리, GPD 기반 추정량은 자료의 평행이동에 불변이라는 점도 기억해 둘 만하다. POT 맥락의 그래프 진단 도구는 Smith의 문헌에서 찾을 수 있다.

예제 힐 추정량으로 꼬리 분위수 외삽하기

어느 배상책임 포트폴리오의 클레임 n = 200건 중 상위 6건이 (백만원 단위) 50, 38, 30, 24, 21, 18이다. k = 5, 임계값 X_195,200 = 18로 놓고 (1) 힐 추정량 H⁺_5,200을 구하고, (2) 0.1% 분위수 Q(0.999)를 추정하라.

(1) 상위 5건의 로그초과를 계산하면 log(50/18) = 1.0217, log(38/18) = 0.7472, log(30/18) = 0.5108, log(24/18) = 0.2877, log(21/18) = 0.1542이고, 합은 2.7216이다. 따라서 γ̂ = H⁺_5,200 = 2.7216/5 ≈ 0.544. 멱지수 α = 1/γ̂ ≈ 1.84인 매우 두꺼운 꼬리다(분산이 존재하지 않는 영역).

(2) 바이스만 추정식에 k/(np) = 5/(200 × 0.001) = 25를 대입하면

즉 1,000건에 1건 수준의 클레임은 약 1억 380만원으로 추정된다. 관측된 최대 클레임(5,000만원)의 두 배가 넘는 영역까지 모형이 외삽하고 있음에 유의하라 — 이것이 극단값 방법의 힘이자, 4절에서 경고한 위험이기도 하다.

6. 실무 예제: 자동차보험 재보험 자료 A Practical Example

원문은 여러 재보험사에서 수집한 자동차보험 클레임 252건의 자료로 위 방법들을 시연한다. 보유한도(우선부담금)가 500만 유로로 설정된 초과손해액(XL) 재보험 계약의 최상위 구간(layer)을 연구하기 위한 자료로, 110만 유로 이상의 클레임만 수집되었다.

• 파레토 분위수 그림과 일반화 분위수 그림을 그려보면 둘 다 위쪽 끝에서 선형에 가까워, 파레토형 꼬리가 시사된다.
• 최소제곱 추정값 γ̂⁺_LS,k와 γ̂_LS,k를 k의 함수로 그리면 γ̂ ≈ 0.3 근방에서 안정된다.
• 최대가능도 추정값 γ̂_ML,k는 k에 따라 불안정한 반면, 적률 추정값 M_k,n은 대체로 최소제곱 추정값보다 큰 값을 준다.
• 초과확률 P(X > 500만 유로)의 추정에서는 γ̂ = γ̂_LS,k와 그에 대응하는 σ̂을 쓴 추정이 가장 안정적인 결과를 주었다.

실무의 핵심 난점은 적절한 임계값 t, 즉 사용할 극단값 개수 k의 결정이다. 실제로는 γ̂, σ̂, q̂_p, p̂_x를 k의 함수로 그려 안정 구간을 찾는다. 문헌에서는 작은 k에서 안정적이면서 평균제곱오차도 좋은 추정법, 그리고 k를 자료 적응적으로 고르는 방법(붓스트랩 기반 등)이 활발히 개발되어 왔다(Gomes & Oliveira, Matthys & Beirlant에 정리되어 있다). 부분표본 최댓값에 기초한 절차들은 표제어 극단값 분포에서 다루며, 추정량의 점근적 성질, 종속·비동일분포 자료, 보험계리적 응용 등은 Embrechts–Klüppelberg–Mikosch, Reiss & Thomas 등의 일반 문헌을 참고하라.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 순서통계량 (order statistics) — 표본을 크기순으로 늘어놓은 값들 X_1,n ≤ … ≤ X_n,n. X_n−k,n은 (k+1)번째로 큰 값.
• 극단값 지수 (EVI, γ) — 꼬리 두께를 요약하는 형상모수. γ > 0이면 파레토형 두꺼운 꼬리.
• 일반화 파레토분포 (GPD) — 높은 임계값 초과분의 극한분포. 1 − (1 + γy/σ)^−1/γ.
• 임계값 초과법 (POT, Peaks over Threshold) — 임계값을 넘는 모든 초과분에 GPD를 적합하는 극단값 분석법.
• 임계값 (threshold) — "여기부터가 꼬리"라고 선을 긋는 기준값 t. 임의 임계값 방식에서는 상위 (k+1)번째 관측값.
• 초과확률·극단 분위수 (exceedance probability, extreme quantile) — P(X > x)와 그 역문제 Q(1−p). 관측 범위 밖이면 모형 외삽이 필요하다.
• 힐 추정량 (Hill estimator) — 상위 k개 로그초과의 평균. 파레토형(γ > 0) EVI의 표준 추정량.
• 분위수 그림 (quantile plot, QQ-plot) — 자료의 분위수를 이론 분위수에 대고 그린 그림. 직선이면 모형이 맞는다는 신호.
• 외삽 (extrapolation) — 관측된 자료 범위 밖의 값을 모형으로 추정하는 일. 극단값 분석의 본질이자 최대 위험 요소.
• 평균제곱오차 (mean squared error) — 편의 제곱과 분산의 합. 추정량 성능의 종합 척도.
• 보유한도/우선부담금 (retention, priority) — 초과손해액(XL) 재보험에서 출재사가 스스로 부담하는 상한. 이를 넘는 부분을 재보험자가 지급.
• 초과손해액 재보험 (excess-of-loss reinsurance) — 개별 클레임이 약정 한도를 초과한 부분을 담보하는 재보험. 꼬리 추정이 요율의 핵심.

한국보험시장 현황 Korea Market Practice

본문이 다루는 "극단 분위수와 작은 초과확률의 추정"은 한국 보험산업에서 제도의 언어로 번역되어 있다. K-ICS(2023 시행)의 요구자본은 1년 시계 99.5% 신뢰수준의 충격을 견디는 자본 — 곧 손실분포의 99.5% 분위수 — 으로 정의되고, IFRS17 위험조정(RA)을 신뢰수준 방식으로 산출하는 회사도 총손실분포의 높은 분위수를 직접 다룬다. 200년에 한 번 수준의 사건을 길어야 수십 년치 자료로 말해야 하므로, "표본 밖으로의 외삽"이라는 본문의 문제의식이 그대로 실무의 문제다.

손해보험 쪽의 전형적 응용은 대형손해 분석과 재보험 의사결정이다. 보유한도(retention)와 재보험 한도를 정하려면 "우리 포트폴리오에서 X억을 넘는 손해가 1년에 발생할 확률"을 추정해야 하고, 이는 정확히 초과확률 추정 문제다. 태풍·집중호우 같은 자연재해의 PML(가능최대손실) 산출, 일반보험 대형 물건의 언더라이팅 한도 설정에도 같은 틀이 쓰인다. 다만 국내 자연재해 위험은 자체 경험만으로 꼬리를 말하기 어려워, 해외 벤더의 Cat 모형과 시나리오 분석을 병행하는 것이 관행이다.

실무의 현재 위치를 정확히 말하면, 극단값 방법론을 "정식 도구"로 일상 사용하는 영역은 재보험 가격·내부 리스크분석 등으로 아직 한정적이고, 규제 계산(K-ICS 표준모형)은 충격계수를 당국이 제시하는 방식이라 개별 회사가 분위수를 직접 추정하지는 않는다. 그러나 자체위험·지급여력평가(ORSA), 스트레스테스트, 기본자본 규제 도입(2027 예정) 논의처럼 꼬리를 스스로 설명해야 하는 요구는 늘고 있어, 본문의 분위수 추정·외삽 이론이 닿는 면적은 계속 넓어지는 중이다.