강건성 (Robustness)

※ 원문은 14쪽 분량의 개관 논문입니다. 이 해설서는 핵심을 간추린 요약본입니다.

1. 서론 — 이상치와 최소제곱의 약점 Introduction

통계 방법을 실제로 적용하다 보면 일부 관측이 통상의 가정에서 벗어나는 일이 흔한데, 많은 고전적 방법은 이상치(outlier)에 민감하다. 강건 통계(robust statistics)의 목표는 예고 없는 이상치가 자료 어디에든 몇 개든 나타날 가능성에 견디는 방법을 개발하는 것이다. 원문은 선형회귀 모형

을 중심으로 논의한다. 고전적 최소제곱(LS)은 잔차 r_i=y_i−(β̂₀+β̂₁x_i1+…+β̂_px_ip)의 제곱합 Σr_i²을 최소화한다. 오차가 정규이면 최적이지만, 실제 자료는 가우스의 가정을 자주 어긴다. 회귀 이상치란 자료 대다수가 이루는 선형 패턴을 따르지 않는 점으로, y가 특이하거나 x가 특이하거나 둘 다일 수 있다. x_i가 특이한 점은 지렛점(leverage point)이라 한다 — 역학에서 온 말로, LS 해를 자기 쪽으로 끌어당기기 때문이다.

원문의 "임금과 노동시간(Wages and Hours)" 자료(28개 인구집단, y=연간 평균 노동시간, x=평균 연령)에서는 산점도에 이상치 2개(평균 연령이 극단적으로 낮은/높은 집단 3, 4)가 또렷한데도, LS 직선은 두 점에 끌려 거의 평평해진다. 더 나쁜 것은 잔차마저 정상으로 보인다는 점이다. LS의 척도 추정

으로 표준화한 잔차 r_i/σ̂가 ±2.5를 넘으면 이상치로 보는 것이 관행이지만(정규에서 2.5σ를 넘는 일은 드물므로), 이 전략은 실패한다 — 28개 점 모두의 표준화 LS 잔차가 허용대 안에 들어온다. 이유는 두 가지다: (i) 지렛점들이 LS 직선을 끌어당겨 자신의 잔차를 작게 만들었고, (ii) 모든 점으로 계산한 σ̂가 정상 26개 점의 척도보다 커졌다. 이를 가림 효과(masking)라 한다. 일반적으로 LS는 자료가 나빠도 정상처럼 보이는 잔차를 만들어 낸다. 단순회귀라면 산점도를 먼저 보면 되지만, 다중회귀에서는 그럴 수 없으므로 — 세상 대부분의 회귀가 기계적으로 수행되는 현실에서 — 눈치채지 못한 이상치가 결과를 좌우한 사례가 많을 수밖에 없다.

2. 강건성의 측도 — 붕괴값과 영향함수 Measures of robustness

어떤 자료에서든 점 하나를 충분히 멀리 옮기면 LS 적합을 원하는 만큼 움직일 수 있다. 거칠지만 유용한 강건성 측도가 붕괴값(breakdown value)이다(Hampel 1971; 유한표본 버전은 Donoho & Huber 1983). 자료 Z의 관측 m개를 임의의 점으로 바꾼 오염자료 Z′에 대한 최대 편의를

라 하면, 추정량 T의 붕괴값은 T를 한없이 멀리 보낼 수 있는 최소 오염 비율이다:

자료의 (1−ε) 비율은 모형 (1)에서, ε 비율은 임의의 메커니즘에서 나온 혼합이라 할 때, 원래 모수를 추정할 수 있으려면 ε < ε*(T)여야 한다. LS는 이상치 하나로 파괴되므로 ε*=0이다. ε*>0인 추정량을 양붕괴(positive-breakdown), ε*=50%(이론적 최대 — 그 이상이면 어느 쪽이 "원래" 자료인지 구별 불능)인 것을 고붕괴(high-breakdown) 방법이라 한다. 이를 보완하는 측도로 오염 비율 ε의 함수로 최대 편의를 그린 최대편의 곡선(maxbias curve)과, 점 z에 작은 질량을 더했을 때의 효과를 재는 영향함수(influence function)

가 있다. 이상적인 강건 추정량은 유계인 영향함수를 갖는다 — 한 점의 작은 오염은 작은 효과만 낸다.

3. 강건 회귀 — LTS와 재가중 Robust regression

회귀(p≥2)에서 처음 나온 고붕괴 방법은 중앙값을 계층적으로 반복 적용하는 반복 중앙값(repeated median)이지만 선형변환 동변성(equivariance)이 없다. 동변성을 유지하는 고붕괴 방법이 Rousseeuw(1984)의 최소절사제곱(LTS, least trimmed squares)이다. 잔차를 제곱한 뒤 크기순으로 늘어놓고 작은 것 h개만 더한다:

가장 큰 잔차들을 세지 않으므로 LTS 적합은 이상치를 비켜 갈 수 있다. h≈n/2이면 ε*=50%, 일반적으로 ε*≈(n−h)/n (h≈0.75n이면 25%)이다. 척도는 LTS 잔차로

로 추정하며(c_h,n은 정규 오차에서의 일치성·불편성 상수), 이 σ̂ 자체가 고도로 강건하므로 표준화 LTS 잔차 r_i/σ̂로 회귀 이상치를 식별할 수 있다. LTS는 유한표본 효율이 낮아 그대로 추론에 쓰기는 부적합한데, 재가중 최소제곱(RLS) 한 단계로 해결한다 — |r_i/σ̂|≤2.5이면 w_i=1, 아니면 0으로 두고 Σw_ir_i²을 최소화하면, 붕괴값은 물려받으면서 효율이 좋아지고 t-통계량, F-통계량, R² 같은 통상의 추론 출력도 얻는다. 임금-노동시간 자료에 (재가중) LTS를 적용하면 직선이 대다수 점에 잘 맞고 점 3, 4가 허용대 밖으로 또렷이 드러나며, 설명변수 6개를 모두 쓴 다중회귀에서는 LS 잔차가 모두 정상으로 보이는 반면 LTS는 이상 사례 3, 4, 22, 24를 단번에 적발한다.

강조할 점: 고붕괴 회귀는 자료 일부를 "버리는" 것이 아니다. 다수 적합(majority fit)을 찾은 뒤 그것을 기준으로 실제 이상치(많을 수도, 적을 수도, 없을 수도 있다)를 탐지하는 것이며, 목적은 허용대 밖 점들을 지우고 잊는 것이 아니라 잔차 그림을 연구해 자료에 대해 더 많이 알아내는 것이다. 다만 n/p가 작으면 점들이 우연히 거의 한 평면에 놓일 수 있어("차원의 저주") 50% 붕괴법은 n/p>5일 때 권장되고, 그보다 작으면 h≈0.75n의 LTS(ε*=25%)가 낫다. 빠른 알고리즘(FAST-LTS)이 있으며 SAS, S-PLUS(ltsreg) 등에 구현되어 있다. 사용자가 조율상수나 초기값을 고를 필요도 없다.

4. 지렛점 탐지 — MCD와 강건 거리 Detecting leverage points

x_i=(x_i1,…,x_ip)가 다수 집합 X에 대해 특이한지 판단하는 일은 p>2면 눈으로 할 수 없다. 다변량 이상치는 좌표 하나하나로는 특이하지 않을 수 있고 변수 쌍 그림으로도 부족하다. 고전적 도구는 마할라노비스 거리

이지만, 표본평균 x̄와 공분산 Cov(X) 자체가 이상치에 끌려가고 부풀어 가림 효과를 겪는다(모자행렬 대각원소 h_ii는 MD와 단조 관계라 같은 문제가 있다). 해결책은 x̄와 Cov(X)를 양붕괴 추정량 T(X), C(X)로 바꾸는 것이다. 원문이 쓰는 것은 최소공분산행렬식(MCD, minimum covariance determinant) 추정량(Rousseeuw 1984, 1985) — 경험 공분산행렬의 행렬식이 가장 작아지는 h개 관측을 찾아, 그 평균을 T(X), 그 공분산의 적절한 배수를 C(X)로 삼는다(ε*≈(n−h)/n, 영향함수 유계). 이로부터 강건 거리

를 만들어 √χ²_p,0.975와 비교해 지렛점을 가려내고, 재가중 일단계 평균·공분산으로 효율을 높인다. 임금 자료의 두 변수(임금, 배우자 소득)에서 고전적 97.5% 허용타원은 이상점 22, 24를 거의 안에 품지만 MCD 타원은 명확히 배제하고, 강건 거리는 두 점을 중요한 지렛점으로 적발한다. MCD와 RD는 반응변수 없는 임의의 다변량 자료에서도 그대로 쓰이며, FAST-MCD 알고리즘과 SAS·S-PLUS(cov.mcd) 구현이 있다.

5. 진단 그림 — 관측의 네 가지 유형 Diagnostic display

회귀 이상치와 지렛점 개념을 합치면 회귀자료의 관측은 네 유형으로 나뉜다:

Rousseeuw & van Zomeren(1990)의 진단 그림은 표준화 LTS 잔차(세로)를 MCD 강건 거리(가로)에 대해 그리고 경계선 ±2.5와 √χ²_p,0.975를 표시해 관측을 네 유형으로 자동 분류한다. 임금 자료(p=6)에서는 사례 19가 수직 이상치, 8·20이 좋은 지렛점, 3·4·22·24가 나쁜 지렛점임이 한눈에 드러나는데, LS 잔차 대 마할라노비스 거리로 그린 고전적 진단 그림은 3·4를 "모형에 잘 맞는 좋은 지렛점"으로 오판한다.

6. 다른 강건 방법들 Other robust methods

강건 회귀의 최초 체계적 이론은 후버(Huber)의 M-추정량 — Σρ(r_i/σ̂) 최소화(ρ(t)=|t|이면 L₁ 회귀) — 이다. 그러나 회귀 M-, L-, R-추정량의 붕괴값은 나쁜 지렛점에 취약해 모두 0%다. 특이한 x의 영향을 가중치로 묶는 일반화 M(GM)-추정량(유계영향법)이 뒤를 이었으나 p가 커지면 붕괴값이 0으로 떨어진다. 50% 붕괴를 처음 달성한 동변 방법이 최소중앙값제곱(LMS)과 LTS다. 효율을 높이는 흐름으로 LMS/LTS 후의 일단계 M·GM 추정, 그리고 잔차에 더 효율적인 척도 추정량을 적용하는 S-추정량, MM-추정량, τ-추정량, 일반화 S, CM, 고붕괴 순위 추정량 등이 개발되었다. 중앙값의 회귀 확장으로는 회귀 깊이(regression depth)와 최심 회귀(Rousseeuw & Hubert 1999)가 있다.

다변량 위치·산포에서도 발전이 평행하게 진행됐다 — MCD·MVE(최소부피타원체), S·CM·τ·MM-추정량, 깊이 기반 추정량, 사영추적(projection pursuit) 방법 등. 공분산행렬은 다변량 통계의 주춧돌이므로 강건 공분산은 강건한 주성분분석·판별분석·정준상관·요인분석·PLS 등으로 이어졌다. 로지스틱 회귀, 분할표, 일반화 선형모형, 비선형 회귀, 변수오차 모형의 강건화도 연구되어 있다.

7. 보험계리에서의 응용 Actuarial applications

보험계리·경제 분야의 강건 회귀 응용으로 Rousseeuw, Daniels & Leroy(1984)의 보험 적용과 저항적 직선적합, Zaman et al.(2001)의 계량경제 응용이 있다. 초과손해액(excess-of-loss)·초과손해율(stop-loss) 보험료와 파산확률에 대한 유계영향 추정량은 Marceau & Rioux(2001)가 제안했다. 시계열·계량경제(ARMA, ARCH, 공적분의 이상치), 은행 월별 금리 자료에의 강건 자기공분산 추정, 로그정규분포의 강건 적합(Serfling 2002), 파레토형 꼬리지수의 강건 추정(Brazauskas & Serfling 2000 등)도 연구되었다. ε-오염 모형 아이디어는 베이즈 분석의 ε-오염 사전분포로 확장되어, 포아송–감마 모형에서 에셔(Esscher) 원리 베이즈 보험료의 사전분포 민감도 분석에 응용되었다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 이상치 (outlier) — 자료 대다수의 패턴(여기서는 선형 모형)을 따르지 않는 관측.
• 지렛점 (leverage point) — 설명변수 x가 특이한 점. 적합에 잘 맞으면 "좋은", 안 맞으면 "나쁜" 지렛점.
• 붕괴값 ε* (breakdown value) — 추정량을 무한히 멀리 보낼 수 있는 최소 오염 비율. 중앙값 50%, 평균·LS 0%.
• 영향함수 (influence function) — 한 점의 미소 오염이 추정량에 주는 한계 효과. 유계여야 강건.
• 가림 효과 (masking) — 이상치들이 추정 자체를 왜곡해 자신을 정상처럼 보이게 만드는 현상.
• LTS (least trimmed squares) — 작은 잔차 제곱 h개만 합해 최소화하는 고붕괴 회귀.
• 재가중 최소제곱 (RLS) — 강건 적합 기준으로 이상치 가중치를 0으로 둔 뒤 다시 LS. 효율과 추론 회복.
• 마할라노비스/강건 거리 (MD/RD) — 다변량 중심에서의 표준화 거리. RD는 중심·공분산을 MCD로 대체.
• MCD (minimum covariance determinant) — 공분산 행렬식이 최소인 h개 부분표본으로 만드는 강건 위치·산포 추정.
• 동변성 (equivariance) — 자료의 선형변환에 추정량이 올바르게 따라 변하는 성질.
• M-추정량 — 제곱 대신 일반 손실함수 ρ를 최소화하는 추정량. 후버가 체계화.
• 꼬리지수 (tail index) — 파레토형 분포 꼬리의 두께 모수. 대형클레임·재보험 분석의 핵심량.

한국보험시장 현황 Korea Market Practice

본문이 다루는 이상치 문제는 한국 손해보험 실무에서 "대형 클레임을 어떻게 다룰 것인가"라는 형태로 일상적으로 나타난다. 보험개발원이 산출하는 참조순보험요율이나 회사별 경험요율 분석에서는 소수의 초대형 손해가 평균을 흔드는 것을 막기 위해 일정 금액에서 클레임을 절단(capping)하고 초과분을 별도 할증으로 배분하는 관행이 확립되어 있는데, 이는 본문의 절사평균·M-추정과 정신이 같다 — 모든 자료를 버리지 않되, 극단 관측의 영향력(influence)을 유계로 만드는 것이다.

지급준비금 실무의 진전삼각형 분석에서도 강건성 문제가 핵심이다. 특정 사고연도·진전연도 칸의 이례적 진전계수(대형 소송 판결, 일괄 합의 등)가 체인래더 추정을 왜곡하므로, 실무자는 이상 계수를 제외한 평균·중앙값 기반 진전계수·가중평균 기간 조정 같은 강건한 대안을 병용한다. IFRS17 최선추정 가정 산출에서 "이례적 경험을 미래 가정에 반영할 것인가"를 판단하는 일, 무·저해지 상품 해지율 가정처럼 소수 경험에 민감한 가정에 가이드라인(2024)으로 하한 구조를 두는 일도 넓게 보면 추정의 강건화 장치다.

주의할 점은 강건 통계가 "대형사고 정보를 버리라"는 뜻이 아니라는 것이다. 요율의 중심 경향 추정에서는 영향력을 제한하되, 잘라낸 꼬리 정보는 극단값 분석·재보험 가격산정·K-ICS 충격 시나리오 검토에서 따로, 그리고 충분히 써야 한다. 국내 실무에서도 "기본요율은 절단 자료로, 대형손해 할증과 재보험은 꼬리 자료로"라는 분업이 표준이며, 이는 본문의 "강건 추정과 이상치 진단은 동전의 양면"이라는 메시지와 정확히 일치한다.