이상치탐지

1. 들어가며 Introduction

보험계리 자료를 통계적으로 분석하다 보면 "나머지 자료와 어울리지 않아 보이는" 관측, 더 일반적으로는 "대다수 자료가 이루는 패턴에서 멀리 떨어진" 관측을 종종 만난다. 이런 관측을 보통 이상치(outlier)라고 부른다. 이상치는 분석 결과에 큰 영향을 미칠 수 있고, 표준적인 통계 절차만 쓰면 잘못된 결론으로 이어질 수 있다. 이를 피하는 한 방법은 로버스트(robust, 강건한) 통계기법을 쓰는 것으로, 자료에 이상치가 있어도 위치·산포 모수의 추정 같은 통계적 추론을 가능하게 한다.

한편 때로는 이상치 자체가 가장 흥미로운 부분이기도 하다. 보험사에 대한 예상 밖으로 큰 청구나, 금융기관의 놀랄 만큼 높은(또는 낮은) 주식 수익률이 그 예다. 따라서 어떤 통계분석이든 가능한 이상치의 식별을 포함해야 한다. 예로, 한 보험사의 최근 20건 청구액(단위 \$100,000)이 다음과 같다고 하자.

34.83  39.31  37.93  49.40  37.39
91.68  35.19  37.06  36.95  44.84
39.78  41.22  89.40  34.37  43.49
36.60  90.43  37.57  47.91  44.41

눈으로만 봐도 여섯 번째(91.68), 열세 번째(89.40), 열일곱 번째(90.43) 청구가 이상치로 의심되어 좀 더 들여다볼 가치가 있다. 다만 다음 절에서 보듯, 무엇을 이상치로 볼지는 "좋은" 자료에 가정한 통계모형에 달려 있다. 여기서는 그 모형이 충분히 잘 검증되었다고 가정한다.

2. 이상치란 무엇인가 What is an Outlier?

Barnett과 Lewis는 "이상치 연구의 가장 큰 문제는 이 분야 초창기 연구자들이 마주했던 바로 그 질문 — 이상치란 무엇인가 — 으로 여전히 남아 있다"고 적었다. 대다수 연구자는, 한 관측의 이상성(outlyingness)은 오직 좋은 자료에 채택된 통계모형을 기준으로만 판단할 수 있다는 데 동의한다. 이 관점에서 이상치란 가정한 모형분포 아래에서 일어나기 어려운(unlikely) 관측이다.

이 발상을 형식화하기 위해 Davies와 Gather는 α-이상치(α-outlier) 개념을 도입했다. 확률분포 P와 α ∈ (0, 1)에 대해, P의 α-이상치 영역 out(α, P)을 "확률질량을 적어도 1−α만큼 담는 P의 받침(support)의 가장 작은 부분집합의 여집합"으로 정의한다. 예컨대 P = N(μ, σ²)이면

로, 이는 하단·상단 α/2-꼬리 영역의 합집합이다. 여기서 z_1−α/2는 표준정규분포의 (1−α/2)-분위수다. P가 척도모수 λ의 지수분포 exp(λ)이면

로, 상단 α-꼬리 영역이 된다. out(α, P)에 속한 각 점을 P에 대한 α-이상치, 그렇지 않으면 α-내치(α-inlier)라 부른다.

이로써 이상치 식별 과제를 α-이상치 영역의 틀로 정식화할 수 있다. 크기 n인 표본 x_n = (x₁, …, x_n)이 적어도 [n/2]+1개의 i.i.d. 관측을 분포 P에서 담고 있을 때, out(α, P)에 들어가는 모든 x_i를 찾는 것이 목표다. 수준 α는 표본크기에 따라 정할 수 있는데, 어떤 α̃ ∈ (0, 1)에 대해

으로 잡으면, P에서 i.i.d.로 나온 크기 n 표본에서 이상치를 잘못 탐지할 확률이 α̃ 이하가 된다. 보통 P는 어떤 분포족 𝒫에 속한다는 것만 알 뿐 부분적으로만 알려져 있으므로, out(α, P)도 대개 미지다.

3. 일변량 자료의 이상치 식별 규칙 Outlier Identification Rules for Univariate Data

이상치 식별 규칙에는 크게 두 종류가 있다. 한 번에(one-step) 처리하는 규칙과 단계적으로(stepwise) 처리하는 규칙이다. 이른바 동시(simultaneous)·일단계 이상치 식별기 OI는 본질적으로 α_n-이상치 영역 out(α_n, P)의 경험적(추정) 버전이며, 이 집합에 든 점을 모두 α_n-이상치로 분류한다.

P를 부분적으로만 알기에 미지의 모수를 자료에서 추정해야 하는데, 여기서 핵심 문제가 생긴다. 자료 속 이상치가 표준 추정량을 심하게 왜곡해 가림(masking)과 휩쓸림(swamping) 효과를 일으킬 수 있다. 가림은 큰 이상치 둘 이상이 서로를 "가려" 식별규칙이 단 하나도 제대로 잡아내지 못하는 현상이고, 휩쓸림은 그 반대로 큰 이상치 때문에 멀쩡한 좋은 관측이 이상치로 잘못 지목되는 현상이다. 두 효과 모두 로버스트 추정법을 써서 이른바 저항성(resistant) 규칙을 만들면 크게 줄일 수 있다.

3.1 햄펠 식별기 The Hampel Identifier

예로, 표본의 중앙값 Med(x_n)과 MAD(중앙절대편차, Median Absolute Deviation)에 기반한 규칙을 보자. 둘 다 높은 붕괴점을 갖는 로버스트 추정량이다. 좋은 자료가 N(μ, σ²)을 따른다면, 저항성 일단계 OI는

로 주어지며 이를 햄펠 식별기(Hampel identifier)라 한다. 여기서 g_n(α_n)은 오탐률을 통제하기 위해 고른 정규화 상수다. 지수분포의 경우는 상단 α_n-이상치 영역만 추정하면 되므로, 일단계 OI는 척도모수 λ의 로버스트 추정량 S를 써서 OI_S = {x > 0 : x > g_n(α_n)S(x_n)} 형태가 된다.

3.2 단계적 식별 규칙 Stepwise Rules

단계적 규칙은 표본 점들을 "극단성" 순서로 차례차례 판정한다. 안쪽향(inward) 검정은 가장 의심스러운 관측부터 시작해, 불일치검정(discordancy test)에서 이상치로 판정되면 그것을 제거하고 남은 표본에서 다시 가장 극단적인 값으로 진행한다. 이상치가 없는 부분표본을 만나거나 미리 정한 최대 이상치 수에 이르면 멈춘다. 이 방식은 오래전부터 알려졌으나 가림에 취약하다는 비판을 받았다.

가림을 없애기 위한 제안이 바깥쪽향(outward) 검정이다. 이상치가 없다고 가정되는 축소 부분표본에서 출발해, 그 바깥의 관측 중 가장 덜 극단적인 것을 검정한다. 이상치로 판정되면 멈추고 부분표본 밖 관측을 모두 이상치로 보며, 아니면 그 점을 부분표본에 되돌리고 다음으로 덜 극단적인 점을 검정한다. 표준화는 좋은 자료 모형 아래에서 "어떤 X_i도 α_n-이상치로 탐지되지 않을 확률 ≥ 1−α"를 요구해 이룬다.

불일치검정의 통계량으로는, 좋은 자료가 대칭분포일 때 극단 스튜던트화 편차(ESD) 통계량을 흔히 쓴다.

여기서 x̄_m,n, s_m,n은 부분표본의 평균·표준편차다(Rosner의 바깥향 검정 제안). 다만 이 ESD 통계량은 가림에 약하므로, 중앙값·MAD로 바꾼 로버스트화 통계량이 안쪽·바깥향 검정 모두에 적합하다.

오염모형 시뮬레이션에서, 이상치가 많을 때 T_m¹ 기반 절차가 Rosner 제안보다 올바른 α_n-이상치 식별 비율이 훨씬 좋았고, 이상치가 적을 때도 성능 손실이 거의 없었다.

3.3 블록 절차 Block Procedures

일단계·단계적 범주에 들지 않는 규칙도 있다. 블록 절차는 정해진 수의 의심 관측을 한 번에 검정한다. Tietjen–Moore 절차는 먼저 최대 간격(인접 순서통계량의 차)으로 이상치 수 k를 추정한 뒤 적절한 통계량으로 그 점들이 실제 이상한지 확인한다. 다만 k를 잘못 정하면 가림·휩쓸림 양쪽에서 성능이 나빠진다. 또 다른 접근은 BACON 알고리즘(blocked adaptive computationally efficient outlier nominators)으로, 이상치가 없다고 안전하게 볼 기초 부분표본을 찾고(로버스트 추정), 그 모형에 대한 모든 관측의 불일치도를 계산해 임계값보다 작은 것들을 새 기초표본으로 합치는 과정을 정지규칙까지 반복한다. 어떤 의미에서 BACON은 매 단계 일단계 OI에 기반한 바깥향 절차로 볼 수 있으며, 다변량·회귀로 쉽게 확장된다.

4. 다른 자료구조에서의 이상치 식별 Rules for Other Data Structures

자료구조가 복잡해질수록 이상치 식별은 더 중요해진다. 일변량 자료는 엄밀한 순서가 있어 눈으로도 찾을 수 있지만, 고차원 자료에서는 그런 방법이 통하지 않는다.

4.1 다변량 자료 Multivariate Data

α-이상치 정의는 다변량으로 확장된다. 평균벡터 μ, 공분산행렬 Σ인 d변량 정규분포의 α-이상치 영역은

로, χ²_d,1−α는 자유도 d 카이제곱분포의 (1−α)-분위수다. 이에 대응하는 저항성 일단계 OI는 로버스트 위치추정량 m(x_n)과 로버스트 공분산추정량 S(x_n)을 써서

형태가 된다. S로는 최소부피타원체(MVE), 최소공분산행렬식(MCD), S-추정량 등 붕괴점이 약 50%로 높은 추정량을 쓸 수 있다.

4.2 선형회귀모형 Linear Regression

이상치 식별이 중요한 또 다른 상황은 선형회귀모형 Y = β₀ + X′β₁ + U 이다. 여기서 회귀변수 분포 P_X와 반응변수의 조건부분포 P_Y|X를 정해야 한다. 합리적 가정은 P_Y|X=x = N(β₀+x′β₁, σ²)와 P_X = N(μ, Σ)이다. 이때 반응-이상치(y 방향)와 회귀변수-이상치 = 지렛대점(leverage point)(x 방향)을 구분해 다룬다. 지렛대점 식별에는 다변량 정규 상황과 같은 규칙을, 반응-이상치 식별에는 회귀계수와 척도 σ의 로버스트 추정량(최소절사제곱 LTS, S-추정량, MM-추정량, REWLS 등)을 쓴다.

4.3 분할표(로그선형 포아송) Contingency Tables

구조화된 자료의 또 다른 예로, 분할표의 이상 칸(cell)을 찾는 문제가 있다. 칸 빈도 y_i를 독립인 포아송 Poi(λ_i) (λ_i = exp(x_i′β))로 모형화하는 로그선형 모형을 가정하면, 각 칸의 주변 포아송분포의 α-이상치 영역을 본다. 좋은 칸 빈도 λ_i의 로버스트 추정량(예: L₁-추정량, 중앙값 폴리시(median polish))으로 신뢰할 만한 식별규칙을 얻는다.

이 예가 보여주듯, 자료구조가 복잡해질수록 이상치 식별은 매우 까다로워진다. 엄밀한 순서가 있는 일변량을 빼면 "극단적 위치"나 "있을 법하지 않음"을 형식화하는 일조차 쉽지 않다. 임의효과 ANOVA나 시계열처럼 독립성 가정이 깨지면 문제는 더 복잡해진다. 요컨대 이상치 탐지는 여전히 활발한 연구 영역으로 남아 있다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 이상치 (outlier) — 좋은 자료에 가정한 모형 아래에서 일어나기 어려운, 패턴에서 멀리 떨어진 관측.
• α-이상치 영역 (α-outlier region) — 확률질량 1−α를 담는 가장 작은 집합의 여집합. 이상치를 위치만으로 정의.
• 로버스트(강건) 추정 (robust estimation) — 이상치가 있어도 크게 흔들리지 않는 추정. 높은 붕괴점이 목표.
• MAD (중앙절대편차) — 중앙값으로부터의 절대편차의 중앙값. 표준편차를 대신하는 로버스트 산포 척도.
• 가림 (masking) — 큰 이상치들이 서로를 가려 식별규칙이 하나도 잡지 못하는 현상.
• 휩쓸림 (swamping) — 큰 이상치 때문에 좋은 관측이 이상치로 잘못 지목되는 현상.
• 햄펠 식별기 (Hampel identifier) — 중앙값과 MAD에 기반한 저항성 일단계 이상치 식별기.
• 붕괴점 (breakdown point) — 추정량을 무너뜨리는 데 필요한 오염 자료의 최소 비율. 클수록 강건.
• 지렛대점 (leverage point) — 회귀에서 설명변수 값이 다수에서 멀리 떨어진 관측. 회귀변수-이상치.
• BACON 알고리즘 — 이상치 없는 기초표본에서 출발해 반복적으로 이상치를 가려내는 효율적 다변량 식별법.

한국보험시장 현황 Korea Market Practice

이상치 탐지는 한국 보험 실무에서 보험사기(fraud) 적발과 경험위험률 조사의 양 측면에서 핵심 도구로 자리매김하고 있다. 자동차·실손보험에서 과잉 청구·허위 청구는 청구 패턴의 이상치로 포착될 수 있으며, 보험사기특별조사팀(SIU)은 통계적 이상치 탐지 알고리즘(IQR 기반 경계, LOF 등)과 전문 심사자 판단을 결합해 사기 의심 건을 스크리닝한다. 금융감독원도 보험사기 적발 통계를 정기 공개하며 탐지 고도화를 유도하고 있다.

경험위험률 조사에서도 이상치 처리는 필수다. 사업비·사망률·해지율 데이터에서 관측 오류, 특정 분기 집중 해지, 소수 집단의 극단 사망이 이상치로 나타나며, 이를 무처리하면 예측 편향이 생긴다. 국내 생보사 계리팀은 진전삼각형의 특정 셀 이상치에 대해 내부 정책(예: 업계 평균의 3배 초과 셀은 별도 검토)을 운영한다. 이상치 식별 후 제거·윈저화(winsorization)·별도 모형화 중 선택은 계리사의 전문 판단 영역이다.

GLM 기반 요율 산정에서도 쿡 거리(Cook's distance)·레버리지(leverage) 기반 영향점 탐지가 표준 사후 분석 절차로 포함된다. 특히 단일 사고 또는 특수 계약군이 전체 GLM 계수를 크게 왜곡하는 사례는 대형 손보사에서 이따금 보고되며, 이런 경우 이상치를 별도 처리한 강건 GLM 재추정이 권고된다.