칼만 필터

1. 칼만 필터란 무엇인가 What the Kalman Filter Is

칼만 필터(Kalman filter)는 상태공간모형(state space model)에서 상태의 추정 평균과 분산을 찾아내고 갱신하는 효율적인 알고리즘일 뿐이다. 그 자체는 모형이 아니다. 상태공간모형은 일정한 표준형으로 쓸 수 있는 일종의 선형모형으로, 아래에서 설명한다.

칼만 필터에는 상태공간모형의 조금씩 다른 판본에 대응하는 수많은 일반화·특수화 버전이 있고, 같은 모형이라도 식의 개수를 늘리거나 줄여 쓸 수 있다. 기호 표기도 표준화되어 있지 않아, 적용 분야와의 유사성을 강조하려고 서로 다른 기호를 쓰는 일이 흔하다. 그래서 언뜻 다르게 보이지만 기본 아이디어는 항상 같다. 여기서는 가장 단순한 버전을 소개한다.

2. 갱신의 아이디어: 평균과 분산의 재귀 갱신 The Idea of Updating

평균과 분산의 추정치를 갱신하는 아이디어는 적어도 가우스(Gauss)로 거슬러 올라간다. 간단한 예로, (시간에 따라 들어올 수도 있는) 관측값 y₁, y₂, …, y_n 을 생각하자. m_t 와 v_t 를 시각 t 까지 자료의 표본평균과 표본분산(최대우도 추정량처럼 분모를 n 으로 함)이라 하면, 평균은 다음처럼 전개된다.

가운데 줄은 신뢰도(credibility) 공식으로 곧바로 알아볼 수 있다. 마지막 줄은 이전 추정치에 대한 조정(갱신) 형태로, 아래에 나올 칼만 필터 계산과 아주 비슷한 모양이다. 비슷하게 분산의 갱신(여러 형태가 가능)도 다음 항등식을 생각하면 얻을 수 있다.

칼만 필터는 1960년 칼만(Kalman)의 논문에서 비롯되었다. 다만 1959년 스워링(Swerling)이 사실상 같은 접근을 취했고, 더 놀랍게도 1880년 T.N. 틸레(Thiele)가 천문측지학 문제를 위해 회귀항·브라운 운동 항·백색잡음으로 이루어진 모형을 제안하고 재귀적 최소제곱 예측법을 이끌어내, 칼만–부시(Kalman–Bucy) 필터를 상당 부분 선취했다. 틸레는 통계학·천문학·보험계리 분야에서 모두 일한 인물이다.

3. 상태공간모형: 관측식과 상태식 The State Space Model

기본적인 상태공간모형은 다음 두 식으로 쓴다.

여기서 오차항들은 다음 모멘트를 갖는다.

e 와 u 는 각자 자신의 과거값과 독립이고, 서로도 독립이다.

관측식 (observation equation)

첫 번째 식을 관측식이라 한다. 변수 y_t 는 관측값이다. 응용에서는 보통 스칼라이지만 벡터일 수도 있다(우선 스칼라로 생각하면 이해가 쉽다). 변수 ξ_t 는 상태(state)로, 보통 벡터이며 관측되지 않는다. 알려진 행렬 X_t (회귀에서의 설계행렬처럼 관측값을 더 보이지 않는 모수에 연결)를 통해 관측값과 상태가 선형으로 연결된다. 관측오차 e_t 도 관측되지 않으며, 평균은 0, 분산(일반적으로 분산–공분산행렬) σ² 은 알려져 있다고 가정한다.

상태식 (state / transition equation)

두 번째 식을 상태식(또는 전이식)이라 한다. 알려진 행렬 F_t 를 통해 연속된 보이지 않는 상태들을 연결하는데, 상태는 알려진 분산–공분산행렬 U_t 를 가진 관측되지 않는 “충격(shock)” u_t 을 받는다. 행렬 F_t 가 정방행렬이 아니면 상태의 크기가 시간에 따라 바뀔 수 있다. 상태는 보통 모형의 모수(또는 모수의 함수)이며, 보험계리 응용에서는 모수 그 자체인 경우가 많다. 상태식 역시 선형이다. 구현마다 표기가 다르므로(예: 여기서 F_t 를 어떤 저자는 하첨자 t−1 로 쓴다) 주의해야 한다.

보통 e_t 와 u_t 를 정규분포로 둔다. 이 경우 칼만 필터는 상태의 평균·분산에 대한 최대우도 추정을 준다. 다만 칼만을 비롯한 많은 저자는 정규성을 가정하지 않고 선형 추정량으로 제한해 필터를 얻는다(정규성 하에서는 이것이 최적이다).

4. 재귀적 조건부 추정: 베이즈 관점 Recursive Conditional Estimation

Y_t = (y₁, y₂, …, y_t) 를 시각 t 까지 관측된 모든 자료라 하자. 베이즈 정리로부터 다음이 성립한다.

따라서 ξ_t 의 추정은, 시각 t−1 까지의 자료가 주어졌을 때의 예측분포를 가장 최근 관측값 y_t 의 조건부 분포와 결합해 재귀적으로 갱신할 수 있다. 분포가 가우시안이면 평균과 분산만으로 분포가 결정되며, 그렇지 않더라도 가우스–마르코프 이론에 의해 이런 재귀 방식으로 평균과 분산을 추정해 최선 선형 불편추정을 얻을 수 있다.

표기를 다음과 같이 둔다. 각각 시각 s 까지 자료로 구한 ξ_t 의 조건부 평균과 분산이다.

5. 칼만 필터의 재귀식: 예측·갱신과 칼만 이득률 Predict, Update, and the Kalman Gain

상태공간모형에 대한 칼만 필터는 다음 여섯 단계로 쓸 수 있다. 먼저 예측 단계(prediction): 직전까지의 추정을 상태식으로 한 시점 앞으로 밀어 낸다.

다음, 새 관측값이 들어오면 혁신(innovation) ε_t 와 그 분산 R_t 를 계산한다.

끝으로 갱신 단계(update): 혁신을 이용해 상태의 평균과 분산을 보정한다.

(8)·(9)를 예측식, (12)·(13)을 갱신식이라 한다. 혁신 ε_t 는 새 자료가 예측값보다 얼마나 틀렸는가를 나타내고, R_t 는 그 분산이다. 짝수 번호 단계(8, 10, 12)는 상태의 평균(그리고 자료)를, 홀수 번호 단계(9, 11, 13)는 상태의 분산을 다룬다. 초기 추정 ξ_0|0, S_0|0 에서 시작해 자료 y₁, …, y_n 을 따라 돌리면 시각 n 에서의(모든 자료를 반영한) 상태 평균·분산 추정을 얻는다.

칼만 이득률 (Kalman gain)

(12)과 (13) 모두에 등장하는 양 S_t|t−1X_t′R_t⁻¹ 을 칼만 이득률이라 하고 보통 K_t 로 표기한다. 새 자료가 상태에 대해 주는 정보에 얼마나 가중을 둘 것인가를 나타낸다.

이를 쓰면 혁신 이후 단계를 더 간결히 쓸 수 있다(아래에서 s_t = S_t|t−1X_t′).

y_t 가 스칼라이면 행렬 역이 필요 없고, R_t 가 행렬이더라도 실무에서는 역행렬을 직접 구하지 않고 콜레스키(Choleski) 분해 등으로 K_t 를 푸는 것이 수치적으로 안정적이다(제곱근 칼만 필터). 또 분산 갱신 단계(9, 11, 13)는 관측값 자체의 값에 전혀 영향받지 않으므로, 자료 처리 전에 미리 돌려 필요한 부분을 저장해 둘 수도 있다.

6. 간단한 예: 국소 수준모형 The Local Level Model

단순하지만 유용한 예는 국소 수준모형(local level model)다. 시각 t 의 평균이 랜덤워크를 따르므로 관측값은 사실상 잡음 있는 랜덤워크다. 이 모형에서는 지수평활법(exponential smoothing)이 점근적으로 최적 예측을 준다.

이는 X_t = F_t = 1, ξ_t = μ_t, U_t = τ² 인 상태공간모형의 특수한 경우다. 이때 칼만 필터는 아주 단순한 형태가 된다.

만약 τ² = 0 이면 모형은 상수평균모형 y_t = μ + e_t 로 줄어든다. 이 재귀식은 (점근적으로) 지수평활과 같은 결과를 준다.

7. 초기값, 결측자료, 스무더 Initial Values, Missing Data, Smoother

초기값 (initial values)

상태 평균·분산의 초기값 ξ_0|0, S_0|0 은 (신뢰도 이론·베이지안 통계에서 유용한) 사전지식을 나타낼 수도, 정상성·동질성 같은 가정에서 유도될 수도, 혹은 확산적(diffuse)으로 둘 수도 있다. S_0|0 을 충분히 크게 두면 사실상 확산적이 되며, 필터를 조금 수정해 확산적 초기조건을 명시적으로 다룰 수도 있다.

결측자료 (missing data)

칼만 필터는 결측자료를 우아하게 처리한다. 알고리즘을 바꿀 필요 없이, 관측식 단계(10)·(11)을 건너뛰고 이어지는 갱신(12)·(13)을 다음으로 대체하면 된다. 즉 새 정보가 없으므로 상태와 그 공분산 추정은 예측값과 같다.

칼만 스무더 (Kalman smoother)

칼만 필터는 각 시각 t 에서 t 까지의 자료를 이용해 ξ_t|t, S_t|t 를 준다. 모든 자료를 조건으로 한 각 시점의 추정 ξ_t|n, S_t|n 이 필요한 경우에는 칼만 스무더를 쓴다. 이는 먼저 일반 칼만 필터를 앞으로 돌린 뒤 자료를 거꾸로 되돌려 추정을 만드는 필터의 변형이다.

8. 보험계리 응용 Actuarial Applications

신뢰도 이론(credibility theory)은 칼만 필터가 널리 쓰이는 분야다. 대부분의 신뢰도 모형은 계층적 선형모형으로 구성할 수 있고 베이지안 틀에서 자연스럽게 생각할 수 있다. 신뢰도 추정량은 선형 베이즈 규칙이고, 칼만 필터는 비동질 선형 베이즈 규칙을 구현하는 효율적 방법이다. 실제로 뷜만–슈트라우브 모형, 하케마이스터의 회귀모형, 주웰의 계층모형 같은 신뢰도 모형들이 상태공간 형태로 표현되고 칼만 필터로 재귀적 보험료 예측과 그 예측오차를 구한다. 순트(Sundt)는 칼만 필터를 재귀적 신뢰도 추정의 한 형태로 논의했다. 간혹 아주 큰 클레임에 더 강건하도록 고안한 강건 칼만 필터를 쓴 강건 신뢰도도 있다.

또 다른 응용은 손해액 준비금 산정(loss reserving)다. 드존과 젠비르트는 1983년 시간가변 모수와 모수 평활을 가진 손해액 준비금 응용을 제시했으며, 베랄(Verrall)은 체인래더(연쇄) 방법과 같은 평균 모수화를 가진 이원 교차분류 모형을 상태공간 형태로 구현했다. 칼만 필터는 이밖에도 경제학(특히 계량경제학)과 재무 분야에서 폭넓게 쓰인다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 상태공간모형 (state space model) — 관측식과 상태식 두 선형식으로 쓴 모형. 보이지 않는 상태가 시간에 따라 변하고, 그 상태가 잡음을 얹어 관측된다고 본다.
• 상태 (state, ξ_t) — 관측되지 않는 내부 변수(보통 모형의 모수). 칼만 필터가 추정하려는 대상.
• 관측식 / 상태식 — 각각 상태와 관측값의 관계(y = Xξ + e), 상태의 시간적 전이(ξ_t = Fξ_t−1 + u)를 정하는 식.
• 예측식 / 갱신식 (predict / update) — 상태를 한 시점 앞으로 밀어 내는 단계와, 새 관측값으로 그 예측을 보정하는 단계.
• 칼만 이득률 (Kalman gain, K_t) — 새 관측의 혁신을 상태 추정에 얼마나 반영할지 정하는 가중치. 예측 불확실성과 관측잡음의 상대 크기에 따라 결정.
• 혁신 (innovation, ε_t) — 새 관측값과 그 예측값의 차이(예측 오차). R_t 는 혁신의 분산.
• 국소 수준모형 (local level model) — 평균이 랜덤워크를 따르는 가장 단순한 상태공간모형. 지수평활과 점근적으로 같은 예측을 준다.
• 칼만 스무더 (Kalman smoother) — 모든 자료를 반영해 과거 각 시점의 상태를 다시 추정하는, 뒤로 돌리는 필터 변형.
• 신뢰도 이론 (credibility theory) — 집단 정보와 개별 경험을 가중 결합해 보험료를 정하는 이론. 칼만 필터는 이를 재귀적으로 구현한다.
• 확산적 초기조건 (diffuse initial conditions) — 상태에 대한 사전지식이 없을 때 초기 분산을 아주 크게(“무한”) 두는 처리 방식.

한국보험시장 현황 Korea Market Practice

칼만필터는 본문이 설명한 '예측–관측–갱신'의 순환으로 잡음 섞인 시계열에서 숨은 상태를 추정한다. 국내 계리실무에서는 손해진전(loss development)의 동적 추정, 추세를 갖는 손해율·해지율의 시계열 추정, 경제가정(금리·물가) 갱신 등에서 활용되며, 본문의 신뢰도법·칼만필터 준비금 산정과 직접 이어진다.

IFRS17·K-ICS 체제에서는 가정의 정기적 갱신이 의무화되어 있어, 새 실적(관측)이 들어올 때마다 기존 추정(예측)을 갱신하는 칼만필터식 사고가 유용하다. 다만 국내 표준 산출에서는 진전삼각형·체인래더 등 전통적 방법이 여전히 기본이며, 칼만필터는 변동성이 크거나 추세가 뚜렷한 항목의 보조·검증 도구로 쓰이는 경우가 많다.