확산과정(diffusion process)은 다음 형태의 확률미분방정식(stochastic differential equation, SDE)의 해로 정의되는, 연속적인 표본경로(sample path)를 갖는 확률과정이다.
여기서 W = {Wt}는 위너 과정(Wiener process), 즉 브라운 운동이며, U는 초기값이다. 확산과정 X는 다변량일 수 있다. X가 d차원 열벡터일 때 드리프트(추세) 계수 b는 시간과 상태를 받아 d차원 벡터를 돌려주고, 확산 계수 σ는 d×m 행렬값을 가지며, W는 좌표가 서로 독립인 표준 위너 과정인 m차원 벡터이다. b와 σ가 시각 t에 직접 의존하지 않고 Xt에만 의존하면 그 확산과정과 SDE를 시간 동질적(time-homogeneous)이라 한다.
식 (1)의 직관적 해석은 이렇다. 과정 X의 주된 경향(추세)은 결정론적 미분방정식 x′(t) = b(x(t), t)로 주어지지만, 그 동역학에는 무작위 요동이 항 σ(Xt, t)dWt로 더해진다. 따라서 짧은 시간 구간 [t, t+δ]에서 X의 증분은 결정론적 부분과 무작위 부분의 합으로 잘 근사된다.
이 증분은 시각 t까지의 이력이 주어졌을 때, 조건부로 평균 b(Xt,t)δ, 공분산행렬 v(Xt,t)δ인 정규분포에 가깝다. 여기서 행렬 v는 확산 계수로부터 다음처럼 정의된다(σ*는 전치).
이러한 약한 정칙성(regularity) 조건 아래에서 X는 마르코프 과정(Markov process)이 된다. 다만 시간 간격이 작지 않으면 X의 증분은 정규분포와 거리가 멀 수도 있다.
드리프트 b는 단위 시간당 평균 변화율(어디로 끌려가는가)을, 확산 계수 σ는 단위 시간당 무작위 흔들림의 크기(얼마나 떨리는가)를 나타낸다. 평균은 b·dt에 비례해 시간에 1차로, 분산은 σ2·dt에 비례해 역시 시간에 1차로 커진다. 두 계수만 주어지면 확산과정의 거동이 국소적으로 완전히 결정된다.
수학적으로 SDE의 해는 두 종류로 구분된다. 위너 과정 W와 초기값 U의 함수로서 해를 명시적으로 찾을 수 있는 경우, 이를 강한 해(strong solution)라 한다. 다변량 적분형으로 쓰면 다음과 같다.
강한 해의 존재와 유일성을 보장하는 충분조건으로는, 각 N에 대해 b와 σ가 국소적으로 립시츠(Lipschitz) 조건과 선형 성장 조건을 만족하는 것 등을 들 수 있다. 즉 어떤 상수 K(N)이 존재하여 |b(x,t)−b(y,t)| + |σ(x,t)−σ(y,t)| ≤ K(N)|x−y| 가 |x|, |y| ≤ N, 0 ≤ t ≤ N에서 성립하면 된다.
반면, 어떤 확률공간 위에서 식을 만족하는 과정 X와 위너 과정 W를 (함께) 찾을 수 있을 때 X를 약한 해(weak solution)라 부른다. 모든 약한 해가 같은 분포를 가지면 그 약한 해를 유일하다고 한다. 대부분의 응용에서는 약한 해로 충분하다. 시간 동질 SDE의 경우, 함수 v가 연속이고 행렬 v(x)가 모든 x에서 엄격히 양정치(positive definite)이며 선형 성장 조건이 성립하면 유일한 약한 해의 존재가 보장된다(같은 조건에서 해 X는 마르코프 과정이다).
강한 해는 "주어진 잡음 W에 대해 경로가 결정된다"는 강한 요구이고, 약한 해는 "그런 분포를 갖는 과정과 잡음의 짝이 존재한다"는 약한 요구다. 통계적 추론이나 분포 계산에는 약한 해(분포의 유일성)만 있으면 충분한 경우가 많다.
이제부터는 1차원 시간 동질 확산과정만 다룬다. 1차원 확산과정의 상태공간은 구간이며, 하단 끝점을 ℓ, 상단 끝점을 r로 표기한다. 표본경로는 σ = 0인 경우를 제외하면 미분 불가능하다.
다음 SDE의 강한 해를 오른슈타인-울렌벡(Ornstein-Uhlenbeck) 과정이라 하며, β > 0이면 평균 0으로 끌려오는 평균회귀 과정이다. 상태공간은 실수 전체이다.
그 강한 해는 명시적으로 다음과 같이 적분형으로 주어진다.
다음 과정은 금융 문헌에서 단기 이자율(short rate)에 대한 콕스-잉거솔-로스(CIR) 모형이라 부른다(β, α, ρ > 0). 상태공간은 양의 실수이며, 전이분포는 (비중심) 카이제곱형으로 명시적으로 알려져 있어 수정 베셀 함수 Iν로 표현된다. ν = γα−1, γ = 2βρ−2로 두면, −1 < ν < 0일 때는 유한 시간 내에 경계 0에 도달할 수 있으나 ν ≥ 0이면 모든 t에서 Xt > 0이다.
드리프트가 (α−1)/Xt, 확산 계수가 1인 과정을 베셀(Bessel) 과정이라 한다. W가 m차원 표준 위너 과정이면 그 노름 |Wt|는 α = m인 베셀 과정이며, 이는 이토 공식에서 따라나온다. 상태공간은 양의 실수이고, α < 2이면 유한 시간 내 경계 0에 도달할 수 있으나 α ≥ 2이면 항상 Xt > 0이다. 조건부 분포는 명시적 밀도를 갖는다.
마지막 예는 기하 브라운 운동(geometric Brownian motion)이다(α ∈ ℝ, ρ > 0). 이 이름은 log(Xt)가 브라운 운동이라는 사실에서 비롯된다. 즉 드리프트 α−(1/2)ρ2, 확산 계수 ρ인 브라운 운동이 로그를 통해 얻어진다(이토 공식). 상태공간은 양의 실수, 전이분포는 로그정규분포이다.
dXt = −βXtdt + ρdWt, X0 = x일 때 E[Xt]와 Var[Xt]를 구하라.
명시적 해 Xt = e−βtx + ρ∫0te−β(t−s)dWs에서 이토 적분의 기댓값은 0이므로 E[Xt] = e−βtx(평균 0으로 지수적 회귀). 이토 등거리성으로 Var[Xt] = ρ2∫0te−2β(t−s)ds = (ρ2/2β)(1−e−2βt). t→∞에서 분산은 ρ2/(2β)로 수렴하며 이것이 불변분포(정규)의 분산이다.
위 예들에서는 전이밀도(transition density), 즉 Xs = x가 주어졌을 때 Xt+s의 조건부 분포의 밀도함수 y → p(t, x, y)를 명시적으로 쓸 수 있다. 그러나 이는 예외적인 경우이며, 일반적으로는 명시적 공식을 얻을 수 없다. 대신 일반적으로 p(t, x, y)가 편미분방정식을 만족한다고 말할 수 있다. 즉 (충분한 정칙성 아래) p는 x에 대한 다음 후방 콜모고로프 방정식(backward Kolmogorov equation)의 해이다.
그리고 y에 대한 다음 전방 콜모고로프 방정식(forward Kolmogorov equation), 즉 물리학에서 잘 알려진 포커-플랑크(Fokker-Planck) 방정식의 해이기도 하다.
여기서 t > 0, x, y ∈ (ℓ, r)이다. 초기조건은, t → 0일 때 전이분포가 점 x에 집중된 확률측도로 수렴한다는 것이다. 이 확산(diffusion)이라는 이름 자체가 이 방정식들이 물리학의 확산현상을 기술한다는 데서 유래한다. 다만 확산이 유한 시간 내에 경계점 ℓ이나 r에 도달할 수 있는 경우에는 위 두 방정식이 성립하지 않을 수 있다.
후방 방정식은 출발점 x(과거)에 대한 미분으로 전개되어, 도달 확률이나 기대 보수 같은 "조건부 기대값"을 푸는 데 쓰인다(파인만-카츠와 연결). 전방(포커-플랑크) 방정식은 도착점 y(미래)에 대한 미분으로 전개되어, 시간이 지남에 따라 "밀도(확률 분포)가 어떻게 퍼지는가"를 기술한다. 같은 확산과정을 두 시점 방향에서 본 셈이다.
모든 1차원 확산과정에는 분석에 유용한 두 측도가 연관된다. 이하 상태공간 (ℓ, r)의 모든 x에서 σ(x) > 0이라 가정한다. 첫 번째는 밀도 s(x)를 갖는 척도측도(scale measure)이며, 그 적분 S(x)를 척도함수(scale function)라 한다(x0는 (ℓ, r)의 임의의 기준점).
이토 공식에서, 변환 Y = S(X)로 만든 과정은 드리프트가 0이 된다. 두 번째는 밀도 m(x)를 갖는 속도측도(speed measure)이다(v(x) = σ2(x)).
m(x)가 큰 점에서는 확산이 느리게 움직이고, 작은 점에서는 빠르게 움직인다. 척도함수의 다음 조건이 성립하면 확산과정 X는 유한 시간 내에 경계점 ℓ, r에 도달할 수 없으며(이런 경계를 비접촉(inaccessible)이라 한다) 과정은 재귀적(recurrent)이 된다.
정리. 모든 x ∈ (ℓ, r)에서 σ2(x) > 0이고 b/σ2이 연속이며, −S(ℓ) = S(r) = ∞이고 σ−2이 모든 콤팩트 부분구간에서 적분 가능하면, SDE는 유일한 마르코프 약한 해를 갖는다.
나아가 속도측도가 유한하면, 즉 다음이 성립하면 과정은 에르고딕(ergodic)이며 불변분포(invariant distribution)가 존재한다.
이때 불변분포의 밀도는 속도측도를 정규화한 것이다.
그 결과, t → ∞일 때 Xt의 분포는 μ로 수렴하고, 적분 가능한 임의의 함수 f에 대해 다음 에르고딕 정리(시간평균 = 공간평균)가 확률적으로 성립한다.
예를 들어 OU 과정(β > 0)의 불변분포는 평균 0, 분산 σ2/(2β)인 정규분포이고, CIR 과정의 불변분포는 형상모수 γα, 척도모수 γ−1인 감마분포이다(에르고딕 조건은 γα ≥ 1).
척도함수 S는 좌표를 다시 잡아 드리프트를 없애는 변환이다(어느 쪽으로 더 잘 가는가를 측정). 속도측도 m은 변환된 좌표에서 과정이 각 지점에 얼마나 오래 머무는가(시간을 어떻게 쓰는가)를 잰다. 두 측도가 1차원 확산의 거동(경계 도달 여부, 재귀성, 불변분포)을 완전히 특징짓는다.
실무에서는 이산 시점 XΔ, …, XnΔ (Δ > 0)에서 관측한 자료로 추론한다. 확산모형 집합이 모수 θ ∈ ™ ⊆ ℝp로 매개된 드리프트 b(x;θ), 확산 계수 σ(x;θ)로 주어졌다고 하자. 이상적으로는 이산 관측의 가능도(likelihood)에 기반한 추론이 가장 좋다. 마르코프 성질에 의해 가능도는 전이밀도의 곱으로 쓰인다.
특히 최대가능도 추정량(MLE)은 점수함수(score function)의 영점, 즉 로그가능도의 편도함수 벡터가 0이 되는 점에서 얻어진다.
그러나 전이밀도 p가 명시적으로 알려진 경우는 극히 드물다. 다행히 가능도를 근사하는 방법이 여럿 있다 - Pedersen의 시뮬레이션 기반 방법, Aït-Sahalia의 에르미트(Hermite) 다항식 전개, Poulsen의 전방 콜모고로프 방정식 수치해법, MCMC 방법 등. 또한 다음 형태의 추정함수(estimating function)에 기반한 비집약적 방법도 쓸 수 있다.
관측 간격 Δ가 작지 않을 때는 마팅게일 추정함수(martingale estimating function)를 쓰는 것이 가장 안전하다. 즉 g의 조건부 기대값이 0이 되도록 잡으면 Gn(θ)는 마팅게일이 되고, 에르고딕 정리와 마팅게일 중심극한정리를 통해 추정량의 일치성과 점근정규성을 얻을 수 있다.
또 한 가지 확산모형만의 특별한 성질은, 관측 간격 Δn = t/n이 0으로 가는 고빈도 점근(high-frequency asymptotics)에서 경로의 미세구조로부터 확산 계수에 대한 정보를 추출할 수 있다는 점이다. 실제로 제곱증분의 합(실현변동성)은 적분된 확산 계수로 수렴한다.
Kessler는 관측 수가 무한대로 가고 Δ가 0이 되는 시나리오에서 확산 계수의 추정량이 드리프트 계수의 추정량보다 더 빨리 수렴함을 보였다. 다변량 확산의 일부 좌표만 관측되는 경우(예: 확률변동성 모형)에는 가능도를 계산할 수 없으나 유용한 근사와 MCMC, 간접추론(indirect inference), 예측기반 추정함수 등이 제안되어 있다.
[0, t] 구간을 n등분(간격 Δn = t/n)하여 관측할 때, 상수 확산 계수 σ2를 어떻게 추정하는가?
제곱증분의 합 Σ(XiΔ−X(i−1)Δ)2은 n→∞일 때 ∫0tσ2(Xs)ds로 수렴한다(2차변동). 확산 계수가 상수 σ2이면 이 극한은 σ2t이므로, 추정량 (1/t)Σ(증분)2을 쓴다. 드리프트와 달리 확산 계수는 관측 기간이 짧아도(고빈도이면) 정확히 추정된다는 점이 핵심이다.
확산과정은 한국 보험 계리에서 이자율 모형과 변액보험 기초자산 모형의 핵심 수학 구조로 쓰인다. 단기이자율 r(t)의 동학을 기술하는 바시첵 모형(dr = κ(θ−r)dt + σdW)과 CIR 모형(dr = κ(θ−r)dt + σ√r dW)은 모두 SDE로 정의되는 확산과정이며, 국내 보험사의 금리위험 내부모형과 확정급부형 연금 부채 평가에서 이자율 시나리오 생성 엔진으로 사용된다. K-ICS 금리위험 충격 시나리오도 암묵적으로 이자율 확산 모형의 표준편차 구조를 반영한다.
변액보험(변액연금·변액종신)의 기초자산인 주가지수·펀드 수익률은 기하 브라운 운동(GBM: dS = μS dt + σS dW)으로 모형화하는 것이 국내외 공통 표준이다. 금융감독원이 요구하는 변액보증 준비금 산출 위험중립 시나리오(RNS)에서는 GBM의 실제 드리프트를 무위험이자율로 대체하는 측도변환(기르사노프 정리)을 적용하여 몬테카를로로 보증 비용 분포를 산출한다. 주가 점프 위험(예: 폭락 시나리오)은 포아송 점프를 GBM에 더한 점프-확산 과정으로 보완하기도 한다.
IFRS17 할인율 결정에도 확산 과정이 간접적으로 관여한다. 시장 일관 보험계약(유배당·DPF)의 부채 측정에 필요한 시장가치 지향 할인율 곡선은 스왑·채권 시장의 이자율 확산 모형에서 파생되며, Nelson-Siegel 또는 Svensson 할인 곡선 적합도 확산 틀 안에서의 칼만 필터 추정으로 이루어진다. 또한 장기 확산 모형의 분산이 시간에 비례해 커지는 성질은 장기 보험부채의 할인율 불확실성이 만기에 비례해 증가함을 함의하며, K-ICS 금리위험 요구자본이 장기 만기에 더 크게 부과되는 이유와 맥락이 닿는다.
CIR 모형(제곱근 확산)은 바시첵 모형과 달리 금리가 음수가 되지 않으며, 금리가 낮아질수록 변동성이 줄어드는 "분산 감소" 성질을 가진다. 국내 생보사들이 장기부채 ALM과 내부 금리위험 스트레스 분석에 CIR 또는 그 다요인 확장(예: A2 모형)을 사용하는 것은 이 성질이 한국 국채 금리의 낮은 변동성 구간에 잘 맞기 때문이다. 다만 음수 금리 시기에 CIR의 비음성 제약이 오히려 모형을 실제와 멀어지게 하는 한계가 있어, 이 경우 가우스 모형(바시첵)이나 시프트 CIR(displaced diffusion)이 대안으로 쓰인다.