가우스 과정

1. 개요 Introduction

가우스 확률과정(Gaussian stochastic process)의 부류는 확률모형화에서 중요한 역할을 하며, 보험계리수학과 금융수학을 포함한 응용확률의 여러 분야에서 풍부한 모형의 원천으로 널리 쓰인다.

보험계리 문제를 가우스 과정으로 모형화하는 데에는 실용적, 이론적 이유가 모두 있다. 실용적으로는, 가우스 과정의 모임이 매우 다양한 상관구조(correlation structure)를 포괄하며, 고전적 갱신이론(renewal-type) 도구가 통하지 않는 모형도 명시적으로 분석할 수 있게 해준다. 이론적으로는, 대부분 중심극한정리(central limit theorem)류의 논증에 기반한 결과들이 가우스 과정의 사용을 형식적으로 정당화한다.

2. 정의: 유한차원 분포가 다변량 정규 Definition

정의 1. 확률과정 {X(t) : t ∈ T}가 가우스 과정이라 함은, 임의의 유한 선형결합이 항상 실수값 가우스(정규) 확률변수임을 뜻한다. 여기서 n ∈ ℕ, a₁, …, a_n ∈ ℝ, t₁, …, t_n ∈ T이다.

가우스 확률변수의 기본 성질에 의해, 이는 다음과 동치이다. 즉 {X(t) : t ∈ T}가 가우스 과정일 필요충분조건은, 모든 유한차원 분포(finite-dimensional distributions, f.d.d.) (X(t₁), …, X(t_n))가 다변량 정규(multivariate Gaussian) 확률벡터라는 것이다.

현대 가우스 과정 이론은 매우 일반적인 모수집합 T에 대해 전개되고 있으나, 본 글에서는 응용확률에서 중요한 역할을 하는 T = ℝ, ℝ₊, [0, T], ℕ의 경우에 주로 관심을 둔다.

과정 X(t)가 모든 t ∈ T에 대해 E[X(t)] = 0이면 중심화(centered)되었다고 한다. 중심화 과정에서 비중심화 과정으로의 이행은 결정론적 함수(평균함수)를 더하는 것뿐이므로, 많은 경우 중심화 가우스 과정만 다루는 것이 자연스럽다. 정의에 따라, 만약 모든 t에서 E[X(t)] = 0이면 T×T 위에서 정의된 공분산함수(covariance function)가 과정 전체의 확률법칙을 완전히 결정한다.

3. 공분산함수의 구조 Covariance Function

확률과정 일반론의 기본 결과에 따르면 공분산함수는 반드시 양반정치(positive semidefinite)여야 한다. 즉 모든 a₁, …, a_n ∈ ℝ, n ∈ ℕ에 대해 다음이 성립한다.

더 중요한 것은 그 역이다. 콜모고로프 존재정리(Kolmogorov's existence theorem)와 다변량 정규분포의 형태를 결합하면, T×T 위의 모든 대칭 양반정치 함수는 T 위 어떤 중심화 가우스 과정의 공분산함수가 된다. 공분산함수의 부류와 양반정치 함수의 부류가 이렇게 일치하므로, 중요한 몇몇 가우스 과정 부류에 대해 공분산함수의 구조를 명확히 할 수 있다.

정상 가우스 과정

특히 {X(t) : t ∈ ℝ}가 정상(stationary)이고 중심화되어 있으면, R(t) = r(t, 0)이 공분산함수 r(s, t)를 결정한다. 정상성에 의해 다음이 성립하기 때문이다.

혼동의 여지가 없으면 R(t)를 정상과정의 공분산함수라 부른다. 나아가 보흐너 정리(Bochner's theorem)에 의해, R(t)가 연속이면 다음 스펙트럼 표현을 갖는다. 여기서 F(x)는 비감소, 우연속, 유계인 실함수이며 이를 과정의 스펙트럼 분포함수(spectral distribution function)(또는 스펙트럼 측도)라 한다.

정상증분 가우스 과정

공분산함수의 구조에 대해 비교적 풍부한 이론이 있는 또 다른 부류는 정상증분(stationary increments)을 갖는 가우스 과정이다. {X(t) : t ∈ [0, ∞)}가 정상증분을 갖는 중심화 가우스 과정이면, 분산함수 σ²(t) = Var(X(t)) = r(t, t)가 과정 전체의 법칙을 완전히 기술한다. 증분의 정상성에서 다음이 곧바로 따라나온다.

4. 중요한 가우스 과정 Important Gaussian Processes

응용확률(보험 및 금융수학 포함)에서 다음 가우스 과정들이 근본적인 역할을 한다.

표준 브라운 운동(위너 과정)

표준 브라운 운동 {W(t) : t ∈ [0, ∞)}는 정상증분을 갖는 중심화 가우스 과정으로, 공분산함수가 다음과 같다.

브라운 다리

브라운 다리(Brownian bridge) {W̃(t) : t ∈ [0, 1]}는 다음 공분산함수를 갖는 중심화 가우스 과정이다. t = 0과 t = 1에서의 값이 주어졌을 때 브라운 운동을 선형보간한 오차로 해석할 수 있으며, 특히 W(t) − t W(1)이 브라운 다리이다.

분수 브라운 운동

분수 브라운 운동(fractional Brownian motion) {B_H(t) : t ∈ [0, ∞)}는 허스트(Hurst) 모수 H ∈ (0, 1]을 갖는, 정상증분의 중심화 가우스 과정으로 공분산함수는 다음과 같다.

H < 1/2이면 B_H의 증분은 음의 상관을 가지며, H = 1/2이면 B_1/2(t)는 표준 브라운 운동이다. H > 1/2이면 증분이 양의 상관을 가지며 이른바 장기기억(long-range dependence) 성질을 갖는다. H = 1이면 B₁(t) = t B₁(1)은 무작위 직선이다. 분수 브라운 운동은 지수 H의 자기유사(self-similar) 과정이기도 하다 - 즉 임의의 c > 0에 대해 {c^−HB_H(ct)}가 다시 허스트 모수 H의 분수 브라운 운동이다. 집합위험이론에서 분수 브라운 운동의 활용이 제안되어 있다.

오른슈타인-울렌벡 과정

오른슈타인-울렌벡(Ornstein-Uhlenbeck) 과정 {Z(t) : t ∈ [0, ∞)}는 다음 공분산함수를 갖는 중심화 정상 가우스 과정이다(λ, α > 0).

5. 표본경로의 정칙성 Regularity of Sample Paths

가우스 과정과 그 범함수의 많은 성질은 표본경로의 정칙성(regularity)과 밀접하다. 예컨대 X(t)가 정상이면 벨라예프 이분법(Belyaev's dichotomy)에 의해 X(t)는 거의 확실하게(a.s.) 연속이거나, T의 모든 열린 부분집합에서 a.s. 비유계이다(중간은 없다).

표본경로의 매끄러움에 대한 충분조건을 주는 자연스러운 도구는 유사거리(pseudometric) d(s, t)이다. 중심화 가우스 과정 X(t)에 대해 다음으로 정의된다.

정리 1. 중심화 가우스 과정 {X(t) : t ∈ [0, T]}에 대해, 어떤 양수 α, η, C에 대해 d²(s, t) ≤ C / |log|s−t||^1+α 가 |s−t| ≤ η인 모든 s, t에서 성립하면, X(t)의 표본경로가 확률 1로 연속이다. 더 강한 조건 d²(s, t) ≤ C|s−t|²/|log|s−t||^1+α 이면 확률 1로 연속미분가능하다.

응용확률에서 만나는 대부분의 가우스 과정은 a.s. 연속이다. 표준 브라운 운동, 브라운 다리, OU 과정은 α < 1/2이면 확률 1로 α-횔더 연속(Hölder continuous)이지만 α > 1/2이면 아니다. 분수 브라운 운동 B_H는 α < H이면 확률 1로 α-횔더 연속이지만 α > H이면 아니다.

6. 상한의 분포와 집중원리 Suprema & Concentration

파산확률 연구에 핵심적인 sup_t∈TX(t)의 명시적 분포함수는 매우 특수한 가우스 과정에 대해서만, 그것도 대개 T = [0, T] 또는 ℝ₊에 한해 알려져 있다. 그러나 경계와 점근을 주는 도구는 비교적 많다. 표준정규의 꼬리분포를 Ψ(x)로 두자. 기본 성질 중 하나는 가우스 과정의 상한이 분산이 다음과 같은 단일 가우스 변수와 매우 비슷하게 행동한다는 것이다.

특히 {X(t) : t ∈ T}가 확률 1로 유계 표본경로를 가지면 다음 로그점근이 성립한다.

가우스 과정의 또 한 가지 매우 특별한 성질은 집중원리(concentration principle)이다. 이는 sup_t∈TX(t)가 그 중앙값(median) 둘레에, 분산 σ²인 중심화 가우스 변수가 0 둘레에 집중하는 것만큼이나 강하게 집중함을 말한다. 집중원리의 한 예가 다음 보렐 부등식(Borell's inequality)으로, 상한분포의 상계를 준다.

정리 2 (보렐 부등식). a.s. 유계 표본경로를 갖는 중심화 가우스 과정 {X(t) : t ∈ T}에 대해, 임의의 u > 0에 대해 다음이 성립한다.

보렐 부등식은 가우스 과정의 극단값이론에서 가장 유용한 경계 중 하나이며, 이중합 방법(double sum method) 같은 정교한 기법과 결합하면 sup_t∈TX(t)의 꼬리분포의 정확한 점근을 얻는 열쇠가 된다. 정상 가우스 과정에 대해서는 다음 피칸즈 정리(Pickands' theorem)가 있다.

정리 3 (피칸즈). 공분산함수 R(t)가 t → 0에서 R(t) = 1 − |t|^α(1 + o(1)), α ∈ (0, 2]을 만족하고 모든 t > 0에서 R(t) < 1인 정상 중심화 가우스 과정에 대해 다음이 성립한다(H_α는 α에만 의존하는 유한상수, 피칸즈 상수).

7. 수준교차와 비교원리 Level Crossings & Comparison

연속함수 f(t)가 점 t₀에서 수준 u를 상향교차(up-crossing)한다는 것은, t₀ 직전에는 f ≤ u, 직후에는 f ≥ u임을 말한다. 구간 [0, T]에서 f가 수준 u를 상향교차하는 횟수를 N_u(f, T)로 쓴다. 수준교차는 극단값이론과 변동성 분석에서 중요하며, a.s. 연속 가우스 과정의 상한 꼬리분포에 대한 다음 근사가 자주 정확하다.

P(sup_t∈[0,T]X(t) > u) ≤ P(X(0) > u) + E[N_u(X, T)]. 정상 가우스 과정에 대해서는 유명한 라이스 공식(Rice's formula)이 상향교차 기대횟수의 정확한 형태를 준다.

정리 4 (라이스 공식). 정상이고 a.s. 미분가능한 가우스 과정 {X(t) : t ∈ [0, T]}에 대해, 구간 [0, T]에서 수준 u의 상향교차 기대횟수는 다음과 같다.

비교원리(comparison principle)는 경계를 찾고 문제를 더 단순하고 잘 알려진 상한분포로 환원하는 데 매우 유용하다. 직관은 "가우스 과정이 더 강하게 상관될수록 평균에서 벗어날 확률이 작다"는 것이다. 대표적 예가 슬레피안 부등식(Slepian's inequality)이다.

정리 5 (슬레피안 부등식). a.s. 유계인 가우스 과정 {X(t)}, {Y(t)}가 모든 t에서 E[X(t)] = E[Y(t)], Var(X(t)) = Var(Y(t))이고, 모든 s, t에서 E(X(s)−X(t))² ≤ E(Y(s)−Y(t))²이면, 모든 실수 u에 대해 다음이 성립한다.

분산이 같을 필요가 없는 변형으로 수다코프-페르니크(Sudakov-Fernique) 부등식이 있다 - 위 증분 거리 조건 아래에서 E[sup_tX(t)] ≤ E[sup_tY(t)]가 성립한다.

8. 위험이론에서의 가우스 과정 Gaussian Processes in Risk Theory

적절히 척도화된 위험과정을 브라운 운동으로 근사하는 개념은 이글하트(Iglehart)에 의해 수학적으로 엄밀해졌다. 이 접근(확산근사, diffusion approximation)의 장점은 고전 위험이론에서 나타나며 갱신이론 도구가 통하지 않는 더 일반적인 모형을 분석할 수 있게 해준다는 것이다. 이글하트의 아이디어는 여러 방향으로 확장되었고, 위험과정을 근사하기 위해 (비확산) 가우스 과정(예: 분수 브라운 운동)도 제안되었다. 예컨대 다음 모형이 파산이론에서 자연스럽게 나타난다(u > 0, c > 0, X(t)는 정상증분 중심화 가우스 과정).

유한기간 및 무한기간 파산확률(ruin probability)은 각각 inf_t∈[0,T]U(t) < 0 및 inf_t≥0U(t) < 0의 확률로 정의된다. 무한기간의 경우는 다음과 동치이다.

상당히 넓은 가우스 과정 부류에 대해 파산확률의 정확한 점근은 u → ∞에서 ψ(u) = g(u, c) Ψ(m(u))(1 + o(1)) 형태를 가지며, 여기서 m(u) = min_t≥0(u+ct)/√Var(X(t))이고 g는 u의 어떤 다항식이다. X(t)가 분수 브라운 운동인 경우의 ψ(u)와 g가 연구되어 있으며, X(t) = W(t)가 브라운 운동이면 ψ(u)와 유한기간 파산확률의 정확한 형태가 알려져 있다.

참고 및 관련 표제어

부록. 이 글에 나온 용어 (배경지식 보충)

• 가우스 과정 (Gaussian process) - 모든 유한차원 분포가 다변량 정규인 확률과정; 평균함수와 공분산함수로 완전히 결정된다.
• 유한차원 분포 (finite-dimensional distributions, f.d.d.) - 유한 개의 시점에서 본 과정 값들의 결합분포.
• 공분산함수 (covariance function) - r(s,t)=Cov(X(s),X(t)); 양반정치여야 하며 중심화 과정의 법칙을 결정.
• 정상 / 정상증분 (stationary / stationary increments) - 과정 자체 / 증분의 분포가 시간이동에 불변인 성질.
• 스펙트럼 분포함수 (spectral distribution function) - 보흐너 정리에서 정상과정 공분산을 표현하는 비감소 함수 F.
• 분수 브라운 운동 (fractional Brownian motion) - 허스트 모수 H의 자기유사·정상증분 가우스 과정; H>1/2면 장기기억.
• 유사거리 (pseudometric) - d(s,t)=√E(X(t)−X(s))²; 경로 정칙성 판정에 쓰인다.
• 집중원리 / 보렐 부등식 (concentration / Borell) - 상한 supX(t)가 중앙값 둘레에 강하게 집중함을 주는 상계.
• 피칸즈 정리 / 라이스 공식 (Pickands / Rice) - 각각 정상 가우스 과정 상한의 점근과 수준교차 기대횟수의 공식.
• 비교원리 / 슬레피안 부등식 (comparison / Slepian) - 더 강한 상관이 더 작은 초과확률을 준다는 비교 도구.

한국보험시장 현황 Korea Market Practice

가우스 과정(GP)은 함수 공간에 대한 베이지안 사전분포로, 연속형 입력 변수에 대해 예측의 불확실성까지 분포로 표현할 수 있다. 국내 계리 실무에서는 경험생명표 산출 시 연령별 사망률 추이를 평활화하는 데 GP 회귀가 활용된다. 제10회 경험생명표(2024.4 기준)에서 연령 구간별 사망률을 부드러운 함수로 내삽·외삽할 때, 패러매트릭 모형보다 유연한 비선형 평활을 제공한다는 점이 실용적이다.

보험료율 산정에서도 공간·시간의 연속 효과를 모형화할 때 GP가 이용된다. 자동차보험 지역별 사고율이나 연령-주행거리 조합의 위험 면(risk surface)을 추정할 때, GLM의 격자형 계수 구조 대신 GP를 씌우면 데이터 희소 구간에서도 연속적이고 매끄러운 추정치를 얻는다. IFRS17 체계에서 최선추정(BEA)을 위한 사망·해지율 가정 설정 시 과거 경험 데이터에 GP를 적용해 추세 불확실성의 신뢰 구간을 구성하는 연구도 진행 중이다.

K-ICS 요구자본 산정에서 시나리오 기반 충격치를 적용할 때, 충격 경로(금리·사망률·해지율)의 공분산 구조를 GP로 표현하면 복수 리스크 간 상관관계를 일관되게 다룰 수 있다. 다만 GP는 학습 데이터 크기 n에 대해 O(n³) 계산 비용이 들어, 대규모 계약 포트폴리오에 직접 적용하기보다는 스파스 GP나 인덕티브 포인트 근사를 사용하는 형태로 실용화된다.