많은 경우 파생상품의 가격은 닫힌 형태(closed form)의 해석적 공식으로 구할 수 없거나, 공식이 있어도 실제 계산이 어렵다. 그래서 수치해법(numerical methods)이 필요하다. 해석적 해가 아예 없는 대표적 예는 미국식(American) 옵션과 대부분의 이산 관측 경로의존(path-dependent) 옵션이다. 공식은 있으나 계산이 까다로운 예로는 연속 관측 아시안 옵션의 가격 공식(실무에서 자주 만나는 넓은 모수 범위에서 계산이 매우 어렵다)과, 이산 관측 부분 배리어 옵션의 닫힌 형태 해(고차원 수치적분이 필요하다)가 있다.
기초자산이 배당을 지급하지 않는 주식이고 그 가격 S가 기하 브라운 운동(geometric Brownian motion)을 따른다고 하자.
여기서 추세율(drift) μ와 변동성 σ는 상수이고, B는 표준 브라운 운동이다. 표준적인 무차익(no-arbitrage) 논리에 따르면, 기초자산 S에 대한 파생청구권의 가치 V는 다음 편미분방정식(PDE)의 해로 구할 수 있다.
여기서 아래첨자는 편도함수를 뜻하고, r는 연속복리 무위험이자율, t는 시간이다. 이 방정식은 만기 T에서 현재로 거꾸로(backward) 풀기 때문에, 잔여만기 τ = T − t를 써서 아래 형태로 다시 쓰면 편리하다.
계약의 만기 페이오프가 식 (3)의 초기조건(initial condition)이 된다. 예컨대 행사가격 K인 유럽식 콜옵션은 만기에서 다음 값을 갖는다.
유럽식 풋옵션이라면 페이오프 조건은 다음과 같다.
이 단순한 예들은 사실 블랙–숄즈 공식이라는 잘 알려진 해석해가 있어 수치해법이 필요 없다. 그래도 이런 문제는 수치적 기법의 성능을 점검하는 유용한 검증 사례가 된다.
또 한 가지 중요한 점은, 식 (2)를 기댓값 계산으로 풀 수 있다는 것이다. 이것은 파인만–칵(Feynman–Kac) 해에서 나온다.
기댓값 연산자 E에 별표(*)를 붙인 것은, 실제 과정 (1)이 아니라 추세율 μ를 무위험이자율 r로 바꾼 수정된 과정 아래에서 만기 페이오프의 기댓값을 계산한다는 뜻이다. 이 식 (4)가 바로 몬테카를로(Monte Carlo) 방법의 출발점이다.
파생상품 가격은 결국 같은 답을 향한다. (1) PDE를 직접 푸는 길 — 격자(이항·삼항 트리)와 유한차분법, (2) 기댓값으로 푸는 길 — 식 (4)를 따르는 몬테카를로 시뮬레이션이다. PDE 방법은 시간을 거꾸로(만기→현재) 풀고, 몬테카를로는 시간을 앞으로(현재→만기) 굴린다. 이 방향 차이가 미국식·경로의존 옵션 처리에서 두 방법의 장단점을 가른다.
가장 이해하기 쉬운 수치해법은 이항모형(binomial method)이다. 가장 단순한 불확실성 모형에서 시작하자. 한 기간(one period)만 있고, 기초자산 가격은 기간 말에 두 값 중 하나가 된다. 현재 주가를 S, 한 기간 뒤 두 값을 S·u와 S·d(상수 u > d)라 하고, 한 기간 무위험이자율에 1을 더한 값을 R로 표기하자. 무차익 조건은 u > R > d를 요구한다(만약 u ≤ R이면 주식이 무위험채권에 지배당하고, R < d이면 주식이 채권을 지배한다).
만기 옵션값은 S의 함수로 알고 있다. 행사가 K인 유럽식 콜이라면 페이오프는 Vu = max(S·u − K, 0), Vd = max(S·d − K, 0)이다. 이제 옵션 페이오프를 복제(replicate)하도록 기초주식 h주를 사고 무위험자산에 C를 투자하는 전략을 생각하자. h와 C는 다음 두 식을 만족하도록 고른다.
이는 미지수 2개짜리 일차연립방정식이며, 해는 다음과 같다.
이 전략을 시작할 때 드는 비용은 hS + C이다. 무차익 논리에 따라 오늘의 옵션 가격은 같은 미래 페이오프를 만드는 이 대체전략의 비용과 같아야 한다. 정리하면 한 기간 이항 가격공식을 얻는다.
여기서 π = (R − d)/(u − d)이다. 무차익 제약 u > R > d 때문에 0 < π < 1이 되어, π와 (1 − π)를 확률처럼 해석할 수 있다. 즉 "미래 기대 페이오프를 할인하여 오늘 가치를 얻는다"는 직관이 성립한다. 이 π는 기초자산의 기대성장률이 무위험이자율과 같다고 보았을 때의 확률이며, 식 (4)의 위험중립 기댓값과 정확히 대응한다.
주식 h주와 채권 C로 옵션과 똑같은 미래 페이오프를 만들 수 있다면, 오늘 가격도 같아야 한다(같은 것은 같은 값). 이렇게 만든 포트폴리오가 옵션의 "쌍둥이(복제)"다. π는 실제 확률이 아니라 위험중립 확률로, 가격을 맞추기 위한 가중치일 뿐이다.
이 한 기간 모형은 너무 단순하지만, 계약 수명을 여러 부분기간(subperiod)으로 나누면 매우 유용한 트리(tree)·격자(lattice) 구조로 확장된다. n개 부분기간이면 트리를 통과하는 경로는 2n개다. 관리 가능하도록 d = 1/u로 두면, "위→아래" 이동과 "아래→위" 이동이 같은 주가에 도달하므로 트리가 재결합(recombining)한다. 그러면 만기 주가가 n + 1개로 줄어 효율이 크게 좋아진다. 초기 옵션값은 알려진 만기 페이오프에서 출발해 트리를 거꾸로 굴리며(rolling backward) 모든 마디(node)에서 식 (7)을 반복 적용해 구한다.
부분기간 수 n을 무한대로 보내면 연속시간 블랙–숄즈 해로 수렴한다. r를 연속복리 무위험이자율, σ를 주가의 연간 표준편차, Δt를 한 단계 시간폭이라 할 때, 다음과 같이 모수를 잡으면 Δt → 0(즉 n → ∞)에서 블랙–숄즈 가격으로 수렴한다.
옵션값 외에 '그릭스(Greeks)'도 자주 추정한다. 델타(∂V/∂S)와 감마(∂²V/∂S²) 같은 헤징 모수는, 주가 트리 위의 옵션값을 수치미분하여 추정한다.
이항모형은 미국식 옵션에도 쉽게 적용된다. 트리를 거꾸로 굴리면서 각 마디에서 "한 단계 더 보유했을 때 값"과 "지금 행사했을 때 페이오프" 중 큰 값으로 대체하면 된다.
이 단순하고 효율적인 알고리즘 덕분에, S = K = 100, r = 0.08, T = 1, σ = 0.30인 유럽식·미국식 풋옵션에서 몇백 단계만으로도 꽤 정확한 답을 얻는다(유럽식 풋의 블랙–숄즈 값은 8.0229). 수렴 속도는 단계 수를 거듭 2배로 늘리며 연속 변화량의 비를 보면 알 수 있다. 그 비가 약 2이면 1차(선형) 수렴, 약 4이면 2차(2차)수렴이다. 표준 이항모형은 잘 알려진 대로 선형 수렴을 보인다.
S = 100, u = 1.2, d = 0.8, 기간 무위험이자율 4%(R = 1.04), 행사가 K = 100인 유럽식 콜의 가격은?
만기 주가는 120 또는 80. 페이오프 Vu = max(120−100,0) = 20, Vd = max(80−100,0) = 0. 위험중립확률 π = (1.04 − 0.8)/(1.2 − 0.8) = 0.24/0.4 = 0.6. 옵션값 = (1/1.04)·[0.6·20 + 0.4·0] = 12/1.04 ≈ 11.54. 같은 페이오프를 내는 복제 전략의 비용도 정확히 이 값이 된다.
더 일반적인 접근은 PDE (3)을 수치적으로 푸는 것이다. 유한차분법(finite differences), 유한요소법, 유한체적법 등이 있는데, 1차원 문제에서는 차이가 미미하여 대개 같은 이산방정식과 같은 옵션값을 준다. 여기서는 가장 설명하기 쉬운 유한차분법을 본다. 기본 아이디어는 PDE (3)의 도함수를, S에 대한 유한 격자(grid) 위에서 계산한 이산 차분으로 바꾸는 것이다. 격자는 S0 = 0부터 Sp = Smax(격자 최대 주가)까지 둔다.
주가에 대한 1차 도함수는 전진차분과 후진차분을 결합한 중심차분(central difference)으로 근사한다(등간격이면 2차 정확).
2차 도함수는 등간격 격자(ΔSi = ΔS)에서 다음과 같이 근사하며, 이는 2차 정확도를 갖는다.
시간(잔여만기 τ)에 대해서는 1차 차분을 쓴다. 마디 i, 시간단계 n의 옵션값을 Vin이라 하면,
공간 도함수를 어느 시간단계에서 평가하느냐에 따라 방법이 갈린다. 옛 시간단계 n에서 평가하면 양함수법(explicit method)이 된다. 근사식들을 PDE에 대입해 정리하면 다음을 얻는다.
여기서 계수 αi, βi는 σ²S², r, 격자간격으로 정해진다. 반대로 공간 도함수를 새 시간단계 n+1에서 평가하면 음함수법(implicit method)이 된다. 두 방법을 하나로 묶으면, 행렬 A와 항등행렬 I를 써서 가중치 θ로 다음과 같이 쓸 수 있다.
θ = 0이면 양함수법, θ = 1이면 음함수법이며 둘 다 시간에 대해 1차 정확하다. θ = 1/2로 두면 2차 정확한 크랭크–니콜슨(Crank–Nicolson) 방법이 된다. 문헌에서 말하는 삼항(trinomial) 트리는 사실상 양함수 유한차분법이며, 이항모형도 (로그변환한 PDE의) 특수한 양함수 유한차분법으로 볼 수 있다.
양함수법(θ=0)은 다음 값을 직접 계산하므로 연립방정식을 풀 필요가 없어 간단하지만, 안정성을 위해 시간단계를 아주 작게 잡아야 한다. 음함수법(θ=1)·크랭크–니콜슨(θ=1/2)은 매 단계 (삼대각) 연립방정식을 풀어야 하지만 무조건 안정하다. 크랭크–니콜슨은 시간에 대해 2차 정확하여 같은 격자에서 더 정확하다.
어떤 수치해법이든 안정(stable)해야 한다. 그렇지 않으면 계산오차가 지수적으로 커져 해가 쓸모없어진다. 크랭크–니콜슨과 음함수법은 무조건 안정하지만, 양함수법은 다음 조건을 만족할 때에만 안정하다.
이는 격자간격이 촘촘하면 시간단계를 매우 작게 잡아야 함을 뜻하며, 실무에서 심각한 제약이 된다. (가) 장기 계약 평가에 매우 비효율적이고, (나) 디지털·배리어 옵션처럼 값에 불연속이 있어 격자를 촘촘히 해야 하는 경우 시간단계가 지나치게 작아진다. 반면 크랭크–니콜슨과 음함수법은 이 제약이 없어 격자·시간단계 설계가 훨씬 유연하다. 예컨대 배당·쿠폰 등 중간 현금흐름 날짜에 시간단계를 맞추거나, 만기에서 멀어질수록 시간단계를 키워 장기 파생상품을 효율적으로 계산할 수 있다.
또 한 가지, 식 (10)의 중심차분을 쓰면 계수 αi가 음수가 될 수 있고, 이는 수치해에 가짜 진동(spurious oscillation)을 일으킨다. 옵션 가격 자체에서는 거의 보이지 않아도 델타·감마에서는 심각할 수 있다. 음함수법에서는 해당 마디에서 전진차분으로 전환하면 진동을 막을 수 있다. 양함수법은 안정성 제약 덕분에 αi ≥ 0이 보장되어 문제가 없다. 크랭크–니콜슨은 다소 애매하여, 진동을 막으려면 시간단계를 양함수 안정한계의 2배 이내로 제한해야 한다. Smax는 보통 행사가의 3~4배로 잡으며, 일반적으로 σ√T에 비례해야 한다(변동성이 크거나 만기가 긴 옵션일수록 더 큰 Smax가 필요).
몬테카를로(Monte Carlo) 방법은 파인만–칵 해 (4)에 기반한다. 기본 아이디어는 이렇다. 기초주가의 진화를 나타내는 확률미분방정식 (1)에서 (가격결정을 위해) 추세율 μ를 무위험이자율 r로 바꾼 뒤, 시간을 앞으로 굴려 다음 근사로 시뮬레이션한다.
이렇게 S의 경로를 만기 T까지 만들고, 페이오프 함수를 만기값에 적용하면 옵션 가치의 한 가지 실현값을 얻는다. 이를 여러 번 반복해 만기 옵션값의 분포를 쌓은 뒤, 식 (4)에 따라 평균을 내고 무위험이자율로 할인하면 현재 가격이 된다. 다만 기하 브라운 운동 (1)은 정확히 적분할 수 있어, 1차 근사 (25)의 오차를 피할 수 있다.
그러나 이런 정확한 식은 드물다. 몬테카를로는 옵션값의 통계적 추정치를 내며, 표준 추정량과 그에 따르는 표준오차(SE)는 시뮬레이션 횟수 M이 커질수록 다음 속도로 0에 수렴한다.
즉 M을 10배로 늘리면 표준오차는 약 3배가량만 줄어든다. 추정 가격에 ±2 표준오차를 더하면 근사 95% 신뢰구간을 얻는다.
식 (27)의 추정량은 "할인한 만기 페이오프"의 표본평균이다. 큰 수의 법칙으로 참값에 수렴하지만, 표준오차가 M−1/2 속도라 느리다. 정밀도를 4배로 올리려면 시뮬레이션을 16배 해야 한다. 그래서 아래의 분산축소 기법이 중요하다.
더 정밀한 추정을 위해 단순히 시뮬레이션을 늘리는 대신 분산축소(variance reduction)를 쓴다. 가장 간단한 것은 대조변량(antithetic variates)으로, Z ~ N(0,1)이면 −Z도 N(0,1)임을 이용한다. Zi로 만든 경로와 −Zi로 만든 경로의 페이오프를 짝지어 평균한다.
둘째는 제어변량(control variate) 기법이다. 정확한 답 W를 아는 관련 옵션 문제가 있고 그 몬테카를로 추정치가 Ŵ일 때, 관심 옵션의 추정량을 다음과 같이 보정한다.
흔히 β = 1로 두지만 최적은 아니며, 분산을 최소화하는 최적값은 다음과 같다(별도 시뮬레이션의 선형회귀로 추정).
셋째는 중요도 표집(importance sampling)이다. 외가격(out-of-the-money) 옵션처럼 대부분의 경로가 페이오프 0으로 끝나 계산이 낭비될 때, 추세율을 바꿔 더 많은 경로가 내가격으로 끝나게 하고 가능도비(likelihood ratio)로 가중하여 올바른 값을 얻는다. 이밖에 적률맞춤, 층화표집, 그리고 '무작위'가 아닌 결정론적으로 확률공간을 고르게 덮는 저불일치 수열(low-discrepancy sequences, 준-몬테카를로)이 있다. 저불일치 수열은 표준 방법의 M−1/2보다 빠른 M−1에 가까운 수렴을 줄 수 있어 특히 매력적이다.
몬테카를로의 큰 장점은 직관적이고 구현이 쉽다는 점이다. 그러나 여기서 다룬 단순 문제에서는 수렴이 느려 이항모형이나 정교한 수치 PDE 기법보다 확실히 열등하다. 다만 뒤에서 보듯 몬테카를로만이 유일한 대안인 상황도 있다.
미국식 옵션은 어떤 수치 PDE 방법에도 같은 절차로 적용할 수 있다. 시간을 거꾸로 풀 때 각 마디에서 "보유했을 때 값"과 "지금 행사했을 때 값" 중 큰 값을 취한다. 다만 제약을 푼 뒤에 적용하는 단순 절차는, 조기행사 경계에서 델타가 연속이어야 한다는 매끄러운 접합(smooth pasting) 조건이 깨져 델타·감마가 부정확해질 수 있다. 더 정확하려면 연립방정식을 제약 하에서 직접 푸는(약한 비선형) 방법을 쓴다. 또한 일정한 시간단계로는 일반적으로 미국식 옵션에서 2차 수렴을 얻을 수 없어, 자동 시간단계 선택기나 적응적 격자 기법을 쓴다.
몬테카를로로 미국식 옵션을 다루기는 더 어렵다. 시간을 앞으로 굴리므로 어느 시점·경로에서든 즉시 행사가치는 알지만 보유가치는 모르기 때문이다(시간을 거꾸로 푸는 PDE와 대조된다). 최근에는 경로 묶음(path-bundling)·최소제곱 회귀 등으로 조기행사를 다루는 진전이 있었으나, 대부분 최적 행사정책의 근사로 인해 하한을 준다.
배당은 두 방식으로 처리한다. 연속 배당수익률 q면 몬테카를로에서는 추세율을 r − q로 바꾸고, PDE에서는 (3)의 rSVS 항을 (r − q)SVS로 바꾼다. 이산 현금배당이면 배당락 주가(보통 배당액만큼 하락)를 지정하고, PDE에서는 배당지급일에 옵션값이 연속이라는 무차익 조건과 보간(interpolation)이 필요하다.
불연속 페이오프(디지털 옵션 등)는 크랭크–니콜슨에서 진동을 일으키지만, 페이오프를 매끄럽게 한 뒤 처음 두 단계를 음함수로 푸는 Rannacher 절차로 2차 수렴을 회복할 수 있다. 배리어 옵션은 연속 관측이면 PDE에서 경계조건을 적용해 쉽게 풀리지만, 몬테카를로에서는 표본 간 구간에서 배리어 돌파 여부를 모르는 이산화 편의가 생긴다(녹아웃은 과대, 녹인은 과소 평가). 실무 계약은 대부분 이산 관측이라 큰 문제는 아니다.
경로의존(path-dependent) 옵션(아시안·룩백·파리지앵 등)은 몬테카를로가 특히 적합하다. 시간을 앞으로 굴리며 경로의 이력을 알기 때문이다. PDE·트리 방법은 거꾸로 풀어 과거 이력을 모르므로, 상태 확장(state augmentation)으로 보조변수를 추가해 일련의 1차원 문제로 푼다. 아시안 옵션에서는 기하평균 페이오프 옵션(해석해 존재)을 제어변량으로 써서 산술평균 옵션의 분산을 크게 줄이는 좋은 예가 있다.
다차원 문제는 몬테카를로가 빛을 발한다. PDE·트리의 계산복잡도는 상태변수 수에 따라 지수적으로 커지지만 몬테카를로는 선형으로 커진다. 교차점은 보통 3차원 부근으로, 3차원 이하는 PDE, 그 이상은 몬테카를로가 적합하다(고차원에서 PDE는 사실상 불가능). 마지막으로, 여기 논의는 기하 브라운 운동 맥락이지만 같은 원리는 확률적 변동성·내재변동성 곡면·CEV 등 다른 확산과정에도 그대로 이어진다.
(a) 단일 기초자산 유럽식 콜, (b) 5개 기초자산에 의존하는 바스켓 옵션, (c) 산술평균 아시안 옵션. 각각 어떤 수치해법이 적합한가?
(a) 이항모형 또는 유한차분법 — 1차원이라 빠르고 정확. (b) 몬테카를로 — 5차원이라 PDE·트리는 지수적으로 폭증, 몬테카를로 복잡도는 선형. (c) 몬테카를로(경로의존) — 시간을 앞으로 굴리며 평균을 추적, 기하평균 옵션을 제어변량으로 쓰면 분산이 크게 준다.
수치해법으로 파생상품을 가격결정하는 분야는 넓고 복잡하다. 어떤 기법이 적합한지는 문맥에 크게 좌우된다. 몬테카를로는 3차원 초과 문제의 유일한 실용적 대안이지만 다른 경우엔 느리고, 조기행사가 여전히 까다롭다. 수치 PDE는 견고하나 고차원에 못 쓰고, 큰 희소 선형계를 푸는 정교한 알고리즘이 필요해 구현이 비교적 어렵다. 이항·삼항 트리는 양함수형 PDE 방법으로 단순 문제에는 매우 잘 맞지만, 시간단계와 격자간격이 안정성으로 묶여 있어 복잡한 상황에 적응시키기 어렵다.
파생상품 가격결정 수치해법은 국내 보험산업에서 변액보험 최저보증(GMxB) 평가의 핵심 도구로 쓰인다. 변액보험 가입자에게 부여되는 최저사망보증(GMDB)·최저적립보증(GMAB)·최저연금보증(GMIB)은 경로 의존적 옵션의 성격을 가지므로, 이항격자법이나 몬테카를로 시뮬레이션 없이는 이론적 가치 산출이 사실상 불가능하다. IFRS17 도입(2023) 이후 이러한 내재 옵션과 보증은 시장정합 가정 아래 매 보고기간마다 재평가해야 하며, 이항트리(binomial lattice)와 최소제곱 몬테카를로(LSM) 방법론이 실무 표준으로 자리 잡고 있다.
K-ICS 시장위험 산출에서도 수치해법의 역할이 크다. 주식위험·금리위험 요구자본을 내부모형으로 계산할 때, 옵션 내재가치의 충격 시나리오별 재평가를 반복 수행해야 한다. 특히 금리 역전 구간이나 변동성 클러스터 환경에서 해석해가 존재하지 않아 유한차분법(PDE 이산화)이나 몬테카를로 반복 계산이 필수다. 국내 일부 대형 생명보험사는 내부 ESG(경제시나리오생성기)를 구축하여 수만 개의 금리·주식 경로를 생성하고, 각 경로에서 보증 손실을 수치적으로 산출한 뒤 합산하는 방식으로 K-ICS 보증위험 자본을 계산한다.
이항모형의 재결합(recombining) 격자 구조는 연산량을 낮추는 반면, 단계 수가 적으면 가격 정확도가 떨어진다. 실무에서는 단계 수 증가에 따른 수렴 속도를 확인하고, 배리어 옵션처럼 노드 위치가 경계를 정밀하게 포착해야 하는 상품에는 격자 재배치(trinomial·adaptive mesh) 기법을 적용한다. 몬테카를로는 고차원 상태변수를 다룰 때 유리하지만 수렴이 느려, 분산저감 기법(준난수 시퀀스·제어변량법)과 병행해야 계산 시간이 실무 허용범위에 들어온다.
최소제곱 몬테카를로(Longstaff-Schwartz LSM)는 조기행사·보증 지급 시점을 역방향 귀납으로 추정하는 방법으로, 국내 보험사 내부모형의 GMxB 평가에서 사실상 표준이다. K-ICS 표준모형은 보증위험 자본을 근사 충격법으로 산출하지만, 자체 내부모형 인가를 받은 회사는 LSM 기반 전경로 재평가 결과를 제출한다. 계산 인프라 투자가 자본 절감과 직결되므로, GPU 병렬 연산 도입이 대형사를 중심으로 확산되고 있다.