F와 G를 두 분포라 하자. 분포 F와 G의 합성곱(convolution)은 F∗G로 표기하는 분포이며 다음으로 주어진다.
X와 Y가 각각 분포 F, G를 갖는 두 독립 확률변수라 하자. 그러면 합성곱 분포 F∗G는 두 확률변수의 합 X+Y의 분포이다. 즉 Pr{X+Y≤x}=F∗G(x)이다. 합성곱은 교환법칙이 성립함이 잘 알려져 있다. 즉 F∗G(x)=G∗F(x)이며, 동치로
이다. 위 적분은 분포에 대한 스틸체스(Stieltjes) 적분이다. 그러나 F(x)와 G(x)가 각각 밀도함수 f(x), g(x)를 가지면(보험 응용에서 흔한 가정), 합성곱 분포 F∗G도 밀도 f∗g를 가지며 리만 적분으로 환원된다.
더 일반적으로, 분포 F1,…,Fn에 대한 합성곱도 분포이며 다음과 같이 정의된다.
특히 Fi=F(i=1,…,n)인 경우, 이 n개 동일분포의 합성곱을 F(n)로 적고 분포 F의 n중 합성곱(n-fold convolution)이라 한다.
합성곱은 추상적으로 보이지만 핵심은 간단하다. 두 독립 확률변수를 더하면 그 합의 분포가 각 분포의 합성곱이라는 것이다. 보험에서는 여러 손실을 더해 총손실을 만들 때 자연히 등장한다. 직접 적분은 까다로우므로, 다음 절의 적률생성함수·라플라스 변환이라는 변환 도구를 써서 곱셈으로 바꿔 다룬다.
합성곱을 연구할 때 분포의 적률생성함수(mgf)를 자주 쓴다. 분포 F를 갖는 확률변수 X에 대해
를 X 또는 F의 적률생성함수라 한다. mgf는 분포를 유일하게 결정하며, 존재한다면 유일하다는 것이 잘 알려져 있다. F, G가 각각 mgf mF(t), mG(t)를 가지면 합성곱 분포 F∗G의 mgf는 둘의 곱이다.
이 성질과 mgf의 유일성 덕분에, mgf로 합성곱 분포를 식별하는 일이 많다. 예컨대 mgf로부터 다음을 쉽게 알 수 있다. 정규분포의 합성곱은 정규분포, 형상모수가 같은 감마분포의 합성곱은 감마분포, 동일한 지수분포의 합성곱은 얼랑(Erlang) 분포, 그리고 독립 포아송 확률변수의 합은 포아송 확률변수이다.
비음(nonnegative) 분포(비음 확률변수의 분포)에 대해서는 mgf 대신 라플라스 변환(Laplace transform)을 자주 쓴다. 비음 확률변수 X 또는 그 분포 F의 라플라스 변환은
로 정의된다. mgf처럼 라플라스 변환도 분포를 유일하게 결정하며, 합성곱 분포 F∗G의 라플라스 변환은 F와 G 라플라스 변환의 곱이다. 라플라스 변환의 장점은 임의의 비음분포 F와 모든 s≥0에 대해 항상 존재한다는 점이다. 반면 비음분포의 mgf는 (0,∞)에서 존재하지 않을 수 있다(예: 로그정규분포의 mgf는 (0,∞)에서 존재하지 않는다).
X∼Poisson(λ1), Y∼Poisson(λ2)가 독립일 때 X+Y의 분포는?
포아송의 mgf는 exp[λ(et−1)]이다. 합의 mgf는 두 mgf의 곱이므로 exp[(λ1+λ2)(et−1)]가 되고, 이는 모수 λ1+λ2인 포아송의 mgf다. 유일성에 의해 X+Y∼Poisson(λ1+λ2). 합성곱을 직접 합산하지 않고 mgf 곱으로 즉시 결론을 얻는다.
보험에서 총청구액 또는 손실은 보통 비음 확률변수로 가정한다. 한 포트폴리오에 분포 F, G를 갖는 두 손실 X≥0, Y≥0이 있으면, 합 X+Y가 포트폴리오의 총손실이다. 이런 독립 손실의 합은 보험의 개별위험모형(individual risk model)의 기초가 된다. 흔히 총손실의 꼬리확률, 즉 총손실이 x>0을 넘을 확률 Pr{X+Y>x}에 관심을 둔다. 이는 다음과 같이 표현된다(F̄=1−F는 생존함수).
이것이 합성곱 분포 F∗G의 꼬리이다. 흥미롭게도, 위험이론(risk theory)에서 파산(ruin)과 관련된 많은 양이 합성곱 분포의 꼬리로 표현되며, 특히 복합기하분포(compound geometric distribution)와 어떤 비음분포의 합성곱의 꼬리가 그러하다.
비음분포 F가 다음과 같이 표현되면 복합기하분포라 한다.
여기서 0<ρ<1은 상수, H는 비음분포, H(0)(x)는 x≥0이면 1, 아니면 0이다. 복합기하분포 F와 비음분포 G의 합성곱을 복합기하 합성곱 분포라 하며 다음으로 주어진다.
이 합성곱은 위험이론에서 비크만(Beekman)의 합성곱 급수로 나타나며, 신뢰성·대기행렬 등 응용확률의 여러 분야에서도 등장한다. 특히 섭동된(perturbed) 위험모형의 파산확률이 복합기하 합성곱 분포의 꼬리로 자주 표현된다. 예컨대 확산항으로 섭동된 복합포아송 과정의 파산확률은 복합기하분포와 지수분포의 합성곱으로 표현된다.
복합기하 합성곱 분포의 꼬리를 직접 계산하기는 어렵다. 그러나 점근형(asymptotics)과 한계(bounds) 같은 확률 추정값들이 유도되어 있다. 예를 들어 어떤 크라메르–룬드베리(Cramér–Lundberg) 형 조건 아래에서, 식 (10)의 꼬리는
를 만족함이 증명되었다(어떤 상수 C>0, R>0에 대해). 한편 무거운 꼬리(heavy-tailed) 분포에 대해서도 점근형이 논의되었다. H, G가 (정칙변동 꼬리분포를 포함하는) 중간 정칙변동분포 등 어떤 무거운 꼬리 부류에 속하면 W̄(x)∼[ρ/(1−ρ)]H̄(x)+Ḡ(x) (x→∞)가 성립함이 증명되었다.
보험에서 또 흔한 합성곱은 복합분포(compound distribution)의 합성곱이다. 확률변수 S가 S=∑i=1NXi 꼴이면 확률합(random sum)이라 한다. 여기서 N은 카운트 확률변수, X1,X2,…는 N과 독립인 독립·동일 비음 확률변수들이다. 확률합의 분포를 복합분포라 한다. 보통 보험에서 N은 청구건수, Xi는 i번째 청구액을 나타낸다. 두 독립 사업의 총청구액이 각각 확률합 SX, SY이면 포트폴리오 총청구액은 합 SX+SY이고, 그 꼬리는 위 (8)식 꼴이다.
복합분포의 중요한 합성곱 하나는 복합포아송분포의 합성곱이다. 복합포아송분포의 합성곱은 여전히 복합포아송분포임이 잘 알려져 있다. (8)에서 F나 G가 복합분포일 때 합성곱의 꼬리를 계산하기는 어렵지만, 복합포아송·복합음이항 등 특수한 복합분포에 대해서는 근사가 알려져 있다. F, G가 모두 복합분포일 때 Dickson과 Sundt는 합성곱의 수치적 평가를 제시했다.
합성곱은 확률에서 중요한 분포 연산자이며, 많은 흥미로운 분포가 합성곱에서 나온다. 합성곱으로 정의되는 중요한 분포 부류 하나는 무한분해가능(infinitely divisible) 분포의 부류이다. 분포 F가 임의의 정수 n≥2에 대해 F=Fn∗Fn∗…∗Fn(n중)을 만족하는 분포 Fn이 존재하면 무한분해가능하다고 한다. 정규·포아송 분포는 명백히 무한분해가능하며, 로그정규분포도 자명하지 않은 예이다. 이 부류의 중요한 하위부류로 일반화 감마 합성곱(generalized gamma convolution) 분포 부류가 있다.
합성곱과 연결된 또 다른 분포는 무거운 꼬리(heavy-tailed) 분포이다. 독립 비음 확률변수 X, Y가 각각 분포 F, G를 갖고
가 성립하면(동치로 1−F∗G(x)∼F̄(x)+Ḡ(x)), F와 G는 최대–합 동치(max-sum equivalent)라 한다(F∼MG로 표기). 최대–합 동치란, 독립 확률변수 합의 꼬리확률이 점근적으로 그 최댓값의 꼬리확률에 의해 결정됨을 뜻한다. 이는 극단사건·대형청구·무거운 꼬리분포 모형화에 쓰이는 흥미로운 성질이다.
비음분포 F가 F∼MF를 만족하면, 동치로
를 만족하면 준지수(subexponential) 분포라 한다. 준지수분포는 보험·재무·대기행렬 등에서 가장 중요한 무거운 꼬리분포 중 하나이다.
분포 부류 A에서 임의의 F,G∈A에 대해 F∗G∈A이면 A에서 합성곱 닫힘(convolution closure)이 성립한다고 한다. 흥미롭게도 준지수분포 부류에서는 (동일분포가 아니면) 최대–합 동치와 합성곱 닫힘이 모두 깨진다. 반면 정칙변동 꼬리분포 부류와 중간 정칙변동 부류에서는 둘 다 성립한다. 이 두 부류는 정칙변동보다 크고 준지수보다 작아, 파산이론에 유용하게 응용된다.
합성곱 닫힘은 다른 중요한 분포 부류에서도 성립한다. 예컨대 비음분포 F, G가 모두 증가 고장률(increasing failure rate, IFR)을 가지면 합성곱 F∗G도 증가 고장률을 가진다. 그러나 감소 고장률(DFR) 부류에서는 합성곱 닫힘이 성립하지 않는다.
합성곱의 또 다른 중요한 성질은 확률순서(stochastic order) 아래의 닫힘이다. 예컨대 두 비음 확률변수 X, Y가 각각 분포 F, G를 가질 때, X가 Y보다 초과손실 순서(stop-loss order)로 작다(X≤slY)는 것은 다음을 뜻한다.
따라서 F1≤slF2이고 G1≤slG2이면 F1∗G1≤slF2∗G2이다. 이런 확률순서 아래의 합성곱 닫힘은 보험에 폭넓게 응용된다.
합성곱(Convolution)은 독립적인 확률변수들의 합의 분포를 구하는 연산으로, 집합적 손실 모형(collective risk model)의 이론적 기초를 이룬다. 국내 손해보험 계리에서 개별 사고 심도 분포 f(x)를 n회 합성곱하면 n건 발생 시 총 손실액의 분포를 얻는다. 총 지급액 S = X₁ + X₂ + … + Xₙ의 분포는 직접 합성곱 또는 특성함수(모멘트 생성함수)를 이용해 산출되며, 이것이 순보험료와 지급준비금의 분포 기반 추정의 출발점이다.
실손의료보험과 상해보험에서 연간 총 청구액 분포를 산출할 때 합성곱이 핵심 도구다. 사고 건수 N이 포아송 또는 음이항 분포를 따르고 건당 손해액 X가 대수정규 또는 파레토 분포를 따를 때, 판스-하겐베르그(Panjer) 재귀식이 합성곱의 수치 계산을 효율화한다. 5세대 실손(2026.5) 이후 비중증 비급여 자기부담 변화로 X의 분포 가정이 달라지므로, 합성곱 결과인 총 손실 분포도 갱신이 필요하다.
K-ICS 보험 위험 집계에서 각 세부 리스크(사망·장해·입원·해지) 손실 분포를 합성곱 또는 코퓰러로 결합하여 전체 보험 리스크 자본을 산출한다. IFRS17 위험조정(RA) 산출에서도 다수 보험 사건의 합성 분포에서 신뢰 수준 백분위수를 구해야 하므로, 합성곱의 수치 안정성과 계산 효율이 실무 구현의 핵심 과제다. FFT(고속 푸리에 변환) 기반 합성곱이 대규모 포트폴리오에서 표준 수치 기법으로 사용된다.
판스 재귀(Panjer recursion)는 사고 건수 분포가 (a, b, 0) 급에 속할 때(포아송·이항·음이항) 총 손실 분포를 이산 합성곱으로 효율적으로 계산하는 알고리즘이다. 국내 계리소프트웨어에서 종목별 순보험료 산출 모듈에 이 알고리즘이 구현되어 있으며, 대형 손해(Cat) 재보험 구조에서 공제·한도 적용 후 순 손실 분포를 구할 때도 활용된다. 계산 정확도는 이산화(discretization) 해상도와 절단 기준 선택에 민감하다.