표제어 · 확률·통계

협조게임이론

Cooperative Game Theory  ·  원저자: Jean Lemaire  ·  출처: Encyclopedia of Actuarial Science (Wiley, 2004)

읽는 법. 본문은 원문 표제어의 내용을 그대로 옮긴 것입니다. 회색 해설 · 예제 상자는 학부 입문 학습을 돕기 위해 새로 추가한 부분이며 원문에는 없습니다. 모르는 용어는 글 끝 부록을 참고하세요.

1. 게임이론 개관 Introduction

게임이론(game theory)은 둘 이상의 경제주체(참가자, player) 사이의 갈등 및/또는 협조 상황을 분석하기 위해 설계된 모형들의 집합이다. 여러 갈등·협조 상황에 공통된 요소를 추출해 수학적으로 분석한다. 그 목표는 갈등적 결정에 직면하거나 사회적 상호작용에 관여한 개인의 합리적 행동을 설명하거나, 그에 대한 규범적 지침을 찾는 것이다. 1944년 폰 노이만(Von Neumann)과 모르겐슈테른(Morgenstern)의 기념비적 저서 이래, 게임이론은 그때까지 제약 유무에 따른 최대화 기법에 한정되어 있던 의사결정자의 도구를 크게 확장하여, 경쟁자·상대방·이해관계자를 추론에 포함시킬 수 있게 했다.

경쟁·갈등·협조는 인간 활동의 많은 영역에 만연해 있어, 게임이론은 운용과학·경제학·정치학의 근본적 모형화 접근이 되었다. 응용 범위는 정치적 의회에서의 권력 측정, 공항 착륙료 산정, 콜롬비아 대중교통 보조금, 일본 농업공동체 간 용수 배분만큼이나 다양하다. 1994년 노벨 경제학상은 게임이론에 기여한 J. Nash, J. Harsanyi, R. Selten에게 수여되었다.

이 글은 이전가능 효용(transferable utility)을 갖는 협조게임2인 협상게임(bargaining game)의 기본 원리를 다룬다. 협조게임이론 개념은 Borch가 자동차보험 맥락에서 보험계리학에 처음 도입했다. 이전가능 효용이 없는 게임에 대한 주요 계리적 기여는 Borch의 위험교환(risk exchange) 모형이다. 그 밖의 보험 응용으로 생명보험 언더라이팅과 비용배분이 있다.

해설 협조게임 vs. 비협조게임

비협조게임은 각자가 독립적으로 전략을 선택하는 상황(예: 내쉬균형)을 다룬다. 협조게임은 참가자들이 구속력 있는 합의(연합, coalition)를 맺을 수 있다고 보고, 협조로 생긴 이득을 어떻게 나눌지에 초점을 둔다. 보험·재보험에서는 여러 회사가 위험을 공유해 이득을 보고 그 이득을 배분하는 문제가 자연스럽게 협조게임이 된다.

2. 이전가능 효용을 갖는 협조게임 Cooperative Game with Transferable Utilities

협조게임이론은 참가자들의 목표가 부분적으로 협조적이고 부분적으로 갈등적인 상황을 분석한다. 협조가 이득(정치권력, 비용절감, 돈)을 낳고, 그 이득을 협상으로 참가자들이 나눠야 하는 상황을 모형화한다. 각 참가자는 협조이득 중 자기 몫을 최대한 확보하려 하며, 이를 위해 협상·위협·연합형성에 나설 수 있다. 이전가능 효용 게임에서는 참가자들이 (대개 돈처럼) 완전히 이전 가능하고 모두가 같은 방식으로 평가하는 재화를 나누는 협상을 한다. 이는 위험회피로 인해 참가자가 효용함수로 자기 위치를 평가하는 상황은 제외한다.

정의. n인 협조게임은 특성형(characteristic form)으로 쌍 [N, v(·)]이다. 여기서 N={1,2,…,n}은 n명의 참가자 집합, 특성함수(characteristic function) v(·)는 모든 부분집합 또는 연합(coalition) SN의 집합 2N 위의 실숫값 함수로 v(∅)=0을 만족한다. v(S)는 연합 S가 다른 참가자의 도움 없이 확보할 수 있는 권력 또는 금액이다. 협조가 이득을 낳으므로 v(·)는 초가법성(superadditivity)을 가진다고 가정한다.

수식
예제 ASTIN 자금 운용 (원문 Example 1)

ASTIN 회계담당(참가자 1)이 180만 BEF를 3개월 양도성예금증서(CD)에 투자하려 한다. 연이율은 금액에 따라 100만 미만 7.75%, 100만~300만 10.25%, 300만 이상 12%이다. ASTIN은 IAA(참가자 2, 90만 예치)와 A.A.Br.(참가자 3, 30만 예치)에 연락해 300만을 채워 12%를 받는다. 이자를 어떻게 배분해야 하는가?

각 연합이 확보할 수 있는 이자(특성함수)는: v(1)=46 125, v(2)=17 437.5, v(3)=5812.5, v(12)=69 187.5, v(13)=53 812.5, v(23)=30 750, v(123)=90 000. ASTIN은 혼자서도 10.25%(=46 125)를 얻으므로 단순히 모두 12%씩 나누는 것보다 더 유리한 위치에 있다 — 이것이 배분 논의의 출발점이다.

정의(가중다수결 게임). 협조게임이론의 중요한 응용은 투표 상황에서의 권력 측정이다. 가중다수결 게임 [M; w1,…,wn]은 가중치 wi(참가자 i의 표 수)와 다수결 요건 M으로 정의된다. 연합 S의 표 합이 M 이상이면 v(S)=1, 미만이면 v(S)=0이다.

예제 UN 안전보장이사회 (원문 Example 2)

안보리는 15개국(상임 5, 비상임 10)으로 구성된다. 실질사안 결정에는 5개 상임이사국 전원을 포함해 9개국 이상의 찬성이 필요하다(거부권). 상임이사국의 권력은 비상임의 몇 배인가?

이 게임은 가중다수결 게임 [39; 7,7,7,7,7,1,1,1,1,1,1,1,1,1,1]로 표현된다. 상임 5국(35표)과 비상임 4국(4표)이 모두 동의해야 의결된다. 한 상임이사국이라도 빠지면 39표에 못 미친다. 다음 절의 섀플리 값으로 계산하면, 비상임국의 권력은 약 0.1865%, 상임국은 약 19.62%로, 상임국이 비상임국보다 약 100배 강력하다.

3. 배분·귀속·코어 Payoffs, Imputations, and the Core

정의. 배분(payoff) α=(α1,…,αn)은 n명에게 지급을 나눈 것이다. 받아들일 만한 배분은 개별합리적(individual rational)이고 파레토 최적(Pareto optimal)인 것으로 제한하는 것이 자연스럽다.

수식

즉 어느 참가자도 혼자 얻을 수 있는 금액보다 적은 최종 배분을 받아들이지 않으며(개별합리성), 가용 최대금액이 모두 분배된다(파레토 최적성). 개별합리적이며 파레토 최적인 배분을 귀속(imputation)이라 한다.

귀속의 집합은 집단합리성(collective rationality) 조건으로 더 줄일 수 있다. 배분 α가 모든 SN에 대해 다음을 만족하면 집단합리적이다. 즉 어떤 연합도 대연합 N을 떠날 유인을 갖지 않아야 한다.

수식

게임의 코어(core)는 모든 집단합리적 귀속의 집합이다. 코어는 지배(dominance) 개념으로도 정의된다. 귀속 β가 연합 S에 대해 귀속 α를 지배한다는 것은 (i) S≠∅, (ii) 모든 iS에서 βii, (iii) v(S)≥∑iSβi임을 뜻한다. 코어는 지배되지 않는 모든 귀속의 집합이다.

해설 코어 — "아무도 이탈할 이유가 없는" 배분

ASTIN 게임에서 (66 000; 18 000; 6000) 배분은 참가자 2·3이 연합(23)을 이루면 v(23)=30 750을 얻을 수 있어 참가자 1에게 너무 유리하다고 이의를 제기할 수 있다 — 코어에 속하지 않는다. 이 게임의 코어는 46 125≤α1≤59 250, 17 437.5≤α2≤36 187.5, 5812.5≤α3≤20 812.5(합=90 000)인 모든 배분이다. 코어는 보통 무한히 많은 귀속으로 이뤄지지만, 많은 게임 부류에서 개별·집단합리성이 충돌해 코어가 비어 있을 수 있다. 모든 ST에 대해 v(Si)−v(S)≤v(Ti)−v(T)이면 게임은 볼록(convex)이고 코어가 항상 존재한다.

실험상황에서 피험자들은 코어 밖의 배분을 일관되게 협상해, 연구자들이 협상집합(bargaining set), 커널(kernel), 뉴클리올러스(nucleolus) 같은 대안적 정의를 제안하게 했다.

4. 게임의 값과 섀플리 값 The Value and the Shapley Value

정의. 게임의 값(value)은 일련의 합리적 공리를 만족하는 단일 귀속으로, '최적' 배분으로 제안된다. 가장 잘 알려진 것이 섀플리 값(Shapley value)으로, 다음 세 공리를 만족하는 유일한 귀속이다.

섀플리는 이 세 공리를 만족하는 귀속이 유일함을 보였다.

수식

이는 대연합 N 형성의 모든 n! 가지 순서가 동일확률일 때 입회가치(admission value) v(S)−v(Si)의 기댓값으로 해석된다. 섀플리 값이 반드시 코어에 속하지는 않는다.

예제 ASTIN 게임의 섀플리 값

ASTIN 게임에서 섀플리 값을 구하라.

대연합 형성의 6가지 순서마다 각 참가자의 입회가치를 계산하면 배분 [46 125; 23 062.5; 20 812.5], [46 125; 36 187.5; 7687.5], [51 750; 17 437.5; 20 812.5], [59 250; 17 437.5; 13 312.5], [48 500; 36 187.5; 5812.5], [59 250; 25 875; 5812.5]를 얻는다. 이 6개의 평균 [51 750; 25 875; 12 375]가 섀플리 값이다. 이는 참가자 1·2에게 11.5%, 참가자 3에게 16.5%의 이율을 주는데, 참가자 3은 300만 달성에 필수적이어서(마지막에 들어올 때 입회가치가 매우 큼) 큰 이득을 본다.

5. 2인 협상게임 Two-person Bargaining Games

정의. 2인 협상게임(이전가능 효용이 없는 2인 게임)은 쌍 (M, d)로 정의된다. 여기서 d=(d1, d2)는 불일치점(disagreement point)(예: 효용함수로 평가할 때의 초기 효용), M(게임 공간)은 참가자 배분의 2차원 공간에서 볼록 컴팩트 집합으로 달성 가능한 모든 배분을 나타낸다. 협상게임에서는 참가자 간에 자유롭게 이전할 수 없는 재화(효용·분산 감소 등)를 협상한다. 따라서 파레토 최적 배분의 집합은 이전가능 게임에서처럼 직선이 아니라 오목한 곡선을 이룬다. 개별합리성 두 조건은 Mp1d1, p2d2인 점 p=(p1, p2)로 제한한다.

예제 두 보험자 간 위험교환 (원문 Example 3)

보험자 C1의 포트폴리오는 기대총손실 5, 분산 4, 보험자 C2는 평균 10, 분산 8이다. 비례재보험 위험교환 조약 y1=(1−α)x1x2+K, y2x1+(1−β)x2K를 협상한다. K=5α−10β로 두면 기대청구는 불변이다. 분산은?

독립위험이면 분산은

수식

예컨대 α=0.2, β=0.3이면 Var(y1)=3.28<4, Var(y2)=4.08<8로 둘 다 개선된다. 모든 파레토 최적 조약은 α+β=1을 만족함을 보일 수 있다.

내쉬 값(Nash value). 협상게임의 첫 값은 Nash가 제안했으며, 다음 네 공리를 만족하는 M의 유일한 점이다: (1) 선형변환 독립성, (2) 대칭성, (3) 파레토 최적성, (4) 무관한 대안의 독립성. Nash는 이를 만족하는 배분이 유일함을 보였는데, 그것은 두 참가자의 효용이득의 곱을 최대화하는 점 p=(p1, p2)이다. 즉 pd이고

수식

예제 3에서 곱 p1p2를 α+β=1 아래 최대화하면 내쉬 값 α=0.613, β=0.387, p1=2.203, p2=3.491을 얻는다.

칼라이–스모로딘스키 값(Kalai–Smorodinsky value). Kalai와 Smorodinsky는 내쉬 값이 단조성(monotonicity) 조건을 만족하지 않음을 보이고 다른 값을 제안했다. 이상점 b(M)=(b1, b2)를 각 참가자의 최대가능 배분으로 정의할 때, 게임 공간이 커지고 이상점이 같으면 값도 적어도 같거나 커져야 한다는 것이 단조성이다. 이 값은 공리 1·2·3과 단조성을 만족하는 유일한 점으로, 불일치점 d와 이상점 b를 잇는 직선이 파레토 최적 곡선과 만나는 점에 있다. 예제 3에서는 α=0.586, β=0.414, p1=1.941, p2=3.882로, 내쉬 값보다 보험자 2에게 약간 더 유리하다.

해설 내쉬 값 vs. 칼라이–스모로딘스키 값

둘 다 협상문제의 '공정한 해'를 공리로 정의하지만 핵심 공리가 다르다. 내쉬 값은 '무관한 대안의 독립성'을 채택해 효용이득의 곱을 최대화한다. 칼라이–스모로딘스키 값은 그 공리를 버리고 대신 '단조성'을 요구해, 불일치점과 이상점을 잇는 직선과 파레토 곡선의 교점을 택한다. 어느 공리가 더 합당한가에 대한 견해 차이가 두 값을 가른다.

참고 및 관련 표제어

관련 표제어. 보르히 정리(Borch's Theorem) · 손해보험사의 자본배분 개관(Capital Allocation for P&C Insurers: A Survey of Methods) · 비협조게임이론(Noncooperative Game Theory) · 비기대효용이론(Nonexpected Utility Theory) · 최적 위험분담(Optimal Risk Sharing) · 위험기준 자본배분(Risk-based Capital Allocation)

부록. 이 글에 나온 용어 (배경지식 보충)

한국보험시장 현황 Korea Market Practice

협조게임이론, 특히 섀플리 값(Shapley value)은 보험 그룹 내 자본 배분과 위험 비용 산정에 실무적으로 적용된다. 국내 대형 금융지주 산하 보험사(삼성·한화·DB·메리츠 등)는 그룹 차원에서 자본을 통합 관리하는 경향이 있으며, 각 사업 부문·자회사에 자본을 공정하게 배분하는 방법으로 섀플리 기반 배분이 학술·실무 문헌에서 논의된다.

재보험 풀(Pool) 운영에서도 협조게임 개념이 적용된다. 여러 보험사가 공동 위험 풀을 구성하거나 국가재보험(천재지변·원자력 등)에 참여할 때, 각 참가자의 분담금과 배분 몫을 결정하는 문제가 협조게임의 배분 문제와 구조적으로 동일하다. 원자력손해배상보험 등 국가 주도 특종보험 풀에서 이 원리가 내재적으로 작동한다.

자동차보험 공동 인수(CAR Pool) 등 고위험 물건을 여러 보험사가 분담하는 구조도 협조게임의 핵이론(core)과 안정성 조건과 관련된다. 이때 어느 보험사도 탈퇴 유인이 없어야 풀이 안정적으로 유지되는데, 이는 게임 핵의 존재 조건과 일치한다.

실무 섀플리 값과 자본 배분

섀플리 값은 각 구성원이 가능한 모든 순열에서 한계 기여(marginal contribution)의 기대값을 받는 공정 배분이다. 국내 보험 그룹의 내부 이전가격(transfer pricing) 또는 사업 부문별 ROE 관리에서 섀플리 기반 배분 방법론이 이론적 기준으로 활용되며, K-ICS 하에서 분산효과를 반영한 부문별 요구자본 배분과도 연계된다.

[한국보험시장 현황]은 한국 보험시장 실무 관점(2026.6 기준)에서 추가 작성한 것임. · 원문: Encyclopedia of Actuarial Science (Wiley, 2004), "Cooperative Game Theory", Jean Lemaire. · 본 해설서의 [해설]·[예제]·[부록]은 학부 입문 학습용으로 추가·구성한 것임.