표제어 · 확률·통계

비협조게임이론

Noncooperative Game Theory  ·  원저자: Jacco Thijssen  ·  출처: Encyclopedia of Actuarial Science (Wiley, 2004)

읽는 법. 본문은 원문 표제어의 내용을 그대로 옮긴 것입니다. 회색 해설 · 예제 상자는 학부 입문 학습을 돕기 위해 새로 추가한 부분이며 원문에는 없습니다. 모르는 용어는 글 끝 부록을 참고하세요.

1. 비협조게임이란 Noncooperative Games

게임이론(game theory)은 여러 의사결정자(경기자, player)가 서로의 선택에 영향을 주고받는 상황에서 합리적 행동을 분석하는 이론이다. 그중 비협조게임이론(noncooperative game theory)은 경기자들이 구속력 있는 합의(binding agreement)를 맺을 수 없다고 보고, 각자가 자기 이익만을 좇아 독립적으로 전략을 선택하는 상황을 다룬다. (반대로 구속력 있는 합의가 가능한 경우는 협조게임이론이 다룬다.)

게임은 경기자 집합 N, 각 경기자 i가 고를 수 있는 행동(전략)의 집합 Si, 그리고 모든 경기자의 선택 조합에 대해 경기자 i가 얻는 보수(payoff, 효용) ui로 기술된다. 게임을 보수표(행렬)로 한 번에 나타내면 전략형(strategic / normal form), 누가 언제 무엇을 아는지 시간 순서로 나타내면 전개형(extensive form)이라 한다.

해설 협조 vs 비협조

두 이론의 차이는 "약속을 강제할 수 있느냐"이다. 비협조게임에서는 누구도 상대가 약속을 지키도록 강제할 수 없으므로, 각 경기자는 상대의 전략을 주어진 것으로 보고 자기 보수를 최대화한다. 그 결과 아무도 혼자서는 더 나아질 수 없는 균형(equilibrium) 상태를 분석의 핵심으로 삼는다.

2. 내시균형 Nash Equilibrium

비협조게임의 가장 기본적인 해(解) 개념은 내시균형(Nash equilibrium)이다(Nash [5]). 전략조합 (s1*, …, sn*)이 내시균형이라는 것은, 어떤 경기자도 다른 경기자들의 전략이 고정된 상태에서 혼자 전략을 바꿔서는 보수를 늘릴 수 없다는 뜻이다. 즉 모든 경기자 i와 모든 대안전략 siSi에 대해 다음이 성립한다.

수식

여기서 s−ii를 제외한 나머지 경기자들의 전략조합을 나타낸다. 즉 균형에서는 각자의 전략이 상대 전략에 대한 최선응답(best response)이 되어 있어, 일방적 이탈(unilateral deviation)이 이득이 되지 않는다.

예제 일방적 이탈로 균형 확인하기

전략조합이 내시균형인지 어떻게 검사하는가?

각 경기자에 대해 "다른 사람의 선택을 그대로 둔 채 나 혼자 다른 전략으로 바꾸면 보수가 늘어나는가?"를 물어본다. 어떤 경기자에 대해서도 그런 이득이 되는 이탈이 없으면 그 조합은 내시균형이다. 한 사람이라도 바꿔서 이득을 본다면 균형이 아니다.

3. 전개형 게임과 부분게임 완전성 Extensive Form and Subgame Perfection

게임이 전개형으로 주어지면(시간 순서와 정보가 명시되면), 내시균형 중에는 믿을 수 없는 위협(incredible threat)에 의존하는 것이 있을 수 있다. 즉 실제로 그 상황이 오면 실행하지 않을 위협을 전제로 한 균형이다. 이런 비합리적 균형을 걸러내기 위해 Selten은 부분게임 완전균형(subgame perfect equilibrium)을 제안했다([8, 9]). 이는 전체 게임뿐 아니라 모든 부분게임(subgame)에서도 내시균형이 되도록 요구하여, 실제로 실행될 수 없는 위협을 배제한다.

4. 불완전정보와 베이지안 게임 Bayesian Games

현실에서는 경기자들이 서로의 보수나 유형을 완전히 알지 못하는 불완전정보(incomplete information) 상황이 흔하다. Harsanyi [2]는 이런 상황을 각 경기자가 사적인 유형(type) θi를 가지며 그 유형이 어떤 사전분포 F에서 뽑힌다고 보아 다룰 수 있게 했다.

베이지안 게임(Bayesian game)은 따라서 (N, (Ai)i∈N, (ui)i∈N, (Θi)i∈N, F)의 튜플로 주어진다. 경기자 i의 (순수) 전략(strategy)은 각각의 유형 관측값 θi에 행동집합 Ai의 한 원소를 대응시키는 함수 si: ΘiAi 이다. 경기자 i의 전략집합을 Si라 한다.

베이지안 내시균형(Bayesian Nash equilibrium)은, 모든 경기자 i, 모든 유형 θi ∈ Θi, 모든 대안전략 siSi에 대해 다음을 만족하는 전략조합 (s1*, …, sn*)이다.

수식

사실 베이지안 내시균형은, 각 모수값(유형조합) θ에 대해 전략형 게임 G = (N, (Si)i∈N, (Eθ[uii])i∈N)의 내시균형을 준다. 즉 각 경기자는 자기 사적정보의 각 값에 대해, 기댓값 기준으로 일방적 이탈이 이득이 되지 않도록 전략을 고른다.

해설 유형을 도입해 "자연의 추첨"으로 환원

Harsanyi의 핵심 아이디어는, 상대를 모른다는 불완전정보를 "자연(nature)이 먼저 각자의 유형을 추첨하고, 각자는 자기 유형만 관측한다"는 구조로 바꾸는 것이다. 그러면 경기자는 상대 유형에 대한 믿음(사전분포 F)을 갖고 기대보수를 최대화하면 되고, 균형은 일반 내시균형처럼 정의된다.

베이지안 게임이 전개형으로 주어지면 베이지안 내시균형도 (완전정보 전개형처럼) 믿을 수 없는 위협을 포함할 수 있다. 그런데 불완전정보 게임에서는 부분게임 완전성만으로는 부족한 경우가 많다. 추가로 필요한 것은 각 경기자가 다른 경기자들의 전략에 대해 갖는 믿음(beliefs)이 일관적(consistent)이어야 한다는 요건이다. 완전베이지안균형(perfect Bayesian equilibrium)은 균형이 부분게임 완전이면서 동시에 일관된 믿음을 갖기를 요구한다(일관성 요건이 베이즈 규칙에 기반하므로 '베이지안'이라 부른다). 형식적 서술은 [1]을 보라.

5. 보험계리학에서의 응용 Applications in Actuarial Sciences

비협조게임이론의 응용은 주로 손해보험(non-life insurance)에서 찾을 수 있다. 가장 유명한 예 가운데 하나가 역선택(adverse selection) 문제로, 정보가 없는 보험자가 잠재 고객을 그들의 행동에 따라 선별(screen)하려는 상황이다. 이 문제에 따르면, 보험은 보험을 많이 활용할 것으로 기대하는 고객들을 끌어들이게 된다. 이 문제는 선별(screening)로 풀 수 있다.

예로 자동차보험을 생각하자. 보험자는 좋은 운전자와 나쁜 운전자를 구별하고 싶어 한다. 보험시장의 기본 선별모형은 [7, 12]에서 찾을 수 있다.

예제 역선택과 도덕적 해이

역선택과 도덕적 해이는 정보비대칭이 언제 생기는가에서 어떻게 다른가?

역선택에서는 정보비대칭이 계약 체결 전에 존재한다(보험자가 누가 위험한 고객인지 모름). 반면 계약 체결 에 비대칭이 생기기도 한다. 예컨대 자동차보험에 가입한 사람이 차 문 잠그기에 소홀해질 수 있다 — 이 현상이 도덕적 해이(moral hazard)다. '차 문 잠그기'라는 행동은 보험자가 관측할 수 없어 정보비대칭을 일으킨다. 이런 계약 문제는 [3]에서 분석된다.

참고 및 관련 표제어

관련 표제어. 협조게임이론(Cooperative Game Theory) · 균형이론(Equilibrium Theory) · 비기대효용이론(Nonexpected Utility Theory) · 위험기반 자본배분(Risk-based Capital Allocation)

부록. 이 글에 나온 용어 (배경지식 보충)

한국보험시장 현황 Korea Market Practice

비협조게임이론은 국내 보험시장의 과점 경쟁 구조정보 비대칭 계약 설계를 분석하는 이론 틀로 적용된다. 국내 생명보험과 손해보험은 각각 소수의 대형사가 시장 점유율을 과점하는 구조이며, 보험료 인상이나 신상품 출시 결정은 경쟁사 반응을 예상한 전략적 판단을 포함한다. 내시 균형의 관점에서 보면, 경쟁사가 동일한 논리로 대응함으로써 전체 업계가 보험료를 동시에 올리거나 내리는 결과가 나타나는 것은 비협조게임의 전형적 귀결이다.

역선택 문제도 비협조게임으로 모형화할 수 있다. 가입자는 자신의 건강 상태라는 사적 정보를 보유하고, 보험사는 이를 관찰하지 못한다. 이 정보 비대칭 아래에서 가입자와 보험사가 각자의 이익을 추구하면 역선택 균형이 발생하며, 풀링 균형과 분리 균형 중 어떤 상태가 실현되는지는 게임의 균형 개념에 달려 있다. 국내 실손보험의 손해율 악화 문제는 이러한 역선택 비협조 균형의 현실 사례로 볼 수 있다.

보험 규제 설계도 게임이론으로 분석된다. 감독당국과 보험사 간의 규제-회피 게임, 재보험사와 원보험사 간의 계약 협상, 보험 풀 참여자 간의 위험 분담 등에서 비협조게임 균형이 실질적인 결과를 결정한다. K-ICS 내부모형 인가 과정은 보험사의 전략적 정보 제공과 감독자의 검증이 맞물리는 구조로, 비협조게임의 형태를 띠는 상호작용이다.

실무 요율 경쟁과 가격 하한 규제

국내 손해보험에서 자동차보험 참조요율 제도는 보험사 간의 과도한 가격 인하 경쟁을 제한하는 장치다. 비협조게임 관점에서 보면, 규제 없이는 가격 경쟁의 내시 균형이 모든 보험사의 손해율 악화로 이어질 수 있으므로, 감독당국이 최저 참조요율이라는 하한을 설정해 협조적 결과에 가까운 균형으로 유도한다. 이 과정에서 담합 논란을 피하면서도 시장 안정성을 유지하는 것이 규제 설계의 핵심 과제다.

[한국보험시장 현황]은 한국 보험시장 실무 관점(2026.6 기준)에서 추가 작성한 것임. · 원문: Encyclopedia of Actuarial Science (Wiley, 2004), "Noncooperative Game Theory", Jacco Thijssen. · 본 해설서의 [해설]·[예제]·[부록]은 학부 입문 학습용으로 추가·구성한 것임.