죄수의 딜레마

'죄수의 딜레마'의 원 모델은 공범인 강도 두 명이 플레이어로 설정되어 있다. 두 사람은 각각 다른 사건으로 체포되어 독방에서 최조를 받는다.

검찰은 강도죄를 뒷받침하는 증거가 불충분하기 때문에 범인들이 묵비권을 행사한다면 1년 정도의 징역형만을 선고받을 것이라고 예상했다. 그러나 둘 중 한 명이 자백하고 다른 한 사람이 묵비권을 행사한다면 자백한 사람은 불기소로 방면되고, 묵비권을 행사한 사람은 20년 징역형을 선고받을 것이다. 그리고 두 사람 다 자백한다면 공범이 되어 각각 10년형을 선고받을 것이다.

이것을 이익 행렬로 만들면 아래 그림처럼 나타난다.

괄호 안의 연수가 마이너스(-)인 것은 공범자들의 징역 연수가 적은 쪽이 이익(연수가 늘어날수록 이익은 마이너스가 된다)이라는 것을 나타낸다.

'죄수의 딜레마' 원 모델의 해법 역시 공범자 두 명이 모두 '자백'이라는 절대 우위 전략을 선택하고, 두 사람이 각각 10년간 복역하는 것이다.

죄수의 딜레마는 실제 비즈니스 세계에서 자주 발생하는 상황이다.

특히 서로가 1회 한정 거래(게임)라는 것을 알고 있는 상태에서는 상대를 제치고 자신만 이기려는 유혹에 빠지기 쉽다는 점은 누구나 공감할 것이다.

이러한 상황에서는 상대가 배신할지도 모른다는 의심 때문에 서로가 적은 이익을 얻는 데 그친다는 것을 알면서도 절대 우위 전략을 선택하게 된다.

'죄수의 딜레마' 상황에서 더 높은 이익을 얻기 위한 몇 가지 해결 방법을 생각해 보자.

1. 상대가 배신할 경우 벌칙을 부과한다.

배신한 상대에게 벌칙을 부과하여 자신만 이익을 얻고자 하는 유혹을 억제하는 방법이다.

예를 들면 위의 공범자 1,2가 경찰에 잡히기 전에 사전에 서로 배신을 하게 되면 큰 불이익이 간다는 협약이 되어있는 경우이다.

실제로 효력이 있는지 없는지는 별개의 문제이다. 다만 이렇게 함으로써 이 게임의 이익을 변경하여 절대 우위 전략을 없앨 수 있다.

2. 게임을 1회 이상 계속한다.

공범자 1,2의 취조를 1회로 한정하지 않았을 때를 생각할 수 있다.

공범자 1,2가 앞으로 어떤 형태로든 취조를 계속 받게 될 가능성이 있다면, 이번 건에서 상대를 배신하여 눈앞의 이익을 추구하는 것이 앞으로의 관계를 고려했을 때 반드시 이익이라고 할 수는 없다.

미래에 배신당한 쪽이 배신한 쪽에게 이익이 되지 않는 행동을 취할지도 모른다고 예상한다면, 그것만으로 '눈앞의 이익을 위해 상대를 배신하는 행위'를 억제하는 효과가 있다. 즉, 게임을 '1회가 아니라 '반복'했을 때 서로 다른 해답이 도출될 수 있다. 이 점에 대해서는 제2장에서 구체적으로 다룰 것이다.

예를 들어 일본의 자동차 제조업체와 부품을 공급하는 수주업체 사이에서 볼 수 있는 '계열' 거래를 생각해 보자.

일본의 제조업체는 단가 면에서 불리한 점을 어느 정도 감내하더라도 자사와 친분이 있는 수주업자와의 거래를 중시하는 경향이 있다.

이러한 거래 관행은 일본 시장의 폐쇄성을 나타내는 사례로서 미국 등지에서 종종 비판이 제기되곤 한다.

그러나 관점을 바꾸어 보면 양쪽 모두에게 리스크가 적은 행동이라는 것을 알 수 있다.

자동차 제조업체는 부품 공급업체의 배신으로 결함 있는 부품을 납품받을 위험이 적어지고, 부품 공급업체는 제조업체가 원가 이하의 부당한 가격으로 납품을 강요하는 일을 방지할 수 있다.

반복적이고 지속적인 거래를 통해 바람직하지 못한 결과에 빠질 수 있는 리스크를 암묵적으로 줄이는 것이다.

순수 전략이 지속적으로 존재하는 과점시장 상황에서 최선의 전략을 선택하기 위한 개념이 쿠르노 경쟁과 버트랜드 경쟁이다. 이 경우 상대가 어떤 전략을 취하는지에 따라 자신이 얻을 수 있는 이익이 달라진다. 이처럼 연속적인 전략이 존재하는 경우에도 내쉬균형 개념을 이용할 수 있다.

쿠르노 경쟁

과점시장 상황에서 경쟁하는 두 회사의 전략을 설명하기 위해서는 미시경제학에서 고전으로 통하는 '쿠르노 경쟁(cournot competition)'에 대해 알아보아야 한다. 쿠르노 경쟁은 게임이론이 아직 세상에 나오기 훨씬 전인 1838년에 프랑스인 쿠르노(A. cournot)가 제창한 과점 모델이다.

이것은 여러 회사가 동일한 제품을 생산하고 그 생산량의 합계에 따라 제품의 가격이 결정되는 것을 전제로 한다. 구체적으로 말하면 다음과 같다.

1. 어떤 시장을 몇몇 생산자가 과점하는 상황에서

2. 제품의 시장 가격이 몇몇 회사가 생산하는 생산량의 합계에 의해 결정되는 경우

3. 생산자가 최대의 이익을 얻기 위해 결정하는 생산량에 관한 이론이다.

버트랜드 경쟁

게임이론에서 대표적인 또 하나의 과점 게임은 '버트랜드 경쟁(bertrand competition)'이다. 1883년 프랑스인 버트랜드 (J. bertrand)가 처음 도입한 버트랜드 경쟁의 핵심은 생산량이 아니라 가격으로 경쟁하는 것이다.

그리고 그중에서 가장 저렴한 가격을 제시한 생산자가 모든 납품계약을 독점한다.

버트랜드 경쟁을 간단히 설명하면 다음과 같다.

1. 몇몇 생산자가 과점하고 있는 어떤 시장에서

2. 가장 저렴한 가격을 제시한 생산자가 시장에서의 수요를 독점할 때(동일 가격을 제시한 생산자들에게는 수요가 균등하게 분배된다.)

3. 최대한의 이익을 달성하기 위해 정하는 가격 이론

쿠르노 경쟁에서는 생산량을 연속적으로 선택할 수 있었던 데 반해, 버트랜드 경쟁에서는 가격을 연속적으로 선택할 수 없다.

쿠르노 경쟁에서 버트랜드 경쟁으로의 전환

쿠르노 경쟁과 버트랜드 경쟁을 비교해 보면 재미있는 사실을 발견하게 된다.

그것은 쿠르노 경쟁의 생산량 경쟁에서 버트랜드 경쟁의 가격 경쟁으로 전환하고 '구매자가 자신에게 더 유리한 납품업자를 선정할 수 있다'는 조건을 추가하는 것만으로 전혀 다른 내쉬균형전략으로 귀결된다는 것이다.

다시 말해 쿠르노 경쟁에서는 내쉬균형으로 이익을 확보할 수 있었던 각 플레이어가 버트랜드 경쟁에서는 가격 경쟁으로 인해 이익을 전부 토해내야 하는 균형점에 도달하게 된다.

이것은 납품업자나 구매자 모두에게 시사하는 바가 상당히 크다.

쿠르노 경쟁에서 이익을 얻고 있는 납품업자에게 가격경쟁도입은 악몽이며 조건을 개정하는 데도 단호하게 반대할 것이다.

반대로 구매자의 입장에서 보면 납품업자에게 제시하는 조건을 조금만 변경해도 지금보다 1개당의 가격을 저렴하게 제품을 구매할 수 있다.

이와 같이 과점 상황에서의 시장 경쟁의 예를 보더라도 게임의 규칙이 전략을 수립하는 데 얼마나 중대한 영향을 미치는지를 알 수 있다.

비즈니스 현장에서는 자신이 처해 있는 상황을 먼저 이해하고 게임의 규칙을 자신에게 유리한 방향으로 변경할 수 없는지를 항상 의식하며 경쟁 상대에게 대응하는 것이 중요하다.

동전 던지기 게임

순수 전략이 존재하지 않는 내쉬균형 게임의 예로 '동전 던지기(matching pennies)'를 들 수 있다. 이 게임에서는 플레이어 2명이 100원 동전을 가지고 다음과 같은 게임을 펼친다.

두 사람은 동전의 앞면과 뒷면 중 어느 쪽을 위로 둘 것인지를 미리 정한 다음 신호와 함께 자신이 정한 면이 윗면이 되게끔 테이블 위에 올려놓는다. 

이때 동전의 윗면이 동일할 경우 플레이어 2가 이기며 플레이어 1로부터 100원을 받는다. 반대로 윗면이 서로 다를 경우에는 플레이어 1이 이기며 플레이어 2로부터 100원을 받는다.

지극히 단순한 이 게임은 순수 전략과 혼합 전략이 각각 존재하는 경우 내쉬균형의 차이를 설명하기 위해 만들어낸 것이다.

이 게임의 전략과 이익을 이익 행렬로 정리하면 아래의 그림과 같다.

여기서 내쉬균형이 있는지 없는지를 검토하기 위해서 각 플레이어는 자신의 이익이 늘어나게끔 하는 상대의 전략에 선을 그어본다.

이익 행렬 안에서 두 플레이어 모두 선을 그은 전략이 없으므로 이 게임에는 절대 우위 전략뿐만 아니라 내쉬균형을 충족하는 전략 조합조차 존재하지 않는다. 이것은 어떤 전략을 취하더라도 어느 한쪽의 플레이어가 그 외의 다른 전략으로 변경함으로써 더 많은 이익을 얻게 된다는 것을 의미한다.

예를 들어 [앞면, 앞면]이라는 전략 조합을 검토해보자. 이 상황에서 플레이어 2는 승리하여 100원을 받기 때문에 앞면에서 뒷면으로 변경하더라도 이익을 늘릴 수 없다.

하지만 플레이어 1은 앞면을 뒷면으로 바꾸면 [뒷면, 앞면]이 되어 이익을 -100원에서 +100원으로 늘릴 수 있다.

또한 [앞면, 뒷면]의 경우에는 플레이어 2가 앞면으로 변경하면 [앞면, 앞면]이 되어 자신의 이익을 -100원에서 +100원으로 늘릴 수 있다.

위의 그림의 행렬에 나타난 것처럼 네 개의 전략 조합, [앞, 앞] [앞, 뒤] [뒤, 앞] [뒤, 뒤]는 그 어느 것도 내쉬균형의 조건을 충족하지 못한다.

게임이론에서는 앞뒤 등 플레이어의 확정적 행동전략을 순수 전략이라고 한다.

따라서 이 동전 던지기 게임에는 순수 내쉬균형전략은 존재하지 않는다.

그렇다면 이 게임에서는 균형을 유지할 수 있는 전략이 존재하지 않는 것일까?

무작위와 혼합 전략

최상의 전략, 즉 순수 내쉬균형전략이 존재하지 않는 일상의 게임은 의외로 많다. 예를 들어 가위바위보를 할 경우 '가위' '바위' '보' (이것은 순수 전략) 중에서 언제나 확실하게 이길 수 있는 선택(전략)이란 없다.

가위바위보에서 상대를 이기려고 할 때 가장 먼저 생각해야 하는 것은 무엇일까?

그것은 상대가 자신이 내는 패턴을 파악하지 못하게 하는 것이다. 눈치 빠른 상대에게(예를 들어 자신은 무의식적으로 행동한다 하더라도) '주먹을 내는 습관'을 들키면 상대는 그것에 맞춰 보를 더 많이 낼 것이다.

동전 던지기 게임도 가위바위보와 비슷하다. 차이점이라면 앞면과 뒷면으로 순수 전략이 두 개 존재한다는 것이다. 가위바위보와 마찬가지로 동전 던지기 게임에서 취해야 할 전략은 자신이 앞면과 뒷면을 내는 비율이 들키지 않도록 적절하게 무작위로 내는 것이다.

이처럼 순수 전략을 취하지 않고 일정한 확률에 따라 무작위로 선택하는 전략을 '혼합 전략(mixed strategy)'이라고 한다.

내쉬균형

실제 비즈니스 시계에서는 절대 우위 전략이 항상 존재할 수 없다. 단, 절대 우위 전략만큼 강력한 개념은 아니지만 두 플레이어가 선택할 수 있는 최적의 전략이 존재하는데, 이것을 '내쉬균형 (nash equilibrium)'이라고 한다.

현재의 게임이론을 지탱하는 가장 중요한 개념인 내쉬균형은 노벨상 수상자 존 내쉬가 정립한 개념이다.

내쉬균형전략은 두 가지 이상 존재한다

내쉬균형은 앞에서도 말했듯이 '모든 플레이어가 다른 플레이어의 전략을 전제로 최적의 전략을 선택하는 상태'를 말한다. 즉 플레이어들이 내쉬균형에 만족하는 전략을 선택할 경우, 어떤 플레이어든 간에 다른 전략을 선택하면 더 낮은 이익을 얻게 된다.

각 플레이어들은 다른 전략을 선택할 수 없고 현재 상태에 머물게 되는데, 이것이 '균형'이라고 표현하는 이유다.

내쉬균형전략은 다른 전략 조합에 비해 실제로 선택될 가능성이 높을 뿐만 아니라 절대 우위 전략보다 빈번하기 때문에 게임에서 각 플레이어가 선택할 수 있는 전략을 도출하는 데 유용한 개념이다.

그러나 게임에서 내쉬균형전략이 반드시 1개만 존재하는 것은 아니다. 보통 내쉬균형전략은 여러 개 존재한다.

남녀의 논쟁과 내쉬균형전략을 찾는 방법

'남녀의 논쟁(battle of the sexes)' 게임에서는 원래 남녀가 데이트를 하기 위해 오페라와 복싱 중 어느 것을 보러 갈 것인지를 결정하는 것이다.

남자는 복싱을 보는 것(+2)이 오페라를 보는 것 (+1)보다 바람직하다고 생각하고, 여자는 오페라를 보는 것(+2)이 복싱을 보는 것 (+1)보다 바람직하다고 생각하고 있다. 그러나 서로 따로따로 보러 가는 것만은 피하고 싶다( -1).

여기에서는 [복싱, 복싱]과 [오페라, 오페라] 두 개의 전략 조합이 내쉬균형의 조건을 만족하고 있다.

여기에서 이익 행렬 도표를 이용하여 내쉬균형전략을 찾는 편리한 방법을 알아보자. 먼저 세로축에 따라 플레이어 1의 이익을 비교하여 가장 높은 수치 아래에 밑줄을 긋는다(최고값이 여러 개일 경우 모두 밑줄을 긋는다). 마찬가지로 가로축에 따라 플레이어 2의 이익을 비교하여 가장 높은 수치 아래에 밑줄을 긋는다. 이것을 위의 표와 같이 적용하면 아래 표와 같은 결과가 나온다.

이때 밑줄을 그은 두 개의 전략 조합이 바로 내쉬균형 전략이다(표에서 색이 짙은 부분).

이 방법은 선택할 수 있는 전략이 세 개 이상일 때도 동일한 방식으로 사용할 수 있다.

이상으로 게임이론 내쉬균형과 남녀의 논쟁에 대해 간략하게 알아보았다.

내쉬균형은 일상생활에서도 아주 흔하게 존재한다. 예를 들어 지하철역에 에스컬레이터를 타고 올라갈 때 바쁜 사람들을 위해 한쪽을 비워두는 것처럼 말이다.

무심코 지나쳤던 일상들에 녹아있는 내쉬균형들에 상당히 흥미롭지 않은가?