1천원 지폐를 경매하면 3400원?

내 행동뿐 아니라 다른 사람의 반응까지 생각해 전략적 결정 내리는 게임이론… 한 동네 두 개의 설렁탕집의 가격경쟁이나 휴대전화·항공시장에서도 적용 가능

▣ 이원재 삼성경제연구소 수석연구원 [e-mail]

이주의 용어

게임이론(game theory)

비협력적 게임(noncooperative game)

평범한 1천원짜리 지폐가 경매에 부쳐졌다. 얼마에 팔릴까? 단, 경매에는 특이한 조건이 하나 붙어 있다. 차순위 입찰자도 자기가 제시한 돈을 내놓아야 한다. 아무 대가도 없이 말이다. 결론적으로 1천원짜리는 3400원에 팔린다.

누가 더 큰 손해를 입지 않느냐의 게임

미국 예일대 마틴 슈빅 교수는 1970년대 “이지적이고 성숙한 사람들”이 참석한 사교 모임에서 여러 차례 1달러 경매 게임을 진행했다. 실험 결과 1달러 지폐는 평균 3달러40센트에 팔렸다. 차순위 입찰자가 내놓은 금액을 합치면 평균 7달러가량을 1달러 지폐 주인이 챙겨가게 됐다. 도대체 무슨 마술이 벌어진 것일까?

1달러짜리가 3달러40센트짜리로 변신하는 과정은 이랬다. 한 사람이 처음 1센트의 입찰가를 불렀다고 치자. 이 사람이 지폐를 가져간다면 99센트의 이득을 얻게 된다.

이익 창출의 기회는 아직 많다. 두 번째 입찰자가 질세라 2센트를 부른다. 98센트의 이익을 기대하고 뛰어든 것이다. 이렇게 입찰가는 점점 더 올라가서 결국 99센트에 이른다. 이제 누군가 입찰에 뛰어든다면 아무도 이익을 얻을 수 없는 게임이 되어버렸다.

문제는 이때의 2위 입찰자다. 그는 1위로 올라서지 않으면, 50센트가 됐든 98센트가 됐든 자신이 걸었던 돈을 고스란히 내놓아야 하는 상황에 처했다. 결국 울며 겨자 먹기로 1달러를 부른다.

그리고 다시 입장이 바뀐다. 바로 전 입찰에서의 99센트 입찰자가 지금은 2위가 됐고, 2위가 되어 99센트를 거저 내놓지 않기 위해 1달러가 넘는 입찰가를 들이밀 수밖에 없게 된다. 이제부터 누가 더 큰 이익을 얻느냐의 게임은 끝나고, 누가 더 큰 손해를 입지 않느냐의 게임이 시작된다. 게임은 입찰가가 평균 3달러40센트가 될 때까지 계속된다. 참여자들은 게임이론(game theory)을 몰랐다.

게임이론에서 게임이란 참여자들이 전략적 결정을 내리는 상황을 말한다. 자기 행동의 직접적 결과뿐 아니라, 그 결과에 대한 다른 사람의 반응이 가져올 변화까지 한꺼번에 방정식에 넣고 답을 얻어 내리는 결정이 바로 전략적 결정이다.

게임의 종류로는 모두의 공동 이익을 추구하기보다는 각 개인의 이익을 극대화하는 데 초점을 맞추는 비협력적 경쟁(noncooperative game)과, 서로 의사소통하고 타협해서 공동의 이익을 추구하는 협력적 경쟁(cooperative game)의 두 가지가 있다. 1달러 경매 게임의 결과는 비협력적 게임 상황에서 참여자들이 다른 참여자들의 지적 수준을 무시할 때 흔히 일어날 수 있는 해프닝이다.

비협력적 게임에서 대표적으로 거론되는 사례가 ‘죄수의 딜레마’다. 두 명의 공범이 잡혔는데, 둘 다 자백하지 않으면 지금까지 밝혀진 죄목만으로 각각 1년6개월형만 받는다. 둘 다 자백하면 모두 5년형을 받는다. 문제는 둘 중 하나만 자백했을 때다. 자백한 쪽은 1년형만 받지만, 자백하지 않은 쪽은 10년의 중형에 처해진다. 둘은 모두 독방에 갇혀 있고, 서로 대화할 수 없는 비협력적 게임 상황이다.

둘의 이해관계를 동시에 생각하면, 모두 자백하지 않고 1년6개월형을 같이 받는 게 가장 좋아 보인다. 그러나 결론적으로 둘 다 자백하게 된다. 죄수 2번 입장에서 생각해보자. 죄수 1번이 자백하는 경우, 죄수 2번은 자백하는 게 낫다. 그런데 1번이 자백하지 않은 경우도 마찬가지로 자백하는 게 낫다. 입장을 바꿔서 생각해봐도 마찬가지다. 이 게임의 균형은 둘 다 자백하는 상황이다. 물론 이들이 게임이론을 체화하고 전략적 사고를 할 때의 얘기다.

만일 수사기관이 나머지 죄목을 제대로 밝혀내지 못해서 둘 다 자백하지 않았을 때 석방돼버린다면 문제가 다르다. 이제 균형은 ‘둘 다 자백하지 않음’으로 바뀐다. 수사기관은 애로사항이 이만저만 아니다.

게임이론은 경영에서 전략적 의사결정의 중요한 사고 틀이다. 예컨대 한 동네 두 개의 설렁탕 집이 어깨를 맞대고 있는 상황을 생각해보자. 둘 다 똑같이 한 그릇에 5천원씩 판다. 이 동네는 외진 곳이라, 두 집이 동시에 가격을 1천원 올리면 손님도 그리 줄지 않고 매출이 늘어 이익이 커질 것 같다. 그러나 한 집만 올리고 다른 집이 따라가지 않으면 올린 집이 엄청난 타격을 입을 것이다.

사려 깊은 사람이 경쟁력을 갖는다

주위를 둘러보면, 동네 음식점뿐 아니라 휴대전화 시장에서도 항공시장에서도 참여자의 전략적 행동은 게임이론의 틀 안에서 설명된다. 특히 참여자가 한정되고, 각자가 나름대로 경쟁력이 있으며, 일정한 수익을 경쟁해서 나눠가져야 하는 불완전한 경쟁시장 상황에서의 대부분 전략적 문제는 게임이론으로 설명된다.

시장과 경쟁이 우리 삶의 조건인 한, 게임은 계속된다. 특히 비협력적 게임에서는 승자와 패자가 분명히 갈린다. 어찌 보면 진정으로 남의 입장에서 생각할 줄 아는 사려 깊은 사람들이 경쟁력을 갖게 되는 순간이다. 역지사지(易地思之)의 미덕이 21세기 정글 속에서 빛난다.