행위에 관한 탐구를 할 때 우리는 어떤 표준적 인간형을 선제해야만 한다. 그 표준의 내용이 무엇인지는 이 탐구에 있어서 일단은 중요하지 않다. 무언가 인간의 표준형이 있다는 것이 중요하다. 이 표준형을 만족하는 그러한 인간은 으레 “합리적 인간”이라고 불린다. 합리적이라는 게 무엇을 의미하는지는, 마찬가지로, 일단은 중요하지 않다. 그 표준적 인간이 합리적 선택을 한다는 것이 중요하다. 규칙 R의 내용은, 합리적 인간이 R을 따를 때 어떻게 행위할지를 통해 알 수 있다. 표현들 e에 관한 의미 체계 S는 S에 따라 언어 행위를 할 때 그 행위자가 어떻게 e를 구성하는 개별 표현 e1, e2, … en을 사용하는지를 볼 때 알 수 있다. 시장 M에서 경제 주체의 활동은 그 M에 대한 합리적 선택에 따라 결정된다.

이 표준적 인간에게 가정되는 합리성이란 이중적이다. 이것은 합리성이 갖는 아주 독특한 점이다. 문학 작품이 아니니 그 이중성을 먼저 말해 놓도록 하자. 한편으로 합리성은 사실성에 근거한다. 우리는 현실 속 사람들의 행위를 통해 무엇이 합리성인지를 알아 낸다. 다른 한편으로 합리성은 규범의 근거가 된다. 합리성에 관한 탐구로부터 우리는 무엇이 진정으로 합리적인 선택, 즉 이성적인 판단을 하는 주체가 내려 마땅한 선택인지를 알아낸다. 그리고 그 앎으로부터 우리가 이후에 어떤 선택을 해야 하는지를 판단한다.

합리성 탐구 모델

어떤 상황에 있어 합리적 선택이 무엇인지는 어떻게 알려지는가? 연구자는 둘 중 하나의 방법을 사용할 수 있다. 하나는, 합리성의 내용을 미리 전제한 뒤 행위 주체의 선택을 관찰하는 것이다. 이 방법은 시작부터 부적절해 보인다. 어떤 선택이 합리적인지를 관찰하기 위해 연구가 시작된 것인데, 합리성을 가정하는 것은 논점을 선취하는 방식이기 때문이다. 따라서 이 경우를 잠정적으로 폐기하고, 두 번째 선택지를 취해 본다. 충분히 많은 수의 행위 주체의 선택으로부터, 그 선택들 사이에 나타나는 거시적 패턴이, 무엇이 합리적 선택이었는지를 보여 준다는 방식이 그것이다.

이제 합리성은 기술적인 방식으로 구성된다. 우선 다음을 정의하자. 집합 A={a1, a2, … an}; m항 벡터 d=(d1, d2, …, dm); m항 벡터 s=(s1, s2, …, sm); 함수 v(x, d✕s). A는 어떤 선택에 참여하는 행위자의 집합이다. d의 원소들의 값은 세계의 구성 요소들의 이름이다. 임의의 d와 s의 곱인 d•s는 임의의 d가 존재하는 방식의 고유값이다. c는 행위자의 특정 선택에 관한 값인데, 행위자가 취할 수 있는 모든 선택들을 실수 집합에 대응시킨다고 하자. 또한 모든 행위자들이 할 수 있는 선택의 전체가, 궁극적으로는 동등하다고 하자. 그리고 v는, A의 원소 ax가 d✕s로 정의된 상황에서 갖는 선택 c를 값으로 갖는다. v(x, d✕s)에 있어 x=1로부터 x=n까지의 총합을 C라고 하자.

s의 원소가 모두 상수라고 하자. 이제 우리는 합리적 선택을 단순히 C/n으로 정의할 수 있겠다. s의 원소 중 k개의 변항이 있을 때는 사정이 조금 복잡해질 수 있다. 이 경우 v(x, d✕s)는 k+1개만큼의 변항을 갖는 식으로, 방정식 v(x, d✕s)=c는 k+2개만큼의 변항을 갖는 식으로 표현되겠다. 그런데 이 때에도 우리는 C/n을 통해 가장 평균적인 선택을 추상할 수 있다. 그리고 C/n이 나타나는 방정식을 통해 임의의 상황에서 가장 평균적인 선택이 무엇인지를 알 수 있다. 합리적 선택을 C/n 외의 어떤 것으로 정의하는 것은 썩 바람직하지 않아 보인다. 그 때 이미 우리는 어떤 선택이 “더 합리적인” 선택으로 기능하는지를 선제하는 것이기 때문이다.

그렇다면 이제 이어서 d✕s에서의 합리적 선택이 C/n이라는 연구자의 연구 결과를 모든 행위자들이 공유하는 경우를 생각하자. 그리고 d✕s가 반복되었다고 하자. 이제 행위자들은 이전 연구 결과를 반영한다. 그들의 선택의 총합은 여전히 C이겠지만, 각각의 선택은 C/n에 조금 더 수렴한 형태가 될 것이다. 그리고 이 과정이 반복되다 보면 모든 이들이 C/n을 선택할 것이다. 모두가 합리적 행위자가 된다!

(상기한 모형에서, 각 행위자들의 선택이 독립적이라는 가정이 추가될 필요가 있다. 그렇다면 문제는, 어떻게 연구자가 그러한 선택들을 관찰할 수 있냐는 것이다. 이는 방법론에 관한 문제인 탓에 나는 여기에 긴 지면을 할애하지는 않을 것인데, 굳이 내 생각을 말한다면 우리는 특정 가상 사례를 고안한 뒤 피험자들에게 그 사례에서의 선택을 묻는 식으로 연구를 수행할 수 있을 것이다. 이 점을 지적한 유채에게 감사의 말을 전한다.)

모델에의 반론과 방어

그런데 이런 상황은 뭔가 기괴한 낌새를 풍긴다. 두 가지 이유에서 그렇다. 우선, 우리는 우리의 선택이 이미 편향되어 있는 경우를 생각할 수 있다. 편향에 관한 판단에 따라, 연구자는 이 탐구 결과를 보정하기 위해 다른 이론들로부터 다른 기준을 가져와서, c의 원소들에 가중치를 다르게 주었어야 한다. 단지 모든 선택에 있어 평균을 매기는 경우는 연구자의 태도로 적절하지 않아 보인다. 그런데 그 가중치 부여가 있을 때, 이상적 상황에서가 아닌, 현실의 탐구 상황에서는 C의 값이 매 순간마다 변동할 것이라는 것이 문제가 된다. 즉 현실적으로 우리는 무엇이 진정으로 합리적인 선택인지 확정할 수 없다.

이에 대해 방어자는 반론이 가정하는 상황이 잘못되었다고 주장할 수 있다. 애초에 우리는 합리적 모델을 이상적 상황에 근거해서 세운다. 따라서, 다른 이론들이 연구자에게 영향을 줄 만한 상황은 배제된다. 현실적으로 합리성 탐구 모델이 작동하기 어려운지 여부는 중요하지 않다. 우리가 세운 모델은, 합리성을 탐구하기 시작하는 최초 상황에 대한, 즉 원초적 연구 상황에 관한 모델로 이해하기만 하면 된다. 그리고 그 때 모델이 합리성을 탐구하기에 적절하다고 봄직하다면, 우리는 이 모델을 합리성의 탐구를 위한 최선의 모델로 삼을 수 있다. 그 외의 자잘한 문제는 현실적 고려를 통해 해결하면 그만이다.

방어자를 따라서, 이제 다른 이론의 개입 없이 오로지 각 행위자의 선택을 추산해 보자. 대신, 이제는 행위자들의 정보에 있어서 비대칭성이 있다고 생각해 보자. 특히, 상황을 심화하기 위해, 그의 선택이 C/n보다 작은 값을 가질 경우에만 C/n이 합리적 선택이라는 점이 알려졌다고 하자. 그렇다면 이상한 일들이 일어날 것이다. 다시 d✕s의 상황이 발생했고 각 행위자들의 선택을 추산했다고 할 때, 그 선택의 평균은 C/n보다 커진 C’/n이 된다. d✕s에서 합리적 선택은 C/n인가 C’/n인가?

이 때 방어자는 곧장 전제가 그릇되었다는 점을 발견할 것이다. 애초에 행위자들의 정보에 비대칭성이 있으므로, 주어진 상황은 d✕s이 아닌 d✕s’이다. 따라서, 이 행위자들은 d✕s’에서 C’/n이 합리적 판단이라는 것을 보여주고 있다. 이렇게 문제는 사라진다. 합리성에 관한 우리의 모델은 탐구를 수행하기 위해 적어도 이론적인 흠결은 갖고 있지 않은 것 같다.

규범성 딜레마

정말로 방어자는 자신의 이론을 잘 옹호한 것일까? 여전히 그의 응답은 모종의 딜레마로 나아간다. 왜 그런지를 슥슥 그리자면 이렇다. 한편으로, 합리성에 관한 어떤 탐구도 행위에 있어서 지침을 줄 수 없다. 이로부터 회피할 이론적 근거를 만든다면, 합리적 선택의 후보로 마련되는 C/n, C’/n, C’’/n … 의 무한한 선택지 중 무엇이 진정으로 합리적인지 규명할 수 없다. 자세한 설명을 이어서 하도록 하자.

방어자의 변론에 따르면 상기한 모델에서 합리적 선택이 무엇인지를 결정하는 것이 불가능하다는 것은 착각에 불과하다. 왜냐하면 무엇이 합리적 선택인지에 관한 서로 다른 주장은, 실제로는 피상적인 차이이기 때문이다. 두 주장이 전제하는 배경 사실이 다르며, 우리는 이 배경 사실이 다름으로부터 두 상황에서의 합리적 선택지가 다르다는 점을 설명할 수 있다.

나는 이러한 변론이 합리적 선택에 관한 연구를 행위 지침 제공이라는 의의에서 벗어나게 한다고 생각한다. “배경 사실”을, 어떤 선택이 이루어질 때 배경이 되는 모든 사실이라고 하자. 그렇다면 모든 합리적 선택은 다 다른 배경 사실을 가질 수밖에 없다. 따라서 우리는 어떤 상황에서도, 이전의 선택들을 토대로, 어떻게 선택하는 것이 옳은지 판단할 수 없다.

배경 사실을 “유관한 사실”에 한정하는 것은 어떤가? 그러나 유관하다는 것은 너무나 모호하다. 그것을 모호하지 않게 하려면 우리는 어떤 종류의 사실들만을 유관한 것으로 미리 두어야 하는데, 이는 모종의 이론적 선취이다. 선취가 아니라면 우리는 각종 판단들이 나름 유관한 사실의 계열을 이미 갖고 있다고 해야 하는데, 무엇이 그 계열인지를 묻기 위해 다시 우리는, 이전의 선택들을 토대로 그것을 결정할 수 없다는 문제에 빠진다.

이른바 ‘모든 상황이 같을 때ceteris paribus’라는 가정 역시 마찬가지 이유로 유용하지 않다. 우선, 이 가정은 어떤 사실의 계열은 논의되는 유형의 선택에 있어 무관함을 가정하는 것이다. 그런데 무엇이 무관한지는 이미 배경 사실을 동일시한 뒤에만 판단될 수 있다. 그런데 그 동일시되는 배경 사실이 무엇인지는 아주 모호하거나, 논점 선취로만 결정된다. 또, 이 가정은 현실에서의 선택 상황과 단지 형식적으로만 동일한 합리성 기준을 마련한다. 여전히 이는 규범적 지표로서 부족해 보인다.

“형식적으로 동일한”이라는 부분을 마지막 희망으로 잡을 수 있지는 않을까? 이 희망은 딜레마의 두 번째 뿔로 우리를 인도한다. 우리는 어떤 두 상황에서 평균적 선택이 다르더라도, 그 상황으로부터 선택이 갖는 형식적 특성에 의거해, 합리성의 원리를 찾을 수 있을지도 모른다. 그러나 그 원리가 무엇인지를 알기 위해 우리는 다시금 우리의 기준을 투사하거나, 어떤 특정한 선택을 표준으로 삼아 다른 선택을 해석해야만 할 것 같다. 적어도, 무엇이 더 정상적 상황이고 무엇이 덜 정상적 상황인지 알아야 할 필요가 있다.

그런데 아무런 정상성 기준 없이 형식적 동일성에 관해서만 묻는다면 모든 선택들이 동등해지거나, 적어도 단 하나의 “위대한 선택”이란 발견될 수 없는 상황이 생각됨직하다. 잘 정초된 한에서 공리주의와 칸트주의가, 집합론적 양화와 부분론적 양화가 그 상황에서 주어지는 두 유망한 선택지의 후보로 주어진 바 있다. 우리는 적어도 오로지 형식적 기준으로부터는 이 후보 중 어느 것이 진정으로 유력한지 결정하지 못했다.

딜레마 죽이기

여기까지 오면 독자는 뭔가 속은 기분이 들 것이다. 우리가 상정한 합리적 선택 탐구의 모델은 꽤나 그럴 듯해 보였는데, 정보의 비대칭성이라는 간단한 조작을 가하면 이 모델이 사실상 어떤 탐구도 할 수 없다는 문제가 드러난다. 그리고 그 문제를 해결하려 하다 보면, 결국 애초에 모델 자체가 잘못되어 있었다는 점이 드러난다. 우리는 특정한 상황만을 정상 상태로 만드는 식으로만 이 모델을 쓸모 있게 만들 수 있기 때문이다. 한편 그런 정상 상태가 무엇인지는 모호함 위에 놓인다.

무엇이 이런 괴상한 생각으로 우리를 불러 온 것일까? 여기서부터가 내 진짜 물음에 해당한다. 여기까지 올 때 우리가 지난 길을 생각해 보자. 우선 우리는 합리적 인간을 상정한다. 그리고 그 합리적 인간이, 주어진 상황에서 가장 규범적으로 행동한다고 가정한다. 그리고 그 합리적 인간의 내용을, 현실적인 행위자들 각자의 선택의 평균값에 따르는 것으로 간주한다. 끝으로, 이 세 추측은 규범 제공의 실패 또는 모호성이라는 딜레마에로 우리를 인도했다.

앞의 두 가정은 정의와 그 정의로부터 나오는 분석적 참에 관한 것으로 보인다. 따라서 도저히 철회할 수 없어 보인다. 그래서 우리가 으레 하는 선택은, 마지막 가정을 철회하는 것이다. 즉, 우리는 우리의 평균적 행동으로부터 합리적 인간의 내용을 결정할 수 없다는 것이다. 당위는 사실 속에 거하지 않는다는 유구한 정신을 떠올릴 때 이 답이야말로 우리의 딜레마가 어떤 착각에 있었음을 보여주는 절묘한 결론같이 보인다.

그러나 이는 회의주의에로의 지름길일 뿐이다. 우리는 (상기했듯) 특정한 상황 또는 특정한 선택에 가중치를 부여하거나 배제 조건을 상정하지 않고서는 무엇이 합리적 선택인지 알 수 없다는 결론에 이른다. 그런데 가중치나 배제에 관한 이 가정들 역시 근거 없는 가정이 되고 말 것이라는 점에 비추어 보자면, 우리는 어떤 식으로든 합리적 선택에 관한 판정을 할 수 없다고 인정할 수밖에 없다. 합리적 선택에 관한 모든 탐구, 규범성에 관한 모든 탐구는 절망적 미래만을 갖는다.

어떻든 딜레마를 죽였다! 그런데 이렇게 딜레마를 죽이는 것이 대체 무슨 쓸모가 있을까? 우리가 딜레마 앞에서 절망했던 이유는, 무엇이 합리적 선택인지를 우리의 모델이 알려주지 않았던 탓이다. 그런 딜레마를, 합리성의 탐구 자체를 부정하는 식으로 없애는 것은 빈대 하나 잡자고 초가삼간 다 태우는 일이지 않은가? 이런 식으로 딜레마를 잡는 것은 아무런 도움이 되지 않는다. 쇠뿔도 단 김에 뺀다지만, 빼 봐야 내가 죽으면 아무 쓸모 없는 법이다.

샛길: 탐구의 한계를 인정하기

다른 길은 없을까? 나는 차라리 메타이론적 층위에서, 합리적 선택에 관한 탐구들이 미래 선택에 대해 갖는 규범성을 부정해 버리는 것은 어떤지 제안한다. 즉, 경제학은 경제 행위에 쓸모 없다. 윤리학은 윤리적 삶에 쓸모 없다. 문법학은 올바른 언어 사용에 쓸모 없다. 미학은 아름다움의 추구에 쓸모 없다. 다만 이러한 탐구 활동은 우리가 어떤 규범을 갖고 있는지를 살피는 이정표 역할을 할 뿐이다. 이런 식으로, 합리성 탐구 활동에 대한 기대 자체를 없애자는 것이다.

실질적인 선택에 있어 이러한 탐구들의 결과물이 갖는 영향력을 부정하자는 것이 아니다. 그 각각의 탐구는 실제로 행위자들의 선택 상황에 영향을 미치고 있으며, 심지어 아주 이상적인 합리적 인간에게조차도 영향을 미칠지도 모른다. 다만, 그 영향력이라는 것이, 축자적으로 어떤 규범성을 제공한다는 그러한 메타이론적 생각을 거부하자는 것이다.

사실 이 점을 거부하고 나면 우리에게 상기한 딜레마는 별 문제가 되지도 않는다. 어떤 과거의 상황, 또는 가상의 상황으로부터 우리가 어떤 선택을 한다는 점으로부터 먼저 우리는 합리적 선택이 무엇인지를 추상해 낸다. 그리고, 그 추상된 것은 우리가 이후에 선택을 할 때 우리의 여건이 된다. 물론 그렇지만, 그 여건이 어떤 축자적 방식으로 우리를 인도하거나, 인도해야만 한다는 것은 여기까지에서는 나오지 않는다.

딜레마가 진정한 딜레마가 되는 것은, 합리적 선택에 관한 탐구의 산물이 축자적으로 행위 규범이 되어야 할 때 뿐이다. 요컨대 C/n이라는 것이 어떤 상황에서 합리적 선택이었다고 할 때, 이 상황과 C/n의 관계로부터 우리의 다른 선택이, 좋은 방식으로 결정될 때에만, 합리적 선택이 된다는 그런 메타이론적 태도가 있을 때 우리는 상기한 딜레마를 문제시할 수 있다. 이 태도 없이는 딜레마가 발생하지 않는 듯하다.

탐구의 실용성이나 진정한 합리성에의 접근 불가능성 등에 근거한 반론은 어떨까? 후자가 적용되지 않는 것은 분명하다. 우리가 했던 합리적 선택에 대해 우리는 분명히 접근 가능하기 때문이다. 실용성에 관해서는 어떤가? 우리는 탐구의 결과를 축자적인 의미에서 이용하지는 않지만, 어떻게든 이후의 선택에 그 결과를 반영한다. 따라서 탐구가 우리에게 어떤 규범적 방향도 짓지 못한다는 반론은 그 자체로 그릇되었다.

찜찜함과 어쩔 수 없음

이 “샛길”은 어떤가? 우리에게 이런 식의 대안은, 속 편하면서도 찜찜하다. 과연 이런 식으로 “어떻든 좋다!” 식의 태도를 취하는 것이 그럴듯한 것일까? 합리적 선택에 관한 탐구가 우리에게 축자적인 규범적 가닥을 제공하지 못한다는 것은 우리의 학문 활동을 쓸모 없게 만드는 것 아닐까?

최근의 두 글에서 나는, “그럼에도”라든지 “계시”라든지 하는 말로 옹호되는 어떤 선택들에 관해 이야기했다. 우리는 늘 선택의 기로에 있으미, 어떻게 선택해야 할지를 판단해야만 한다. 이 판단의 지표가 되는 것을 따르는 것은 우리의 본성이다. 어떻든 규범을 선제해야만 선택이 있다는 말이다.

우리의 찜찜함은, 이 때 우리가 따르는 지표라는 것의 탄탄함이 요구된다는 데에서 나오는 것 같다. 그것은 고정되어 있고 불변하는 토대여야만 한다. 또한 그 토대는 축자적이고 대응적인 의미에서 우리의 이후 행위와 믿음을 책임져야만 한다. 이런 생각들은, 일견 실용주의적인, 내지는 행위 중심적인 해법을 불안한 것으로 여기게끔 한다.

그런데 어쩔 수 없는 것 아닐까? 우리는 늘 다른 상황에 놓인다. 또 우리가 간주하는 가상의 합리적 인간은, 우리가 이전에 놓였던 어떤 상황 속에서 행동했던 누군가이다. 우리는 합리적 인간이 어떤 사람이었는지를 우리의 이전 선택에서 추상할 수밖에 없다. 그리고 그 추상은 우리의 상황에 꼭 대응되는 어떤 것은 아니다. 만일 우리가 합리적 인간을 우리의 과거로부터 추상하지 않으려 한다면, 우리는 나름의 비의적인esoteric 탐구를 해야만 하는데, 이것이야말로 말도 안 되는 시도가 된다.

다만 생각하기로 우리는 다음과 같은 순환적 가정을 통해서 이 찜찜함에 조금의 상쾌함을 줄 수 있을 것이다. 어찌되었든 우리는 축자적 근거 없이도 선택을 내려 보았고, 지금의 우리는 그 때의 선택 주체들의 (이상적인 상황이 가정된) 평균적 인물상을 합리적 인간으로 간주하고 있다는 것. 따라서 지금의 우리에게도, 주어진 근거들을 축자적으로 확신할 수는 없지만, 나름의 이상적인 상황 속에서의 합리적 선택이 가능하리라는 것.

중요한 것은 이제 이 “이상적 상황”에 달린다. 그런데 이상적 상황이 무엇인지는, 그 개념으로부터 알려지듯, 우리의 앎 속에 주어져 있는 것이 아니다. 이상적 상황이라는 것은 늘 우리가 상정하기만 하는 것이고, 그 내용의 판정에 관한 메타 인식이 보증되지 않은 무엇이다. 우리는 일단의 확신을 갖고 가능한 모든 탐구를 수행할 수밖에 없다. 그리고 우연히라도, 또는 우리의 노력 덕분에, 우리가 내린 탐구의 결과가 우리 밖의 어떤 여건과 꼭 맞을 것을 기대한다.

우리의 탐구란 늘, 그곳에서 그렇게 멈추는 것이다. 어쩌면 주어졌을지도 모를 이상적 상황을 가정하며, 우리는 주어진 상황을 최대한 이용해 행동한다. 이 행동을 위해 우리는 우리가 할 수 있는 최대한의 이론적 탐구를, 우리의 행위와 판단을 반추하며 행한다. 이 행동과 탐구로부터 더 나아간 그런 시도는 우리에게 아직 허락되어 있지 않다. 이 이상을 말하는 것 또한 나에게 허락되어 있지 않아 보인다.

여정
benedict74@yonsei.ac.kr
지평 기획 총괄. “일상적인 것의 재발견” 기획자. 형이상학, 언어철학, 미학, 신학.

One thought on “합리적 인간

댓글 남기기