1.

여정이 ‘상상 가능성’의 문제를 논하며 ‘리만 가설’ 이야기를 꺼냈으니 나는 허수에 관한 이야기로 운을 떼야겠다. 무슨 상관이냐고? 리만 가설의 핵심인 리만 제타 함수는 복소함수이며, 제타 함수의 해에 관한 리만의 가설 역시 ‘자명한’ (실수인) 해가 아닌 허수(허수부가  0 이 아닌 복소수) 해에 관한 가설이기 때문이다. 또한 허수는 말 그대로 ‘상상된/가상의 수imaginary number’라는 이름을 달고 있는 어떠한 것이기 때문이다.

 1+1=3 ’이라는 수학적 명제는 필연적으로 거짓인 것으로 보인다. 마찬가지로 ‘ n 이 양의 정수일 때,  2 보다 작은 정수  2n 이 존재한다’는 명제 역시 자명하게 거짓이다. (이는 수학적 귀납법으로 아주 간단히 증명할 수 있다.) 우리는 그러한 양의 정수  n 을 결코 생각할 수 없다. 위와 같은 명제는 수학적 명제의 표기 방식을 이용하여 적어 놓은 것일 뿐, 상상 가능한 진술이 결코 아니다. 그러한 것이 존재한다면, 덧셈과 뺄셈 등 대수학의 가장 기본적인 연산 규칙들에 어긋나며 정수의 성질과 모순된다. 마찬가지로 ‘자연수의 제곱의 무한합  1^2+2^2+3^2+4^2+\cdots=1+4+9+16+\cdots=0 ’이라는 수학적 명제 역시 자명하게 거짓이다. 무한대로 발산하는 급수는 결코  0 이라는 수렴값을 가질 수 없다. 그렇지 않은가?

그렇다면 자기 자신을 제곱하여 음수가 되는 수는 존재하는가? 다시 말하면, ‘ x^2=-1 ’인  x 는 존재하는가? 이 방정식을 만족시키는 수에 관해 들어본 사람은 그렇다고 답하겠지만, 수를 크기를 비교할 수 있고 물리적 세계에서의 양(길이나 부피 등)과 대응될 만한 어떤 것이라고 생각하는 지극히 상식적인 지성은 아니라고 답할 것이다. 우리는 저 방정식의 해가 허수 단위  i (정확히는  \pm i )라는 것을 안다. 수학의 대상인 수라는 것이 과연 존재하는지, 그렇다면 어떤 방식으로 존재하는지, 어떤 존재론적 위치를 갖는지를 말하는 것도 쉽지 않아 보이지만, 도대체가 허수는 과연 존재하는 것일까? 이 물음은 참으로 난감한데, 이는 허수는 ‘가상의 수’인 동시에 도무지 ‘상상이 가지 않는 수’이기 때문이다. 그리고 (위의 ‘ n 이 양의 정수일 때,  2 보다 작은 정수  2n 이 존재한다’는 명제에서 보았듯이) 수학에서 어떤 것이 ‘존재한다exist’는 말은 그러한 것을 ‘생각할 수 있다’는 의미와 동일한 것으로 여겨질 수 있기 때문이다. 이를테면, ‘ 1 보다 크고  2 보다 작은 유리수가 무한히 존재한다’는 말은 ‘ 1 보다 크고  2 보다 작은 유리수를 무한히 많이 생각할 수 있다’는 말과 같다. 수학적 진리는 관찰 가능한 것이 아니며, 따라서 수학에서 ‘존재한다’는 진술 역시 오직 ‘생각함’으로써만 참 거짓 여부를 따질 수 있을 것이다. 이는 뒤집어 말해서 그것이 존재하지 않는다고 가정할 경우 필연적으로 (체계 내적인) 모순이 발생하므로 그것이 존재한다고 여길 수밖에 없다는 것이다. 다시 돌아오건대, 알 만한 사람이라면 알겠지만, 허수를 포함하는 복소수는 실수체를 확장한 수 체계이다. 수학이 자신의 탐구 대상을 확장하는 경우에도(이런 경우를 보자면, 수학은 분명 선험적 지식을 다루는 형식과학이지만 공리로부터 모든 ‘내용’이 연역적으로 도출되는 체계라고 단순히 말하기는 어려운 듯하다), 그 확장된 영역에 속하는 어떤 것은 과연 (필연적으로 또는 연역적으로) 존재하는가? 좀 더 직관적으로 말해서, 허수는 발명된 것인가 혹은 발견된 것인가?

2.

역사적인 얘기를 해보자. 모든 인간은 거의 직관적으로 자연수 개념을 갖고 있다. 그런 만큼 수는 아마도 ‘세는 수’로부터 출발했을 것이다. 그런데 자연수만으로는 다섯 개의 과일을 세 명이서 똑같이 나눠 먹는다면 얼마만큼씩 먹게 되는 셈인지 또는 물을 식구가 여덟인 집과 다섯인 집에 각각 식구 수에 맞게 나눠주어야 할 때 식수가 다섯인 집에 줄 양의 몇 배를 식수가 여덟인 집에 줘야 하는지 등의 문제를 해결할 수 없었을 것이다. 이 때문에 모든 문명권에서 유리수를 발견하기에 이르렀고, 실제로 고대의 문헌에서 분수 표기 방식을 확인할 수 있다. 그러나 오랫동안  0 이나 음수는 수로서 발견되지 못했고, 대수적 필요성이 대두될 때조차도 단지 계산을 위한 값이거나 계산의 (잘못되어 보이는) 결과값으로 여겨질 뿐 수로서 인정되지 못했다.  0 은 그저 아무것도 없는 상태였으므로 수라고 할 수 없어 보였고, 음수는 그 무엇을 통해서도 관찰 가능하지 않았기 때문이다. 오히려 무리수는 정사각형의 대각선의 길이 또는 원의 둘레 길이 등 어떠한 양을 나타내는데 수를 적용함에 따라 자연스럽게 받아들여지고 그 근사값을 구하기 위한 계산법 역시 시간에 따라 발전을 거듭했다. 음수는 수로서 받아들여지는데 초월수를 포함한 무리수보다도 훨씬 오래 걸렸다. 사과 세 개를 가진 여정에게서 사과 다섯 개를 뺏으면… 아니 그건 그냥 불가능한 일이 아닌가! 한참 시간이 지나, 음수가 빚을 나타내는데 유용하다는 사실이 알려지면서 음수 표기가 널리 쓰였고 수로서 인정받게 되었다. 수에 방향성의 개념이 적용됨에 따라, 현실 세계에서 관찰되지 않는 수가 수로서 이해되기에 이른 것이다. 수학적으로는, 음수를 도입함으로써 뺄셈으로 인해 발생하는 대수적 문제를 해결할 수 있었다.

아마도 허수 역시 이러한 수학적 필요에 의해 도입된 것일 터이다. 그런데 심지어 이것은 우리의 현실적 혹은 물리적 세계에 대응시킬 만한 개념이 전혀 없는 것처럼 보인다! 그렇다면 이것은 그저 수학이 그 존재를 가정한 혹은 ‘요청한’ 막연한 개념에 불과한 것인가?

최초로 제곱근 안에 음수가 들어가 있는 방정식을 보고 ‘그러한 수가 있다고 하자’는 식으로 생각하여 밀고나간 사람은 봄벨리(Rafael Bombelli, 1526~1572)였다. 봄벨리뿐 아니라 여러 선배 수학자들을 당황시킨 문제는 바로 삼차방정식의 근의 공식을 적용하면서 생기는 제곱근 안의 음수였다. 이차방정식의 경우에도 같은 경우가 생길 수 있지만, 그럴 경우 이차함수는  x 축을 지나지 않으며 즉 이차방정식의 해는 없는 것으로 해석될 수 있으므로 문제가 발생하지 않는다. 그런데 삼차함수는 반드시  x 축을 적어도 한 번은 지나야 하며, 이는 모든 삼차방정식이 하나 이상의 해를 가진다는 것을 의미한다. 그리고 삼차방정식의 근의 공식은 그 원리상 모든 삼차방정식에 적용될 수 있으므로, 삼차방정식의 근의 공식에 그 어떤 계수를 대입하더라도 반드시 어떤 해가 나와야만 하는 것이다. 봄벨리는 제곱하여  -1 이 되는 수가 존재한다고 일단 가정한 뒤 식을 계산해나감으로써 계산 과정에서 제곱근 내의 음수가 상쇄되면서 결과적으로 실수 해가 구했으며, 이 값이 인수분해를 통해 구해진 해와 일치한다는 것을 보일 수 있었다. 그렇지만 그 역시 이를 일종의 계산 기술 내지는 편법으로 여겼다. 허수는 데카르트, 라이프니츠에 의해서도 수로서 인정받지 못하고 허구의 존재 취급을 당했다. (음수 역시 봄벨리가 살던 16세기 전까지는 존재하지 않는 수 혹은 가상의 수 취급을 받았으며 방정식의 계수 역시 양수로만 표현되었다는 점을 볼 때, 이는 그리 놀라운 일이 아니다. 잘 돌이켜보라. 당신도 초등학교 때 음수와 음수의 곱이 왜 양수인지 이해하지 못해 당황했었을 것이다.)

실수와 허수의 합의 꼴( a+bi, \ a,b 는 실수)로 나타내어질 수 있는 수인 복소수가 수로서 받아들여지고, 복소수가 단지 산수의 기술을 넘어서 확장된 수 체계로서의 수학적 의미를 지녔다는 것을 분명히 알게 된 것은 가우스와 리만에 이르러서라고 할 수 있다.

3.

그렇다면 그 ‘수학적 의미’는 도대체 무엇인가? (여기에서는 최대한 단순하게 설명하는 도리밖에 없겠다.) 실수를 이해하는 가장 좋은 방법은 모든 실수를 한 일직선 상의 점에 대응시키는 것이다. (실수 집합의 모든 원소는 일직선 상의 점과 빈틈없이 일대일 대응될 수 있는데, 이를 실수의 완비성 공리라 한다.)

이를 통해 음수를  0 (원점)으로부터 양수와 반대 방향의 위치를 가진 점 혹은 차라리 벡터로 이해할 수 있다. 그렇다면 양수와 양수의 합이 그 두 양수보다 큰 양수이며, 양수에서 그 양수의 절댓값(원점으로부터의 거리)보다 큰 절댓값을 갖는 음수를 더하면 음수가 나온다는 사실을 직관적으로 확인할 수 있다. 또한 어떠한 양수에 마이너스 기호를 붙여(즉  -1 을 곱하여) 같은 절댓값의 음수를 만들면 이는 그 양수를 180도 반대로 뒤집은 연산을 한 것이라는 점을 이해할 수 있으며 음수와 음수의 곱이 양수로 정의되는 이유 역시 직관적으로 이해할 수 있다. 자, 그런데 당연하게도, 복소수는 이 양방향으로 무한히 뻗어나가는 직선 상에 위치시킬 수 없다. 직선 위의 어떤 점도 그것이 가리키는 특정 실수와 대응되며, 누락되어 있는 점도 실수도 없기 때문이다. 점과 점 사이를 아무리 확대해도 그 사이에는 실수가 단 하나의 빈틈도 없이 채워져 있을 것이다. 그렇다면 예컨대 허수단위  i 는 어디에 위치시켜야 하는가? 여기에서,  -1 을 곱하는 연산이 임의의 양의 실수와 대응되는 벡터의 방향을 반대로 뒤집는 연산이라는 점을 떠올려 보자. 그리고 이 연산은 정확하게  i 를 두 번 곱하는 연산과 같다. 그렇다면  i 라는 수를 곱하는 연산은 이 임의의 양의 실수를 90도 돌린 것과 같다고 볼 수 있을 것 같다. 즉 허수  i 는 실수를 나타내는 직선 상[on]이 아니라 직선의 측면 위[upside]에, 원점으로부터  1 과 같은 거리만큼 떨어져 있되 실수를 나타내는 직선과 수직인 직선 상에 있는 점(혹은 차라리 벡터)으로 나타낼 수 있을 것 같다. 여기에서 다시,  i 의 거듭제곱은 네 주기로 순환한다는 사실을 떠올려보자. 즉 ‘ i^1=i, \ i^2=-1, \ i^3=-1\cdot i=-i, \ i^4=(-1)\cdot(-1)=1, \ i^5=i, \cdots ’이다. 놀랍게도 임의의 실수에  i 를 곱하는 연산을, 그 실수에 대응하는 벡터를 시계 반대 방향으로 90도 돌리는 것으로 이해하면 이 순환이 기하학적으로 딱 맞아떨어진다.

복소평면의 아이디어가 바로 이렇게 나왔다. 실수는 일직선 상에 나타낼 수 있었지만, 복소수는 보이지 않았던 한 차원을 더 확장시킨 평면 상에 나타낼 수 있는 수인 것이다! 즉  a+bi ( a, b 는 실수) 꼴의 복소수는 실수부  a 와 허수부  b 를 각각  x 축과  y 축의 좌표값으로 갖는 점에 대응될 수 있다(마치 카티시안 좌표계에서 순서쌍  (a,b) 를 나타내듯이). 복소수까지 확장된 수 체계에서는 더 이상 수들이 하나의 직선 상에 위치하고 있지 않기 때문에 대소 비교가 되지 않고 다만 각 수들이 절댓값만을 가진다.

이러한 복소평면의 아이디어는 단지 실수를 나타내는 일차원 축을 확장함으로써 일직선 상에 놓이지 않는 수를 위해 ‘예외 구역’을 만들어 준 것에 지나지 않는 것이 아니다. 기존 대수학에서의 연산법칙들(덧셈, 뺄셈, 곱셈, 나눗셈, 거듭제곱과 루트, 결합법칙, 교환법칙, 분배법칙 등) 이 적용되도록 수 체계를 확장시킨 결과, 두 복소수의 합과 곱의 대수적 결과는 복소평면에서 명확하고도 간결한 기하학적 규칙을 지닌다. 복소수의 합은 벡터와 마찬가지로 계산되고 기하학적으로 해석된다. 놀라운 것은 복소수의 곱인데, 곱셈의 결과값인 복소수의 절대값(길이)은 두 복소수의 절대값의 곱이며, 곱셈의 결과값인 복소수가  x 축과 이루는 각은 두 복소수가  x 축과 이루는 각의 합이다. (이는 삼각함수를 이용해 비교적 간단히 증명할 수 있다.) ‘여전히’ 모든 대수학의 규칙이 적용될 뿐 아니라 ‘드디어’ 모든 대수학적 규칙에 대해 ‘닫혀 있는’ (쉽게 말해, 대수학의 연산들의 결과가 결코 자기 자신을 벗어나지 않는) 수 체계가 이렇게 발견된 것이다.

4.

나는 직전의 문장에서 ‘발견’되었다고 썼다. 수 체계의 확장이 어떻게 ‘발명’이 아니라, ‘발견’일 수 있는가?

왜냐하면 우리가 똑똑히 보게 된 것은 관찰할 수도, 직관적으로 납득할 수도 없는 것을 상정할 때조차 우리는 그것을 오직 그러한 식의 것으로 상상할 뿐 다른 것을 기대할 수는 없기 때문이다. 수학에서 ‘불가능해’보이는 것을 상상하여 끝내 정의된 체계를 확장할 때에도 우리는 이미 있는 이 체계를 토대로, 정합적이고 일관된 체계를 구축하는 특정한(유일한) 방향으로 나아간다. 다항방정식의 근에 관련된 문제, 실수체가 어떤 대수적 연산에 의해서는 닫혀 있지 않다는 문제를 해결하는 방법으로 지금 이것과 같은 복소수체를 도입하는 것(이 문제가 해결되었다는 것을 수학적인 용어로는 ‘대수학의 기본정리fundamental theorem of algebra’라 한다) 외에는 다른 것을 생각할 수 없다. ‘이 발견’으로 인해 수학은 흥미로운 유용성을 획득했을 뿐 아니라 대수학적 완전성을 갖출 수 있게 되었고 새로운 좌표평면을 통한 해석 방법을 정립하게 되었다. 바로 이러한 점 때문에, 비록 현실의 물리적 세계에서 대응될 만한 개념이 마땅치 않으며 직관적으로 납득하기 어려움에도 볼구하고 현대에 이르러 복소수는 없어서는 안 될 수학의 대상이자 내용으로 여겨지게 된 것이라 하겠다. 이제 우리는 모든  n 차 다항식이  n 개의 해를 갖는다는 것을 안다(대수학의 기본정리로부터). 그러나 여전히 그 어떤 경우에도  2n 개의 해를 갖는  n 차 다항식은 결코 존재한다고 할 수 없다. 하지만, 적어도 위와 같이 문장으로 쓸 수는 있으니 그러한 다항식을 상상해본 것이지 않은가?

아마도 ‘  \sum_{k=1}^{2n+1} x^k=0, (단  n \in \mathbb{N} )’의  0 이 아닌 해를, 또는  2n 개의 해를 갖는  n 차 다항식을 상상한다고 할 때, 이 둘은 수학의 체계에서 같은 위치를 갖는다고 할 수 없겠다. 적어도 이것들이 ‘상상된다’는 것의 (존재론적) 의미가 구분되어야 할 것 같다. 둘 다 우리의 직관으로는 생각하기가 어렵지만, 전자의 경우는 기존의 체계와 정합되게, 모순되지 않게 이를 체계 안으로 끌어들일 수 있으며 후자의 경우는 그럴 수 없기 때문이다. 전자는 체계의 확장 가능한 영역 안에 있으며, 후자는 체계를 송두리째 바꾸지 않는 한 체계 속에 들어올 수 없기 때문이다.

5.

복소수 얘기가 나왔으니, 그리고 ‘확장’에 관해 얘기했으니 내친 김에 복소함수에 관한 얘기를 덧붙여야겠다. 먼저 복소함수란, 당연한 얘기겠지만 복소수를 정의역과 치역으로 갖는 함수를 말한다. 복소수에 대한 대수적 연산의 성질은 실수체에서의 자연스러운 연장으로서 잘 정의되어 있으므로(다시금 강조하지만 이러한 정의는 편의적이거나 자의적인 정의가 아니라 오히려 우리가 잘 알고 있는 실수체에서의 성질을 그대로 유지하고 그 어떤 모순도 유발하지 않게 새로운 수 체계에 적용한 결과이다), 임의의 복소수를 넣어서 그 결과 값으로 복소수를 갖는 함수를 생각하는데 아무런 문제가 없다. 그리고 복소수는 복소평면 상의 점에 대응될 수 있으므로, 복소함수는 하나의 복소평면(정의역)을 구부리고 돌려 꼬아서 다른 복소평면(치역)으로 변형하는 관계를 가리킨다고 해석할 수 있다. (왜 ‘꼬아지’는 식의 변형이냐고? 이는 두 복소수를 곱한 결과의 편각(실수축인  x 축과 이루는 각)이 각 복소수의 편각의 합과 같은 등 복소수의 대수적 연산이 규칙적인 각 변환으로 해석되는 것과 관련이 있다. 이 지면에서는 이 정도만 말해둘 수 있겠다.) 다음 이미지는  f(s)=s^2 이라는 아주 간단한 함수의 정의역인 복소평면을 변형하여 치역인 복소평면으로 만드는 과정을 컴퓨터 그래픽으로 시각화한 것이다. (여기에서부터는 도저히 내 손으로 그릴 수가 없었다.)

Image from 3blue1Brown Youtube Channel (https://youtu.be/sD0NjbwqlYw)

이런 식이다. (사실은 이렇게 깔끔하지는 않고… 좀 더 복잡한 내막이 있다.) 이 얘기를 꺼낸 이유는, 모든 복소함수들이, 특히 수학적으로 중요한 복소함수들이 늘 이렇게 간단하지는 않다는 것을 이야기하기 위함이다. (진정하시라. 지금이 수학 시간이 아닌 걸 나도 아니까. 여기에서부터는 대략적으로만 소개할 작정이다.) 어떤 복소함수의 경우 복소평면은커녕 실수의 어떤 영역에서도 성립 자체가 되지 않는(정의되지 않는) 일이 발생한다. 특정 값을 집어넣으면 함수가 발산해버리는 경우가 대표적이다. 자, 문제는 다음과 같다. 이를테면 실수체에서 정의된 일변수 함수의 경우, 우리가 잘 알고 있는 카티시안 좌표계(직교 좌표계)를 통해 기하학적 모습을 그려내고 해석할 수 있다. 따라서 정의역의 특정 영역에서는 그래프가 전혀 그려지지 않아도 함수의 기하학적(해석학적) 모양이 완성되지 않는다든가 한 것은 아니다. 그런데 복소함수의 경우, 함수 자체가 하나의 복소평면을 다른 복소평면으로 구부려 변형하는 과정이다. 그러므로 정의역인 복소평면의 일부가 빠지게 되면 치역인 복소평면에 역시 누락된 영역이 생긴다. 이렇게 되면(방금 나는 다소간 복잡한 논의들을 많이 생략했다.) 그러면 이 변형 자체에 불연속 지점이 생긴다. (눈치 빠른 독자는, 복소함수의 완벽한 그림은 오직 사차원에서만 정확히 그려진다는 것을 눈치챘을 것이다. 이런 까닭에, 사실 정의역이 복소수 전체로 정의되어 있는 함수의 경우에도 이차원 평면을 통해 함수를 보면 마치 함수가 튀는 불연속선이 있는 것처럼 보이게 된다. 이걸 해결한 사람이 그 유명하고도 위대한 베른하르트 리만이고, 리만의 해결책을 ‘리만 곡면’이라 부른다.)

복소수라는 수 체계의 중요한 쓸모 중 하나가 바로 해석적 확장(혹은 해석적 연속)인데, 이는 함수의 원래 정의역을 벗어나는(아주 쉽게 말해 함수에 집어넣으면 고장을 일으켜 값이 튀어나오지 않는) 범위로까지 정의역을 확장시키는 것이다. 다시 여기에서, 우리에게 잘 알려진 함수를 가져와야겠다. 여정이 언급하기도 이 유명한 함수의 이름은 제타 함수이다.

 \displaystyle{\zeta(s)=\sum_{n=1}^{\infty} \frac{1}{n^s}}

기초적인 수학적 지식만으로도, 여러분은 이 함수가  s>1 인 실수  s 에 대하여 잘 정의된다는 것을 알 수 있을 것이다. 이 함수는 마찬가지로 실수부가  1 보다 큰 모든 복소수에 대하여, 즉 복소평면의 오른쪽 전부에 대하여 잘 정의되며(결과값이 수렴하며), 아무런 문제가 발생하지 않는다. 그런데  1 보다 작은 임의의 실수, 예컨대  -1 을 집어넣으면, 제타 함수가 가리키는 급수는 모든 자연수를 차례로 합하는 무한 급수가 되며, 당연하게도 수렴값을 갖지 않는다. 이 함수는 실수부가  1 보다 작은 보든 복소평면 상의 점에 대하여 대응될 만한 적절한 값을 갖지 못하는 것처럼 보인다.

자, 여기에서 해석적 확장을 써먹을 수 있다. 엄밀하지는 않지만 아주 쉬운 방식으로 말해서, 어떤 함수가 ‘해석적’이라는 것은 그 함수가 모든 지점에서 미분 가능하다는 것, 즉 모든 지점에서 연속적이고 매끄럽다는 것을 의미한다. 평면을 다른 평면으로 구부러뜨리는 복소함수에 있어서도, 이 구부리는 변형이 연속적이고 매끄러운지를 이야기할 수 있다. 종이 하나를 완만하고 부드럽게 구부린다면, 이는 ‘해석적’인 변형이다. 그런데 이 종이를 찢거나 모나게 접으면, 이는 ‘해석적’이지 않은 것이다. 제타 함수는 잘 정의되는 영역에서 연속적이고 매끄럽다. 다만 실수부가  1 인 선을 기준으로 뚝 끊겨 있다. 이제 우리는 제타 함수가 평면을 변형한 그 방식 그대로, 끊어져 있는 선상에서 더 이어나갈 수 있다. 오른쪽 절반의 복소평면이 구부러진 모양에 맞춰가며 연속적이고 매끄럽게 나머지 평면을 구부려서 복소평면 전체가 해석적이게 되려고 하다보니, 이런 식으로 제타 함수의 정의역을 확장하여 함수의 나머지 절반을 완성하는 방법은 유일하다는 것을 깨닫게 된다. 제타 함수에  1 보다 작은 실수부를 갖는 값을 집어넣으려 한다면, 그 결과값은 존재하지 않거나 유의미하지 않았다. 그렇지만 구태여, 만약 제타 함수가 그러한 정의역에서도 값을 가져야만 한다면 과연 어떤 값이 될 것인지를 수학의 체계 내에서 상상했을 때 그 결과는 특정한 하나로 정해진다.

이렇게 정의역이 확장되어 모든 복소수에 대해 정의할 수 있게 된 제타 함수를 리만 제타 함수라고 부르며, 이것이 바로 리만 가설에 등장하는 그 함수이다. (이하에서 ‘제타 함수’는 확장된 제타 함수를 가리킨다.) 수학자들이 우리 대신 수고로운 계산을 대신하여 얻어낸 결과에 따르면, 제타 함수에  -1 을 집어넣은 값은 놀랍게도  -\frac{1}{12} 이다. 모든 자연수를 차례로 더해 나가면 그 값은… 당연하게도 수렴할 리가 없으며, 그 결과값은 도대체 특정될 수가 없다. 우리가 무슨 짓을 해도 이 무한 급수가 발산한다는 사실에는 변함이 없지만, 그래도 이 급수가 값을 안 가질 수는 없고 반드시 가져야만 한다고 상상할 수 있다면, 그 값은 정확히, 그리고 유일하게  -\frac{1}{12} 이다. 같은 조건에서라면, 이제 (이 글의 두 번째 문단에서 언급했던) 자연수의 제곱의 무한합 ‘ 1^2+2^2+3^2+4^2 \cdots ’의 상상 가능한 유일한 값은  0 이다. (계산은 이미 수학자들이 대신해주었다.) 제타 함수에  -2 를 넣은 값이  0 이므로, 즉  -2 는 제타 함수의 한 해, 수학적으로 얘기하면 ‘자명한’ (실수) 해이다. 수학자들은 내친 김에  -2, \ -4, \ -6 \cdots 도 전부 제타 함수의 자명한 해라는 사실을 증명해두었다. 리만 가설의 내용은 이렇게 잘 알려진 실수해를 제외한 나머지 복소수 해들은 복소평면 상에서 소름 돋게도 전부 일직선 상에 있는 것이 아니겠느냐 하는 추측이다. 덧붙이자면, 제타함수는 소수prime number의 빈도수를 나타내는 함수를 추적하기 위해 만들어졌기 때문에, 제타함수의 규칙성은 소수 분포의 규칙성과도 관련되어 있다. 이것이 현재 세상에서 가장 어려운 문제 중 하나인 이 가설의 증명이 복소해석학의 문제일 뿐 아니라 정수론의 핵심 문제인 이유이다.

6.

소재를 약간 바꿔보자. 이번에는 물리학이다. 물리학에서 역시, 우리는 가설을 세우고 그것을 입증하거나 반증할 수 있다. (포퍼는 오직 반증만이 가능하다고 말하겠지만, 복잡한 얘기는 제쳐두자.) 물리학에서 이전에는 알려지지 않았던 어떠한 것의 존재를 ‘발견’하는 일은 어떻게 일어나는가? 첨단의 관측 장비를 동원해서 원자를 보았더니, 원자는 그 중심에 원자학을 갖고 나머지는 전자로 되어있다는 것을 알았다. 역시 과학은 관찰과 실험을 통한 귀납적 학문이군. 끝. …이건 아주 너그럽게 봐줘야 맥스웰이 전자기학을 통합하는 방정식을 만들어냈을 당시까지나 할 수 있는 나이브한 얘기다. 오늘날 물리학은 그렇게 간단하지 않으며, 까마귀를 관찰해서 모든 까마귀는 까맣구나, 따위의 결론을 내는 지식의 체계가 아니다.

관찰한다는 행위는, 어떤 대상을 우리의 감각 기관으로 확인하여 어떠한 규칙을 찾아내는 일이라고 할 수 있겠다. 그리고 우리의 감각 기관을 여러 도구와 장비를 통해 확대시킨다 해도, 우리가 물리학의 차원에서 동원할 수 있는 감각은 기껏해야 시각이다. 그리고 시각은 두말할 필요도 없이 물체에 맞고 튀어나온 빛을 감지하여 대상을 인지하는 체계다. 복잡한 물리학적 논의를 생략하고 결론만 말하자면, 빛의 파장보다 작은 대상은 어떤 방법으로도 ‘볼 수 없다’. 만약 빛의 파장을 줄이면(이건 빛의 에너지를 증가시킨다는 말과 같다), 그 작은 대상에 영향을 줘 버리게 되므로 쓸 수 없다. 미시 세계로 들어가면, 물리학은 단순히 관찰해서 그 존재를 발견하는 체계로 환원하여 이야기하기 어려워진다.

러더퍼드(Ernest Rutherford, 1871~1937)는 대체 어떻게 원자핵을 발견한 것일까? 러더퍼드가 한 일은 ‘알파 입자’를 아주 얇은 금박에 쏜 뒤 금박을 통과하며 튕겨진 모습을 방사선 감광 스크린을 통해 관측한 것이다. 말하자면 기껏해야 그가 ‘본’ 것은 감광 스크린에 찍힌 패턴이다. 사실 이 실험도 그가 직접 한 것이 아니고, 그는 여기에 대한 해석을 내놓은 것뿐이다. 기존의 물리학 법칙들에 비추어 이 실험 결과를 설명할 수 있는 거의 유일하게 설득력 있는 가설은 금 원자의 중심에 (당시에는 이미 전자의 존재는 알려져 있었다) 무언가 아주 무겁고 센 양전하를 띤 무엇인가가 ‘있다’는 것이었다. 물론, 러더퍼드는 관측 결과와 정확히 맞아 떨어지도록 이것을 수학적으로도 모델링 한 것이다. 물리학의 체계 내에서 이 수식들과 데이터 값들이 완전히 정합적이라는 사실은, 이 몇몇 방정식들이 가리키고 있는 성질을 지닌 어떤 것이 존재한다는 사실을 가리킨다. 물리학은 이렇게 어떤 것이 존재한다는 모델을 도입한다.

그렇다면 쿼크와 같은 더더욱 작은 입자들, 그것도 ‘표준 모형’에서 말하는 세 단계의 별의별 쿼크들은 대체 어떻게 그 존재가 ‘발견’되었을까? 광학적으로는 결코 관찰할 수 없는, 다시 말해 더 이상 어떤 방법으로도 직접적으로 인간의 감각과 연계하여 관찰할 방법이 없는 작은 알갱이를 말이다. 이쯤 되면 물리학은 다음과 같은 식으로 작동한다. 이를테면 쿼크 입자나 힉스 입자 등의 존재는 이론적으로(이론물리학의 영역에서) ‘예측’된다. 즉 그것이 특정한 성질을 가지는 것으로서(물론 이건 수학적인 모델로 기술된다) 존재한다고 상정하면 지금껏 알려진 모든 규칙과 모든 데이터가 맞아 떨어지며, 이렇게 어떤 존재를 도입하면 서로 제각기로 나타나는 듯 보였던 현상이 하나의 일관된 규칙에 따른 것으로 설명된다는 것이다. 그리고 아직 관측되지 않은 데이터 역시 이 일관성에 따라 추측될 수 있다. 그리고 시간이 지나 기술이 발전하면, 실험물리학자들이 이 데이터를 얻어내어 앞선 방정식에 넣어 본다. 정확히 맞아 떨어지는 순간, 또 하나의 입자가 발견된다.

이건 이른바 ‘패러다임’(이 말이 본래 탄생한, 과학철학적 의미에서)의 전환이 아니다. 이건 이미 있는 체계를, 그 정합성과 일관성을 유지하면서 확장하는 방식, 그러한 확장의 결과로 학學의 대상이 추가되는 방식이다. 물리학은 수학이 그랬던 것처럼 필연적이고 유일한 방식으로 체계를 확장한다기보다는 이러저러한 시행착오를 거쳐, 좀 더 삐뚤빼뚤한 과정으로 자신의 대상을 확장시키는 것처럼 보이지만, 물리학은 집요하고도 일관되게, 이미 알려진 법칙들과 방정식들이 실은 하나의 법칙과 방정식에서 파생된 것임을 보여주는 그러한 법칙과 모델(수학적 모델은 그러한 성질을 지니는 어떤 것의 존재함을 가리킨다)을 다듬어 나가는 방향으로 나아간다. 그러니까, 마찬가지로 어떤 것은 그저 표기의 형식을 뒤틀어서만 상상 가능한 대신, 어떤 것은 하나의 체계 안에서 마땅히 존재하는 것으로 밝혀질 수 있는 식으로 상상 가능하다. 상상 가능한 체계의 확장 방향성은 바로 이 체계에 전적으로 의존하고 있다고 갈음할 수 있겠다.

7.

여기까지 여러분을 끌고 와버렸다. 아마도 나를 개인적으로 아는 독자들은 단현이 이과 출신이라는 사실을 다시금 깨달았을 것도 같다. (이 글을 준비하면서 나는 아이처럼 즐거웠고, 내가 삼각함수를 다루는 법을 완전히 까먹고 말았다는 사실에 놀랐으며, 잠시나마, 꽤나 오래간만에, 수학이나 물리학의 길을 걷지 않고 다른 길을 택한 것에 약간의 아쉬움을 느꼈다.) 그런데 또 동시에, 단현을 조금 지켜본 독자라면 단현이란 저자는 엄밀하고 상세하며 복잡한 존재론이나 형이상학의 문제보다는 문학을 포함한 여러 ‘문화’ 텍스트들과 윤리적, 정치적 문제에 더 마음이 가는 사람임을 알 것이다. 나 역시 철학적 논의가 여기에 토대를 부여한다는 것을 알지만서도 — 그래서 여정이 들이대는 ‘엄밀함’이 얄미우면서도 그의 태도를 통해 나의 사유를 반성하곤 하는 것이지만서도 — 말이다.

나는 안타깝게도 수리철학에 조금도 일가견이 없고 여정이 제기한 논의의 장에 본격적으로 뛰어들 깜냥도 능력도 없다. 여기까지 얘기한 바가 나에게는 하나의 유비였다면, 너무 싱거운가?

내가 복소해석학과 입자물리학 및 양자역학의 놀라운 발견들을 아주 얕게나마 주워들으며 떠올린 바는 다음과 같은 것들이다. 그저 아무렇게나 상상한 것 — 표기의 형식을 이용해서 명제를 만들거나 하는 식(“전부 빨간 동시에 파란 사각형”)의 것 — 과, 지금 이 세계의 확장이며 지금 이 세계와 유리되지 않는 것으로서 상상된 것. 이 둘에 우리는 서로 다른 존재론적 위치를 부여해야 하는 게 아닐까. 그것들은 서로 다른 가치를 지니는 것이 아닌가. 이 지면에서 나는 이를 충분히 논증한 것은 아니다. (그런 건 여정이 더 잘한다.)

도저히 가능하지 않을 것만 같은 것, 얼토당토않아 보이는 것을 말하는 제각각의 방식들은 윤리 혹은 정치의 차원에서도 서로 다른 가치를 지니지 않을까. (물론 나는 여기서 형이상학적인 불가능성과는 한참 떨어져 있다.) 그 어떠한 억압과 폭력이 없는 세계를 나는 짐작할 수가 없으며, 동시에 상상해보고자 한다/상상하지 않으면 안 된다. 죽은 자는 결코 살아 돌아올 수 없지만, 상실과 흔적에 관한 이야기들, 지금-여기에 현존하지는 않지만 결코 ‘존재하지 않는다’고 말해버릴 순 없는 누군가가 계속해서 떠돌고 아른거리는 텍스트들 앞에서, 나는 무장해제된다.

여기 이 세상에서의, 우리에게 자연스러운 윤리 법칙들로부터의 정합적이고 일관된 확장 — 이를테면 선과 악의 이분법적 ‘차원’을 넘어서는 개념을 통해 구축할 수 있는 더 나은 윤리, 이 세상을 더 잘 이해할 수 있는 윤리가 가능하다고 나는 생각하고 있다.

나는 가끔 내가 배운 수학의 개념으로, 혹은 물리학의 개념으로 유비적 생각을 하곤 한다. 허무虛無하지만, 이런 약소한 유비를 위해, 부당하게 붙여진 그 이름과는 달리 그렇게 허황虛荒되지는 않은 (그리고 단순한 가상의 수가 아닌) ‘허수虛數imaginary number’ 얘기를 지금까지 주절거렸다. 여정의 장단에 맞추고자 노력하면서. 내 다음 발걸음은 두말할 것 없이 바로 위에서 말한 ‘문학적’이거나 ‘윤리적’인 주제에 관련될 것이다.

단현
danhyun0124@naver.com

댓글 남기기