클라이맥스에 등장한 ‘무리수’

뉴웨이브문학상 수상작 <천 년의 침묵>에 숨은 치명적 수학 오류, 최소한 이공계 출신에게 감수받았다면 없었을 일

우선 퀴즈부터 하나 풀어보자. 세계 최초로 ‘지구가 둥글다’고 주장한 사람은 누구일까?
아마 선뜻 답을 할 사람은 많지 않을 것이다. 힌트를 주자면, 그는 콩을 매우 싫어했다고 한다. 그래도 누군지 모르겠다면, 이제 웬만하면 맞힐 수 있는 결정적 힌트를 주겠다. 이 사람은 다음과 같은 정리를 처음 증명했다고 알려져 있다. 직각삼각형의 빗변 길이의 제곱은 직각을 낀 다른 두 변의 제곱의 합과 같다. 이제 중학교 때 수학 시간에 졸지 않았다면 그가 누군지 맞힐 수 있을 것이다. 그는 바로 고대 그리스의 학자 피타고라스다.

대한민국 뉴웨이브문학상 수상작 <천 년의 침묵>(오른쪽 아래)은 피타고라스(왼쪽)를 둘러싼 비밀과 음모를 소재로 했다. 이 소설에서 중요한 계기를 제공하는 바빌로니아 점토판(오른쪽 위).

최근 이 유명한 정리를 둘러싼 비밀과 음모를 소재로 다룬 이선영의 소설 (김영사 펴냄)이 제3회 대한민국 뉴웨이브문학상을 받으면서 ‘수학적 정보’가 ‘인문학적 성찰’로 승화되었다거나 철학과 과학을 넘어 수학으로까지 한국 소설의 영역이 확대되었다는 심사평이 쏟아져나왔다.

의문의 죽음을 둘러싼 무시무시한 비밀

이 소설은 피타고라스의 제자인 디오도루스가 의문의 죽음을 당해 주검으로 발견되는 것에서 시작된다. 그리고 주인공인 디오도루스의 동생 아리스톤이 형의 죽음을 둘러싼 비밀을 파헤치면서 스토리가 전개된다. 왜 디오도루스는 죽어야만 했을까? 의문을 풀기 위해 신분을 속이고 피타고라스의 제자가 된 아리스톤은 형의 죽음에 비밀과 음모가 숨어 있다는 사실을 알게 된다. 형은 피타고라스가 ‘피타고라스 정리’를 스스로 발견한 게 아니라 바빌로니아의 옛 지식에서 빌려왔다는 사실을 알아채고, 게다가 피타고라스가 세상에 감추려 했던 ‘무시무시한 비밀’을 고문헌을 통해 알아낸 죄로 죽임을 당했다.

사실 피타고라스 정리는 피타고라스가 처음 발견한 게 아니며 이미 바빌로니아나 고대 이집트에 널리 알려져 있었으며 실생활에도 이 공식을 활용했다는 것이 정설이다. 따라서 소설에서 피타고라스의 지혜를 바빌로니아의 고문헌과 연결한 것은 그럴듯하다. 그런데 도대체 어떤 무시무시한 비밀이 있기에 그 제자가 죽임을 당해야 했을까?

아리스톤은 피타고라스의 제자 중 한 명인 히파수스의 도움을 받아 이 비밀을 풀어나간다. 결국 형이 남긴 의문의 도형을 단서로 삼아, 피타고라스가 1천 년도 더 된 점토 문서판을 비밀리에 관리하고 있으며 바로 거기에 그려진 도형 속에 비밀이 담겨 있다는 확신을 갖게 된다. 결국 히파수스는 이 도형의 비밀을 풀게 되는데….

소설에 등장하는 무시무시한 비밀은 ‘수’와 관련한 것으로, 사실 오늘날 관점에서 보면 별게 아니다. 하지만 당시 ‘수’를 신앙의 중심에 두었던 피타고라스 학파의 입장에서 보면 심각한 문제였을 것이다.

피타고라스는 에게해의 사모스섬에서 태어났다. 그는 섬을 지배하던 군주의 폭정을 혐오한 나머지 이탈리아 남부에 있는 크로토네로 이주하고, 여기서 비밀 공동체 조직을 창설했다. 피타고라스는 이미 당대에 신비한 인물로 인식됐다. 아폴로 신의 아들과 동정녀 피타이스 사이에서 태어났다는 소문이 나돌았을 뿐 아니라 갖가지 기적을 행하고 마신들과도 대화를 나눈다고 알려졌다. 추종자들은 피타고라스를 신에 가까운 존재로 여겨 그리스의 영적 지주로 추앙했다고 한다.

피타고라스 정리에 의해 증명되는 무리수

그런데 피타고라스 학파는 자연수를 만물의 근본으로 파악했다. 이들은 자연수에 윤리적 의미를 부여했다. 예를 들어 홀수는 선하고 짝수는 악하다고 규정했으며, 6은 결혼의 수로서 여성수 2에 남성수 3을 곱한 값이라고 생각했다. 그들은 자연수 이외에 ‘자연수와 자연수의 비’로 표시되는 수인 유리수에 대해서도 알고 있었다. 결국 이처럼 모든 수는 만물의 근본인 자연수의 조합으로 표시되는 것이 당연하다는 것이 그들의 신조였다. 그런데 여기에 문제가 생겼다. 그것도 그 학파가 자랑으로 내세우는 피타고라스 정리 때문에.

고대 그리스 기록에서 유리수가 아닌 수, 즉 자연수의 비 형태로 표현할 수 없는 이른바 ‘무리수’를 발견해 죽임을 당한 피타고라스의 제자는 히파수스다. 결국 소설에서는 히파수스에 앞서 스승의 비밀을 눈치챈 또 다른 제자를 상정한 셈이다. 소설의 클라이맥스에서 주인공 히파수스는 이 무리수를 바빌로니아 점토판의 도형에 쓰여 있는 숫자열에서 찾는 것으로 돼 있다. 그런데 바로 이 설정이 엉터리다.

위 사진은 에 등장하는 점토판으로, 미국 예일대의 바빌로니아 수집품 목록에 있는 ‘YBC7289’이다. 여기에는 한 변이 1인 정사각형과 그 꼭짓점을 잇는 빗변이 표시돼 있다. 위쪽을 보면 ‘1, 24, 51, 10’이라는 수열이 보이는데, 소설에서는 이 수열에 비밀이 담긴 것으로 설정돼 있다.

도대체 이 숫자는 무엇을 의미하는 걸까? 소설에서 히파수스는 이 수열이 바빌로니아의 60진법 수체계에 의해

임을 발견하는데, 바로 이 수가 무리수라는 것이다. 하지만 이 숫자는 분모를 통분해 계산해보면 다음과 같은 값이 나온다.

이 숫자는 바빌로니아에서 오래전에 구했다는 사실을 감안할 때 놀라울 정도로 √2 값에 근사한 값이긴 하지만, 자연수 간의 합과 비로 표시된다는 점에서 분명히 ‘무리수’는 아니다.

세 자리 단위로 순환하는 ‘유리수’인데…

그런데 의 작가는 클라이맥스의 순간에 이 수가 순환하지 않는 무리수라고 우기고 있다. 정작 작가는 기본적인 수 체계에 대해 잘 모르는 것 같다. 이 숫자는 소수점 이하 여섯 자리부터 시작하는 세 자리 단위(296)로 순환한다(순환하는 무한소수는 유리수다)!

이 부분이 이 책을 맛깔스럽게 꾸미기 위해 군데군데 배치한 여러 수학적 장치 중 하나에 불과하다면 다소의 오류는 눈감아줄 수 있을 것이다. 하지만 이 대목은 소설에서 가장 핵심적인 부분으로 결코 적당히 얼버무리고 넘어갈 수 없다. 결국 수학에 무지한 작가와 심사위원들이 일종의 해프닝을 벌였다고 볼 수 있다. 물론 이 소설이 수학 외적인 부분에서 구성이 뛰어나고 탁월한 문장력을 갖추고 있음은 부인할 수 없다. 따라서 이 문제를 갖고 이 책이 뉴웨이브문학상 수상에 부적격하다고 매도할 수는 없을 것이다. 하지만 이 책이 수학을 중심적으로 다룬 이상, 최소한 출판 전에 수학 전공자(그냥 이공계 출신이라도 충분하다)에게 이 책의 내용을 한번 대략이라도 검증하게 하지 않았다는 사실이 아쉬움으로 남는다. 그랬다면 이런 어처구니없는 결말을 내놓지는 않았을 것이다.

역사에 기록된 바에 따르면, 히파수스는 빗변의 길이가 유리수라고 가정했을 때 처음 가정과 모순되는 결론에 도달함을 보임으로써 무리수의 존재를 증명했다(아래기사 참조).

맹성렬 우석대 교수·전자공학