수학의 ‘정석’ 말고 ‘정신’ 배우자

허준이 교수 ‘필즈상’ 수상 이후, 유튜브 채널에서 수학을 공부하다
초등학생부터 60대까지 ‘수학적 아름다움’ 질문하고 토론

2022년 7월9일 토요일 아침 10시에 화상회의 프로그램 줌(Zoom)으로 진행된 ‘직장인과 문과생을 위한 수학교실’ 수업시간 모습이다.

중학교 수학을 마치면 당연하게 이해하는 그림이 있다. 자연수, 정수, 유리수, 실수의 체계를 집합으로 설명하는 그림이다. 1, 2, 3, 4…. 끝없이 이어지는 자연수를 정수 집합이 원을 그리며 감싼다. 유리수 집합은 더 큰 원으로 두 집합을 에워싼다. √2, 파이(π) 등 실수 집합은 자연수, 정수, 유리수를 품는 원을 가장 크게 그린다.

그런데 이 그림은 참일까. 매주 토요일 아침에 화상회의 프로그램 줌(Zoom)으로 진행된 ‘직장인과 문과생을 위한 수학교실’(이하 직문수) 1강 ‘집합과 명제’에서는 이 그림을 두고 설명과 질문이 오갔다. 미국 샌타바버라 캘리포니아대학에서 수학과 방문교수로 일하는 조건희 교수가 수업을 이끈다. 미국 매사추세츠공과대학(MIT) 수학과 박사과정에서 위상수학을 전공하는 이재희 조교도 함께한다. 이 질문의 결론만 말하자면 우리가 알던 자연수, 정수, 유리수 집합의 관계는 ‘거짓’이다. 자연수, 정수, 유리수는 무한대의 영역에서 직관적으로 분절된 반면 실수는 연속적이다. 이를 증명하는 과정에서 현대수학이 시작된다.

유튜브 채널 <수학의 즐거움>에는 ‘직문수’ 수업이 녹화돼 매주 올라온다. 이곳에서는 낯선 이야기가 주로 다뤄진다. ‘1+1=2란 명제는 특정 공리계 하에서만 참이다. 공리계를 부정하면 거짓이 될 수 있다. 삼각형 내각의 합이 언제나 180도는 아니다. 유클리드 기하학의 공리를 도입해야 참이며 19세기에 와서 비유클리드 기하학의 세계관이 등장하며 서서히 깨지기 시작했다. 그로부터 물리학에서 상대성이론이 나왔다.’ 언뜻 받아들이기 어려운 말들이 이어진다.

‘직문수’ 수업은 수학 문제를 내는 대신 기본 개념을 설명하며 궁금한 점과 불편한 느낌을 묻고 답하며 2시간 넘게 진행된다. 수업은 근대 수학의 출발점인 집합론부터 대수학, 선형대수, 미적분학, 미분기하학, 복소해석학, 통계학이 유기적으로 얽히고설킨 큰 그림을 16주간 초심자 입장에서 볼 수 있게끔 만들어졌다. “초등학생이나 수학에 대해 모든 것을 잊어버린 어르신도 들을 수 있는 수업을 지향한다. 수학과 전공생들이 배우는 20세기 초 수학까지 따라갈 수 있게 수업이 설계돼 있다.” 조건희 교수의 설명이다.

“구성원 중에 어느 한 명이 굉장히 뛰어나서가 아니라 완전히 똑같은 얘기를 그냥 서로에게 들려줬다가 되돌려받는 과정을 반복하다보면 굉장히 신비하게도 원래는 없는 정보량이 굉장히 불어나 어느 순간에 새로운 정보로 문제를 해결할 수 있게 되는 경우가 많습니다.”
-필즈상 수상자 허준이 교수의 언론 및 유튜브 인터뷰(이하 동일)

2022년 7월9일 토요일 아침 10시에 열린 수업 제목은 ‘다변수 미분법의 직관적 이해’였다. “좋은 아침입니다~.” 수강생 30여 명이 채팅방에서 서로 안부를 물었다. 연령대는 초등학생부터 60대까지 다양했다. 특별한 수학적 배경이 없는 사람이 많았다. 마음에 맞는 수강생들은 따로 모임을 꾸려 수학을 공부한다. 수업을 듣는 이들은 협업 플랫폼 슬랙(Slack)에 어느 때나 토론할 거리를 올린다.

수업이 있는 이날은 허준이 한국 고등과학원 석학교수가 한국계 최초로 ‘수학 노벨상’인 필즈상을 받은 지 나흘이 지난 시점이었다. 자연스레 허 교수의 수상 소식과 관련한 이야기가 나왔다. “학생들이 1학기 기말고사 첫 시험을 봤다. 누구는 시험을 잘 보고 누구는 못 보고 그렇게 수학의 즐거움이 사라진다. 현장에서는 주입식으로 문제를 반복적으로 학습해야 한다. 괴로움이 있다. 다행히 이번주 좋은 소식이 들렸다. 필즈상을 받았다는 허 교수도 초등학교와 중학교 때는 수학을 썩 잘하지 못했다고 한다.” 수학 과외 선생님인 허윤희씨가 말했다.

‘직장인과 문과생을 위한 수학교실’에 참가한 수강생이 협업 플랫폼 슬랙(Slack)에 7월8일 오전 수업 후기를 올렸다.

“대부분 히로나카 헤이스케 교수님이 제게 말을 걸었고, 제 목표는 무언가를 이해하는 척하고 올바른 반응을 보여 대화가 계속 진행되도록 하는 것이었습니다. 무슨 일이 일어나고 있는지 정말 몰랐기 때문에 어려운 일이었습니다.”(히로나카 헤이스케 교수는 과학기자가 되려 했던 허 교수를 수학자의 길로 이끈 세계적인 수학자다.)

‘직문수’는 수학이 두려웠지만 이제는 아름답다고 말하는 이들이 참여하는 수업이었다. “고등학교 때 수학 문제를 풀면 머리가 나빠서 문제를 못 푸나 싶었어. 그때 습관이 생겨 이어지고 있어. 요즘에는 수학이 소중해졌어. 즐거움, 아름다움, 황홀감, 심지어 내가 인생을 왜 살아야 하는지 의미도 수학이 준 거 같아. 소중한 걸 주니까 마음을 열게 됐어. 수학을 공부하면 인생에 소중한 걸 더 얻을 수 있지 않을까. 죄송하다. 이상한 말 해서.” 수강생 이정효씨가 수업을 앞두고 이렇게 말했다.

고해성사는 잠시 더 이어졌다. “첫 강의에서 굉장히 충격받았다. 내가 아는 수학은 계산하는 것이었다. 교수님이 하는 수학을 보면, 모순을 최대한 줄인 철학 같은 느낌이다. 중고등학교 때는 깨닫지 못했다. 이 수업을 계속하며 느끼는 것은 아름답다는 감정이다. 시작부터 끝까지 완벽하게 정리돼 결과물이 나오는 형태가 정말 아름답다. 그래서 계속하고 있다.” 캐나다에서 컴퓨터프로그래머로 일하는 최수진씨는 “한때 미적분을 할 줄 아는 사람이었지만 지금은 못한다”고 웃으며 말했다.

수업이 시작되자 조건희 교수가 미분의 개념을 설명했다. 화면에 올라온 수업노트 필기를 가리켰다. “실수에서 실수로 가는 함수에 대해서 기울기의 개념을 생각하고, 기울기가 한 점, 두 점으로 가까이 보낼 때, 이 기울기가 정의가 잘되면 미분계수라고 부른다. 어떤 ‘불편함’이 있으면 표현해달라….” 조 교수의 설명이 이어지는데 질문이 쑥 들어왔다. “여기 나오는 에프 프라임(f’)을 계승자의 역할로 생각할 수 있을까? 미분의 미분, 미분의 미분 이렇게.” 조 교수는 질문에 답했다. “예리한 관찰이야. 주어진 대상으로부터 또 다른 대상을 유도하는 측면에서 쓴 노테이션이라고 할 수 있다. 수학적 오브젝트로 또 다른 오브젝트를 만드는 측면에서 공통점이 있다. 이것들의 의미를 이야기하려면 1년이 걸려도 어렵다. 기호 자체를 도입할 때 유사성이 있다고 언급하고 넘어가겠다.” 고등학교 시절 미적분을 배우지 못해서, 기자는 무슨 말인지 알아듣지 못했다. 그럼에도 수업을 들으며 알아듣는 척을 했다.

“수학은 과감하면서도 정확하고 깨끗하게 생각할 수 있게 해주는 좋은 훈련이에요. 다른 어떤 동물에서도 관찰할 수 없는 놀이의 형태지요.”

‘직문수’에서 자주 말해지는 단어는 관찰, 직관, 불편, 논쟁, 동의 등이었다. 조 교수는 미분을 이해하는 데 필요한 개념을 설명하며 “동의가 됩니까?” “넘어가기 전에 질문 있습니까?” “좋은 직관입니다”라고 덧붙였다. 유튜브로 본 첫 수업 때 집합과 명제를 설명하며 조 교수가 수강생에게 당부한 사안이 떠올랐다. “불편한 지점이 있으면 끊고 질문해달라.” “언어로 정제된 멋진 질문 말고 진짜 불편한 것을 나눠달라.” “불편함을 언어로 표현하기 어렵다면 무엇이 불편한지 모르겠다”는 말도 모두에게 도움이 된다. ‘수학의 정석’이 아닌 ‘수학의 정신’을 배우는 수업이라 해야 하나. 수강생들은 질문에 거침이 없었다. 조 교수가 말하는데 불쑥 끼어들며 질문했다.

질문 수준은 따로 정해지지도 평가받지도 않았다. 모른다면 아예 모른다는 질문도 가능했다. “시작부터 끝까지 이해가 안 되는데 다시 한번 설명해주실 수 있나?” 초등학교 4학년인 하지민양이 질문했다. “아, 물론이다. 첫 페이지에 가장 중요한 것이 있다.” 다시 수업노트 첫 장부터 설명이 시작됐다. 음성회의에서 미분계수를 조 교수가 다시 설명했고, 대화방에서도 토론이 이어졌다. “밧줄 위에 서 있다가, 운동장에 서 있다고 생각해보시면 된다. 운동장에 서 있으면 어디로 가야 할지 모른다.”(박진섭) 조 교수는 재빠르게 대화방을 보며 “감사하다. 이런 코멘트 너무 소중하다”고 말했다. 수업 듣는 사람들의 표정에서 다시 생기가 돌았다. 하지민양은 수업이 끝나고 이날 저녁 8시까지 수업을 함께 듣는 오빠와 함께 유튜브에 올라온 예전 수업을 보며 복습했다.

“아주 오랜 시간이 지난 다음에는 수학이 직업인 사람들만 느끼는 감동에서 더 많은 사람이 느낄 수 있지 않을까요. 천 년 전 글을 아는 사람도 많지 않았고 시나 소설, 예술 매체를 받아들일 수 있는 사람도 일부였으니까요.”

실시간으로 수업을 듣는 수강생들은 수업이 끝난 뒤 메타버스 화상회의 플랫폼 게더타운(Gather Town)에 모여 뒤풀이도 한다. 마음이 맞는 사람끼리 메타버스 공간에 모여 관심 있는 이야기를 한다. 대부분 이야깃거리는 수학이다. 이 수업에는 조 교수의 어머니도 함께했다. ‘수학초보’라는 별명을 지은 그는 수업이 시작되기 전 “수포자 이야기 하지 말자 했지만 수학혐오자였다”고 고백했다. “수학 때문에 인생을 망쳤다는 생각에 사로잡혀 살았다. 이제 어떤 사람이 ‘뭐가 대수야’라고 이야기하면 대수기하학, 선형대수학이 생각난다.” 화상채팅 속 사람들이 미소를 지었다. 하트 표시도 올라왔다. “환갑이 지나며 수학을 다시 배우고 화해라는 단어를 배웠어. 내가 싫어했던 대상과 화해하는 시간을 누리게 돼 감사해. 여기 도와주신 여러 선생님에게도 감사하다.”

조건희 교수는 이 수업을 공익적 성격을 가지고 무료로 연다. 이유가 뭘까. “한국 수학 석사과정과 미국 박사과정 모두 장학금을 받은 덕에 수료할 수 있었다. 구조적 수혜를 입은 사람으로서 전문적인 수학자가 된 이 시점에 여러 사람의 수학적 배움에 유익을 끼치고 기여해야 하는 암묵적 책임이 있다고 생각한다. 다른 수학자들도 다양한 수학 수업을 열어줬으면 하는 소망이 있다.”

‘직문수’는 2021년 1기에 이어, 2022년 2기를 진행한다. 유튜브에서 한 번의 검색으로도 ‘수학의 아름다움’을 느낄 수 있는 시대. 수학을 예술처럼 느끼고 감동하고 싶은 이들에게 필요한 건 용기와 시간이다.

이정규 기자 [e-mail]

*자세한 증명이나 개념 설명은 유튜브 채널 <수학의 즐거움>에 올라온 수업 영상을 참고.

*한겨레21 뉴스레터 <썸싱21> 구독하기
https://url.kr/7bfp6n