‘직관하는 기계’ AI 신화 창시한 천재 수학자는?

앨런 튜링 “인간 모방한다면 지능 없다 할 수 없어”… 이론 실패 불구 여전히 논란 중심

영국의 천재 수학자 앨런 튜링과 그의 친필 노트. 연합뉴스

지금까지 살펴본 것처럼 인공지능(AI)을 둘러싼 문제들이 기술 내적인 차원뿐만 아니라 사회적 차원과 깊이 관계하고 있음을 부정할 수 없다. 아마존 메커니컬 터크(제1518호 참조)에서 보았듯이, 인공지능은 내적인 메커니즘을 구축하기 위해 인간의 개입이 필요하다. 지금 몇몇 인공지능 전문가나 개발자들은 조만간 인공지능의 자동화가 전격적으로 이뤄져 사이보그화한다면 인간의 개입조차 필요 없을 것이라고 전망한다. 이런 낙관적 주장이 있는 반면, 인공지능 발전이 가져올 암울한 미래에 대한 비관적 주장도 만만찮다.

‘완전 자동화 불가능’ 결론에도…

앞서 이야기했던 2024년 노벨상 수상자 제프리 힌턴은 최근 영국 일간 가디언에 소개된 기사에서 인공지능 기술 발전 속도가 예상보다 빨라서 30년 내로 인공지능으로 인해 인류 자체가 사라질 확률이 10%에서 20%에 이르게 됐다고 경고했다. 물론 확률적인 예언이기 때문에 이런 우려가 확실하게 현실화할 것이라고 말하기는 어렵다. 그럼에도 이와 같은 걱정이 완전히 기우에 그친다고 단언할 수도 없다.

문제는 낙관적 주장을 뒷받침하는 많은 전제가 사실상 신화에 지나지 않는다는 점이다. 지난 수십 년간 많은 철학자와 과학자들 사이에서 이에 대한 갑론을박이 오갔고, 결론적으로 인공지능의 최종 지점을 의미하는 완전 자동화는 불가능하다는 결론에 도달했다. 그럼에도 오히려 인공지능이 인간의 능력을 초과했을 때 발생할 수 있는 예측 불가능한 결과에 대한 염려가 더 많아졌다. 이 지점에서 우리는 인공지능의 역설을 다시 확인할 수 있다. 말하자면, 완전 자동화라는 인공지능의 완성은 곧 그로 인한 예측 불가능한 결과를 의미한다는 역설 말이다.

이 문제를 살펴보기 위해서 우리는 오늘날 인공지능 기술을 뒷받침하는 상상력을 정초한 앨런 튜링의 생각으로 돌아가봐야 한다. 1950년 튜링은 지능을 가진 기계가 가능한지를 논의하는 ‘계산 기계와 지능’이라는 제목의 논문을 출판한다. 컴퓨터를 획기적인 기술로 묘사하는 튜링의 논의는 지금에 와서 읽어보면 그렇게 새로울 것도 없어 보인다. 그러나 1950년대에 수학적인 모델로만 제시됐던 인공지능 개념을 컴퓨터라는 구체적인 기계와 결합해서 생각해냈다는 점은 충분히 평가할 만한 업적이다.

튜링이 이런 생각을 해낼 수 있었던 까닭은 전쟁에서 암호 해독 임무를 수행한 덕분이었다. 암호 해독처럼 긴 시간과 노고를 필요로 하는 작업을 컴퓨터라는 기계를 통해 단시간에 해낼 수 있다는 것은 분명 전환점을 의미했다. 튜링의 전제는 당시에 유행했던 ‘모방 게임’에 근거를 두고 있었다. 이 게임은 오락프로그램으로 남녀를 가려놓고 제3자가 서면으로 질문하고 받는 답변에 근거해서 누가 남성이고 누가 여성인지 가려내는 방식이었다. 게임을 진행하는 동안, 남성은 정답을 맞히는 것을 방해하고 여성은 정답에 대한 힌트를 준다.

튜링의 도발적 주장이 철학에 미친 영향

튜링은 이 방식에서 영감을 얻어서 ‘모방 게임’에서 남성과 여성을 컴퓨터와 인간으로 설정했다. 이 게임이 바로 튜링 테스트의 원조다. 먼저 컴퓨터가 서면으로 인간이라는 판정관의 질문을 받는다. 만약 이 인간 판정관이 상대방을 컴퓨터로 인지하지 못한다면 컴퓨터가 이기는 것이다. 그런데 이런 사고 실험을 하면서 튜링은 아주 심각한 주장을 한다. 이 과정에서 인간 판정관이 컴퓨터가 답하고 있다는 사실을 알아채지 못했다면 우리는 그 컴퓨터가 지능을 가지지 않았다고 말할 수 없다는 것이다.

튜링의 주장은 기계가 지능을 가졌는지에 대한 질문을 기계가 진짜 생각을 할 수 있는지에 대한 질문으로 대체한다는 점에서 놀라운 반전을 감추고 있다. 이 반전의 도발성이 지금까지도 계속 이어지고 있다는 점에서 튜링의 유산은 그의 이론이 실패한 것과 무관하게 여전히 인공지능의 신화를 지탱하는 토대다. 아마 이 논문을 작성하면서도 튜링은 자신의 문제 제기가 이토록 오랫동안 영향력을 발휘할 것이라고 예상하지 못했을 것이다. 튜링의 논문은 그동안 유럽 근대 형이상학 철학의 전유물로 여겨졌던 의식과 사유 개념에 대한 근본적인 전환을 강제했다는 점에서 철학적으로도 중요한 사건이다.

이 문제에 대한 다양한 논의가 1960년대 프랑스 철학을 경유해 현대 철학의 중요한 논점으로 여전히 인문학에서 다뤄지고 있다. 특히 프로이트 정신분석을 혁신한 자크 라캉이나 그의 라이벌이라고 볼 수 있는 질 들뢰즈가 이 문제에 깊숙이 개입하고 있다는 것은 의미심장하다. 이들과 같은 계보에 서 있는 알랭 바디우가 수학과 철학의 관계를 새롭게 정립하고자 시도하는 것도 튜링의 도전과 무관하지 않다.

그렇다면 튜링은 과연 어떤 전환을 이뤄낸 것일까. 튜링의 이론은 오랜 기간 미궁에 빠져 있던 의식과 사유라는 철학의 근본 문제를 관찰 가능한 결과에 대한 평가의 문제로 바꿔놓았다. 튜링으로 인해 인공지능의 문제는 제한적인 목표에 부합하는 과학적 지위를 획득하게 된 것이다. 튜링의 관점에서 보면, 지능은 칸트 같은 형이상학이 개념화하는 고차원적인 지성 같은 것이라기보다 ‘문제 해결 능력’을 의미한다. 물론 철학과 과학을 그렇게 대립적으로 생각하지 않는다면, 결국 칸트가 말한 지성이란 튜링이 말하는 것과 같은, 특정 문제를 이성적인 방식으로 해결할 수 있는 능력을 의미한다고 말할 수도 있을 것이다.

그러나 이런 튜링도 1930년대까지 인공지능을 적합한 과학적 질문으로 생각하지 않았다. 당시에 튜링은 ‘직관’과 ‘독창성’의 문제에 매달려 있었다. 당시 튜링은 수학적 사고를 직관과 독창성의 조합이라고 봤다. 직관은 사고 훈련을 통해 얻을 수 없는 우발적인 판단이다. 수학적 사고는 직관을 통해 난제들을 해결하고, 직관의 도움으로 독창성을 획득할 수 있다는 것이다. 직관은 단계적인 관찰이나 실험을 의미하지 않는다는 점에서 튜링은 컴퓨터 프로그래밍에서도 이처럼 수학적 사고와 동일한 과정을 적용할 수 있다고 봤다.

쿠르트 괴델. 위키미디어

AI 논의에 정반대 영향 미친 괴델

튜링이 말하는 직관과 독창성은 각각 ‘마음’과 ‘역학’으로 환원할 수 있다. 이 문제에 대해 1930년대의 튜링이 참조한 이가 바로 쿠르트 괴델이다. 괴델은 증명이론과 모델이론을 통해 튜링과 비슷하게 기계의 지능 문제를 논의했다. 당시에 유행했던 수학 기초론에 따르면 형식화한 수학 이론의 무모순성은 유한한 기계적 절차로 환원할 수 있다는 것이었는데, 괴델은 이에 대한 반론으로 수학적인 방식으로 어떤 결과가 증명된다고 해서 그것이 참일 수 있는지 묻는다. 만일 증명 과정 자체와 참을 같은 것이라고 한다면, 인간의 의식이나 마음을 기계적인 것이라고 볼 수 있을 것이다. 말하자면, 괴델의 질문은 인간의 직관을 계산할 수 있고 기계로 환원할 수 있는지에 대해 묻는 것이라 할 수 있다.

괴델은 1931년 발표한 논문에서 ‘불완전성 정리’를 선보인다. 이 정리는 수리논리학에서 페아노 공리계(1+1=2라는 자연수에 관한 공리)를 포함해 무모순적 공리계는 참인 일부 명제를 증명할 수 없고, 스스로 무모순성을 증명할 수도 없다는 내용이다. 내적으로 모순이 없는 수학 체계는 반드시 증명할 수 없는 명제를 하나 이상 포함할 수밖에 없다는 이 발견은 앞서 이야기한 1960년대 이후 현대 철학을 떠받치는 이론적 토대이기도 하다. 이 정리에 따르면 모든 수학적 명제는 기계적이지 않기에 형식화할 수 없다는 결론에 이른다.

괴델이 말하고 있는 것은 참도 거짓도 아닌 애매한 수학적 명제가 있다는 뜻이 아니라, 설령 어떤 수학적 명제가 참이더라도 그것을 술어 논리로 완전하게 설명할 수 없다는 뜻이다. 다시 말해 의미론적 귀결인 명제가 구문론적 귀결인 속성과 일치하지 않는다는 것이다. 괴델의 불완전성 정리는 진리의 재현 불가능성에 대한 것이지 진리의 불가능성에 대한 것이 아니다. 이런 괴델의 정리는 이른바 현대 프랑스 철학을 비롯한 대륙철학뿐만 아니라, 분석철학의 한 분야인 심리철학이 인공지능을 논의하는 방식에도 결정적인 영향을 미쳤다. 참은 기계적인 계산 절차를 통해 증명할 수 없지만 인간은 그 참을 표현할 수 있기 때문에 인간의 마음은 컴퓨터가 아니라는 주장이 대표적이다.

전쟁 암호 해독하다 괴델 이론과 결별

인공지능에 대한 튜링의 이론은 이런 괴델의 정리에 근거해 다비트 힐베르트의 프로그램을 넘어가고자 했다. 튜링이 구상한 것은 인간의 직관을 기계로 환원하는 것이 아니라, 기계 자체가 지능, 다시 말해서 문제 해결 능력을 갖추도록 하는 것이었다. 이런 관점에서 보면, ‘튜링 머신’은 수학적 계산을 하는 기계가 아니라, 수학자로서 사유하는 기계다. 1930년대 튜링은 이 둘이 엄연히 다른 프로그램에 따라 작동한다고 봤다. 그런데 1950년에 발표한 논문에서 튜링은 괴델의 정리에 근거했던 이런 문제의식을 폐기한다. 오히려 튜링은 컴퓨터 자체가 직관적인 기계가 될 수 있다고 생각하면서 괴델의 정리가 인공지능에 대해 답을 줄 수 없다고 주장한다.

이런 생각의 변화가 가능했던 것은 앞서 언급했듯이 전쟁 상황에서 획득한 방대한 데이터 덕분이었다. 튜링은 컴퓨터가 지능을 가질 수 있다면, 스스로 학습도 가능할 것이라고 봤다. 당장 높은 지능을 가진 기계를 만들 수는 없겠지만, 그 기계가 자체적으로 학습할 수 있다면 인간과 동일하지 않은 방식이긴 하지만, 높은 차원의 지능도 획득할 가능성이 있다는 것이다. 이런 생각이 기계도 직관을 가질 수 있다는 새로운 문제 제기로 이어졌다고 할 수 있다. 오늘날 튜링이 구상했던 튜링 머신은 더 이상 유효성을 가질 수 없지만, 이런 튜링의 문제의식은 여전히 인공지능을 둘러싼 논쟁에서 중심을 차지하고 인공지능에 대한 현대의 신화를 지속시키고 있다.

 

이택광 문화비평가·경희대 글로벌커뮤니케이션학부 영미문화전공 교수