인공지능의 질주, 칸트 앞에서 멈춰 서다

특정한 학습에만 세팅된 머신러닝… 해당 능력이 인간 능가해도 직관에 이를 수 없는 한계

픽사베이

앨런 튜링의 이론은 왜 실패인가. 앞서 지능에 대한 튜링의 정의가 계몽주의 이래로 확고하게 자리잡았던 이성과 의식에 대한 형이상학적 규명과 다른 방식으로 사유의 의미를 밝힌 것이라 했는데, 이런 접근은 칸트와 같은 근대 철학자들이 인간을 ‘생각하는 자동인형’이라고 봤던 입장과 상당히 다른 것이다. ‘실천이성 비판’에서 칸트는 인간을 필연성의 지배를 받는 존재이지만, 의지의 자유를 가진다고 말한다. ‘생로병사의 자연법칙에 속하기에 필연성의 지배를 받는다는 의미에서 인간은 자동인형이지만, 생각한다는 점에서 자유롭다.’ 칸트의 ‘생각하는 자동인형’이라는 개념은 이렇게 이해할 수 있을 것이다. 분명 인간은 이 세상 바깥에 있을 외계인의 손에 의해 태엽이 감긴 자동인형이라는 점에서 필연성에 얽매여 있지만, 자기 방식대로 생각할 수 있기에 자유로운 존재라는 것이 칸트의 생각이었다.

의지 없는 자유 행위는 자유인가

그러나 튜링이 구상한 지능을 가진 기계는 정확하게 이런 칸트의 생각과 다른 것이었다. 칸트는 자유롭게 무엇인가를 할 수 있다고 해서 그것이 곧바로 자유로운 것이 아니라 자유로운 의지를 가져야 자유로운 것이라고 봤다. 이 자유로운 의지는 주변의 생각을 그대로 따라가는 것이 아니라 자신만의 생각을 갖게 되는 자유를 의미한다. 칸트는 이런 자유로운 생각의 성취를 계몽이라고 봤다. 만일 의지가 아니라 행위 자체가 자유로울 수 있다고 가정한다면, 태엽을 감아서 작동하는 모든 자동장치도 자유롭다고 해야 한다는 것이다. 오늘날 인공지능(AI)에 대한 많은 쟁점도 이 자유의 문제와 관련이 있다.

튜링 머신은 그 태엽을 감아서 작동하는 자동장치가 자유로운 생각을 할 수 있다고 말한다는 점에서 이런 자유에 대한 칸트의 정의에 반대한다고 볼 수 있다. 튜링의 관점에서 칸트의 생각은 인간중심주의적이라고 비판할 수도 있을 것 같다. 그러나 지능을 ‘문제 해결 능력’이라고 본 튜링의 정의는 분명 명료하긴 하지만, 인공지능의 적용을 상당히 좁게 잡고 있다는 문제점을 내포한다. 예를 들어, 튜링이 의존한 게임 이론은 체스에서 바둑까지 이어지는 인공지능 개발의 중요한 모티프라 해도, 복잡한 세계를 단순화한다는 점을 부정하기 어렵다. 알파고가 이세돌을 이길 수는 있겠지만 자동차를 운전할 수는 없다.

물론 튜링도 이 문제를 모르진 않았고, 그래서 ‘머신러닝’이라는 착안을 했다. 인공지능이 학습이 가능하다면, 바둑을 두는 능력을 넘어 자동차를 운전하는 능력도 배울 수 있다고 본 것이다. 이것이 바로 일반 인공지능에 대한 개념이다. 특정한 문제 해결에서 다른 문제 해결로 나아가는 과정을 튜링은 머신러닝이라고 생각했다. 얼핏 들으면 설득력 있는 주장임에 틀림없다. 그러나 실행에 옮길 경우 여러 문제에 봉착할 수밖에 없다. 일단 머신러닝에서 가능한 특정한 학습 과정 사이에 호환성이 있어야 한다. 그러나 특정한 학습은 ‘바이어스’를 가진다. 이 개념은 일상적으로 우리가 쓰는 의미로 편견이라는 뜻보다도 특정한 학습을 하도록 디자인된 기계의 세팅 상태를 의미한다.

이 ‘바이어스’야말로 튜링의 인공지능 개념을 뒷받침하는 조건이다. 모든 인공지능의 운용은 이런 ‘바이어스’의 방식으로 디자인돼 있다. 그래서 아이폰16에 장착된 컴퓨터 비전은 내 얼굴을 정확히 인식해서 잠금을 해제해주지만, 그렇다고 연말 정산을 대신 해주진 않는다. 아이폰16의 컴퓨터 비전은 내 얼굴을 인식하도록 디자인됐을 뿐이기 때문이다. 여기에서 우리는 또 다른 인공지능의 역설을 발견한다. 튜링이 말한 문제 해결 능력으로서 기능하는 인공지능은 그 작동을 가능하게 하는 특정한 학습을 수행하도록 디자인된 시스템 때문에 가능하면서 동시에 그 시스템 자체 때문에 다른 능력을 갖출 수 없다. 이런 역설은 튜링 머신이 칸트의 ‘생각하는 자동인형’ 개념을 근본적으로 넘어서지 못했다는 사실을 말해준다.

알파고는 체스를 할 수 없다

이는 그러니까 인공지능이 등장했다고 해서 형이상학적 문제의식이 쓸모없어진 것이 아니라는 뜻이다. 자유와 책임에 대한 칸트의 질문은 여전히 인공지능에서 해답을 찾을 수 없다. 튜링 이후의 개발자들은 인공지능이 특정한 학습은 효과적으로 해내지만, 다른 비슷한 학습을 거기에 유추해서 하도록 하면 아주 엉망으로 수행한다는 사실을 발견했다. 말하자면, 서로 다른 특정한 학습을 진행할 수는 있지만, 아무리 유사해도 둘을 동일한 수준으로 할 수 없다는 것이다. 예를 들어, 알파고에 체스를 두게 하면 잘할 것 같지만 전혀 그렇지 않다. 인간에게 바둑과 체스는 비슷한 게임이지만, 인공지능에 둘은 전혀 다른 알고리즘이다. 이런 의미에서 ‘바이어스’는 인공지능의 논리에 내재한 근본적인 기술 결함이다. 또한 이 사실이 말해주는 것은 튜링의 믿음과 달리, 인공지능은 칸트가 정의했던 ‘생각하는 자동인형’이 될 수 없다는 뜻이다.

그렇다고 인공지능에 대한 튜링의 생각이 완전한 오류일까. 딱히 그렇다고 보긴 어렵다. 철학적으로 봐도 튜링의 생각을 개념화할 수 없지는 않기 때문이다. 튜링은 정말 잘 작동하는 자동인형을 만들면 그 자동인형이 생각하는 법을 학습할 것이라고 상상했다. 이런 생각은 상당히 경험주의적이다. 인공지능은 처음부터 어떤 해결책을 ‘찾는 것’이 아니라, 작동하는 과정에서 그것을 만들어낸다는 논리를 펼칠 수 있는데, 인간의 사고방식 자체도 그렇다는 주장이 가능하다. 우리 역시 어떤 행위를 실행할 때 처음부터 모든 상황을 다 성찰하고 비로소 뇌에서 명령을 내려 근육을 움직이는 것이 아니다. 우리의 신체 자체가 이런 행위의 알고리즘을 체화하고 있다가 실행하면서 비로소 생각이 이뤄지는 측면도 있다.

‘바이어스’는 머신러닝을 가능하게 하는 조건이면서 동시에 자유로운 학습을 제한하는 필연성이다. 이 말은 무작위적인 문제에 대한 해결 능력을 인공지능에서 도출하기 위해 ‘바이어스’ 없는 자유로운 학습을 인공지능에 시킬 수 없다는 뜻이 아니다. 그렇게 ‘바이어스’ 없는 학습도 가능하지만, ‘바이어스’가 없는 인공지능은 쓸모없다는 것이 문제다. 성공적인 인공지능을 만들려면 특정한 학습을 통한 ‘바이어스’가 형성돼야 한다.

 

머신러닝 개념화, 업적이자 한계

튜링이 인공지능과 관련해서 남겨놓은 숙제는 여전히 풀리지 않고 있다. 분명 머신러닝이라는 개념을 만들어낸 것은 획기적인 업적이지만, 그 업적을 성공적이게 만든 그 이유 자체가 인공지능의 한계로 작용하고 있다. 튜링은 확실히 그동안 모호하게 남아 있었던 자동 기계의 이론적 장벽을 없애버렸다. 18세기 자크 드 보캉송이 만든 자동 장치 오리나 볼프강 폰 켐펠렌이 만든 체스 두는 메커니컬 터크(제1518호 참조)는 증기기관과 찰스 배비지의 차분기로 발전했지만, 완전한 자동화를 가능하게 하는 공식을 만들어내진 못했다. 튜링은 이 문제를 머신러닝이라는 개념으로 해결했고, 이 개념은 오늘날 인공지능의 원리로 구현돼 있다.

프랑스 발명가 자크 드 보캉송(왼쪽)과 보캉송이 만든 자동 장치 오리. 위키미디어

튜링은 지능을 사회적인 것이라고 여기지 않고 개별적인 메커니즘이라고 생각했지만, 앞서 이야기한 것처럼 인공지능 개발은 사회적 차원을 고려하지 않고 불가능하다. 일반 인공지능이 가능하려면 두뇌라는 특정 기관의 작동 방식만을 알고리즘화한다고 가능한 것이 아니기 때문이다. 지금 개발자들이 노력하고 있듯이, 일반 인공지능을 가능하게 해줄 필수 요소는 인간과 같은 신체다. 18세기 체스 두는 메커니컬 터크와 같은 가짜 자동인형은 그 신체의 자리에 체스 명장을 감춰놓았고, 그 자동인형이 출현한 그해에 ‘계몽이란 무엇인가’라는 논문을 출간했던 칸트는 그 체스 두는 메커니컬 터크의 사례를 참조해서, 체스 두는 자동인형의 상자 안에 숨어 있었을 인간의 자리에 이성을 놓았다.

구상으로 남아 있던 튜링의 머신러닝 공식은 컴퓨터의 발달과 빅데이터의 축적으로 실행 단계에 도달했다. 그의 구상을 실행한 뒤 얻은 결론은 머신러닝으로 일반 인공지능을 가능하게 만들 수 없다는 사실이다. ‘바이어스’에 따른 좁은 의미의 인공지능은 가능하지만, 그 특정한 학습들 사이를 연결할 방법이 없는 것이다. 결과적으로 인공지능은 결코 인간과 같을 수 없다는 진실이 밝혀졌다. 이 때문인지 요즘 인공지능 이론가들은 인공지능과 인간을 동일하다고 말하지 않고, 인공지능이 인간과 다르고, 인간을 능가한다고 말하게 된 것 같다. 물론 이런 주장이 완전히 틀렸다고 보긴 어렵다. 분명 인공지능은 특정한 학습에 한해서 인간의 능력을 능가한다. 그러나 각각 나뉘어 있는 ‘바이어스’를 뛰어넘는 넓은 의미의 문제 해결이 가능하다고 말할 수는 없다.

 

양자컴퓨터라면 가능할까… 이조차 미래형

다시 튜링의 문제의식으로 돌아가서, 직관과 독창성을 생각해보자. 그의 질문은 과연 직관을 시스템의 형식으로 집어넣을 수 있는지에 대한 것이었다. 직관을 담은 독창적인 기계가 가능한가. 21세기에 와서 돌이켜보면, 이런 그의 구상은 실패했다. 누구도 컴퓨터를 갖고 튜링이 수학적으로 공식화했던 인공지능을 만들어내지 못했다. 아직까진 그렇다. 제프리 힌턴처럼 인간을 능가하는 인공지능이 통제 불능에 빠져 대혼란을 초래할 것이라고 말하는 전문가들조차도 이런 경고의 시제는 미래형이지 과거형이 아니다. 오히려 우리는 이런 개발자들이 발휘한 직관이 독창적인 기계들을 만들어낸 사례를 많이 알고 있다. 아마존 메커니컬 터크를 활용한 페리페이 리(제1521호 참조)의 이미지넷도 그중 하나일 것이다.

과연 향후 기술 발전이 ‘바이어스’에 갇힌 인공지능을 구출해낼 수 있을까. 여러 논란이 있겠지만, 어떤 이들은 디지털 기술로는 불가능하다고 말하기도 하고, 양자컴퓨터가 상용화한다면 가능할 수 있을 것이라고도 한다. 어쨌든 여전히 미래형이다. 그리고 우리는 어느새 인공지능에 거의 모든 문제에 대한 해결책을 제시하도록 요구하고 있다. 이런 의미에서 인공지능은 우리 일상에 일부로 자리잡은 기술이면서 동시에 신화이기도 하다.

 

이택광 문화비평가·경희대 글로벌커뮤니케이션학부 영미문화전공 교수