하라리, 인간 낭만화의 함정에 빠지다

알고리즘 위협 경고하며 스스로 기술 물신화… 인간이 세계를 비인간화한 맥락 봐야

작가 유발 하라리가 2025년 3월20일 서울 종로구 노무현시민센터에서 열린 ‘넥서스’ 출간 기자간담회에서 인사말을 하고 있다. 연합뉴스

최근 방한한 유발 하라리는 인간에서 인공지능(AI) 알고리즘으로 권력이 이동했다면서 미래에 닥쳐올 위험을 경고했다. 세계 각지에서 그는 인공지능에 대해 누구보다 선명한 경고를 던져왔다. 인공지능이 인간의 자율성과 판단 능력을 잠식하고 알고리즘이 우리의 삶을 결정짓는 시대가 도래했다는 그의 진단은 많은 이에게 인공지능에 대한 경각심을 불러일으켰다. 이런 진단이 완전히 틀렸다고 할 수는 없고, 또한 그의 경고를 무시할 수도 없지만, 여전히 인공지능과 인간을 분리해서 사고한다는 점에서 그의 주장은 근본적인 모순을 드러낸다.

인간 사회가 진실에 기반했다는 착각

하라리는 일관되게 인공지능이 인간과 기계의 경계를 흐리고 있다고 주장한다. 그런데 이렇게 인간과 기계가 서로 닮아간다고 말하면서도, 그는 인간은 의미를 찾는 존재이고, 기계는 그저 효율을 추구하는 알고리즘일 뿐이라며, 둘은 결코 하나가 될 수 없다는 이분법을 내세운다. 아이러니하게도 경계가 무너지고 있다면서도, 그 경계의 존재를 끝까지 고수하는 모순이 그의 서사 전반을 지배한다.

예컨대 하라리는 알고리즘이 우리의 연애, 진로, 의료 결정까지 대체할 것이라며 인간의 자율성 상실을 우려한다. 하지만 이 주장의 논리는 인간을 자율적이고 내면적인 존재로, 알고리즘을 외재적이고 비인간적인 존재로 설정한 결과다. 다시 말해서 그는 인간과 알고리즘의 닮음을 위험의 근원이라고 전제하면서 동시에 둘은 결코 같아질 수 없다는 역설적 주장을 하는 셈이다.

또한 하라리는 인공지능 기술이 국가와 기업의 독점 아래 권력과 자원을 집중시키고 있다고 지적한다. 그 결과, 인공지능에 종속된 ‘무용한 계급’(Useless class)이 발생하고 있음을 강조한다. 이런 구도 역시 인간이 알고리즘에 의해 대상으로 전락하는 수동적 존재임을 전제한다. 여기서 인간은 더는 역사적 실천의 주체가 아니라, 데이터로 추출되고 조작되는 객체가 된다. 이와 같은 관점에서 그는 인간에 대한 해킹 가능성을 제기한다. 생체 정보와 인공지능이 결합하면 우리의 욕망, 감정, 선택을 예측하고 통제할 수 있다는 것이다. 그러나 이런 주장도 자세히 뜯어보면 역설적이다. 인간이 이렇게 객체로 전락해서 해킹당할 수 있다는 말은 이미 인간이 일정 부분 알고리즘적인 존재라는 뜻이기도 하기 때문이다. 이처럼 하라리는 인간의 고유성과 예측 불가능성을 강조하면서도, 동시에 인간을 예측 가능한 패턴으로 환원하고 있다.

진실과 허위의 경계를 무너뜨리는 생성형 인공지능에 대한 우려도 마찬가지다. 하라리는 인공지능이 진실을 위조하고 민주주의를 붕괴시킬 것이라고 경고한다. 하지만 이는 마치 과거에는 인간 사회가 진실에 기반해 운영됐고, 지금 그것이 위협받고 있다는 식의 낭만적 전제를 포함한다. 신화, 선전, 허위 정보가 인간 사회의 본성적 일부였다는 점은 그의 분석에서 간과된다. 이런 모순적 논리에 근거한 그의 해법 또한 문제다. 하라리는 국제 협력, 윤리적 규제, 기술 감시를 강조하지만, 그가 말하는 해결책은 지나치게 추상적이다. 그가 말하는 인류의 공동 대응은 지정학적 경쟁, 자본주의적 이해관계, 제도적 장벽을 넘어설 수 있는 구체적 방안을 누락하고 있다. 만일 그의 말처럼 권력이 이미 알고리즘으로 이동했다면, 그가 제시하는 윤리적 인류는 그가 묘사한 기술에 의해 분열된 상태일 것이기에 조직적인 대응을 할 수조차 없을 것이다.

진리 탐구에서 멀어진 과학의 도구화

하라리는 뛰어난 스토리텔러다. 그의 비판은 대중 담론을 선도하며 중요한 문제를 던진다. 하지만 그의 인공지능 비판이 궁극적으로 기댄 구도는 취약하다. 그의 주장은 인간과 알고리즘의 경계를 무너뜨리고 융합적인 사고를 펼친다고 평가받지만, 그 경계 없이는 성립하지 않는 서사 구조를 드러낸다. 하라리의 비판은 결국 “인간은 인간이어야 한다”는 선언이지만, 우리가 이미 기술에 의해 구조화된 삶을 살고 있다는 점은 충분히 사유되지 않는다. 인간이란 무엇인가, 알고리즘과 인간 사이에는 과연 넘을 수 없는 본질적 차이가 있는가, 하라리는 묻는다. 그러나 그 질문에 대해 이렇게 되물을 수밖에 없다. 그렇게 말하는 당신이 믿는 그 ‘인간’은 대체 어떤 존재인가.

하라리에 대해 길게 이야기한 이유는 그의 주장에서 인공지능을 둘러싼 일반적 담론의 모순을 새삼 확인할 수 있기 때문이다. 반복해서 이야기했지만 사회적 맥락을 거세한 관점에서 인공지능을 기술 내적인 발전의 논리로만 설명하려는 태도는 하라리가 보여주는 것과 같은 모순의 함정에 쉽게 빠지게 된다. 하라리처럼 휴머니즘의 관점에서 기계와 인간의 대립이라는 고전적인 주제를 재차 호명하는 것은 인간이라는 존재에 대한 특정한 오해를 인공지능에 다시 대입하는 것에 지나지 않는다. 결국 이런 태도 역시 인공지능의 신화를 해체하기보다 오히려 강화하는 쪽에 더 가깝다. 이런 신화는 특정한 사회적 산물인 인공지능을 신비화해서 오히려 기술에 대한 물신화를 조장한다.

인공지능의 위험은 인간의 영역을 기술이 침범하고 그 결과 알고리즘이 우리의 사고체계와 일거수일투족을 지배하게 될 것이라는 악몽보다도 성장주의 이데올로기와 결합한 인공지능의 신화가 신자유주의적 노동 유연화의 논리로 작동하고 있는 구체적 현실에서 드러난다. 이런 현실의 도래는 인공지능의 봄날 이전부터 이미 시작되고 있었다. 앞서 이야기했듯이, 오늘의 인공지능을 만들어낸 그 사회적 조건은 제2차 세계대전을 거치면서 만들어진 것이다. 무엇보다도 상징적인 사건은 바로 원자폭탄의 발명이었다. 일본 히로시마와 나가사키에 원자폭탄이 투하돼서 폭발하는 순간, 인간은 르네상스가 규정했던 그 인간의 모습을 상실했다.

독일의 철학자 귄터 안더스. 게티이미지뱅크

독일 철학자 귄터 안더스는 원자폭탄을 ‘테크노과학’(Technoscience)의 결정판이라고 지칭했다. 한국에서 이 용어는 ‘과학기술’이라는 말로 번역돼 너무도 자연스럽게 받아들여지고 있지만, 사실 과학과 기술은 제2차 세계대전 이전에는 서로 다른 영역이었다. 과학이 자연법칙을 탐구하는 학문이라면 기술은 사용을 중심에 둔 실용적 수단이었다. 그러나 서로 다른 두 영역이 테크노과학으로 거듭나면서 이제 과학은 진리 탐구에서 멀어져 오직 기술의 발전을 위해 복무하게 됐다. 급진적 계몽주의를 떠받치고 있던 과학이라는 진리의 학문이 그 혁명적 본성을 잃어버리고, 특수한 목적만을 중심에 놓는 상용 기술의 발전을 위해 존재하게 된 것이다.

 

원자폭탄은 한갓 무기 아냐

안더스와 마찬가지로 철학자 브뤼노 라투르, 도나 해러웨이, 질베르 오투아 등은 이 ‘테크노과학’이라는 개념을 통해, 과학이 더는 순수한 이론적 활동이 아닌 기계, 자본, 제도, 정치적 권력과 얽힌 실천이라는 점을 강조한다. 이른바 테크노과학의 시대에선, 실험실에서 이뤄지는 지식 생산이 거대한 산업 설비, 군사 예산, 국가 전략과 긴밀하게 연결된다. 이런 테크노과학의 결정체가 바로 원자폭탄을 만들어낸 맨해튼 프로젝트였다. 단순한 과학 이론의 적용이 아닌, 양자역학, 공학기술, 정치적 동원, 군사 전략이 총동원된 초국가적 작업이었다.

핵분열이라는 과학적 가설이 수년 만에 도시를 초토화할 무기로 실현된 그 과정은 인류 역사상 유례없는 일이었다. 원자폭탄은 단순하게 하나의 무기가 인류의 역사에 더해진 것이 아니라 과학과 권력, 지식과 파괴가 동시적으로 만들어낸, 기술과 정치가 하나로 결합한 사건이었다. 이 사건 이후 세계는 더는 예전의 세계가 아니었다. 기술을 통해 인류 전체가 자해적인 파국으로 나아갈 수 있는 가능성의 세계에 우리는 살게 됐다.

이런 테크노과학의 등장으로 일어난 첫 번째 변화는 과학의 군사화였다. 전쟁 이후 랜드연구소(RAND·미국의 방산재벌 맥도널더글러스의 전신인 더글러스 항공이 1948년 설립한 미국의 싱크탱크), 미국 국방고등연구계획국(DARPA) 같은 기관들이 설립되면서 과학은 국가안보 전략의 일환이 됐고, 민간 연구와 군사 연구의 경계는 모호해졌다. 과학은 점점 더 전쟁과 산업의 손에 들어가게 된다. 두 번째 변화는 테크노과학적 상상력의 확장이다. 원자폭탄은 과학이 인간을 구원할 수도, 파멸시킬 수도 있다는 이중적 얼굴을 드러냈다. 진보와 재앙이 하나의 기술 안에 공존하는 이 새로운 상상력은 과학자들 자신에게도 깊은 윤리적 고민을 안겼다. 원자폭탄 발명을 주도한 줄리어스 로버트 오펜하이머는 힌두교 경전을 인용해 “나는 이제 죽음이요, 세상의 파괴자다”라고 회고했다. 정치와 하나가 된 기술의 문제에 과학자가 책임감을 갖고 개입해야 한다는 생각이 이 시기를 기점으로 등장했다. 마지막으로 꼽을 수 있는 변화는 사이버네틱스와 알고리즘 시스템의 부상이다. 전쟁이 끝난 뒤 관심은 개별 기술에서 시스템 전체로 옮겨갔다. 통제, 예측, 피드백 같은 개념이 중요해졌고, 이는 정보이론, 인공지능, 감시 기술 등으로 이어졌다.

테크노과학은 이제 행성 규모로 작동하는 체계가 됐고, 세계를 설명하는 것을 넘어 재구성하고 지배하는 힘이 됐다. 결국 원자폭탄의 개발은 테크노과학의 탄생을 상징하는 사건이었다. 이 사건 이후 과학은 더는 순수하거나 중립적인 활동이 아니었다. 그것은 권력과 결합한 기술적 실천, 정치적 도구가 됐으며, 지식은 더는 무해하지 않았다. 진리와 폭력, 이론과 기계는 이제 하나로 만들어진다. 원자폭탄은 단지 무기가 아니었다. 그것은 새로운 시대가 도래했음을 알리는 파국의 기술이었다. 테크노과학의 논리에 따르면 인간은 효율적 시스템에서 제거돼야 할 무용한 부품일 뿐이다.

인간을 제거 대상으로 만든 ‘테크노과학’

안더스는 이런 테크노과학의 비인간화와 관련한 에피소드 하나를 소개한다. 원자폭탄을 싣고 일본으로 날아갈 조종사를 훈련하는 교관에 대한 이야기인데, 후일 인터뷰에서 교관은 완벽한 비행 시스템에서 가장 난관은 조종사라는 위험요소를 제거하는 것이라고 말했다. 그가 진행한 훈련은 그 조종사를 가장 비인간화해서 기계의 부품처럼 작동하게 하는 과정이었다는 의미였다. 인공지능은 우리가 사는 이 세계를 만들어낸 원인이 아니라 바로 이 비인간화한 세계의 결과인 것이다.

 

이택광 문화비평가·경희대 글로벌커뮤니케이션학부 영미문화전공 교수