“언론·법원 파괴는 독재자의 매뉴얼”

유발 하라리 기자간담회 “한국 계엄 놀라지 않아… 권력자가 종종 일으키는 일”

역사학자·저술가인 유발 하라리는 “인공지능은 ‘도구’가 아니라 이미 스스로 판단하고 행동하는 주체적인 ‘행위자’이며, 인류가 서로를 신뢰하지 않고 인공지능 기술을 제어하지 못한다면 큰 위기에 봉착할 것”이라고 말했다. 김영사 제공

“독재자들에게는 매뉴얼이 있다. 가장 먼저 언론과 독립된 법원을 파괴하는 것이다. (불법적인 통치 상황이 벌어졌을 때) 언론은 적극 대중에게 알려야 하고, 법원은 불법을 중단시킬 수 있어야 한다. 그것이 민주주의의 견제와 균형의 장치다.”

세계적 밀리언셀러 ‘사피엔스’를 쓴 역사학자 겸 저술가 유발 하라리가 한국을 방문했다. 2024년 번역돼 나온 ‘넥서스’(김영사 펴냄)의 홍보를 위해 출판사가 2025년 3월20일 서울 종로구 노무현시민센터에서 마련한 기자간담회에서 그는 인공지능(AI)의 위험성과 민주주의의 위협, 언론의 중요성에 대해 심도 깊은 의견을 밝혔다. 장대익 가천대 스타트업칼리지 학장(진화학, 과학철학 전공)도 사회 겸 대담자로 자리를 함께했다.

 

광고

하라리 ‘빅픽처’가 던지는 최종 질문

하라리는 ‘사피엔스’ ‘호모 데우스’ ‘넥서스’까지 3부작을 쓴 역사학자이자 이 시대의 독보적인 이야기꾼으로서 인류의 거시사인 ‘빅히스토리’를 선보였다. ‘사피엔스’는 세계적으로 4500만 부, 한국에서만 130만 부가 팔렸다. 사피엔스가 멸종하지 않고 살아남은 이유는 종교, 국가, 화폐 같은 허구를 통해 사회를 만들고 정보를 교류하며 질서를 지킬 수 있었기 때문이라고 그는 설명한다. 진화를 통해 발전해온 인간이 신의 영역에 도전하다가 끝내 자신이 창조해낸 인공지능 시스템에 휩싸여 절멸하고 마는가? 이것이 십수년 간 인류의 거대사를 펼쳐온 하라리의 ‘빅픽처’가 던지는 최종 질문이다.

하라리는 “인공지능은 ‘도구’가 아니라 이미 스스로 판단하고 행동하는 주체적인 ‘행위자’이며, 인류가 서로를 신뢰하지 않고 인공지능 기술을 제어하지 못한다면 큰 위기에 봉착할 것”이라고 인공지능의 규제 합의를 촉구했다.

“독재자는 공포를 통해 통치한다. 요즘은 챗봇과 알고리즘이 공포와 증오의 콘텐츠를 더 의도적으로 선별하고 퍼트린다. 그러나 민주주의 또한 무기력하지 않다. 제어를 위해서는 법 제정이 가장 중요하다. 위조 인간과 진짜 인간을 구분하고 인공지능이 사람인 척하는 것을 금지하는 법을 만들어야 한다.”

하라리는 테슬라 창업자인 일론 머스크와 인공지능의 ‘대부’로 일컬어지는 노벨물리학상 수상자 제프리 힌턴 캐나다 토론토대학 교수 등 전문가들이 공개적으로 인공지능에 대해 경고했던 것을 예로 들며 전문가나 기업인들이 자신들의 불이익을 감수하고 인공지능의 위험을 강조하는 것은 “본인들 역시 두렵기 때문”이라고 말했다.

광고

“인공지능은 자동화된 기계와 달리 스스로 판단한다. 새로운 약, 군사, 종교, 이념을 만드는 쪽으로 인공지능이 진화한다면 굉장히 큰 문제가 될 것이다. 인공지능이 인류를 위협할 수도 있고 19세기 산업혁명을 거친 몇몇 나라가 다른 나머지 국가를 정복하고 착취했듯, 앞으로도 2~3개 국가가 ‘인공지능 제국화’를 할 수도 있다고 본다.”

 

진실은 비싸다, 그러나 필요하다

하라리는 인공지능이 인간의 노동력을 대체할 것이며 이를 대비해 유연성과 개방성이 점점 중요해질 것이라고 내다봤다. 또한 “지적 기술, 감정과 관련된 사회적 관계의 기술, 육체노동 세 가지 가운데 지적인 기술이야말로 인공지능이 대체하기 가장 좋은 기술”이라고 했다. 그러나 “인간 언론인”의 역할은 그만큼 중요해진다고도 덧붙였다.

“진실과 허구는 차이가 있다. 첫째, 진실은 비싸지만 허구는 저렴하다. 정보가 누구에게나 100% 개방되면 진실이 저절로 드러나리라 보는 것은 안일한 믿음이다. 인공지능이 만든 정보 대부분이 쓰레기, 환상, 망상, 거짓일 수 있다. 누군가 시간, 노력, 돈을 들여 증거를 수집하고 확인하는 과정을 거쳐야 한다. 둘째, 진실은 복잡하고 허구는 단순하다. 셋째, 진실은 고통스럽다. 진실은 우리가 모르고 싶은 것을 폭로하고 드러낸다. 이런 드문 보석(진실)을 지키기 위해, 언론을 지키고 언론인을 키우기 위한 노력을 기울이고 투자해야 한다.”

광고

하라리는 인공지능이 정치에 큰 영향력을 미칠 것이며 민주주의에 위협을 가져다줄 것이라고 또한 여러 차례 경고해왔다. 2024년 12월3일 한국에서 대통령 윤석열이 비상계엄을 선포했을 때도 하라리는 놀라지 않았다고 했다.

“인도에서 친구가 코리아에서 쿠데타가 일어났다고 해서 북한이냐고 물었더니 친구가 남한이라고 했다. 그렇지만 크게 놀라지는 않았다. 역사적으로 민주주의 국가에서 계엄, 쿠데타가 벌어질 때는 저항세력이 아니라 친위쿠데타가 대부분이다. 집권하는 세력이 쿠데타를 일으키는 일이 훨씬 많이 일어난다.”

윤석열은 체포영장 집행 직전 관저를 찾아온 국민의힘 의원들에게 ‘레거시 미디어(신문·방송 등 전통 언론)는 너무 편향돼 있다’며 ‘유튜브에서 잘 정리된 정보를 보라’는 뜻을 전한 것으로 알려졌다. 그러나 하라리는 이날 레거시 미디어의 균형감이 여전히 필요하다고 강조했다. 유튜브의 편향된 알고리즘이 사회적 갈등을 증폭시키고, 민주주의적 대화를 방해한다는 뜻이다. “유튜브 알고리즘은 사용자 참여를 극대화하기 위해 분노와 같은 강한 감정을 자극하는 콘텐츠를 추천하기 때문이다.” 민주주의를 위해 사용자들이 레거시 미디어와 유튜브 같은 뉴미디어의 차이를 인식할 필요도 있다고 하라리는 덧붙였다.

“중요한 건 정보의 신뢰성이다. 300년 정도 이어온 신문의 경우는 완벽하지 않아도 진실을 분별하는 장치를 갖고 있다. 반면 사회관계망서비스(SNS)의 편집은 알고리즘을 따른다. 진실엔 관심이 없고 사용자의 참여도를 가장 높일 수 있는 것을 추천한다. 분노, 공포, 욕심의 버튼을 누르는 것이다. SNS에서 연예기사와 뉴스는 차이가 없다. 코미디가 뉴스고, 정치도 마찬가지다.”

 

“뉴스와 정치는 지루할수록 좋다”

가장 충격적인 예가 도널드 트럼프 미국 대통령과 볼로디미르 젤렌스키 우크라이나 대통령의 백악관 기자회견이었다고 그는 말했다. 논쟁이 거칠어지자 트럼프 대통령은 회담인지 말싸움인지 모를 자리를 끝내며 “미국 국민이 무슨 일이 벌어지는지 직접 보는 건 좋은 일이다. 훌륭한 텔레비전 쇼가 될 것”이라고 마지막 말을 남긴 바 있다.

“트럼프는 ‘이것은 훌륭한 텔레비전 쇼’라고 말했는데, 이건 정치가 아니라 리얼리티 쇼라는 얘기다. 이제 리얼리티 쇼와 정치는 구분이 가지 않는다. 나는 정치 뉴스와 엔터테인먼트를 구분할 필요가 있다고 생각한다. 뉴스와 정치는 지루할수록 좋다고 본다.”

하라리는 “민주주의 국가에서 지도자는 임기가 제한된 권력만 허락된다는 조건이 붙는다”며 “재집권을 위해 언론을 억누르고 법원을 파괴하는 일이 벌어진다”고 말했다. “독재 권력이 권력 유지를 위해 법을 파괴하고 언론을 억누른 뒤엔 선거를 해도 독재자의 들러리가 될 뿐이다. 러시아와 북한의 경우도 마찬가지다. 이를 제재할 수 있는 제도적 메커니즘이 있느냐가 핵심이다. 정부의 힘을 제어하는 자정 기능이 있어야 한다.”

2025년 3월20일 서울 종로구 노무현시민센터에서 열린 ‘넥서스’ 출간 기자간담회에 참석한 저자 유발 하라리가 기자들의 질문에 답하고 있다. 김영사 제공

인공지능, 사용할 것인가 지배당할 것인가

인공지능은 인류에게 위기를 가져다주었지만 가능성 있다는 점 또한 강조했다. 하라리는 23년 전 자신의 남편을 만났던 곳이 세계 최초의 SNS 플랫폼이었다며 “당시 동성애 혐오가 강한 이스라엘에서 다른 동성애자를 만나기가 힘들었지만 그때 소셜네트워크에서 남편을 만났고 지금도 함께하고 있다”고 말했다. “인공지능이라는 신기술을 제대로 사용하려는 심리적, 사회적 욕구들이 있다는 뜻이다. 그들이 우리를 이용하는 게 아니라 우리가 어떻게 인공지능을 사용할 것인지 진지한 논의가 필요하다.”

하라리는 인공지능의 위험성을 공유하고 규제하기 위해 가장 협력해야 하는 이 시기에 인류가 서로에 대한 신뢰를 상실해 우려된다고 말했다. 세계 각국에서 글로벌 기업인, 정치인, 과학자들을 만나 이야기를 나눠보면 다들 인공지능의 위험성을 알고 있다고 대답하지만 정작 기술 개발 속도를 지연시키거나 규제 방안을 마련하는 데는 소극적이라는 얘기다.

“왜 이렇게 기술 개발을 서둘러야만 하느냐고 물으면 다들 ‘위험한 것도 알고, 신중하고 조심스럽게 접근해야 한다는 것도 알고 있다. 하지만 다른 인간 경쟁자를 신뢰할 수 없고 내가 뒤처지면 경쟁자나 경쟁국이 기술을 장악하며 통치하게 될 것’이라고 답한다. 초지능을 가진 인공지능을 믿으면서 인간은 못 믿겠다는 역설(패러독스)가 발생한다. 지금이라도 신뢰의 우선 순위를 바꿔야 한다.”

그는 자칫 단순하고, 반짝거리고, 예쁘고, 쓰레기 같은 정보 더미에 짓눌려 ‘진실’이 보이지 않게 될 수도 있다고 경고했다. 이와 함께 정보 습득에도 다이어트가 필요하다고 했다.

“식이요법을 하고 음식을 가려 먹듯 정보도 다이어트를 해야 한다. 많은 정보를 소화하고 생각하려면 잠시 시간을 끌 필요가 있다. 마음도 마찬가지다. 나는 매일 2시간 명상을 통해 잠시 멈춤의 시간을 갖고 있다. 정보를 입수하는 일을 멈추고 성찰·반추하는 게 중요하다. 인류 앞에는 여러 갈래 길이 있다. 지금 이곳에서 우리의 결단과 합의와 노력이 필요하다.”

 

이유진 선임기자 [e-mail]

광고