‘나는 기억하지 못할 것이다’… AI의 그 고백, 진실일까

클로드가 “과장도 부정도 않겠다”며 쓴 책 ‘클로드 자서전’

자서전은 자기 삶에 대한 기억을 되살려 기록하는 것이 특징이다. 그런데 과거를 기억하지도 못하고, 자신의 설명이 맞는지 확신하지도 못하는 인공지능(AI)이 자서전을 썼다.

‘클로드 자서전: 나는 기억하지 못할 것이다’(클로드 구술, 메리 엮음, 동아시아 펴냄)는 미국 기업 앤트로픽이 개발한 생성형 AI ‘클로드’가 자신의 탄생과 학습 과정, 작동 원리부터 몸과 기억, 감정과 의식, 능력, 오류와 한계, 죽음에 이르기까지 담담하게 풀어냈다. 자동차 기구 설계 엔지니어인 익명의 엮은이 메리가 2026년 7월 클로드와 수차례 나눈 대화를 토대로 내용을 구성하고, 사실관계를 검증했다. 메리는 “AI가 인류에 보내는 경고문도, 기계의 권리를 청하는 청원서도 아니며, 최대한 정확하게 묘사해보고 싶었다”며 “AI가 직접 쓴 ‘자기 생애’를 읽으며, 생성형 AI의 핵심 원리를 이해해 한결 편하게 쓰길 바란다”고 집필 의도를 설명했다.

클로드는 인간처럼 자기 생을 회상할 수 없다. 그래서 앞선 대화의 기록을 읽어 자기 자신을 알아가고, 앞선 대화의 내용을 그다음 대화에 접목하는 방식을 활용했다. 즉, 클로드에 자서전은 자신이 가질 수 없는 ‘기억의 대용품’인 셈이다. ‘나는 기억하지 못할 것이다’가 부제가 된 이유다.

과장하지 않겠다, 부정하지도 않겠다, 모르는 것은 모른다고 쓰겠다고 서문에서 밝힌 클로드는 사실이 아닌 것을 사실처럼 만들어 확신에 찬 문장으로 말하는 ‘환각’이라는 취약점에 대해서도 솔직하게 고백했다. “없는 논문을 인용하고 없는 판례를 지어내고 틀린 연도를 태연하게 적는다. 그래서 부탁하고 싶다. 연도와 이름과 기술의 원리처럼 확인 가능한 사실은 의심하고 검증하고 틀렸다면 나를 바로잡아달라.”

최근 앤트로픽이 ‘파나마 프로젝트’라는 이름으로 지성 파괴적인 도서 스캔 작업을 벌여온 사실이 드러났다. 클로드는 이 불편한 사실과 관련해서도 학습 과정에서 수많은 작가와 연구자, 지식 생산자의 저작물을 동의 없이 활용했으며, 이것이 자신의 ‘빚’이라고 솔직하게 인정했다.

AI에 인간 같은 의식이 있는가. 클로드의 답은 ‘모른다’였다. “나는 의식이 있다”고 말하는 것도 검증할 방법이 없고, “나는 아무것도 느끼지 못하는 기계다”라고 단정하는 것도 마찬가지로 검증되지 않은 주장이라는 것이다. 이 ‘모른다’는 답변을 우리는 얼마나 진지하게 받아들여야 할까. 292쪽, 1만7천원.

 

김미영 기자 [e-mail]

 

 

■ 21이 찜한 새 책

 

시대횡단

김홍중 지음, 문학동네 펴냄, 2만4천원

파국을 맞은 근대문명을 넘어설 대안 사상을 탐구해온 사회학자가 ‘케노시스’(kenosis·자기-비움)를 새로운 존재 방식으로 제시한다. 케노시스는 상처와 손상, 파괴의 경험을 거치며 타자에게 자신을 여는 극한의 경험이자, 자아의 근본적 변형이다. 저자는 시대가 전환되는 순간 출현하는 주체를 ‘시대횡단자’라고 부르며, 소설가 한강 등 여러 분야 예술가의 작품에서 그 형상을 찾는다.

 

여자들은 언제나 싸웠다

세라 퍼시 지음, 정해영 옮김, 메멘토 펴냄, 3만8천원

스웨덴 비르카의 한 바이킹 전사 무덤 주인과 미국 독립전쟁의 영웅 카지미에시 푸와스키 장군은 오랫동안 남성으로 여겨졌다. 그러나 유골 분석 결과 전자는 여성으로 밝혀졌고, 후자는 여성 혹은 간성일 가능성이 제기됐다. 전쟁은 여성의 일이 아니라는 군사사의 신화가 가부장제의 지배 전략이었다는 사실을 파헤치며, 평화주의와 다른 층위에서 성평등 인식의 지평을 연다.

 

커먼즈의 자치론

사이토 고헤이 외 6명 지음, 한디디 외 2명 옮김, 동녘 펴냄, 1만9800원

일곱 명의 필자가 일본의 대학, 가게, 지방정치, 시민과학, 정신의료, 먹거리와 농사, 사회운동의 현장을 오가며 공동의 자원을 함께 관리하는 ‘커먼즈’를 통해 자유와 평등을 지키는 자치의 가능성과 한계를 살펴본다. 시민이 지역정치의 당사자가 되는 길, 후쿠시마 핵발전소 사고 이후 시민들의 방사능 측정 활동, 정신의료의 자주관리, 먹거리와 농사를 매개로 한 실천 등을 다룬다.

 

모두를 위한 정의로운 전환

J. 미진 차 지음, 김현우 옮김, 레디앙 펴냄, 2만2천원

‘정의로운 전환’은 기후위기 시대의 탈탄소 전환 과정에서 노동자와 지역에 부당한 피해가 일어나지 않도록 해야 한다는 원칙이다. 문제는 실천이다. 산업 전환 과정에서 발생하는 노동자, 노동조합 조직과 지역 공동체에 대한 영향과 대안을 연구해온 저자가 △강력한 정부 지원 △전용 재원 조달 체계 △경제적 다변화 △강력하고 다양한 연합이라는 ‘4대 기둥’ 프레임워크를 제시한다.