딥시크의 끝은 결국 ‘인간’ 인증?

생성형 인공지능의 위협 ‘죽은 인터넷 이론’이 더 이상 음모론에 머물 수 없는 이유

2024년 10월29일(현지시각) 사우디아라비아 리야드 킹압둘아지즈 국제콘퍼런스센터(KAIC)에서 열린 미래투자이니셔티브(FII) 행사에서 테슬라 최고경영자이자 엑스(X·옛 트위터)를 인수한 일론머스크가 화상으로 등장했다. 일론 머스크는 필리핀에서 AI 이용자를 막기 위해 1달러를 지불해야 트위터를 이용할 수 있도록 하는 정책을 시범적으로 도입했다. 연합뉴스

최근 딥시크가 화제다. 챗지피티를 필두로 인공지능(AI) 연구에서 단독 선두를 달리고 있는 줄 알았던 미국은 중국에 뒤통수를 세게 얻어맞았다. 중국 연구진이 ( 여러 논란의 여지는 있으나) 적은 비용으로 주목할 만한 AI 모델을 만들어냈기 때문이다 . 혹자는 이를 두고 AI 기술의 헤게모니가 그래픽 카드의 성능이 중심이 되는 하드웨어 파워에서 모델 설계가 중심이 되는 소프트웨어 파워로 이동했다는 평을 하기도 한다.

 

가짜뉴스와 인포데믹이 판치는 세상

우리가 딥시크를 인공지능 연구의 변곡점으로 기억하게 될지 아직은 확실하지 않다. 현시점에서 유일하게 확실한 건 엔비디아 주주들이 차가운 음봉(주식의 종가가 시가보다 낮게 끝나는 것) 에 눈물을 흘렸으리라는 것이다. 그러나 눈물은 그들만의 것이 아니다. 오늘은 빠르게 발전하는 생성형 AI 의 흔히 알려지지 않은 위협 중 하나인 죽은 인터넷 이론에 관해 이야기해보자.

광고

죽은 인터넷 이론은 대략 2010년대부터 인터넷 이용자들이 막연히 느끼던 불안을 종합한 비관주의적 가설로, 거칠게 요약하자면 “앞으로 인터넷에 공급되는 콘텐츠 대부분은 자동화 봇(AI)의 산물이 될 것”이라는 내용이다. 얼핏 들으면 별문제가 아닌 것처럼 보이기도 한다. 인터넷과 콘텐츠의 관계는 책장과 책의 관계와는 다르다. 데이터가 늘어난다고 인터넷이 마비되거나 가치 있는 정보가 사라지는 것도 아니다. 이미 우리는 가짜뉴스와 그로 인한 인포데믹(부정확한 정보가 감염병처럼 빠르게 확산하는 현상)이 판치는 세상에서 어떻게든 균형을 잡으며 살아가고 있지 않나? 그런 게 좀 늘어난다고 인터넷이 망하지는 않을 것 같은데….

옳은 지적이다. 실제로 그와 같은 이유로 죽은 인터넷 이론은 2022년 이전까지는 편집증적인 음모론 취급을 받았다. 딥페이크 기술로 조작된 가짜 영상들, 검색엔진에 상위 노출되는 것만을 목표로 알고리즘에 따라 자동으로 만들어지는 싸구려 콘텐츠들, 여론조작을 위해 자동으로 특정한 댓글을 달고 다니는 로봇들…. 그런 것들이 존재하는 건 분명하지만 인터넷 전체로 봤을 때 이는 일부에 불과하다고 말이다. 하지만 생성형 AI 의 등장으로 죽은 인터넷 이론의 경고는 이제 학계에서도 진지하게 논의되기 시작했다.

생성형 AI가 특히 문제가 되는 이유는 크게 두 가지다. 하나는 누구나 너무 쉽게, 너무 많은 콘텐츠를 만들어낼 수 있다는 것이다. 다른 하나는 인터넷에서 활동하는 AI를 실제 사람과 구별하기 어렵다는 점이다. 각각은 아래와 같은 방식으로 인터넷을 마비시킨다.

첫째는 ‘썩은 콘텐츠의 범람’이다. 인터넷은 그 자체로 서비스가 아니다. 인터넷은 수많은 컴퓨터가 연결된, 말하자면 정보가 쌓인 바다에 불과하다. 거기서 우리가 영양가 있는 물고기를 잡을 수 있는 건 알고리즘 피드와 검색엔진이 낚시꾼 역할을 수행하기 때문이다. 그런데 바다에 물고기는 적고 쓰레기만 잔뜩 떠다닌다면 낚시가 성공적으로 이루어질 수 있을까?

광고

 

사람과 AI 작성 글 구별이 어려워진 세상

구글은 10년 이상 ‘검색 최적화 기술’(SEO·Search Engine Optimization)을 악용하는 저질 사이트들로 인해 검색의 질이 점점 떨어진다는 비판에 시달려왔다. 어떤 사이트들은 검색엔진의 알고리즘을 분석해 키워드별로 상위 검색 결과를 차지할 수 있는 비법 문구를 알아낸 뒤, 최대한 많은 키워드에 대응할 수 있도록 온갖 비법 문구로 도배된 콘텐츠를 업로드한다. 바다에 떠다니는 쓰레기들에 자석이 달려서 낚싯바늘을 끌어당기기까지 하는 꼴이다.

생성형 AI 의 대유행 이후 이 문제는 더욱 심각해졌다. 구글은 2024년 3월부터 스팸으로 판단되는 사이트를 검색 결과에 표시하지 않도록 하는 조처를 하겠다고 밝혔다. 한때 ‘구글’은 검색의 일반명사처럼 사용될 정도의 위용을 떨쳤다. 그러나 이제 인터넷 사용자들은 구글 검색 대신 유튜브와 인스타그램, 커뮤니티 사이트를 점점 더 많이 이용하고 있다. 질문에 대해 실제 ‘사람들’이 내놓은 답을 보기 위해서다.

둘째, ‘사람과 구별하기 어렵다’는 점이다. 생성형 AI 에 비해 원시적이고 느리긴 해도 충분히 그럴듯한 글을 작성할 수 있는 영어 AI는 이미 2010년대부터 존재했다. 그러나 당시에는 같은 문장이나 무작위 어휘를 도배하는 수준에 불과했기 때문에 프로그램으로 작성한 글을 쉽게 찾아내고 삭제할 수 있었다. 필요하다면 탐지와 삭제 프로세스를 자동화할 수도 있었다. 실제로 현재 수많은 웹사이트와 사회관계망서비스(SNS)들이 인간이 아닌 사용자의 활동을 막는 스팸 필터를 운영한다.

광고

문제는 생성형 AI는 사람이 직접 쓴 듯한 텍스트, 직접 찍은 듯한 사진과 영상을 만들어낼 수 있다는 점이다. 적어도 현재로서는 그런 콘텐츠를 스팸 필터로 걸러내는 것이 불가능하고, 앞으로도 쉽지 않을 가능성이 크다. 인간이 ‘인간답지 않은’ 콘텐츠를 만들 가능성을 배제할 수 없기 때문이기도 하고, 그보다는 인간이 사용하는 소프트웨어들에 인공지능 어시스턴트 기능이 탑재되는 추세가 이어지고 있기 때문이다.

생성형 AI를 이용하면 수많은 유령 계정을 동시에 운영하며 게시판을 특정 주제의 콘텐츠로 도배하는 것이 가능하다. AI가 만든 콘텐츠를 다른 수많은 AI 계정을 활용해 엄청난 숫자의 ‘좋아요’를 받는 인기 콘텐츠로 만드는 것도 가능하다. 여론 조작부터 가짜 스캔들과 더 교묘한 네이티브 광고까지 그 악의적 가능성은 무궁무진하다.

그렇다면 인터넷은 예정된 죽음을 향해 가고 있는가? 전체적으로 보면 답은 “그렇다”. 하지만 그게 우리가 인터넷을 사용하지 못하게 될 거라는 뜻은 아니다. 이상적인 시나리오는 기술적 보안 강화다. 이는 지금도 일어나고 있는 전쟁의 한 면모이기도 하다. 디도스 공격에 대항하기 위해 인터넷 보안 업체는 진짜 인간의 접근과 그렇지 않은 것을 구분하기 위한 방법을 가지고 있으며, 이는 공격자의 발전에 맞춰 끊임없이 진화하고 있다. 같은 방식으로 AI 사용자들을 막아낼 수 있다면 인터넷의 죽음은 충분히 유예될 수 있다.

 

인터넷의 죽음은 유예될 것인가

좀더 현실적인 시나리오는 이런 식이다. 일론 머스크가 인수한 엑스(X·옛 트위터)는 AI 사용자를 막기 위해 매년 1달러를 지불해야 사이트를 이용할 수 있도록 하는 정책을 필리핀에서 시범적으로 도입했다. 해당 조처에 관해 많은 비판이 있는 것은 사실이나 유료 멤버십과 생체인증, 신원 테스트 등의 신원 확인은 결국 대부분의 거대 기술기업이 택하는 방법이 될 것이다. 인터넷은 분열되겠지만, 뭐 어떤가? 이미 우리는 이보다 검열이 심한 인터넷 생활을 하면서도 잘 살고 있지 않았나.

 

서윤빈 소설가

*세상 모든 콘텐츠에서 과학을 추출해보는 시간. 공대 출신 SF 소설가가 건네는 짧고 굵은 과학잡학. 3주에 한 번 연재.

광고