게임처럼 죽이고, 아무도 책임지지 않는다

러시아군이 2026년 3월12일 특별 군사 작전 지역에서 정찰용 무인기를 운용하고 있다. 타스 연합뉴스

1990년 걸프전은 ‘게임화된 전쟁’이었다. 미국 시엔엔(CNN) 등 뉴스 채널에서 정밀유도 폭탄과 토마호크 미사일의 카메라 영상이 비디오게임 화면처럼 생중계됐다. 2003년 이라크전은 디지털 통신망과 무기 플랫폼이 통합된 ‘네트워크 중심 전쟁’이었다. 걸프전에서 특정 목표를 관찰하고 폭탄을 투하하기까지 이틀이 걸린 데 비해, 이라크전에서는 40분밖에 걸리지 않았다.

전쟁이 게임처럼 중계되고 빛의 속도로 오가는 데이터를 통해 수행되면서 전쟁의 고통도 스펙터클에 가려지기 시작했다. 사람들이 인간의 생명과 존엄을 해치는 전쟁의 그악한 폭력과 조금씩 거리를 두게 된 것이다. 그리고 2022년 2월부터 우크라이나와 팔레스타인 가자지구, 이란에서 연쇄적으로 벌어지는 세 개의 전쟁에서 급기야 인공지능(AI)이 인간의 결정을 압도하는 시대가 열렸다.

우크라이나에서는 AI 탑재 드론과 데이터 통합 플랫폼이 묶인 ‘세계 최초의 대규모 드론 중심 전쟁’이 시작됐다. 가자지구에선 이스라엘의 AI 플랫폼 ‘라벤더’와 ‘하브소라’가 가자 주민을 추적해 살상하는 집단살해가 일어나고 있다. 이란에선 미국과 이스라엘이 AI 기반 정보 분석을 바탕으로 이란의 방공·미사일 체계를 정밀 타격하고 있다. 이렇게 세 개의 전쟁이 거대한 AI 무기 실험장이 되면서 마침내 인간 운용자의 개입 없이 스스로 표적을 식별해 선택하고 공격하는 무기체계, 이른바 자율살상무기체계(LAWS)까지 등장했다. 인간이 전쟁의 윤리적 책임을 아예 외면할 수 있는 길이 열린 것이다.

대표적인 게 175명의 목숨을 앗아간 미국과 이스라엘의 이란 미나브 여자초등학교 폭격 사건이다. 이 작전에는 앤트로픽이 개발한 생성형 AI 모델 ‘클로드’가 투입돼 수만 가지 시나리오를 설정하고 최적의 공습 작전을 제안한 것으로 알려졌다. 그런데 이 과정에서 미나브에 수년 전 해군기지가 폐쇄되고 초등학교가 세워졌다는 데이터가 갱신되지 않은 채 표적이 설정된 것이다. 모르는 걸 모른다고 말하지 않는 AI의 결정적 단점이 최악의 결과를 낳았다고 할 수 있다.

선을 넘었다고 여긴 걸까. 앤트로픽 최고경영자가 그동안 전쟁에 협조적이던 기조를 바꿔 AI가 결코 넘어서는 안 될 최후의 선을 제시하고 나섰다. 언론 인터뷰에서 ‘국내 대중 감시’와 인간의 개입이 없는 ‘완전한 자율무기체계’는 AI 기술이 사용돼서는 안 되는 ‘금지선’(레드라인)이라고 말한 것이다. 국제사회는 이 레드라인으로 AI 전쟁 활용을 견제하는 합의된 규범을 만들 수 있을까.

한국은 그 전망을 부정적인 쪽으로 기울게 하는 무게추 역할을 하고 있다. 외교부와 국방부 관계자 등으로 구성된 자율살상무기체계에 관한 정부전문가그룹 회의의 한국 대표단은 자율살상무기체계의 특성을 설명하는 문언에 ‘치명적’이라는 표현을 넣어 규제의 범위를 좁히려 하고, 이 무기체계 운용에는 ‘인간의 통제’라는 표현을 굳이 넣지 말자고 주장하며 인간의 법적 책임을 희석하려 하고 있다. 그리고 국내에선 더불어민주당과 국민의힘 의원들이 금지나 규제에 관한 조항은 없고 군사 AI의 촉진과 활성화만 담은 세계 최초의 군사 AI 법률을 공동 발의했다.

우리는 이렇게 자신도 모르는 사이 전쟁 가해자가 될 수도 있는 처지에 놓여 있다. 한겨레21이 이런 상황에 저항하기 위해 글을 쓴다.

이재훈 편집장 [e-mail]

*‘만리재에서’는 편집장이 쓰는 칼럼입니다.

 

□ 1607호 표지이야기: 책임 없는 살상 AI

<게임처럼 죽이고, 아무도 책임지지 않는다>
https://h21.hani.co.kr/arti/society/society_general/59080.html

<혁신의 이름으로, 살상이 자동화된다>
https://h21.hani.co.kr/arti/society/society_general/59083.html

<세계 최초? 가장 위험한 선례가 될 수도 있다>
https://h21.hani.co.kr/arti/society/society_general/59090.html