인간이 손을 떼고, 데이터가 가르쳐주는 대로 전쟁을 수행한다면?

“전쟁을 일으키는 인간은 어리석지만, 그 속에서 흘리는 피는 헛된 게 아니다”

2020년 3월 리비아 내전 당시 리비아 통합정부군이 내전 상대인 리비아국민군을 공격할 때 투입한 튀르키예 방산업체 에스티엠(STM)이 개발한 자폭 드론 ‘카르구-2’의 모습. 에스티엠 누리집 갈무리

제겐 ‘인생 애니메이션’(만화 포함)이 두 편 있습니다. 하나는 ‘슬램덩크’이고, 다른 하나는 ‘신기동전기 건담 윙(W)’입니다. 1995~1996년 일본에서 방영한 ‘신기동전기 건담 윙’은 인류가 우주에 진출해 인공 거주지 ‘콜로니’를 만들어 생활하는 시대가 배경입니다.

이 콜로니를 당시 지구에서 가장 큰 정치세력인 ‘지구권 통일연합’이 무력으로 지배하려 했고, ‘에어리즈’(공중 전투용)와 ‘리오’(지상 전투용) 등 인간이 조종하는 거대 로봇 무기(모빌슈트)를 앞세워 그 무력 진압의 선봉에 선 군사조직이 ‘오즈’(OZ)입니다. 이 오즈의 총수인 트레이즈 크슈리나다는 콜로니와의 공존과 화평을 꾀한 지구권 통일연합 수뇌부를 사망에 이르게 하고 쿠데타를 일으킵니다. 이런 오즈에 막대한 자금과 군사기술을 제공한 세력이 롬펠러 재단입니다.

그런데 트레이즈가 재단에 반기를 듭니다. 재단이 인간이 조종하지 않는 로봇 ‘모빌돌’을 개발해 양산하려고 했기 때문입니다. 지금으로 치면 자율살상무기체계(LAWS)의 전력화를 계획한 것입니다. 그러나 “죽음을 꺼리지 않는 병사, 그런 자세야말로 바른 인간이 바르게 싸우는 방법이다” “싸움이라는 행위 안에서 (인간의 존재 의미에 대한) 해답을 찾아내야만 한다”(34화 대사)라고 생각한 트레이즈는 재단에 항명해 한때 유폐됩니다.

제1607호 표지이야기 기사를 쓸 때 이 애니메이션의 여러 장면이 떠올랐습니다. 오즈 우주군에 납치돼 애니메이션 주인공 기체인 ‘건담’보다 성능이 더 뛰어난 모빌슈트를 만들라는 강요를 받은 건담 개발자들은 이렇게 말합니다.(18화) 닥터 제이(J)는 “자신의 손을 더럽히지 않고 싸우다니, 이건 게임이군! 전쟁을 일으키는 인간은 어리석지만, 그 속에서 흘리는 피는 헛된 게 아니다”라며 “기술이 없어서가 아니다! 전쟁을 하는 책임을 몸으로 느끼기 위해 자동 기능을 안 넣는 것이다!”라고 오즈 지휘관에 맞섭니다. 프로페서 지(G)도 “어리석은 인간은 그 피를 보고 조금이나마 반성할 수 있다. 그러나 게임으로 전락한 전쟁은 오락에 불과할 뿐!”이라고 목소리를 높입니다.

지금의 세계는 이들의 말과 정반대 방향으로 가고 있습니다. 미국, 러시아, 중국 등 군사강국들은 일찌감치 인공지능(AI) 기술을 탑재한 무인 무기체계를 개발하고 있고 그 개발은 인간의 통제마저 벗어난 자율살상무기체계의 출현으로 이어지고 있습니다. 인간이 설계된 알고리즘에 따라 처리된 데이터가 가르쳐주는 대로 전쟁을 수행하고 심지어 공격 단추에서도 손을 뗀다면, 인간의 어리석음이 만들어내는 전쟁이 지금보다 더 자주, 그리고 끊임없이 되풀이될 것입니다. 그 비극을 막기 위한 실천을 해야 할 때 한국 정부와 국회는 되레 비극으로 가는 빗장을 풀려 하고 있습니다. 평화를 바라는 사람들과 함께 계속 관심을 갖고 감시하겠습니다.

오세진 기자 [e-mail]

□ 제1607호 표지이야기: 책임 없는 살상 AI
<게임처럼 죽이고, 아무도 책임지지 않는다>
https://h21.hani.co.kr/arti/society/society_general/59080.html
<혁신의 이름으로, 살상이 자동화된다>
https://h21.hani.co.kr/arti/society/society_general/59083.html
<세계 최초? 가장 위험한 선례가 될 수도 있다>
https://h21.hani.co.kr/arti/society/society_general/59090.html