전쟁범죄 일삼는 미국과 이스라엘, 일상화 된 전장의 AI

문아영 피스모모 대표 인터뷰 “표적 오인에 따른 장애인 등 민간인 희생 위험 줄여야”

문아영 피스모모 대표. 경성문화사 제공

전쟁범죄를 일삼는 대표적인 두 나라가 있다. 도널드 트럼프 2기 행정부 출범 이래 패권주의(강대한 군사력을 배경으로 세계를 지배하려는 제국주의 정책)를 강화한 미국, 팔레스타인 땅을 식민지배하는 이스라엘이다. 이들의 공습과 폭격은 군사목표물이 아닌 집, 학교, 병원을 파괴해 민간인을 살해한다. 사상자 상당수는 여성과 어린이다. 특히 이스라엘은 가자지구로 식량, 식수, 의료 물자를 반입하지 못하게 하고 주거지역과 의료시설을 파괴해 팔레스타인 사람들을 절멸로 내몰고 있다. 두 전범국의 파괴 행위는 인공지능(AI)을 만나 전장의 확대와 전쟁의 일상화로 이어지고 있다.

출구가 보이지 않는 전쟁 소식을 매일매일 보면서, AI 기술 발전으로 인간의 통제마저 벗어난 무기가 사람을 살상하는 현실과 마주하는 문아영 피스모모 대표는 순간순간 정신이 아득해진다. 2012년 9월 동료들과 함께 피스모모를 창립해 평화·교육 활동을 하는 문아영 대표에게 그를 아끼는 사람들이 가끔 묻는다. ‘네가 하는 일들이 정말 의미 있고 중요하지만, 이렇게 해서 무엇이 달라질 수 있겠니?’

문 대표는 ‘되고 싶은 무엇’을 정했다. 바로 ‘손톱 밑의 가시’였다. ‘잘 보이지도 않는데 분명히 있어서 계속 불편하고 아프게 하는 손톱 밑의 가시. 그러다 염증이 나고, 뭐라도 하게 할 수 있으면 그보다 좋을 수 없겠다’고 생각했다. 그런 문 대표의 눈에 국회에 발의된 국방인공지능법안은 가시가 필요한 손톱이다. 피스모모가 2026년 4월10일 발행한 ‘‘국방인공지능기본법’ 검토 보고서: 기계에게 살상을 위임하는 국가’를 쓴 문 대표를 5월6일 인터뷰했다.

―법안에 문제가 많다고 지적했다.

“국제사회가 그 위험성을 우려해서 금지하려는 자율살상무기체계(LAWS)에 대한 법적 정의가 없고, 금지 또는 제한 조항도 없다. 자율무기 사용으로 발생한 민간인 피해에 대해 책임을 묻는 체계도 없고, 무기체계 개발 단계부터 국제인도법의 기본 원칙(민간인 공격 금지와 과도한 민간인 피해가 예상되는 공격 금지 등)을 준수하도록 하는 법적 검토 절차도 없다. 국제인도법 준수 및 인권영향평가 의무화 등 최소한의 규범적 안전장치마저 없는 법안이다.”

―무기에 사용할 민간 AI 기술 발굴·도입을 ‘의무’로 규정한 조항도 문제라고 했다.

“항공촬영, 물류 배송, 농업 모니터링 등 민간 영역에서 발전한 소형 드론(무인기) 기술이 현재 전장에서 살상용으로 광범위하게 전용되고 있다. 민간 영역에서 신원확인, 출입보안, 실종자 수색 등에 활용된 안면인식 기술은 군사 표적 식별 시스템에 이식됐다. 의료영상 진단, 자율주행, 산업 품질관리 등 민간 영역에서 발전한 컴퓨터 비전 알고리즘 기술은 자동 표적 인식 시스템에 활용되고 있다. 모두 ‘평화적 목적’으로 개발됐다가 살상무기에 전용된 대표적 사례다. 해당 조항은 민간 기술의 무기화 과정을 국가가 ‘적극적’으로 추진하도록 의무화하면서 인권영향평가나 국제인도법 적합성 심사 등 절차상 규제 요건은 전혀 두지 않고 있다.”

―“전쟁의 의사결정과 무기 개발이 여전히, 극히 남성 중심적 구조에서 이뤄지는 현실에서 자율무기의 피해를 가장 심각하게 입은 것은 민간인, 그중에서도 여성과 어린이, 장애인, 소수자 집단”이라고 말했다.

“2018년 미국 매사추세츠공과대학(MIT) 미디어랩에서 발표한 ‘젠더 셰이즈’(Gender Shades) 연구 결과를 보면, 마이크로소프트 등 주요 기업의 상용 안면인식 시스템에서 백인 남성 식별 오류율은 0.8%인데 흑인 여성 오류율은 최대 34.7%에 달했다. 2024년 유네스코 국제인공지능연구센터는 생성형 AI가 성소수자나 여성 관련 질문에 덜 긍정적인 반응을 보이는 경우가 많았고, 성별과 인종이 다른 구성원에게 고정관념화된 직업을 할당하는 경향이 있음을 실증했다. 2018년 ‘젠더 셰이즈’ 연구 이후 6년이 지난 시점에도 더 큰 규모의 거대언어모델(LLM)에서 동일한 구조의 편향이 재생산되고 있음을 보여준다고 할 수 있다. 이런 편향이 군사 표적 시스템에 그대로 이식되면 특정 인종·성별의 사람들이 ‘의심스러운 인물’로 오분류돼 표적이 될 위험이 비대칭적으로 높아진다. 또 컴퓨터 비전 시스템이 일반적으로 ‘정상적’ 보행 패턴을 학습 기준으로 삼기 때문에, 휠체어 사용자나 보행 장애가 있는 사람들의 움직임을 ‘비정상’ 또는 ‘회피 행동’으로 오인할 위험이 있다는 점도 AI 윤리 학계에서 꾸준히 지적됐다.”

―한겨레21에 바라는 점이 있다면.

“앞서 자율살상무기체계의 국내외 규범적 쟁점을 깊이 다뤄줘서 고맙다.(제1607호 표지이야기) 전쟁이 스펙터클로 소비되지 않도록 평화를 위한 저널리즘 역할을 부탁드리며, 인간다움과 존엄, 평화롭게 살아갈 모두의 권리에 대해 더 많은 이야기를 담아주길 바란다.”

오세진 기자 [e-mail]

□ 제1607호 표지이야기: 책임 없는 살상 AI

<게임처럼 죽이고, 아무도 책임지지 않는다>
https://h21.hani.co.kr/arti/society/society_general/59080.html

<AI 군인이 전장을 누비는 시대>
https://h21.hani.co.kr/arti/society/society_general/59083.html

<세계 최초? 가장 위험한 선례가 될 수도 있다>
https://h21.hani.co.kr/arti/society/society_general/59090.html