AI가 죽이는 전쟁, 우리는 막을 생각이 없다

일러스트레이션 장광석

미국과 이스라엘이 이란을 폭격하기 시작한 2026년 2월28일 미국 시비에스(CBS) 방송은 인공지능(AI) 기업 앤트로픽의 최고경영자(CEO) 다리오 아모데이를 독점 인터뷰한 동영상을 공개했다. 이날은 도널드 트럼프 대통령이 모든 연방기관에 앤트로픽이 개발한 AI 기술을 사용하지 말 것을 지시하고, 이후 피트 헤그세스 전쟁부(국방부) 장관이 엑스(X·옛 트위터)를 통해 앤트로픽을 ‘공급망 위험’ 기업으로 지정하겠다고 선언한 바로 다음날이기도 하다. 전쟁부의 공급망 위험 지정은 향후 전쟁부와 계약하는 기업에 앤트로픽이 만든 기술이나 제품을 사용하지 않는다는 사실을 인증하도록 하는 조치다.

3월4일 전쟁부로부터 공급망 위험 기업으로 지정됐다는 서한을 받은 앤트로픽은 그간 미군의 여러 군사작전에서 자사의 AI 기술을 적극 지원해왔다. 월스트리트저널, 액시오스 등 외신 보도를 종합하면 미국이 이번에 이란을 공습할 때 앤트로픽이 개발한 거대언어모델(LLM) 기반의 생성형 AI(대화·이미지·동영상 등 새 콘텐츠를 만들 수 있는 AI) ‘클로드’가 수만 가지 시나리오 중 최적의 공습 작전을 제안한 것으로 알려졌다. 클로드가 인간 살상에 쓰인 것이다.

그런 앤트로픽이 전쟁부와 대립각을 세우기 시작했다. 인터뷰에서 “우리는 전쟁부에 기본적으로 그들이 원하는 사용 사례의 98% 또는 99%는 (앤트로픽 기술을 사용해도) 괜찮다고 말했지만, 우려하는 두 가지 예외가 있다”고 말한 아모데이는 ‘국내 대중 감시’와 인간의 개입이 없는 ‘완전한 자율무기체계’가 그 두 가지 예외, 즉 AI 기술이 사용돼서는 안 되는 ‘금지선’(레드라인)이라고 밝혔다.

“우선, 오늘날의 AI 시스템은 완전 자율무기를 만들 만큼 신뢰성이 전혀 높지 않습니다. AI 모델을 다뤄본 사람이라면 누구나 알겠지만, 기술 측면에서 우리가 아직 해결하지 못한 근본적인 예측 불가능성(이를테면 AI가 그럴듯하지만 실제로는 틀리거나 존재하지 않는 내용을 마치 사실인 것처럼 생성하는 ‘환각’ 문제)이 존재한다는 점을 누구나 이해합니다. 그리고 감독 문제도 있습니다. 만약 인간의 감독 없이 작동할 수 있는 대규모 드론(무인기)이나 로봇 군대가 있어서, 누구를 표적으로 삼고 쏠지 결정할 인간 병사가 없다면 이는 심각한 우려를 낳습니다.” 아모데이의 말이다.

AI 군비 경쟁이 갈수록 심해지는 현실 속에서 그동안 전쟁부에 협조적이던 아모데이는 AI가 결코 넘어서는 안 될 최후의 선을 제시했다. 이처럼 AI 시대를 선도하는 기업의 최고경영자마저 AI의 신뢰성 문제를 언급하며 금지선을 제시하는데, 한국은 레드라인에 관심이 없다. 그 실상을 들여다봤다.

오세진 기자 [e-mail]

□ 1607호 표지이야기: 책임 없는 살상 AI

<혁신의 이름으로, 살상이 자동화된다>
https://h21.hani.co.kr/arti/society/society_general/59083.html
<세계 최초? 가장 위험한 선례가 될 수도 있다>
https://h21.hani.co.kr/arti/society/society_general/59090.html