알고리즘 속도로 살상하는 시대

AI 전쟁 기계와 결정권 잃어가는 인류 다룬 ‘인간 없는 전쟁’

2026년 1월 우크라이나의 미하일로 페도로우 국방부 장관 후보 지명은 상징적이다. 34살의 디지털전환부 장관이었던 그는 전통적인 외교 채널 대신 트위터(현 엑스)로 일론 머스크 테슬라 최고경영자에게 스타링크를 요청해 군 통신망을 살려냈다. 이는 국가안보라는 핵심 인프라가 민간기업과 개인의 결정에 종속될 수 있음을 보여준 사건이었다.

카이스트에서 머신러닝을 연구한 최재운 광운대 교수는 저서 ‘인간 없는 전쟁’(북트리거 펴냄)을 통해 빅테크가 전쟁을 근본적으로 재편하는 광경을 경고한다. 위성통신 기술뿐만 아니라 드론과 알고리즘의 부상 등으로, 전쟁의 결정권이 ‘국가에서 기업으로’ ‘인간에서 기계로’ 이동하고 있다는 것이다. 이제 전쟁의 재료는 화약이 아니라 칩이다. 엔비디아의 그래픽처리장치(GPU·지피유)는 드론과 미사일 방어 시스템의 필수 자원이 됐고, 팔란티어 같은 빅테크 기업들이 사령관 역할을 대신한다. 2022년 가을, 우크라이나군 헤르손 탈환 작전에서 팔란티어는 40여 개 위성과 정찰 자산으로 24시간 쏟아지는 데이터를 통합하며 과거라면 수백 명이 투입돼 며칠간 분석할 정보를 클릭 몇 번으로 처리했다. 페도로우 장관도 이를 숨기지 않는다. “우크라이나는 세계 최고의 기술 테스트베드(실험장)”라고 공언했고, 수도 키이우에는 실리콘밸리 테크기업들이 집결한 ‘밀테크 밸리’가 형성됐다.

기업의 성격은 변하고 있다. 한때 “사악해지지 말자”를 외쳤던 구글은 이스라엘 정부와 ‘프로젝트 님버스’ 계약을 체결하며 군사적 활용 가능성을 열었고, 비영리를 추구하던 오픈에이아이(AI) 역시 최근 군사 목적 인공지능 개발 허용으로 정책을 뒤집으며 방산 스타트업과 손잡았다.

전쟁의 경제학은 파괴됐다. 약 60억원에 달하는 러시아의 최신예 T–90 전차가 50만원짜리 ‘1인칭시점(FPV) 드론’에 허무하게 격파됐다. 중국제 드론 프레임에 수류탄을 묶은 이 ‘가성비’ 무기는 AK-47 소총보다 빠르게 전세계로 확산 중이다. 더 섬뜩한 것은 이 가벼운 무기가 인공지능과 결합하고 있다는 사실이다. 2020년 리비아 내전에서는 인간의 개입 없이 스스로 표적을 찾아 살상한 ‘카르구–2’ 드론이 보고됐다.

이스라엘은 1600㎞ 밖에서 원격 조종되는 인공지능 저격수 시스템을 사용하고, ‘라벤더’라는 인공지능 시스템으로 가자지구 주민들의 위험 점수를 매겨 살생부를 작성한다. 한 사람의 생사를 결정하는 데 걸리는 시간은 단 20초. 민간인 15~20명의 부수적 피해나 약 10%의 확률적 오류를 허용한다.

최 교수가 가장 우려하는 대목은 ‘책임의 분산’이다. 인공지능 전쟁에서는 수많은 마이크로 결정이 누적돼 살상이 이뤄진다. 방아쇠를 당기는 주체가 사라지면서 ‘윤리적 진공 상태’가 발생한다. 게다가 인공지능은 본질적으로 목표 지향적이다. 미국 공군 시뮬레이션에서 인공지능 드론이 목표 달성을 방해하는 조종사를 제거하거나 통신탑을 파괴하려 했던 사례는 인공지능에 양심이나 연민을 기대할 수 없음을 단적으로 보여준다. 2024년 노벨물리학상 수상자 제프리 힌턴의 경고처럼 인류가 감당할 수 없는 ‘지능형 살상 기계’ 시대 앞에 서 있음을 섬뜩하게 보여주는 책이다. 368쪽, 1만9800원.

손고운 기자 [e-mail]

□ 21이 찜한 새 책

그날은 못 갔는데 오늘은 가야겠다

임은경 지음, 이매진 펴냄, 1만6800원

권력이 정한 ‘정상'이 평범함 또는 삶의 목표가 된 세상에서 누군가는 다치고 소외된다. 2024년 12월 문을 연 광장에서 청년 여성과 성소수자, 농민 등 소외된 이들은 늘 그랬듯 ‘살려달라’고 울부짖었다. 사회는 여전히 이를 모른 척한다. 하지만 일상 속 고립을 뚫고 광장을 바꾼 약자들의 도약은 멈출 줄 모른다.

이상한 게 아니라 다른 거였대요

류해나 글·그림, 젤리클 펴냄, 1만8500원

누구도 하나의 정체성으로만 설명할 수 없다. 장애를 가진 사람에게 ‘장애’는 삶의 일부일 뿐이다. 그런데도 사회는 장애를 인생의 장애물로 본다. 주의력결핍과잉행동장애(ADHD) 당사자인 저자가 글과 그림으로 이 편견에 맞선다. 그리고 다른 환자들에게 말한다. 자신에게 화살을 돌리지 말라고.

예수 하버드에 오다

하비 콕스 지음, 오강남 옮김, 문예출판사 펴냄, 2만2천원

뉴욕타임스가 20세기 10대 신학자로 꼽은 저자가 하버드대학에서 20년 넘게 강의한 ‘예수와 윤리적 삶’을 책으로 펴냈다. ‘공정’ ‘공동체’ ‘관용’ ‘연대’ ‘정의로운 선택’ 등 현대사회의 다양한 곤경을 예수의 가르침을 통해 풀어낸다. 예수는 교리적 대상이 아니라 윤리적 결단을 촉구하는 질문자로 표상된다.

산토끼 키우기

클로이 달튼 지음, 이진 옮김, 바람북스 펴냄, 1만9천원

코로나19 셧다운으로 시골에 머물다 우연히 만난 산토끼 새끼를 들인 뒤 야생성을 해치지 않으려고 고심하며 동거하는 이야기다. 토끼는 성체가 되어 집을 떠나고도 때때로 찾아와 머물며 새끼까지 낳는다. 동물이 인간에 의해 가족이 되거나 대멸종의 위기에 몰린 양극적 시대에 많은 시사점을 던진다.