『살인 무기: 전쟁, 미디어, 기계』

군사 AI는 욕망과 현재 기술의 결합
전쟁은 적 구별하는 미디어 만들고
미디어는 다시 전쟁 가능성 재구성
더 정밀하고 빠른 자율무기 될수록
인간은 점차 불필요한 요소로 전락

 

이 책은 인공지능(AI)과 자율무기에 관한 통상적인 미래전 논의를 근본적으로 뒤집는다. 일반적인 논의는 기술이 얼마나 발전했는가, AI가 인간보다 얼마나 빠르고 정확하게 판단할 수 있는가, 자율무기가 인간 병사를 얼마나 효과적으로 보조할 것인가를 묻는다. 그러나 저자들은 질문의 방향을 바꾼다. 왜 이러한 무기체계가 발전해 왔는가 하는 것이다. 이런 점에서 이 책은 AI 무기체계에 관한 기술적 예측서라기보다 전쟁, 미디어, 인간이라는 세 요소가 서로를 어떻게 구성해 왔는지를 추적하는 군사 미디어의 계보학에 가깝다. 

서론을 니콜라 테슬라의 1898년 발언으로 시작하는 것은 상징적이다. 테슬라는 이미 19세기 말 센서와 유도기술을 결합한 무기가 궁극적으로 표적을 선택하고 명중시키는 과정에서 우연성을 제거할 것이라고 상상했다. 그가 그린 이상은 ‘결코 빗나가지 않는 무기’였다. 주목할 점은 이 이상이 단순히 폭발력이 강한 무기의 꿈이 아니라는 것이다. 핵심은 ‘보고, 구별하고, 선택하고, 추적하고, 정확하게 공격하는 능력’이다. 오늘날 우리가 AI, 컴퓨터 비전, 정밀유도무기, 자율표적식별이라고 부르는 문제의 원형이 이미 여기에 들어 있다. 따라서 저자들에게 군사 AI는 21세기에 갑자기 출현한 혁명이 아니다. 그것은 적을 더 정확히 보고 판단하며 인간의 오류를 제거하려는 100년 이상의 군사적 욕망이 현재의 계산기술과 결합한 결과라고 할 수 있다.

이 책이 일반적인 논의와 가장 크게 갈라지는 지점은 바로 ‘미디어’의 개념이다. 저자들에게 미디어란 신문·방송·SNS 같은 매체가 아니다. 레이다, 적외선 센서, 카메라, 위성, 데이터베이스, 통신망, 드론, 컴퓨터 비전처럼 전장을 감각하고 표현하며 분류하는 모든 기술을 지칭한다. 미사일이 표적을 맞히는 문제조차 미디어 문제다. 저자들은 ‘미사일이 표적을 어떻게 찾아내고 평가하며, 어떻게 유도되고, 어떻게 실시간으로 정보를 처리하는가’란 질문을 던진다. 여기에서 중요한 것은 화력보다 ‘인식과 매개’다. 전쟁에서 적을 파괴하기 전에 먼저 적을 봐야 하고, 적이라고 판정해야 하며, 표적으로 변환해야 하기 때문이다. 결국 적을 어떻게 규정할 것인가의 문제인 셈이다.

따라서 현대 군사기계는 단순히 이미 존재하는 적을 발견하는 중립적 장치가 아니다. 센서와 알고리즘은 관찰 대상을 특정한 범주로 나누고 정상과 비정상, 아군과 적군, 안전과 위협을 구분한다. 미디어 기술은 결과적으로 ‘누가 적인지를 보게 만드는 방식 그 자체’를 구성한다. 적은 단순히 전장에 객관적으로 놓여 있는 존재가 아니라 군사적 감지체계와 분류체계에 의해 가시화된다.

저자들이 냉전기의 군사 연구개발을 보는 방식도 흥미롭다. 흔히 인터넷, 컴퓨터, 위성통신, 위성위치확인시스템(GPS), 인공지능 등을 민간 과학기술이 발전한 뒤 군이 받아들인 것으로 생각하기 쉽다. 그러나 이 책에서는 방향을 상당 부분을 반대로 본다. 미군의 전략적 요구가 새로운 미디어의 개발을 적극적으로 추동해 왔다는 것이다. 세계를 더 멀리 보고, 신호를 더 정확히 분리하고, 잡음을 제거하며, 정보를 더 빠르게 전달하려는 군사적 요구가 정보이론과 컴퓨팅, 감시기술의 발전과 긴밀하게 결합했다. ‘전쟁이 미디어를 만들고, 미디어가 다시 전쟁의 가능성을 재구성한다’는 것이 이 책의 기본 논리다.

특히 중요한 것은 ‘잡음’에 대한 논의다. 저자들은 클로드 섀넌 등의 정보·사이버네틱스 연구를 끌어들이면서 현대 군사체계가 궁극적으로 잡음과 오류를 제거하려는 프로젝트라고 본다. 군사적 이상은 적을 완전하게 탐지하고, 정보를 손실 없이 전달하고, 지휘관의 의도를 왜곡 없이 실행하는 것이다. 전장 마찰, 불확실성, 통신오류, 오인식은 모두 제거해야 할 ‘잡음’으로 취급된다. 그런데 이 논리를 끝까지 밀어붙이면 문제가 생긴다. ‘인간 자신이 가장 큰 잡음’으로 등장하기 때문이다. 전쟁기계가 제거하려는 궁극적인 잡음은 결국 인간이다.

바로 여기에서 가장 도발적인 명제가 제시된다. AI와 자동화가 인간을 지원한다는 일반적 설명과 달리 저자들은 군사적 자동화의 심층에는 일종의 ‘인간혐오(anthropophobia)’, 즉 인간의 취약성과 불완전성을 제거하려는 충동이 작동한다고 주장한다. 인간은 피로하고, 두려워하고, 판단을 잘못하며, 명령을 오해하고, 스트레스를 받고, 윤리적으로 주저하며 때로는 명령에 복종하지 않는다. 기계화된 전쟁의 관점에서 이러한 인간적 특성은 장점이 아니라 결함으로 해석될 수 있다.

따라서 자율성(autonomy)의 의미도 다시 생각하게 만든다. 자율성은 기계에 자유를 주는 것만이 아니라 인간의 개입을 제거하는 과정으로 해석된다. 인간의 판단을 계속 개입시키면 자동화가 약속하는 속도와 정확성이 훼손된다. 이는 기술이 인간을 밀어낸다는 단순한 기술결정론이 아니다. 오히려 군사조직이 속도·정확성·예측가능성·복종을 극대화하려 할수록 인간이라는 존재 자체가 구조적으로 불편해진다는 주장이다.

이러한 인간 개념은 급진적인 결론으로 나아간다. 우리가 너무 당연하게 받아들이는 ‘인간’이라는 범주 역시 영원하고 자연적인 것이 아니라 특정한 역사적·인식론적 조건에서 만들어진 구성물이다. 현대의 군사 미디어는 인간의 얼굴과 개별성을 직접 보는 대신 데이터와 패턴, 신호, 유형을 보게 한다. 그 결과 적은 구체적인 인간이 아니라 ‘탐지되고 분류돼야 할 대상’으로 바뀐다.

따라서 저자들은 군사 자동화의 미래를 단순히 ‘인간과 기계의 협업’으로 낙관하지 않는다. 자율무기는 인간 병력을 위험에서 제거하고 인간은 기계를 감독하는 역할로 남을 수도 있다. 그러나 더 급진적인 가능성은 전쟁 수행 과정에서 인간 자체가 점차 불필요한 요소가 되는 것이다. 저자들은 이를 ‘인간을 없애고자 하는 너무나 인간적인 욕망’이라고 표현한다.

이 책의 가장 큰 공헌은 “AI가 얼마나 똑똑해질 것인가”를 묻지 않는 데 있다. 대신 우리는 왜 인간보다 기계를 더 신뢰하게 됐는가, 왜 전장의 불확실성을 인간의 판단으로 감당하기보다 기술적으로 제거하려 하는가, 그리고 그 과정에서 누구를 적으로 인식하는 권한까지 기계에 넘기고 있는가를 묻는다. 이는 현재의 AI 전쟁 담론에 중요한 교정이다. 자율무기에 대한 인간통제의 핵심은 단지 최종 발사 버튼을 인간이 누르는가에 있지 않다. 훨씬 앞선 단계, 즉 무엇을 보고 어떤 데이터를 의미 있는 것으로 선택하고, 누구를 적으로 분류하고, 어떤 행동을 위협으로 판단하는가의 과정 전체에 인간의 정치적·윤리적 판단이 남아 있어야 한다.

더 정밀한 센서와 더 빠른 AI가 반드시 더 인간적인 전쟁을 만드는 것은 아니다. 오히려 전쟁이 완벽하게 계산되고 완벽하게 감시되며 완벽하게 자동화될수록 우리가 물어야 할 질문은 더욱 단순해진다. “그 완벽한 체계 속에 인간은 과연 어떤 존재로 남게 되는가?” 이것이 이 책이 던지는 일반적인 미래전 논의와 다른 문제의식이다.


필자 최영진은 국방전문가로 전쟁사, 전략론, 정신전력, 병력구조 등에 많은 관심을 갖고 있다. 현재 중앙대 정치국제학과 교수로 재직 중이다.