드론과 인공지능, 전장의 새 문법과 인간이 그어야 할 선 

러·우 전쟁이 던진 자율무기 논란
알고리즘이 방아쇠 당길까 우려

국제사회, 규범 설계 두 갈래 논의
유엔총회서 AI 책임 다룬 첫 결의
한국 주도 ‘REAIM’ 고위급회의도
서울서 ‘행동을 위한 청사진’ 채택
규범설계국으로 가는 의미있는 전진


드론은 인간이 시선과 손을 빌려주는 도구로 출발했다. 이제 그 시선과 판단의 일부를 인공지능(AI)이 대신하기 시작했다. 카메라가 본 영상을 AI 알고리즘이 분류해 표적을 자동으로 식별하고, 항법이 끊긴 환경에서도 사전 학습한 지형을 기준으로 길을 찾으며, 수십·수백 대의 기체가 군집(swarm)으로 움직이는 풍경은 더 이상 공상과학의 한 장면이 아니다. 드론과 AI의 결합은 무기체계의 단순한 개량을 넘어 전장 의사결정의 구조 자체를 바꾸고 있다.

이 변화를 가장 적나라하게 보여주는 무대는 러시아·우크라이나 전쟁이다. 우크라이나의 세이커 스카우트 쿼드콥터는 2023년 9월 일선에 배치된 이래 64종의 러시아군 차량과 화포를 영상으로 식별할 수 있다고 보고됐다. 세이커 스카우트는 약 3㎏의 탄두를 싣고 10~12㎞ 거리를 비행한다. 이 기체는 ‘델타(Delta)’ 전장인식체계에 연결돼 표적 좌표를 곧바로 화력 자산에 넘긴다. 운용자가 끝까지 조종하는 기능뿐만 아니라 일정 구역을 스스로 정찰하고 표적을 식별해 교전하는 자율 모드까지 함께 적용됐다는 점이 그 이전 세대 드론과 결정적인 차이다.

 

러시아군의 란셋(Lancet)-3 자폭드론 역시 자율 표적 식별 기능을 광고했다. 화면에 표적 박스가 추적되는 영상이 공개됐지만 실제 자율 교전 수준에 대해서는 평가가 엇갈린다. 우크라이나 디지털전환부 장관은 2024년 자율무기를 “논리적이고 불가피한 흐름”이라고 표현하며 약 2000대의 AI 통합 드론 배치를 발표했다. 독일 헬싱은 약 4000대의 HX-2 카르마를 우크라이나에 공급하는 계획을 체결했다. 올해 초에는 부상자 후송과 보급뿐 아니라 열영상 카메라로 적 보병을 탐지해 기관총을 격발하는 지상 로봇까지 시험 운용된다는 보도가 잇따랐다.

문제는 이 기술이 국제규범보다 훨씬 빠르게 전개되고 있다는 점이다. 미 신미국안보센터(CNAS)의 폴 샤레는 “기술의 속도가 외교의 속도를 앞지른다”고 지적했다. 우크라이나 측 관계자조차 자율무기 사용을 “기술적 문제라기보다 윤리적 딜레마”라고 표현했다.

AI가 인간을 식별하고 살상하는 영화 ‘터미네이터’식 미래를 인류가 꿈꾸지 않더라도 전장에 투입된 알고리즘이 민간인과 전투원을 분간하지 못하거나 책임 소재가 모호한 살상이 누적된다면 결과는 같은 방향으로 흘러갈 수 있다. 이미 ‘킬러 로봇 반대(Stop Killer Robots)’ 캠페인에는 약 270개의 시민사회 단체가 참여하고 있다. 다수의 비정부기구도 자율살상무기(LAWS)의 선제적 금지를 요구해 왔다.

이에 따라 국제사회는 크게 두 갈래에서 규제 논의를 진전시키고 있다. 첫째는 특정재래식무기금지협약(CCW) 산하 ‘자율살상무기 정부전문가그룹(GGE on LAWS)’이다. 2017년 공식 출범 이래 매년 제네바에서 회의를 이어왔고, 안토니우 구테흐스 유엔 사무총장은 2023년 ‘평화를 위한 새 의제(New Agenda for Peace)’에서 ‘인간의 통제나 감독 없이 작동하는 자율살상무기’를 2026년까지 법적 구속력을 가진 문서로 금지하자고 촉구했다. 그는 “기계가 인간의 생사를 결정하도록 위임할 수는 없다”는 표현을 반복해 왔다.

둘째는 2023년 12월 유엔총회 결의 78/241을 계기로 본격화된 총회 차원의 논의다. 2024년 한국과 네덜란드가 공동 주도한 ‘군사 분야 인공지능과 국제 평화 및 안보에 대한 함의’ 결의안은 제1위원회에서 찬성 165, 반대 2(러시아·북한), 기권 6으로 통과해 그해 12월 총회에서 채택됐다. 이는 군사 분야에서 AI의 책임을 다룬 유엔 내 첫 결의로 기록된다.

규제 움직임의 또 다른 축이 바로 한국이 주도해 온 ‘군사 분야 책임 있는 인공지능(REAIM)’ 고위급회의다. 2023년 2월 헤이그에서 1차 회의를 한국과 네덜란드가 공동주최해 ‘행동 촉구문’을 도출했고, 2024년 9월 9~10일에는 외교부와 국방부 공동 주관으로 서울에서 2차 회의가 개최됐다. 96개국에서 약 2000명이 참석한 이 회의는 장관급 라운드테이블을 거쳐 ‘행동을 위한 청사진(Blueprint for Action)’을 채택했다.

청사진은 국제법 준수, 적절한 수준의 인간 통제, AI의 신뢰성과 설명 가능성, 핵무기를 포함한 대량살상무기에 대한 인간 결정 유지 등 20개 조항으로 구성됐으며, 61개국이 공식 지지 의사를 표했다. 2026년 2월에는 스페인 라코루냐에서 3차 REAIM이 열려 후속 논의가 이어졌다. 한국은 같은 기간 산업 분야의 ‘AI 서울 정상회의’(2024년 5월)와 ‘AI 글로벌 포럼’을 잇달아 개최하며 군사·민간 AI 양 측면에서 규범 형성을 주도하는 국가로 자리 잡았다.

여기서 짚어야 할 점은 한국의 행보가 외교적 수사에 머무르지 않는다는 데 있다. 한국은 LAWS를 선제적으로 금지하자는 강경한 입장과 기존 국제인도법으로 충분하다는 보수적인 입장 사이에서 ‘인간 책임(human-in/over-the-loop)’을 핵심 원칙으로 둔 실천적 가이드라인을 만들자는 중도적 입장을 견지해 왔다. 이는 K방산과 국방혁신 4.0을 통해 AI 기반 유·무인 복합체계 개발을 활발히 추진하는 우리 군의 현실과 책임 있는 사용이라는 국제규범 사이의 균형점을 찾으려는 시도로 읽을 수 있다.

결국 드론과 AI의 결합은 두 가지 질문을 동시에 던진다. 하나는 “어떻게 더 빠르고 정밀하게 표적을 식별하고 타격할 것인가”이며 다른 하나는 “그 결정의 어디까지를 인간이 쥐고 있을 것인가”이다. 러·우 전쟁이 보여주듯 첫 번째 질문의 답은 이미 현장에서 빠르게 진화하고 있다. 두 번째 질문에 대한 답을 어떤 문서·협약·기술적 안전장치로 구체화할지가 앞으로 10년 안보질서의 골격을 결정한다.

터미네이터의 미래를 꿈꾸지 않는다면 알고리즘이 방아쇠를 당기기 전에 인간이 그어둔 선이 어디까지인지를 미리 정해둬야 한다. 한국이 REAIM과 유엔 결의를 통해 그 선을 함께 긋는 작업에 앞장서고 있다는 사실은 기술 추격국을 넘어 규범 설계국으로 가는 의미 있는 한 걸음이다.