『국제이슈돋보기』
 군사적 인공지능에 대한 국제적 논의와 우리 군이 나아갈 방향

최근 러시아·우크라이나 전쟁, 이스라엘·하마스 전쟁, 중동전쟁 등을 통해 전장의 패러다임을 바꾸는 게임체인저로 가장 많이 논의되는 것은 군사적 인공지능(AI)이다. 군사적 AI 기술을 활용한 우크라이나의 일인칭 시점(FPV) 드론이나 세이커 스카우트(Saker Scout) 드론은 재밍에 의해 통신이 두절된 상태에서 인간의 원격통제 없이도 자율적으로 임무를 수행했다.

군사적 AI는 무기체계에서 직접적으로 표적 선정 및 공격을 하지 않더라도 실질적으로 이를 가능하게 하는 의사결정지원체계(Decision Support System)에서 적극 활용되고 있다. 생성형 AI 클로드를 탑재한 미군의 메이븐 스마트 시스템(Maven Smart System)이나 이스라엘의 라벤더(Lavender), 가스펠(Gospel), 웨어스대디(Where’s Daddy) 같은 시스템은 다량의 정보를 신속하게 수집·분석해 인간 운영자의 결심을 더욱 빠르게 한다.

AI 기술의 발전에도 지난 2월 28일 이란 미나브 초등학교 공습사건처럼 군사적 AI의 분석 결과를 인간이 제대로 검토하지 못한 경우 예상치 못한 무고한 희생이 발생할 수 있다. 기술적으로 머신러닝(기계학습)·딥러닝을 거쳐 임무를 수행하는 AI의 가장 큰 문제점은 어떤 과정에 의해 해당 결과를 도출했는지 인간이 이해할 수 없는 일종의 블랙박스라는 것이다.

이런 문제점을 해결하고자 설명가능성(explainability)을 높이기 위한 많은 연구가 진행 중이지만, 인간이 AI의 논리구조나 결과 도출과정을 완벽히 이해한다는 것은 쉽지 않은 일이다. AI의 결정에 사람이 충분히 검토할 수 있는 시간·능력을 갖지 못했을 때 인간 운영자는 AI의 결정을 감독·승인하는 주체가 아니라 AI의 결정을 자동적으로 수용하는 대상이 된다. 형식적으로는 군사적 AI에 대해 인간의 통제가 존재하는 것처럼 보이지만, 실질적으론 존재하지 않는 명목적 인간통제 상태가 되는 것이다.

이러한 문제점을 논의하고자 무기체계와 관련, 특정재래식무기금지협약(CCW) 기구의 자율살상무기체계 정부전문가그룹(GGE LAWS) 회의에서 자율살상무기체계(LAWS) 논의를 하고 있다.

지난해 9월에 종료된 GGE LAWS 회의에선 LAWS의 특성, 인간통제, 금지 및 규제, 국제인도법 준수를 위한 위험 감소 및 신뢰 구축조치, 책임성 강화 등 다양한 토의가 있었다. LAWS의 특성과 관련된 기존 논의에서 표적 선정 및 공격에 자율적 기능이 있으면 이에 해당한다는 입장이 많았다. 하지만 지난 3월 회의에선 식별에도 자율성이 존재해야 한다며 LAWS의 개념 범위를 축소하는 방향으로 논의됐다. 상황에 적합한 인간판단 및 통제와 국제인도법에 부합하는 사용에 관한 구체적 사항과 관련, 의견이 지속적으로 대립했다.

2024년부터 2026년까지 3년간 임무를 부여받은 GGE LAWS 회의는 올해 말 임무 종료가 예정돼 있어 이제 실질적으로 한 차례의 회의만이 남아 있다. 의장은 올 9월 회의에서 최종보고서를 마련하고, 이를 11월 당사국 회의에 제출하는 것을 계획 중이지만 LAWS의 국제적 합의가 이뤄질지는 의문이다.

무기체계 이외의 군사적 AI 전체에 대한 국제적 논의도 계속되고 있다. 우리나라는 2024년 서울에서 AI의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM)를 개최하며 행동을 위한 청사진(Blue Print for Action)을 제시했다. 또 2024년과 2025년 유엔총회에서 네덜란드와 공동으로 ‘군사 분야 AI와 국제평화 및 안보에 관한 함의(A/RES/79/239, A/RES/80/58)’라는 안건을 발의, 채택을 위해 노력했다.

이 결의에는 군사적 AI의 기회와 도전요소를 인식하고 설계, 개발, 시험평가, 배치, 사용의 전체 수명주기 동안 군사적 AI가 국제평화와 안보에 위협이 되지 않도록 해야 한다는 내용이 포함돼 있다. 군사적 AI의 활용 시 기존의 국제인도법이나 국제인권법 등이 준수돼야 한다는 원칙도 강조됐다.

우리 군도 인구절벽 현상에 따른 병력자원 감소 문제를 극복하고, 첨단 기술을 통한 군사혁신을 가속화하기 위해 군사적 AI를 적극 활용해야 한다. 국방부가 가칭 ‘국방첨단전력사업에 관한 법률(안)’ 제정으로 전력지원체계 및 무기체계에 공통 적용될 수 있는 AI 시스템을 첨단 전력체계로 보고 기존과 달리 성능을 반복적으로 보완·개선하는 유기적 순환체계로 획득하려는 것도 이를 위한 노력 중 하나다.

외교부가 군사적 AI에 대한 국제적 논의를 적극 선도하는 상황에서 우리 군도 국방개혁과 미래 군사전략 관점에서 군사적 AI의 분야별 발전방향을 구체적으로 마련해야 한다. AI가 군사적으로 활용될 경우 군사적 효율성을 극대화하면서도 국제인도법을 준수할 수 있도록 군사적 AI 획득과정에서 제네바 1추가의정서 36조의 법적 검토를 실질적으로 이행해야 한다. 우리 군은 기술·정책·법률 분야에서 민간 및 국제사회와 협력을 강화하고 군사적 AI 기술뿐만 아니라 정책이나 규범 분야에서도 우리 군이 지향하는 방향으로 국제 논의를 주도해 나가야 한다.