지금도 지속되고 있는 동유럽과 중동의 전쟁을 통해 전 세계가 목도하는 인공지능(AI) 기술의 파괴력에도 불구하고 AI 기술이 현재와 미래 전장에 어떤 수준과 범위까지 영향을 미칠지, 그것이 자국 안보에 유리한 방향으로 작동할지 아직 분명하지 않다. AI 기술이 완성 단계에 이른 것이 아니어서 AI의 군사적 영향에는 알려지지 않은 회색지대가 존재한다.

이러한 불확실성 속에서 지난 9일과 10일 우리 국방부와 외교부가 공동개최하고 성황리에 종료한 ‘2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의(2024 REAIM 고위급회의)’는 AI의 책임 있는 군사적 사용에 집중한 세계 최초의 유일한 대규모 국제회의다.

전 세계 96개국, 외국 장·차관급 36명이 참석한 이번 2차 회의는 네덜란드·싱가포르·영국·케냐가 공동주최국으로 이름을 올려 본래 한국과 네덜란드가 시작한 회의를 세계 AI 군사규범 구축의 주축이 되는 플랫폼으로 만들었다.

세계 주요국의 군, 국제기구(북대서양조약기구·유엔), 민간 정보기술(IT) 기업 및 방산기업, 싱크탱크, 비정부기구(NGO)와 학계 전문가들이 대거 참석한 이번 회의는 우리 국방부와 외교부가 군사 영역에서 AI의 기술 사용 이슈에 본격적으로 공조하며 글로벌 리더십을 발휘한 성공적인 군사외교 수행사례다.

폐막식에서 발표된 ‘행동을 위한 청사진(Blueprint for Action)’이 촉구한 총 20개 조항은 각국의 AI 기술 개발과 군사 역량 증진을 제한하지 않으면서 AI가 세계 안보를 통제할 수 없는 위험에 빠뜨리지 않도록 대단히 세밀하고 조심스러운 접근법을 취했다.

즉 이번 회의는 군의 정보 수집과 관리, 감시정찰, 상황 인식, 지휘통제, 군사훈련과 병참에 이르기까지 AI의 군사적 유익을 인정하면서도 AI의 인도주의적·법적·사회윤리적 차원에서의 위험과 도전요소, 군사 AI를 둘러싼 군비경쟁과 적의 AI 사용 오판, AI와 대량살상무기(WMD)가 결합돼 고조될 수 있는 군사적 긴장문제를 지적했다.

군사적 AI 사용 책임은 오로지 인간에게 있다는 점과 AI 알고리즘의 추적·설명 가능성, 책무성 및 AI 시스템에 대한 지속적인 테스트·평가, 포괄적 검증, 국가적 감독·감시가 필요하다는 점이 청사진에서 강조됐다.

이번 청사진은 AI의 위험성을 줄이고 신뢰성을 증진시키는 국제사회의 규범 구축 노력이 AI 기술의 연구개발, 실험·혁신을 방해해선 안 되며 기술약소국의 AI 역량 강화와 기술 지식이 AI 군사규범 구축 참여를 촉진할 것으로 보고 있다.

더불어 AI 거버넌스 논의는 AI 기술의 급속한 발전 속도와 보조를 맞춰 현실적이고 융통성 있는 균형 잡힌 접근법을 취해야 한다고 제안했다.

이번 회의는 AI의 군사적 사용과 관련된 규범 구축 시 이분법적 접근법, 즉 무작정 군사 분야 AI의 위험성을 강조하고 군축 논의를 하는 식의 문제 해결방식을 지양했다.

우리 군이 AI의 군사적 사용과 관련한 국제규범 구축의 장에 적극 참여해야 하는 이유는 이러한 국제규범이 작전 개념, 국방 투자, 타국과의 군사적 조약 체결, 미래전 개념에도 영향을 줘서다.

군사 AI의 국제규범은 국가 간 국방 연구개발 협력이나 군사훈련에도 영향을 끼치므로 우리 군은 AI 규범 관련 국제 추세를 지속적으로 예의주시하며, 선제적으로 군사 AI 시스템에 대한 국가적 프레임워크와 원칙을 마련할 필요가 있다.