우리 군은 인공지능(AI)을 통해 합동작전 수행 능력을 발전시키고 있다. 그러나 자동화 수준이 높아질수록 작전 결정 과정에서 인간의 숙고와 책임 인식이 약화할 위험성도 커진다. AI의 추천을 인간이 반복적으로 승인하는 구조가 고착되면 결정 주체는 ‘인간’이 아닌 ‘체계’로 인식될 수 있다. 이는 전장에서 단순한 윤리 논쟁을 넘어 군의 신뢰, 전략적 지속가능성과 직결되는 문제다. 

설령 합법성과 기술적 정확성이 확보되더라도 민간 피해가 발생할 경우 작전의 정당성은 국제사회와 여론의 검증 대상이 된다. 실제 해외 분쟁 사례에서도 AI 기반 표적 추천체계는 법적 검토와 인간 승인절차를 거쳤음에도 운용이 반복되며 승인 과정이 관행화되고 동일한 알고리즘 기준이 민간 밀집지역까지 적용되는 문제가 드러났다. 그 결과 단기적 전술 성과와 달리 민간 피해가 누적돼 국제사회의 비판과 외교?정보전 차원의 전략적 부담으로 이어졌다. 이는 합법성과 기술적 완비만으로는 전략적 손실을 막을 수 없음을 보여 준다.

현재 AI 무기체계 운용에는 지휘관, 법무관, 기술인력이 참여해 각각 전술적 효율성, 합법성, 기술적 성능을 책임진다. 이 구조 속에선 결정을 내릴 때 인간 생명과 군의 도덕적 정당성이 갖는 의미를 성찰하고 환기하는 기능이 충분히 제도화돼 있지 않다는 공백이 존재한다. AI 개입이 확대될수록 책임은 분산되고, 누구도 윤리적 판단 주체로 자각하지 못하는 상황이 발생할 수 있다.

이러한 공백을 보완할 제도적 자원으로 군종장교의 역할을 주목할 필요가 있다. 군종장교는 작전 결심 이전 단계에서 AI의 추천이 민간 피해를 구조적으로 확대할 가능성은 없는지 자문하고, 자동화와 승인절차의 관행화를 견제하는 ‘윤리적 브레이크’로 기능할 수 있다.

또한 사후 평가 과정에서 결정이 ‘체계의 결과’로 전가되지 않도록 도덕적 성찰을 지원함으로써 인간 책임을 작전 구조 속에 남겨 둘 수 있다. 이는 작전을 지연시키기 위한 장치가 아니라 오판과 과잉을 예방해 작전의 정당성과 지속가능성을 보호하는 전략적 안전장치다.

AI 무기체계가 군의 핵심 전력이 되는 시대, 군종장교의 역할 역시 전환이 요구된다. 장병 돌봄을 넘어 AI가 개입된 작전 결정 과정에서 인간의 책임이 형식화되지 않도록 윤리적 질문을 제기하는 자문자로 자리해야 한다. 특히 AI 권고를 승인하는 절차에서 지휘관이 결정의 도덕적 무게를 끝까지 자각하도록 돕는 일은 군종장교의 중요한 사명이다.

제도 신설 없이도 작전 단계의 윤리 자문과 지휘관의 교육 참여로 인간 책임의 원칙은 충분히 제도화될 수 있다. 이는 우리 군의 정당성과 국제적 신뢰를 지키는 전략적 기반으로 AI 시대 군종장교는 윤리적 조언자로서 군의 전투력을 지탱하는 전략적 핵심 자산이 될 것이다.