인공지능(AI)은 이제 전장의 의사결정을 함께하는 핵심 역량으로 인식된다. 최근 실제 전장에서 일명 ‘자율무기체계’의 하나로 드론이 자율적으로 임무를 수행하는 사례가 목격되고 있다. 이에 따라 AI 윤리에 관한 관심도 높아지고 있지만, 현재 논의는 대부분 의료·금융·행정 등 민간 분야에서 출발한 원칙을 국방에 적용하는 수준에 머물러 있다.

우리에게 필요한 것은 국방의 특수성을 반영한 독자적인 AI 윤리체계를 발전시키는 것이다. 전장은 인간이 맞닥뜨릴 수 있는 가장 복잡한 의사결정환경이다. 제한된 시간, 불완전한 정보, 적의 기만과 사이버 공격, 임무 성공과 민간인 보호라는 상충된 가치가 동시에 존재한다. 이런 상황에서는 책임감, 투명성, 설명 가능성과 같은 일반적인 AI 윤리원칙만으로는 충분하지 않다. 국방은 기존 윤리를 부정하는 게 아니라 그 한계를 확장해야 하는 분야다.

예를 들어 AI가 디지털 트윈을 기반으로 작전안을 제시한다고 가정해 보자. 단순히 적을 얼마나 효과적으로 제압할 수 있는지만 계산해선 충분하지 않다. 민간의 부수 피해, 아군의 위험, 국가 기반시설에 미칠 영향, 장기적으로 안보환경 변화까지 함께 고려해야 한다.

이를 위해선 지금까지 정성적으로 판단해 온 군사적 가치와 윤리적 요소를 정량화하려는 노력이 필요하다. 임무의 군사적 효과와 민간 피해 가능성, 비례성, 전장환경 등을 일정한 기준으로 모델화할 수 있다면 AI는 지휘관에게 여러 대안을 제시하고 각각의 윤리적·군사적 결과를 비교하도록 도울 수 있다. 최종 결심은 여전히 인간의 몫이지만, 그 결심 속도와 질은 한층 높아질 것이다. 이런 접근은 국방만을 위한 게 아니다. 재난 대응, 원자력 안전 같은 고위험 분야에서도 적용할 수 있는 것이다. 전장이라는 가장 극한의 환경에서 검증된 AI 윤리와 의사결정 원칙은 오히려 민간 사회의 새로운 기준이 될 수 있다.

우리 군은 세계 최고 수준의 정보통신기술과 AI 역량을 바탕으로 국방개혁을 추진 중이다. 이제는 기술 경쟁력에 더해 윤리 경쟁력도 확보해야 한다. 독자적인 국방 AI 윤리체계는 무기체계 개발의 제약이 아니라 국민의 신뢰를 높이고 국제사회에서 우리의 기술과 제도의 신뢰성을 향상시키는 전략적 자산이 될 것이다.

AI 시대의 경쟁력은 뛰어난 알고리즘만으로 결정되지 않는다. 어떤 가치와 원칙을 AI에 담아낼 것인지가 국가 경쟁력을 좌우한다. 국방 AI 윤리를 기존 논의에 종속시키는 데 머무르게 해선 안 된다. 대한민국이 국방 AI 윤리의 새로운 기준을 제시할 때 우리는 AI 강군을 넘어 AI 윤리의 글로벌 리더로 나아갈 수 있을 것이다.