지난 1월 22일 인공지능(AI) 기본법 시행과 함께 우리 군은 2026년 ‘국방 데이터 안심구역’ 구축이라는 야심 찬 계획을 추진 중이다. 폐쇄망 특성상 외부 AI 모델 도입이 제한되는 상황에서 비공개 데이터를 안전하게 활용하려는 이 시도는 국방 AI 전환(AX)의 핵심이다.

그러나 기술적 구현 과정에서 몇 가지 도전과제가 남아 있다. AI 기본법은 고위험 분야의 엄격한 안전성 확보를 요구하지만, 이는 사용을 금지하라는 뜻이 아니라 ‘안심하고 활용할 기술 기준’을 만들라는 명령이다. 현장에서는 명확한 보안 기준 부재로 데이터 활용이 보수적으로 운영되는 경향이 있다.

16년간 군 사이버보안 분야에서 기술·정책·교육·인력 운용 전반을 경험한 것을 바탕으로, 안심구역 정책의 실효성을 높이기 위한 3가지 기술적 제언을 공유하고자 한다.

첫째, 폐쇄망 환경에 최적화된 소형언어모델(sLLM) 중심의 아키텍처가 필요하다. 대형언어모델(LLM)은 천문학적 자원과 외부 연동이 필수여서 국방 보안규정상 도입에 한계가 명확하다. 반면 안심구역 내 온프레미스 환경에서 완결되는 sLLM은 보안 통제권을 확보하면서도 전술적 특화학습이 가능하다. 해외 연구사례에 따르면 검색증강생성(RAG) 기술을 결합한 sLLM은 폐쇄망 환경에서도 높은 정확도를 달성할 수 있는 것으로 보고되고 있다. sLLM은 군의 보안 자존심을 지키면서도 AI 지능을 구현할 수 있는 현실적 대안이다.

둘째, 합성 데이터 활용 시 ‘합스부르크의 비극’을 경계해야 한다. 근친혼으로 대가 끊긴 유럽 명문가의 비극처럼 AI가 자신이 생성한 합성 데이터를 반복 학습하면 지능이 급격히 퇴화하는 ‘모델 붕괴(Model Collapse)’ 현상이 발생한다. 이른바 ‘합성부르크(Synthetic Habsburg)’의 함정이다. 데이터가 부족한 국방환경에서 합성 데이터는 필수적이지만, 무분별한 사용은 AI의 근친퇴화를 초래한다. 국제표준인 미국 국립표준기술연구소(NIST) ‘AI 위험관리 프레임워크(RMF)’의 측정 기능을 활용하면 데이터 충실도 90% 이상을 유지하면서 보안 파라미터를 최적화할 수 있는 기술적 접점이 존재한다. 무분별한 양적 확대보다 고품질 원본과 정교한 합성의 황금비율을 찾아야 한다.

셋째, 보안 기준을 ‘차단 중심’에서 ‘위험관리 중심’으로 전환해야 한다. 국정원 『AI 보안 가이드북』(2025년 12월)은 이미 내부망 AI 활용의 길을 열어 줬다. 이제 필요한 것은 국방 폐쇄망에 특화된 세부 기술 기준이다. 예를 들어 ‘합성 데이터의 보안성 지표(epsilon)는 얼마 이하로 유지해야 하는가’ ‘안심구역 내 데이터 생명주기(저장·학습·폐기)는 어떤 절차로 관리돼야 하는가’ 같은 실무 기준이 명확해질 때 현장 운영자는 보안과 활용 사이에서 자신 있게 판단할 수 있다.

AI 기본법이 요구하는 ‘신뢰’는 투명한 기술 기준에서 나온다. 국방부가 추진하는 안심구역 구축은 바로 이 신뢰를 만드는 역사적 시도다. 법이 민간에만 요구하는 게 아니라 군 스스로 더 높은 수준의 자율 거버넌스를 구축할 기회이기도 하다. 국방 데이터 안심구역의 성공은 곧 대한민국 AI 주권의 성공이다. 신뢰 기반의 지능형 강군으로 나아가는 이 여정에 현장의 목소리가 함께하길 기대한다.