이러한 미국의 동향은 현재 우리 군이 사이버작전 수행체계를 정립하고 있는 시점에서 AI를 어떻게 이용할지에 있어 참고할 필요가 있다.

4차 산업혁명 기술의 부상은 국방 분야 내 인공지능(AI) 기술의 도입 및 활용을 이끌고 있다. 하지만 아직 AI의 기술성숙도나, 보안 및 데이터 이슈, 살상 무기로서의 윤리적 이슈 등으로 인해 일반 군사작전에서 AI를 적용하기 쉽지 않은 것이 현 상황이다. 이러한 어려움으로 인해 현재 국방 분야에는 주로 감시정찰이나 방호 등에 AI를 활용한 체계 구축 등이 진행되고 있고, 인사, 군수, 의료, 교육 등 비군사 분야 업무에 AI의 접목이 시도되고 있다.

사이버보안과 관련된 분야는 가상의 디지털 환경을 바탕으로 하기 때문에 데이터 집약적인 AI를 활용하기 쉽다. 이미 민간에서는 사이버보안 분야에 단순 자동화를 넘어 기계학습, 딥러닝 등 다양한 AI를 적용하고 있다. 침입 탐지, 사고 대응, 취약점 분석과 같이 정보를 수집, 분석하는 활동은 대량의 데이터 분석과 새로운 위협 식별에 많은 시간을 소모하는데, 이러한 활동은 AI 활용에 유리하다. 상용화된 AI 솔루션으로 잘 알려진 IBM Watson도 사이버보안 관련 전문 문서를 학습하고, 이를 바탕으로 사이버위협을 판단하기 위한 정보 수집, 의심스러운 IP·악성코드·위협 간의 관계 분석, 대응방안 식별, 추천 등의 업무를 자동화하여 제공하는 기능을 서비스로 제공한다.

사이버공격이나 악성코드 등과 같은 사이버위협도 AI를 이용하여 더욱 복잡하고 다양하게 진화하고 있다. 해커와 같은 공격자들은 기존 사이버위협을 더 다양하고, 신속하고, 정확하게 보조하기 위해 AI를 활용하고 있다. 단순히 변종 악성코드를 신속하게 자동 생성하는 수준을 넘어, 정보보호시스템을 우회하거나 취약점을 분석하는 행위를 자동으로 수행하는 해킹 자동화 도구나, AI로 진위를 가릴 수 없는 이메일이나 사이트, 동영상을 생성하고 피싱을 유도하는 정교한 사이버위협 등이 발생하고 있다.

2018년에 열린 세계적인 해킹보안 컨퍼런스인 Black Hat에서는 악성코드에 AI가 심어져 특정 표적에 대한 조건을 AI가 판단 후 공격하는 새로운 AI 기반의 사이버위협이 실제로 가능함이 시연되기도 했다.

즉, 사이버보안 분야는 AI를 활용하기 적합하므로 국방 분야 내 AI 도입·활용 추진 시 이를 우선적으로 고려할 필요가 있다.

최근 북한이 AI 관련 연구개발을 확대하고 있고, 이를 군사역량 강화, 특히 AI 기반 사이버작전 능력을 확보할 가능성이 존재함을 감안하면, 사이버작전 분야에 대한 AI 활용을 우선적으로 고민해야 한다. 북한의 AI 기반 사이버위협에 더욱 기민하게 대응하기 위해 작전적 관점에서 AI를 활용할 필요가 있다.

현재 북한은 김일성대학 등 대학·연구소를 중심으로 안면·음성·지문 인식, 문서 분석·관리, 생산용·자율이동 로봇, AI 기반 사이버 능력(침입탐지) 분야의 AI 연구를 수행 중인 것으로 알려져 있고, 이러한 북한의 AI 연구는 정찰총국 121국 등 사이버작전을 수행하는 해킹 관련 조직에서 주도할 가능성이 크다고 분석되고 있다.

이미 북한이 사이버공격 관련 우수한 능력을 갖춘 것으로 평가되고 있음을 감안하면, 북한 사이버위협이 AI를 통해 더욱 심화될 가능성이 크기에 이에 어떻게 대응할 것인지 논의가 필요하다. 또한, 현재 우리 군이 사이버 작전 역량 강화를 본격적으로 추진하고 있기에, 현시점에서 사이버작전에서 AI를 어떻게 활용할 수 있을지를 논의할 필요가 있다. IT 기반의 능력에 대한 의존도가 높은 사이버작전의 수행개념에 AI를 내재하여, AI 기반 사이버작전능력의 방향을 정립할 필요가 있다. 물론 새롭게 등장하는 AI 기반 사이버위협은 기존의 사이버방어 능력으로 대응하기에 제한되므로, 이를 해결하기 위해 사이버작전 내 AI 활용을 고려해야 한다.

미 국방부는 이미 사이버 분야에 AI 도입·활용을 지속 추진해왔고, 최근 합동AI센터(JAIC)와 방위고등연구계획국(DARPA)을 통해 사이버작전 분야의 AI 도입을 추진하며, 사이버작전을 위한 AI의 역할을 강조하고 있다. 따라서 사이버보안 분야의 선도국인 미국이 국방 분야에서 사이버작전과 관련하여 AI를 어떻게 추진하고 있는지를 살펴보고 우리 군이 참고할 수 있는 시사점을 도출하여, 궁극적으로는 우리 군이 사이버작전과 AI를 연계하여 발전시키기 위한 방향을 제언하고자 한다.

미 국방부는 2018년 ‘DOD AI 전략’을 통해, 국익을 저해하는 사이버위협 대응을 위해 AI를 활용할 것을 지시한 바 있다. 동 전략은 국가와 시민을 보호함에 있어, 금융, 전력, 선거체계, 의료시스템과 같은 기반시설에 대한 사이버위협의 예측·식별·대응 능력을 강화하여 주요 기반시설 방어에 AI를 활용할 것을 지시한다. 여기서 AI는 사람을 대체하는 것이 아니라 학습 과정에 사람의 의사결정이 반영되고 AI와 협업하여 사람의 능력을 향상시키는 ‘사람 중심의 방식(human-centered manner)’으로 활용하는 것임을 명시하고 있다. 즉, 동 전략을 통해 미 국방부는 사이버 분야의 AI 활용은 사람을 지원하는 역할에 중점을 두어야 한다는 기준을 제시하고 있다.

DARPA는 국가안보를 위한 혁신기술(breakthrough technologies)의 연구개발(R&D) 사업을 관리, 감독하는 미 국방부 산하 전문연구기관이다. DARPA는 현재가 아닌 미래 군사기술에 무엇이 필요할 것인지를 찾는 연구를 지향하며, 사이버 분야를 포함한 군사작전 영역에서 근본적으로 새롭고 획기적인 전쟁을 위한 개념, 기술, 능력을 만드는 것을 목표로 한다.

이러한 기관의 성격을 바탕으로 DARPA는 AI가 DARPA 내 다른 R&D를 지원, 가능하게 할 것을 전망하고, 미래 혁신 제공을 위한 4가지 전략과제 중 하나인 ‘과학 및 기술의 기초연구’에서 기초연구로 AI 연구를 추진하고 있다. 이러한 DAPRA의 AI R&D 중 사이버 분야의 연구는 정교한 사이버공격에 대한 실시간 분석, 배포된 SW인증자동화 등의 새로운 능력을 얻는 데 초점을 두고 진행되고 있으며, 현재 자율성(autonomy), 자동화(automation), 인공지능(artificial intelligence) 등의 개념을 적용한 다양한 사이버기술 R&D가 수행되고 있다. 

현재 DARPA에서 수행되는 AI-사이버 R&D는 대부분 심화된 사이버위협의 효율적인 대응을 위한 사이버방어작전 관점의 R&D이다(<표 1> 참고).


DARPA는 최근 JAIC와 사이버보안-AI-사이버작전의 융합을 위한 협력을 시작하기도 했다. 사이버작전에 AI 강화 기술을 통합하는 HACCS(Harnessing Autonomy for Countering Cyberadversary Systems) 프로그램이 그 결과이다. HACCS 프로그램은 봇넷에 감염된 네트워크와 장비를 정확히 식별하고, 잠재적인 접근 벡터의 안정성을 측정하는 기술을 연구했다. DARPA와 JAIC는 HACCS 프로그램을 통해 대규모 봇넷(botnet)·악성코드로 인한 네트워크 공격에 대응하는 자동화된 SW 에이전트를 개발하였다.



DARPA는 민간의 관심을 촉발하여 R&D를 유도하고 이를 국방 분야에 환류하기 위해 다양한 기술 경진대회를 개최한다. 이러한 경진대회의 하나인 Cyber Grand Challenge는 사람이 개입하지 않는 자동화된 사이버공격-방어의 가능성을 확인한 바 있다.

Cyber Grand Challenge는 자율적으로 동작하는 AI를 이용한 시스템이 사람의 개입 없이 실시간으로 상대방 시스템의 SW 결함과 취약점을 탐색, 공격하고 자신의 시스템 결함을 자동으로 찾아 해결(패치)하는 경진대회로, 2014년 시작되어 2015년 예선(100개 이상 팀), 2016년 결선(7팀)을 거쳐 카네기 멜론 대학(Carnegie Mellon University) ForAllSecure 팀의 Mayhem이 최종 우승하였다.

우승한 AI(Mayhem)는 당시 전문해커 대비 낮은 수준·능력이었지만 사람의 개입 없이 AI 자체만으로 자동적인 사이버공격과 방어가 가능함을 입증하여, 이후 사이버보안 분야의 AI 활용을 촉진하는 시발점이 되었다. Mayhem은 국방혁신단(DIU, Defense Innovation Unit)을 통해 2020년 5월 미 국방부와 미군에 도입되었고, 현재 미군의 무기체계 등 핵심 SW에 대한 보안테스트 임무에 활용되고 있다.

미 국방부의 AI 추진을 주도하는 JAIC는 2019년부터 사이버방어 분야의 AI 활용을 핵심 이슈로 인식해왔고, 현재는 사이버작전의 공격과 방어 분야 모두에 AI 활용을 추진하고 있다.

방어 관점에 서 JAIC는 이미 민간의 사고·악성코드·공격 분석 분야에 오랫동안 AI가 실제 적용되어왔고 성숙한 상용제품이 시장에 있다는 판단하에, 민간의 성숙된 AI 관련 사이버보안 기술을 미군 전술 네트워크 방어에 활용하는 방안을 모색하고 있다.

반면 공격 관점에서는 AI가 엄청난 잠재력이 존재하나 아직 민간 분야의 기술성숙도가 낮다는 판단하에, 자체적인 R&D 추진에 집중하고 있다.

지금까지 JAIC가 사이버공격과 방어에 AI를 어떻게 활용하는지에 대해서 구체적으로 공개한 사항은 없다. 하지만 네트워크나 사물의 공격 표면(attack surface)과 약점을 찾거나, 이상행위 탐지, 네트워크-사물의 매핑 등에서 요구되는 대규모 작업에 AI가 활용 가능함을 강조한 바 있다. 그리고 자연어처리(NLP, Natural Language Process) 등의 AI 기술은 정보 과부하를 줄이고, 방대한 오픈소스에서 빠르게 군사적으로 활용 가능한 정보를 얻을 수 있다고 강조하기도 했다. 즉, JAIC는 이러한 분야에 대해 사이버공격과 방어에 관심을 가지고 활동을 추진하고 있음을 추정할 수 있다.

JAIC는 2019년 4월 신속한 사이버 상황인식을 위해 AI를 활용하는 사이버국가임무구상(CNMI: Cyber National Mission Initiative)을 추진하였다. 민간의 AI 기술이 사이버작전에 사용하기에 충분한 능력을 갖추고 있다는 판단하에, 사이버작전 분야의 네트워크 사고 탐지, 사용자 활동 모니터링, 네트워크 매핑 활동에 대해 AI를 도입, 활용을 추진하는 계획(CNMI)을 수립한 것이다. 이를 위해 여러 부문의 약 30개 IT 업체와 협업을 추진하여, 2019년 10월부터 6개월 동안 상기 3가지 기술(네트워크 사고탐지, 사용자 활동 모니터링, 네트워크 매핑 활동)을 위한 관용(GOTS)제품 프로토타입 개발을 신속히 추진하였다.

JAIC는 주 임무인 국방부 전체의 AI 활용 가속화를 위한 핵심요소로 ‘데이터’를 중요하게 인식하며, 사이버 분야에 대해서도 이러한 인식은 동일하다. 이에 따라 JAIC는 AI 기반 사이버방어를 위해 필요한 군사 사이버보안 데이터의 프레임워크를 생성하기 위해, 사이버작전 관련 AI 모델 훈련을 위한 공통데이터프레임워크를 개발하였다. 

이를 위해 JAIC는 2019년에 미 국가안보국(NSA), 미 사이버사(USCYBERCOM), IT 업체들과 함께 미 국방부 IT 생태계 내 데이터수집 표준화 작업을 시작하였고, 전술 부대에서 AI 개발 시 학습과정에 데이터를 활용할 수 있도록 작전 데이터를 재구성하고(curate), 태그하고(tag), 레이블링하기 위한 공통데이터프레임워크를 개발하였다. 

JAIC의 공통데이터프레임워크는 사이버작전 관련 군사 네트워크의 잠재적인 위협을 모니터링하기 위해 AI 훈련에 필요한 데이터를 생성한다. 또한, 사이버보안서비스공급자(CCSP), 사이버보호팀(CPT) 등 사이버작전과 관련된 이해관계자가 미 국방부의 빅데이터 플랫폼을 더 잘 활용하고 AI를 적용하여 작전적 이점을 얻을 수 있도록 지원한다.

현재 JAIC는 신규 6개 임무구상의 하나로, 미래 정보환경에서 미 국방부와 합동군에게 정보 이점을 제공하기 위한 ‘Joint Information Warfare’(이하, JIW)의 임무구상을 통해 사이버 분야와 AI의 통합을 추진하고 있다.

JIW의 핵심은 사이버-AI의 통합으로, 이를 위해 선도적인 상용 기술과 정부 AI 솔루션을 미 국방부 관점에서 통합하고, 고성능 AI 지원 능력 확보에 필수로 요구되는 데이터를 표준화한다. 

JAIC는 JIW를 통해 AI기반 데이터 탐색기술인 MADHAT를 발표하였다. MADHAT은 AI 기술인 자연어처리(NLP)와 음성-문자변환(Speech to Text)을 활용하여, 네트워크에 존재하는 미묘한 적대적인 위협을 효과적으로 탐지할 수 있도록 하는 기술로, 네트워크 사고 탐지와 관련된 분석가들이 활용하고 있다.

앞서 미 국방 분야의 사이버작전 관련 AI 추진·활용 사례의 특징과 시사점을 정리하면 다음과 같다. 

첫째, 미 국방부는 사이버 분야에 대한 AI 활용을 전략 중점으로 추진하고 있다. 특히, 사이버위협 대응에 있어, 사람과 협업하는 AI를 통한 능력 강화를 강조한 점은 눈여겨볼 부분이다. 또한 ‘DOD AI 전략’을 주도하는 JAIC가 사이버 분야와 AI의 통합을 추진하는 ‘Joint Information Warfare’를 추진하여, AI와 사이버 분야를 전략적으로 연계하고 있는 점도 관심을 가지고 지켜볼 필요가 있다.

둘째, 장기적인 연구와 단기적인 기술 획득을 동시에 추진하고 있다. 미래를 대비한 R&D를 주관하는 DAPRA는 사이버작전 관련 R&D를 장기적인 연구로 추진하면서 동시에 민간기술을 신속히 활용하기 위한 시도를 함께 진행하고 있다. 

JAIC는 DARPA의 장기적 연구 대상이 아니거나 시급히 필요한 부분에 대해 민간의 기술성숙도가 높은 AI 기술을 도입, 활용하고 있다. 또한, 사이버작전과 관련된 AI 활용 추진에 있어, 여러 기관 간 노력이 함께 진행되고 있다. DARPA의 Cyber Grand Challenge를 통해 개발된 Mayhem은 DIU를 통해 CSO 제도로 신속히 미군에 획득, 활용되고 있고, JAIC와 DARPA는 네트워크 공격에 대응하는 HACCS 연구를 함께 수행하여 자동화된 사이버공격 대응기술을 개발하였다.

셋째, 민간과의 협력이 중요한 비중을 차지한다. DARPA의 Cyber Grand Challenge는 민간 우수기술의 국방 분야 도입이 목적이었고, 실제 그 결과인 Mayhem은 미군에 도입, 활용되었다. JAIC에서 추진한 두 가지 사례, 신속한 사이버 상황인식을 위한 사이버국가임무구상(CNMI)과 사이버작전 AI 모델 훈련을 위한 공통데이터프레임워크 개발은 다수의 IT업체가 참여하기도 했다. 즉, 민간협력이 사이버작전의 AI 활용에 상당 부분 기여했다.


넷째, 사이버작전 관련 데이터 표준화를 우선적으로 추진하였다. 사이버보안 분야는 근본적으로 디지털 환경이기에 데이터가 많이 존재했지만, 실제 사이버작전에 AI를 활용하기 위해 군사적인 목적으로 표준화된 데이터가 필요했던 것이다. 이러한 데이터 표준화 추진은 현재 미국이 사이버작전 분야에서 데이터가 필요한 AI를 추진하고 있음을 간접적으로 의미한다.


지금까지 살펴본 바와 같이 사이버작전에 대한 AI 활용은 추진되어야 하고, 할 수밖에 없는 방향성을 가진다. 따라서 미 국방 분야 사례에서 확인된 사항을 바탕으로 우리 군이 사이버작전 관련 AI 추진 시 고려할 몇 가지 사항을 제시하고자 한다.

먼저, AI 추진에 있어 사이버작전에 관한 관심과 집중을 위해 국방부·합참 수준의 전략 및 계획에서 강조가 필요하다. 특히, 아직 우리 국방부는 AI 계획·전략을 수립하지 않았기에 우리 군의 AI 활용에 대한 방향 설정이 필요한 상태이다. 현재 국방정보화기본계획(’19-’33)의 정책 방향으로 ‘국방 사이버안보 역량 강화’가 제시되어 있지만, 작전적 관점의 AI 활용은 미흡한 수준이다. 따라서 향후 AI 계획·전략 수립 시 사이버작전을 위한 AI 추진을 중점 사항으로 강조해야 한다.

둘째, 사이버작전에서 AI를 활용할 수 있는 분야와 요소를 식별해야 한다. 미국의 JAIC는 단기적인 접근으로 사이버방어, 데이터 표준화 등을 식별, 추진하고 있다. 그리고 DARPA는 실제 작전적 필요성이 존재하거나 미래의 필요성을 바탕으로 장기적으로 해결해야 할 문제(사회공학적공격, 복잡화된 플랫폼 구성, 대규모로 증가하는 위협·취약점, SW 보증 등)를 위한 R&D를 수행하고 있다.

이와 유사하게 우리 군도 사이버작전 분야 중 AI를 활용이 가능한 부분을 먼저 식별하고, 이에 대한 단기적·장기적인 추진의 접근 방향을 설정할 필요가 있다. 특히, 사이버작전 내 AI 활용을 위해서는 사이버작전 관련 데이터 표준화 활동이 반드시 먼저 수행되어야 하므로 이를 반영해야 한다. 또한, 우리 군이 운영하는 정보체계가 대부분 민간에서 개발, 도입되었기에 이들에서 생성되는 데이터를 사이버작전 내 AI에 사용하기 위해 JAIC의 공통데이터프레임워크 개발과 같이, 민간 IT업체와의 협력도 적극 추진되어야 한다.

그리고 현재 우리 군은 사이버작전 수행에 있어 전문인력이나 능력 확보의 제약이 존재하므로, AI 활용을 통해 전문성을 갖추거나 능력의 효율적인 확보가 가능한 부분을 식별하여 AI 활용을 추진할 필요가 있다. 물론 현재 신규로 추진되고 있는 사이버작전 관련 전력·무기체계 등의 기능과 능력에 대한 AI 지원 요소도 식별, 반영해야 한다.

셋째, 장기적인 연구와 단기적인 기술 획득을 어떻게 추진할 것인지에 대한 기준과 이행방안을 마련해야 한다. AI는 현재 개발된 기술보다 발전 중인 분야의 비중이 더 높고, 사이버작전은 아직 작전수행개념 정립과 발전이 요구되기 때문에, 장기적인 연구 분야를 식별하여 계획적으로 연구를 추진할 필요가 있다.

한편, 사이버작전에 AI를 신속히 도입, 활용할 수 있는 제도적 기반의 보완도 필요하다. 최근 도입된 신속시범획득사업 제도는 사이버작전을 위한 AI 도입에 활용 가능할 것이다. 현재 국방정보화기본계획(’19-’33) 정책과제에 사이버전력 소요기획·획득절차 개선이 포함되어 있지만, 실제 추진은 2025년 이후로 계획되어 있어, 더 신속한 추진이 필요하다.

넷째, 민간 분야의 협력·참여 촉진을 위한 정책적 방안도 필요하다. 민간의 사이버 관련 기술은 이미 AI가 적용되어 활용되고 있기 때문이다. 우리 국방부는 연구나 사업 외에 민간 분야와의 협력은 미흡하다. 따라서 민간과의 협력에 있어 연구나 사업 추진만이 아닌, 기술 협력에 적극적인 참여를 유도할 수 있는 정책적 방안의 모색이 필요하다. 사이버작전의 특성을 고려 시, 현재 법령에 규정된 정보보호 서비스 전문 기업을 중심으로 포괄적인 AI 협력이 가능한 협력체를 구성, 유지하는 방안을 고려할 수 있을 것이다.

※ 본 내용은 집필자의 개인적 의견이며, 한국국방연구원의 공식적 견해가 아님을 밝힙니다.