첨단 무기와 미래 전쟁 - 정교해지는 딥페이크 기술

AI 활용 가짜 사진·동영상 손쉽게 제작
범죄 악용 넘어 국가안보에도 치명적
우크라이나전쟁서 러시아 활발히 사용
미 DARPA, 대응 알고리즘 개발 중
미 의회, 원천차단 관련 법안 입법 나서
시각정보 조작 강력한 신무기로 진화

최근 주목받고 있는 딥페이크(Deepfake) 기술은 인공지능(Artificial Intelligence 혹은 Machine Intelligence·이하 AI)의 기계학습 능력을 바탕으로 가짜 인물사진이나 동영상을 만드는 것을 의미한다. 문제는 가짜 인물사진이나 동영상의 완성도가 실제와 구분하기 힘들 정도로 정교해지고, 범죄에 악용되는 수준을 넘어 국가안보의 심각한 위협이 되고 있다는 점이다.


딥페이크 기술이 치명적인 이유

영화에서 범지구적 위기 상황을 극복하고자 세계 각국의 정상들이 화상회의를 열고 이견을 조율하며 인류의 공동선을 추구하는 것은 그리 낯선 모습이 아니다. 세계 각국의 대통령 혹은 총사령관이 화상회의에서 원정작전과 관련된 중요한 명령을 내리고 지구 반대편에서 작전 중인 특수부대 상황을 실시간으로 확인하는 것 역시 더는 비밀이 아니다. 그런데 인류 운명을 좌우할 수도 있는 강대국 지도자가 보고 있는 영상 혹은 화상회의 내용이 모두 가짜라면 어떻게 될까? 적국이 대통령 혹은 군 지휘부의 통신망을 차단하고 조작된 정보로 군사적 공격을 선택하도록 유도하거나 반대로 적의 공격에도 불구하고 반격을 포기하도록 명령할 수도 있다는 뜻이다.

사실 미치광이 과학자나 세계 정복을 꿈꾸는 악당 두목이 강대국들을 교란해 서로 싸움을 붙인다는 설정은 1970~1980년대 첩보영화의 흔한 내용이었다. 옛날 첩보영화에서나 가능할 법한 범지구적 위기가 딥페이크 기술의 발전으로 눈앞의 현실이 되고 있다. 일례로 중요한 정책 혹은 결정이 내려지는 정부의 화상회의를 딥페이크 기술을 활용해 교란하거나 엉뚱한 결정을 내리도록 유도하는 일이 실제로 가능해지고 있다는 뜻이다. 문제는 사람의 얼굴을 맘대로 바꾸거나 음성을 똑같이 흉내 내는 딥페이크 기술이 국가안보에 치명적 위협이 될 수도 있다고 인지하는 사람이 그리 많지 않다는 것이다.


예술의 영역에서 심각한 안보문제로

최근 몇 년 동안 AI를 활용한 딥페이크 기술의 확산으로 전문가가 아닌 일반인조차 진실을 왜곡하거나 범죄에 악용될 수 있는 가짜 인물사진·동영상을 손쉽게 만들 수 있게 됐다. 특히 스마트폰 혹은 스마트기기를 활용한 영상통화·영상회의가 보편화하면서 딥페이크 기술을 악용한 범죄 역시 급증하는 추세다. 단적인 예로 딥페이크 기술을 악용한 사기범죄가 기승을 부리고 있는 중국에서 지난해 공안 당국이 체포한 사기범 숫자만 500명이 넘는다. 2024년 현재, 딥페이크 기술은 연예인들의 초상권을 무단 도용한 가짜 인물사진 제작 혹은 지능범죄에 악용되는 수준을 넘어 국가안보에도 치명적인 악영향을 미치기 시작했다.

참고로 딥페이크는 ‘딥러닝(Deep learning)’과 가짜를 뜻하는 ‘페이크(fake)’의 합성어이며, AI가 생성적 적대 신경망(GANs·Generative Adversarial Networks)으로 불리는 기계학습으로 완성한 결과물은 전문가조차 아무런 위화감을 느끼지 못하는 수준에 도달해 있다. 더 심각한 문제는 AI가 단편적 정보를 수집하는 것만으로도 특정 인물의 목소리까지 복제할 수 있는 것은 물론 가짜 동영상의 제작시간 역시 점점 짧아지고 있다는 것이다.


우크라이나 공격한 러시아 딥페이크 기술

우크라이나 육군 전략통신센터(StratKom)는 러시아군이 우크라이나 내부 갈등을 조장할 목적으로 딥페이크 기술을 활발히 사용 중이라고 주장한다. 실제로 지난해 10월, 우크라이나 국민 다수가 사용하는 러시아판 페이스북인 프콘탁테(VK) 미디어 플랫폼을 통해 볼로디미르 젤렌스키 우크라이나 대통령을 비난하는 발레리 잘루즈니 우크라이나군 최고사령관의 동영상이 공개됐다. 특히 동영상에서 잘루즈니 사령관은 젤렌스키 대통령을 우크라이나의 적으로 규정하고, 대통령 탄핵을 위한 우크라이나군의 쿠데타를 촉구해 파문을 일으켰다. 해당 동영상은 전후 사정을 모르는 사람들이 보면 마치 우크라이나 정부 수뇌부에서 내분이 일어났다고 착각할 만큼 충격적인 내용을 담고 있었다. 하지만 이 가짜 동영상은 우크라이나를 지원하는 세계 각국의 해커와 OSINT(Open-Source Intelligence)들에 의해 이미 공개된 우크라이나군 총사령부의 페이스북 게시물을 러시아가 조작한 사실이 밝혀졌다. 우크라이나군 역시 페이스북, X 등의 SNS 계정으로 러시아의 딥페이크 공격을 규탄하는 한편 러시아의 무력침공에 저항하는 우크라이나 국민의 단합을 촉구했다.


인지전을 완성하는 딥페이크 기술 

사실 우크라이나를 대상으로 한 러시아의 딥페이크 공격은 이번이 처음은 아니다. 2022년 2월, 러시아의 무력침공 직후 러시아에 대한 저항을 포기하고 항복하자는 젤렌스키 우크라이나 대통령의 가짜 대국민 연설 동영상이 페이스북 등 SNS를 중심으로 빠르게 퍼지기도 했다. SNS 서비스를 제공하고 있는 페이스북과 유튜브, 세계 각국 해커의 발 빠른 대응에도 젤렌스키 대통령을 포함한 우크라이나 정부 요인들의 가짜 동영상은 지금도 꾸준히 유포되고 있다.

문제는 가짜 동영상에 현혹되거나 속는 사람이 점점 늘어나고 있다는 점이다. 심지어 일부 반전단체는 가짜 동영상을 근거로 우크라이나에 대한 서방세계의 군사적 지원을 즉각 중단해야 한다고 주장한다. 문제의 가짜 동영상을 보고 나면 관련 동영상으로 전쟁을 멈추고 우크라이나의 평화를 촉구하는 블라디미르 푸틴 러시아 대통령의 동영상이 노출된다. 물론 이 동영상 역시 가짜다.

조작된 가짜 동영상의 확산으로 인해 사람들의 잠재의식에 부정적 영향을 미치고 궁극적으로 스스로 저항을 포기하게 만드는 것은 인지전(Cognitive Warfare)의 가장 기본 전략이다. 실제로 우크라이나-러시아 전쟁은 우리가 상상할 수 있는 거의 모든 형태의 정보전·사이버전이 진행되고 있으며, 다양한 형태의 허위 정보가 난무하고 있다. 만약 정교한 딥페이크 영상이 유포되고 초기 대응에 실패한다면 서방세계 정부는 물론 언론에 대한 신뢰는 크게 훼손될 수밖에 없다. 이는 국론 분열로 직결될 것이다.


미국과 국제사회의 대응

미국 의회조사국(CRS)은 지난해 4월, 딥페이크 기술이 국가안보에 미치는 영향과 관련한 정책보고서를 공개했다. 이 보고서에 따르면 딥페이크 기술은 GANs로 불리는 AI의 자율학습 기능을 활용해 인위적으로 만든 가짜 사진과 음성, 영상으로 정의할 수 있다. GANs는 생성자(generator)와 판별자(discriminator)가 상호작용하며 원본과 가짜를 구분하기 힘들 정도로 완성될 때까지 계속 작업을 반복하는 게 특징이다.

현재 미국 정부기관 중 국방부(DOD), 국무부(DOS), 정보기관(NSA, CIA 등)이 해외 딥페이크 기술이 미 국가안보에 미치는 영향과 관련한 정보 수집을 담당하고 있다. 딥페이크 기술에 대한 대응기술 개발은 미 국방고등연구계획국(DARPA·Defense Advanced Research Projects Agency)에서 전담하고 있으며, 사진과 동영상 검증을 담당하는 MedFor(Media Forensics)와 이를 바탕으로 양성·악성 여부를 판단하는 SemaFor(Semantic Forensics) 알고리즘이 개발되고 있다.

끝으로 미 의회는 국론 분열, 정치 개입, 부정선거 등 딥페이크 기술의 악용을 원천차단하기 위한 관련 법안 입법에 나서고 있다. 조 바이든 미 대통령 역시 지난해 10월 초, 안전하고 신뢰할 수 있는 AI 개발 및 사용에 대한 행정명령을 발표했다.

일부 국가를 제외한 국제사회가 딥페이크 기술의 공동대응에 나서는 이유는 간단하다. 딥페이크 기술은 시각정보 조작 능력을 갖춘 강력한 신무기로 시시각각 진화 중이며 인간의 통제에서 벗어날 가능성이 점점 커지고 있기 때문이다.