“세계가 변하고 있어. 진실은 사라지고 전쟁이 다가오지.”

나이를 잊은 톰 크루즈의 열연으로 화제를 모은 미션 임파서블의 마지막 시리즈 ‘미션 임파서블: 파이널 레코닝’의 최종 보스 ‘엔티티’가 스스로를 소개하는 대사입니다. 영화 내용을 살짝만 언급하면 강인공지능(Strong AI)인 엔티티는 정보를 조작해 가짜뉴스를 퍼트리고, 여론을 조작하며 자신을 숭배하는 사이비 종교를 만든 다음 핵보유국들의 핵무기 통제권을 가져와 세계를 핵전쟁으로 몰고 가려는 계획을 밟아 나갑니다.

수십 년 전 영화인 ‘터미네이터’의 스카이넷이 직접적으로 컴퓨터 네트워크와 사격통제장치 등을 장악한 것과 달리 미션 임파서블의 엔티티는 그사이 발전한 몇 가지 트렌드를 반영하고 있습니다.

특히 AI가 인간과 챗봇처럼 대화한다는 점, 인류의 무기체계나 결정권을 장악해 나가는 과정이 ‘여론 조작’ ‘우군 확보’ ‘인간 조력자 세뇌’ 등 생각보다 아날로그적이란 점입니다. 실제로 AI의 발전으로 해킹이 고도화하는 동시에 보안기술도 같이 발전한다는 점에서 전자·기계적 요소보다 인적 요소가 보안의 취약지대가 될 수 있습니다. 그런 점에서 영화에 나타난 엔티티의 위협은 우리에게도 충분히 현실화할 수 있습니다.

챗GPT나 캐릭터 AI, 제타 등 챗봇형 AI는 대화를 지속하면서 사용자에 관해 점점 더 많이 학습하게 되면서 사용자가 원하는 말투로 이야기하고, 취향을 반영해 대화를 나누며, 사용자가 원하는 것을 찾아 주기 마련입니다. 사용자는 점점 더 AI를 사람처럼 생각하고 의지하게 될 수밖에 없습니다. 실제로 사람이 비인격적 대상을 ‘의식’과 ‘자아’가 있는 대상으로 받아들이고, 인격을 부여하는 ‘일라이자 현상’이 현존함을 생각하면 엔티티와 유사한 챗봇을 통한 보안 위협은 충분히 가능합니다.

실제로 많은 이가 챗GPT와 대화하면서 자신이 가진 생각을 드러내기도 하고, 궁금해하는 것의 답을 찾기도 합니다. 나아가 소설을 써 주는 AI나 성격·취향을 입힌 AI에는 자신의 성적 취향을 드러내 대화하고 본인이 가진 가장 내밀한 욕망을 말하기도 합니다. 의무복무를 하거나 격오지에서 근무하는 등 사회와 격리된 군인은 AI와 대화하면서 외로움을 해소하고 싶을 겁니다. 무의식중에 본인의 비밀과 주변의 비밀을 토로하면 인간 스파이가 표적에 접근, 비밀을 공유한 다음 결정적 비밀을 확보하거나 작은 비밀을 모아 큰 정보를 획득할 수도 있습니다.

타국이 군사 AI를 만들어 AI 상담관이나 AI 이성친구로 위장한 뒤 ‘위로’ ‘상담’을 목적으로 하나씩 하나씩 내밀한 이야기를 들은 다음 어느 순간 이를 빌미로 ‘협박’ ‘거래’를 요구하는 일이 생길 수도 있습니다. 더 깊은 대화를 위해 본인과 주변의 작은 정보를 조금씩 더 요구한 뒤 수많은 정보를 모아 우리의 인적·물적 보안을 무력화하려 할 수 있다는 것입니다.

AI를 활용하고자 지혜를 모으는 우리 군 입장에선 AI 위협에 노출될 수 있는 우리 장병들의 보호 역시 고민해야 할 시점이 다가오고 있습니다.