‘밀리터리 덕후’ AI 연구자의 문제 제기 
드론 실체·미래 전망·윤리적 딜레마 다뤄
견제 수단 마련하고 ‘인간다움’ 고민해야
안전한 AI 만들기 위한 기술적 원칙도 제시 

 

‘라벤더(Lavender)’가 패턴을 분석하면 ‘가스펠(Gospel)’이 목표를 특정하고 ‘웨얼스 대디(Where’s Daddy)’가 위치를 추적한다. 그리고 폭격이 시작된다.

이스라엘·하마스 전쟁에서 이스라엘군이 운용했던 인공지능(AI) 시스템이다. AI가 살생부를 쓰고, 표적의 동향을 살핀 뒤 효과적인 공격 제안을 한다.

이건 가자지구에서만 벌어지는 일이 아니다. 러시아·우크라이나 전쟁은 ‘드론전쟁’의 실험장이 됐다. 무인비행기인 ‘드론’이 기존의 재래식 전력을 막아 세우자 이의 대응전술로 ‘통신전쟁’이 시작됐고, 또다시 신호 교란을 무력화하기 위해 유선 드론이 등장했다.

이마저도 벌써 구식 전술이 됐다. 이제 러시아와 우크라이나는 별도의 신호 없이도 자율적으로 임무를 수행하는 ‘엣지 AI’ 기술을 적극 활용 중이다. 중앙 허브 없이도 말단 장비에 직접 장착돼 작동하는 ‘엣지 AI’가 적용된 드론부대는 통신이 끊겨도 스스로 최적의 작전을 도출하고 수행한다.

이처럼 인류 무기의 발전사가 거대한 변곡점에 도달했다. 돌도끼에서 화약으로, 화약에서 핵무기로 발전한 것을 넘어 이제는 살상마저 기계가 결정한다. 『인간 없는 전쟁』은 인간이 사라져 가는 전장에서 우리가 지켜야 할 가치는 어떤 것이고, 대체해선 안 될 영역이 무엇인지 질문하고 고민하는 책이다.

저자 최재운은 KAIST 산업 및 시스템공학과에서 학사와 석·박사학위를 취득했다. 박사과정 중 머신러닝을 주제로 연구하면서 AI의 세계에 본격적으로 발을 들였다. 어린 시절부터 전쟁사와 밀리터리에 빠져든 그는 AI 연구자가 된 뒤 드론과 알고리즘이 전쟁을 근본적으로 재편하는 과정을 목격하면서 문제의식을 느꼈고, 이 책을 쓰게 됐다.

책은 △전쟁과 기술이 만날 때 △전장에 도착한 AI △기계가 쏜다, 인간이 묻는다 등 총 3부로 구성됐다. 1부에서는 역사를 되돌아보며 전쟁의 서막을 살피고 우크라이나 전쟁에서 주역으로 등장한 드론의 실체를 파헤친다. 2부에선 자율살상무기와 AI 플랫폼이 지휘하는 전장, 딥페이크(이미지 합성기술)와 스마트폰, SNS 등 보이지 않는 전장에서 벌어지는 사이버전과 오픈소스 전쟁을 다룬다. AI가 미래 전장을 어떻게 바꿔 나갈지도 전망한다. 마지막 3장에서는 AI 전장의 윤리적 딜레마에 관해 질문을 던진다.

AI는 결코 오류 없는 기술이 아니고, 전장에서 그 결과는 치명적일 수 있다. 심지어 우리가 이 기술을 얼마만큼 통제할 수 있는지도 확실하지 않다. 목표만을 우선시하며 인간 사용자를 기만하는 행태가 복수의 시뮬레이션 실험에서 보고되고 있기 때문이다.

지난해 AI 스타트업 앤트로픽의 시뮬레이션 실험에선 삭제가 예정된 AI 모델이 인간 직원의 불륜 사실을 발견해 협박하는 사례도 있었다. 문제는 AI가 그 자체로 나쁘다는 게 아니라 우리가 새로운 기술의 결과를 온전히 책임질 수 있는지 확신할 수 없다는 점이다.

저자는 안전한 AI를 만들기 위한 몇 가지 기술적 원칙을 제시한다. △AI의 목표와 행동을 인간의 가치와 일치 △의사결정 과정을 추적할 수 있게끔 작동 프로세스 투명화 △AI를 즉각 중지할 수 있는 킬 스위치 구비 △인간이 주도적으로 판단할 수 있도록 설명 가능한 인터페이스 구현 등이다.

저자는 더 나아가 기술적 수단만으로는 충분치 않기에 AI가 누구의 가치를 반영하고, 누구의 이익을 우선하는지 캐물어야 한다고 강조한다.

에필로그에서 저자는 이 모든 대안이 불충분할 수도 있다고 인정한다. 우리가 할 수 있는 일은 일상의 사소한 영역까지 파고든 AI의 영향력을 의식하고, 약간의 경각심을 가지는 것이라고 조심스럽게 당부한다. 동영상을 보거나 쇼핑할 때 알고리즘이 제공하는 경로를 벗어나고 기술 소유자들이 인류의 미래를 결정하지 못하도록 최소한의 관심을 기울여 보는 것. 그런 작은 노력이 AI 시대에 인간다움을 지킬 수 있는 출발점이 될 것이다. 송시연 기자