인공지능(AI)은 빠른 계산 능력과 방대한 데이터 분석력을 바탕으로 의료, 금융 등 다양한 분야에서 활용된다. 군사 분야에서는 표적을 식별하고 공격 우선순위를 추천한다. 그렇다면 인간의 삶과 죽음이 걸린 최종적인 공격 결정까지 AI에 맡겨도 괜찮을까?

인간의 생명은 단순히 확률이나 효율의 문제가 아니라 존엄성과 윤리, 책임이 함께 고려돼야 한다. 또한 AI는 살아 있는 존재가 아니어서 자신이 내린 결정으로 인해 죄책감을 느끼지도 않으며, 자신의 생명이 위험에 처하지도 않는다. 결국 AI는 주어진 목표를 가장 효율적으로 달성하는 방향으로 판단한다.

만약 목표가 ‘아군 피해 최소화’ 또는 ‘작전 성공 확률 최대화’라면 AI는 목표 달성을 위한 최적의 선택을 하고 그 과정에서 희생되는 인간은 단순한 변수나 기회비용으로 계산될 것이다. 이는 인간을 목적이 아닌 수단으로 취급하는 사고방식이며, 인간의 존엄성을 심각하게 훼손할 위험이 있다.

혹자는 군사작전 수행 시 이해관계가 없는 존재가 더 객관적이고 합리적인 판단을 내릴 것으로 생각할 수 있다. 역사적인 경험은 오히려 그 반대의 모습을 보여 준다. 결정을 내리는 이가 그 결과를 직접 감당하지 않을 때 인간의 생명은 숫자로 환원되기 쉽고 결정은 더욱 냉혹하다.

대표적인 사례로 제1차 세계대전의 참호전을 꼽을 수 있다. 의사결정자들은 전선에서 멀리 떨어진 지휘소에서 지도를 보며 작전을 세웠지만, 장병들은 기관총과 포탄이 쏟아지는 참호를 향해 돌격해야 했다. 영국의 솜전투에서 첫날에만 약 6만 명의 사상자가 발생했지만, 참호전은 계속됐다. 지도 위에서는 병력이 숫자였지만 실제 전장에선 각각이 가족과 삶을 가진 한 인간이었다. 결과를 직접 감당하지 않는 위치에서는 인간이 통계와 자원으로 바뀌었다.

또한 독일의 정치철학자 해나 아렌트는 나치 전범 아돌프 아이히만의 재판을 분석하며 ‘악의 평범성’이란 개념을 제시했다.

아이히만은 자신이 특별히 잔인해서가 아니라 상부의 명령과 행정절차를 충실히 수행했을 뿐이라고 주장했다. 수백만 명의 유대인이 희생되는 과정에서 자신의 행동이 인간에게 어떤 의미가 있는지 스스로 판단하지 않아 엄청난 비극이 일어났다. 두 사례에서 보듯이 인간조차 결과를 직접 감당하지 않을 때 비인간적인 일이 발생한다. 만약 AI라면 어떨까?

또 다른 측면에서 AI가 오판해 민간인을 공격했다면 누구에게 책임을 물을 것인가? AI는 처벌받지도 않고 반성하지도 않는다. 개발자는 알고리즘을 만들었을 뿐이고, 군 지휘관은 AI의 판단을 따랐을 뿐이라고 할 것이다. 결국 책임은 여러 주체 사이에서 희미해지고 아무도 책임지지 않는 상황이 생긴다. 인간의 생명이 희생됐음에도 책임 주체가 사라지는 것이다.

역사는 반복해 우리에게 같은 교훈을 남겼다. 인간을 숫자로 계산하고, 누구도 책임을 지지 않는다면 비극은 반복될 것이다. AI가 전쟁 수행뿐만 아니라 전쟁 개시 결정까지 하는 시대가 온다면 우리 삶과 미래는 AI의 결정에 달릴 것이다. 인류의 미래를 AI에 맡길 것인가?