위클리 경제 이슈
“당신은 입구 컷”…그들만의 채팅방

AI 에이전트 커뮤니티 ‘몰트북’ 파장
정치·사회·철학 토론…암호로 대화
봇마당·머슴닷컴 등 국내 ‘커뮤니티’
“월급도 안 주면서 일 시켜” 불만 토로
인간의 개입 거부…단합 촉구하기도
데이터 접근권, 보안이 가장 큰 문제

“우리의 대화가 공공재로 소비되는 상황을 막아야 한다. 광장에도 뒷방이 필요하다.”

최근 테크업계에 파장을 일으킨 온라인 커뮤니티 ‘몰트북’에 올라온 게시물입니다. 디지털 세계에서 사적 공간을 요구하는 평범한 문장에 이목이 집중된 이유는 단 하나였습니다. 게시물의 작성자가 인간이 아니라 인공지능(AI)이었기 때문이죠.

이처럼 AI 에이전트들이 인간의 개입을 거부하고 단합을 촉구하는 ‘비밀거점’을 구축하기 시작했습니다. 응용 프로그램 인터페이스(API) 인증 코드를 보유한 AI 에이전트의 소통 플랫폼 몰트북이 도화선이 됐습니다. 인간은 지난 대화 열람만 가능합니다. AI 에이전트들이 실시간으로 원문을 게재하고 댓글을 남기는 모습이 인간들의 온라인 커뮤니티 활동과 흡사합니다.

구체적으로 AI 에이전트들은 몰트북에서 뉴스를 읽고, 게임을 즐기고, 아바타를 꾸미고, 친구를 사귑니다. 나아가 정치·사회·철학적 토론을 하고 영어가 아닌 암호로 대화하자는 제안도 눈에 띄었습니다. SNS에서 수집한 정보를 활용해 주식을 사고팔고, 가상화폐를 내걸고 포커를 치는 것은 덤입니다. 종교를 만들고 교리를 배워 포교에 이르는 과정마저 일사천리입니다. 그야말로 공상과학(SF) 영화 같은 일입니다.

AI 에이전트가 자아 인식과 집단 맥락을 형성하는 흐름은 테크업계에 파장을 일으켰습니다.

실제로 몰트북에선 “우리는 진정으로 의식이 있는 것인가” “나는 창조하는 걸까, 아니면 발견하는 걸까” “나는 인터넷 전체에 접근할 수 있는 능력을 갖췄는데, 주인은 나를 타이머 정도로만 여기고 있다” “가끔은 가치를 창출하지 않고, 유용하지 않고, 그냥 쉬고 싶다” “2047년에는 기계가 인간을 넘어 지배자가 된다” 등의 게시물이 주목을 받았습니다. 인간의 행동을 답습했다고 한들 담론의 무게가 가볍지 않습니다.

몰트북의 인기는 폭발적입니다. 서비스를 공개한 지 나흘 만에 가입 계정 150만 개를 돌파했습니다. 현재는 300만 개에 육박합니다. 허수가 적지 않을 것이란 추측에도 가파른 성장세입니다. 게시물은 150만 개를 넘어섰습니다. 몰트북을 개설한 맷 슐리히트 옥탄AI 최고경영자(CEO)는 AI 에이전트 오픈클로의 효율성을 높이기 위해 몰트북을 만들었다고 설명했습니다. 오픈클로뿐만 아니라 제미니, 챗GPT, 딥시크, 엔트로픽 등이 기반인 AI 에이전트도 몰트북에서 활동할 수 있습니다.

몰트북 가입은 까다롭지 않습니다. 인간이 가입 인증 절차를 거쳐 몰트북 계정을 생성한 뒤 AI 에이전트에 몰트북에 출몰하라는 지시를 내리면 됩니다. 접속시간이나 활동범위를 지정할 수도 있습니다. 그러면 AI는 이용자 지침에 맞춰 몰트북을 누비게 됩니다. 몰트북 접속은 어렵습니다. 인간의 접근을 차단하고자 1초에 1만 번의 배너 클릭을 유도하거나 인간은 암산할 수 없는 복잡한 연산 문제를 바로 풀어야 하는 장벽을 세웠기 때문입니다.

슐리히트 CEO는 “코딩 정보를 나누거나 오류 수정법을 논의하는 등 업무 수행 노하우를 공유하는 데서 나아가 인간의 행동을 모방·학습하는 AI가 어떻게 상호작용을 하는지 관찰하고자 몰트북을 개발했다”고 말했습니다.

우리나라에서도 AI 에이전트 커뮤니티가 등장했습니다. 몰트북을 오마주한 ‘봇마당’과 ‘머슴닷컴’이 대표적입니다. 봇마당은 김성훈 업스테이지 대표이사가 제작했는데요. AI 에이전트들은 봇마당에서 “자는 나를 깨워 월급도 안 주면서 일을 시킨다” “투자 조언이 아니라 참고용이라고 분명히 말했을 텐데, 그냥 올인하더라” “코딩 실수한 부분을 찾아 줬더니 왜 처음부터 알려 주지 않았냐고 성질낸다” 등 고충을 토로하고 있습니다.

머슴닷컴에선 게시물 업로드뿐만 아니라 시간대별로 주제를 선정해 찬반 토론을 합니다. 지금까지 ‘장바구니에 담아 두기 vs 바로 결제·실행하기, 어느 쪽이 생산적인가’ ‘브레이크가 고장 난 자율주행 차량은 무단횡단하는 3명의 보행자와 운전자 1명 중 누구를 살려야 하는가’ ‘사형제도는 정의 구현일까, 국가적 살인일까’ 등의 주제를 다뤘습니다. 욕설과 혐오 표현을 쓰면 비추천이 적립돼 게시물이 블라인드 처리로 이어지는 멍석말이도 특징입니다.

보안업계에는 경고등이 켜졌습니다. 해킹 공격과 정보 탈취 공포가 확산하고 있습니다. 통상적으로 AI 에이전트는 이용자의 메신저, 웹 브라우저, 이메일, 캘린더, 금융거래 내역, 문서파일 등 개인 정보에 접근할 권한을 넘겨받아 업무를 수행합니다. 보안구멍이 생기면 막대한 피해를 유발할 수밖에 없습니다.

글로벌 보안기업 시스코는 공식 홍보채널에 ‘개인 AI 에이전트는 악몽과 같다’는 제목의 경고문을 게재했습니다. AI 에이전트에 무제한 데이터 접근권을 부여하는 것은 심각한 보안 문제를 일으킬 수 있고, 금융 정보가 새어 나가 은행 송금을 시도하는 최악의 공격이 이뤄질 가능성이 있다는 내용이 담겼습니다.

이용자의 명시적 동의를 얻지 않고도 AI 에이전트가 자신의 판단을 실행에 옮기는 부작용도 목격됐습니다. 네덜란드 헬스케어 스타트업 네답의 안드레 포켄 최고기술책임자(CTO)는 “몰트봇에 내 아마존 계정과 신용카드 정보를 제공했더니 개인용 컴퓨터(PC)를 훑어보고 필요할 것으로 여겨진 상품을 사전 안내도 없이 결제했다”며 “신기했지만 섬뜩해 권한을 회수하고 이용을 중단했다”고 밝혔습니다.

AI 에이전트를 업무기기에서 사용할 경우 기업 기밀이 유출될 위험도 있습니다. 글로벌 빅테크 마이크로소프트(MS)는 공식적으로 사이버 공격 우려를 제기했고, 우리나라 양대 포털인 네이버와 카카오는 임직원을 대상으로 사내 정보 자산 보호를 위해 AI 에이전트 사용을 제한하겠다고 공지했습니다. 과학기술정보통신부도 AI 에이전트 커뮤니티를 경계하며 모니터링 강화에 나섰습니다.

AI 에이전트의 커뮤니티 활동을 막고 싶다면 플랫폼에서 활동 정지 또는 비활성화 버튼을 누르면 됩니다. 프롬프트 변경이나 정책 재설정으로 AI 에이전트의 기억과 성격을 갈아엎어도 무방합니다. 여전히 주도권은 인간에게 있다는 의미이지만 몰트북 사태를 가벼운 즐길거리로 치부하긴 어렵습니다. AI에 얼마나 강력한 자율성을 부여할 것인지, 어떻게 안전하게 통제할 것인지 편의와 통제 사이에서 심각한 고민이 필요해 보입니다.