위클리 경제 이슈
AI 슬롭의 역습…쓰레기 콘텐츠가 쏟아진다

유튜브 채널 1만5000개 중
278개 채널 AI 슬롭 공장
합산 구독자 수 2억2100만 명
누적 조회 수는 630억 회
광고 수익 1억1700만 달러

한국발 채널 누적 조회 수 84억 회
유튜브 통한 저질 콘텐츠 소비 심각
반복 시청 땐 주의력·사고력 저하
뇌 부패 뜻하는 ‘브레인로트’ 일으켜
미디어 리터러시 교육 강화 필요
의학계, 알고리즘 의존 차단 조언
‘지식은 AI, 지혜는 인간의 영역’ 강조

생성형 인공지능(AI) 서비스가 일상과 산업 전반을 재편하고 있습니다. AI는 인력을 대체하거나 보조하면서 생산성을 극대화하고 정보기술(IT) 진입장벽을 무너뜨렸습니다. 테크업계에서는 AI의 등장을 ‘혁신’이라고 평가합니다. 실제로 우리나라 국민의 절반이 AI를 학습·업무에 활용하고 있습니다. AI는 세대와 직업을 망라하고 대중화에 성공했습니다. AI 연구자·개발자가 노벨상을 받으며 영향력을 공식적으로 인정받기도 했고요.

인간의 영역으로 분류됐던 창작 분야로의 침투 속도 역시 빠릅니다. 비전문가도 명령어 몇 줄과 클릭 몇 번만으로 사진과 영상을 만들어낼 수 있습니다. 과거에는 막대한 자본과 전문 인력이 필요했던 콘텐츠 제작의 허들이 낮아진 것입니다.

다만 모든 것엔 명암이 존재합니다. 콘텐츠 생산 환경의 AI 전환 역시 긍정적으로만 바라볼 수 없습니다. AI로 제작한 저품질 콘텐츠가 급증했기 때문입니다. 이를 ‘AI 슬롭(Slop)’이라고 부릅니다. 슬롭은 찌꺼기·오물이라는 뜻인데요. 흔히 스팸과 비교되지만 명확한 차이가 있습니다. 스팸은 광고 형태를 띠지만 슬롭은 정보나 뉴스로 위장한다는 점입니다.

특히 유튜브가 AI 슬롭 확산의 통로로 지목되고 있습니다. 최근 글로벌 동영상 플랫폼 카프윙이 국가별 인기 순위 상위 100개 유튜브 채널 총 1만5000개를 분석한 결과 278개 채널이 AI 슬롭 공장이었습니다. 합산 구독자 수는 2억2100만 명, 누적 조회 수는 630억 회가 넘습니다. 연간 광고 수익은 1억1700만 달러(약 1690억 원)에 육박할 것으로 추산됩니다.

유튜브에 새롭게 가입한 이용자는 AI 슬롭에 노출될 가능성이 컸습니다. 카프윙이 유튜브 신규 계정을 생성, 추천받은 영상 500개 가운데 104개(20.8%)가 AI 슬롭이었습니다. 개인의 취향 학습이 완료되지 않아 알고리즘 형성이 어려운 빈틈을 압도적인 생산량과 자극적인 섬네일을 자랑하는 슬롭이 파고들며 양질의 콘텐츠를 밀어내는 모양새입니다.

특히 우리나라의 AI 슬롭 소비가 심각한 것으로 드러났습니다. 한국발 AI 슬롭 채널의 누적 조회 수는 총 84억5000만 회로 파키스탄(53억4000만 회), 미국(33억9000만 회), 스페인(25억2000만 회) 등을 모두 앞질렀습니다. 한국을 대표하는 AI 슬롭 채널은 전 세계에서 두 번째로 많은 누적 조회 수(20억 회)를 보유 중인데요. 주로 특이한 야생동물을 발견하거나 반려동물과 야생동물이 싸우는 숏폼을 업로드합니다. 개연성이 부족한 이야기와 기괴한 효과음을 삽입해 시청자를 끌어모읍니다.

AI 슬롭에는 유익한 지식이나 냉정한 통찰이 담기지 않습니다. 알고리즘 탑승을 목표로 이슈에 편승하지만 진위 검증은 어렵습니다. 화면이 화려하고 장면이 반복적이라 시선을 빼앗기는 쉬우나 시청자의 주의력과 사고력을 저하시킵니다. 영국 옥스퍼드사전과 미국 메리엄웹스터가 뇌 부패를 뜻하는 ‘브레인로트(Brainrot)’를 올해의 단어로 선정했을 정도입니다.

저명한 학술지에도 AI 슬롭이 뇌 건강에 악영향을 미친다는 연구 결과가 등재되고 있습니다. 네이처는 AI 슬롭을 지속적으로 시청할 경우 비판적으로 생각하는 능력이 마비되고 맥락을 이해하는 능력이 퇴화한다는 내용의 연구를 비중 있게 다뤘습니다. 매사추세츠공과대(MIT) 연구팀은 AI에 의존할수록 신경 연결성이 약해져 기억력이 감퇴하는 현상이 관찰됐다고 경고했습니다.

현실과 가상의 구분도 무너뜨리고 있습니다. 지난해 노란색 우비를 입은 유튜버가 집중호우에 경복궁이 잠겼다며 흙탕물로 뒤덮인 전각과 조정을 보여주고, 아나운서가 일본에서 대지진이 일어나 빌딩이 붕괴하고 도로가 갈라졌다며 피난을 권유하는 영상이 화제가 됐는데요. 언뜻 재난 상황 생중계로 보이지만 사실은 AI로 제작한 가짜 뉴스였습니다. 최근에는 보디캠을 착용한 경찰관이 흡연하는 여학생을 제지하자 여학생이 경찰관을 몰카범으로 몰아세우는 영상이 논란이 됐습니다. AI 영상이라는 사실을 인지하지 못한 누리꾼들이 혐오성 발언을 쏟아냈습니다. 첨단기술이 현상 조작에 악용되면서 사회 혼란을 초래한 것입니다.

이처럼 AI 슬롭을 단순 장난·저질 영상으로 치부하기는 어렵습니다. 국민의 정신 건강을 해치고, 디지털 생태계를 교란하며, 창작자의 입지를 고사시킵니다. AI로 구현한 AI 슬롭이 AI 학습에 사용돼 AI 모델의 평균 품질을 깎아 먹는 악순환으로 이어질 수 있다는 점에서 막대한 사회·경제적 비용 지출이 예상됩니다.

과학기술정보통신부가 딥페이크 처벌법 개정을 통해 AI 조작에 대한 처벌 수위를 강화하고 있지만 한계가 있습니다. 구체적인 피해가 발생해야만 형사처벌을 추진할 수 있기에 초기 대응이 불가능합니다. AI 제작물에 워터마크를 의무적으로 표시하는 AI 기본법이 시행될 예정이지만 제거가 쉽다는 점에서 실효성이 떨어진다는 지적이 나옵니다.

AI 기술발전 속도와 비교해 제도정비 속도가 크게 뒤처지는 가운데, 플랫폼 책임론도 대두되고 있습니다. 전문가들은 인간의 창의성보다 플랫폼의 알고리즘이 AI 슬롭 양산에 중요한 역할을 한다고 비판하며 강력한 필터링과 패널티를 적용해 달라고 요구합니다. 하지만 유튜브의 입장은 원론적입니다.

유튜브는 “생성형 AI는 도구에 불과할 뿐이고, 고품질 콘텐츠와 저품질 콘텐츠를 만드는 데 동시에 사용될 수 있다”며 “유튜브는 제작 방식과 관계없이 사용자와 고품질 콘텐츠를 연결하는 역할에 집중하고, 정책을 위반한 콘텐츠는 삭제된다”고 설명하고 있습니다.

IT업계에서는 AI 기술 규제보다는 사용 원칙을 정립해야 한다는 목소리가 나옵니다. 미디어 리터러시 교육이 대표적입니다. AI 제작 기술을 응용한 악의적 행동을 막는다는 것은 사실상 불가능하기 때문에 AI를 능숙하게 사용하는 청소년·청년층은 물론 AI가 익숙하지 않은 고령층도 식별 훈련을 해야 한다는 주장입니다. AI를 대체자가 아니라 보조자로 정의하고, 최종 판단은 인간의 몫임을 상기할 필요도 있습니다.

의학계에서는 올바른 유튜브 시청 습관을 발표하기도 했습니다. 세계보건기구(WHO)는 전두엽을 보호하기 위해 자동 재생 기능을 우선 해제해야 한다고 조언합니다. 알고리즘에 의존하는 수동적 시청을 차단해 스스로 콘텐츠를 선택할 수 있어야 한다는 취지입니다. 미국심리학회(APA) 또한 무의식적으로 화면을 응시하며 스크롤하는 습관을 경계할 것을 권고했습니다. 숏폼의 반복 시청은 도파민 수용체를 무감각하게 만들면서 더 강렬한 자극을 요구하기 때문입니다. 그러면서 논리적 전개가 명확한 콘텐츠 시청 비중을 늘리는 등 능동적 인지 활동을 병행할 것을 추천했습니다.

유영만 한양대 교육공학과 교수는 “AI는 방대한 지식을 빠르게 습득하고 처리하지만 경험과 실패를 통해 얻는 지혜는 인간의 영역”이라며 “AI가 제공하는 정보에 대해 비판적으로 해석하고 자신의 아이디어를 추가하는 해석 능력이 중요하다”고 강조했습니다.