저품질 AI 영상 범람·가짜뉴스 확산 속 한국 조회수 세계 1위…자정·규제 사이 해법 찾기 시급
특히 한국은 AI로 만든 저품질 양산형 영상의 최대 소비국가다. 미국 동영상 편집 플랫폼 캡윙이 지난해 11월 국가별 인기 유튜브 채널 상위 100개를 분석한 결과, 한국 기반 AI 슬롭 채널의 누적 조회 수는 84억 5000만 회로 조사 대상 국가 가운데 1위를 기록했다. 2위 파키스탄(53억 회), 3위 미국(34억 회) 등을 크게 상회하는 수치다. 또 전 세계에서 조회 수가 가장 높은 AI 슬롭 채널 10개 가운데 4개가 한국에 기반을 둔 것으로 나타났다.
특히 국내 유튜브 채널 ‘3분 지혜’는 조회 수 약 20억 회를 기록해 한국 전체 AI 채널 조회 수의 4분의 1을 차지했다. 해당 채널은 반려동물이 기괴한 괴물, 맹수 등과 싸우는 영상을 주로 다룬다. TTS(텍스트 음성변환) 기술과 AI로 제작된 이미지를 활용한 영상들은 시청자의 호기심을 자극하지만 실제 사실과 무관한 자극적인 시나리오를 반복해서 재생산한다.
AI 슬롭 영상을 게시하던 국내 유튜버가 범죄에 연루된 사례도 있다. 2월 2일 경기북부경찰청 사이버범죄수사1대는 전기통신기본법, 자본시장법, 정보통신망법 위반 혐의로 30대 유튜버 A 씨를 구속 송치했다고 밝혔다. A 씨는 지난해 10월부터 12월까지 경찰공무원의 112신고 현장 출동 장면을 바디캠 시점으로 촬영한 것처럼 AI 허위영상물 54개를 제작해 유튜브 채널 등에 게시한 혐의를 받는다. A 씨 채널의 누적 조회 수는 약 3400만 회에 달한 것으로 전해졌다.
AI 슬롭이 만들어 낸 허위정보가 가짜뉴스처럼 확산되기도 한다. 지난해 말 ‘박세리·김승수 결혼’이라는 제목의 AI 영상이 노년층을 중심으로 급속도로 퍼지며 당사자들이 직접 해명에 나서는 소동이 빚어졌다. 확산된 영상은 실제 뉴스 화면과 유사한 구성을 사용해 ‘1월 23일 비공개 결혼식’ 등 허위정보를 담았다. 실제 이들의 결혼은 사실이 아니었으나 해당 영상은 조회 수 800만 회를 넘겼고 이를 무분별하게 복제한 영상도 흘러 넘쳤다.
이 밖에도 실시간 속보를 빙자한 재난 조작 영상과 정치인 ‘딥페이크 숏폼’, 기괴한 모습의 종교적 이미지를 반복 재생하는 영상, 가짜 자연재해 영상 등이 수백만 건의 조회 수를 기록하며 광고 수익을 얻고 있다. 캡윙은 연구 보고서에서 “허위 정보와 잘못된 정보는 우리 정신 능력의 가장 게으른 부분을 파고든다. 특히 착각 진실 효과(Illusory truth effect)는 사람들이 특정 주장이나 이미지를 자주 접할수록 더 쉽게 믿게 만든다”고 지적했다.
전문가들은 AI 슬롭의 가장 큰 이해 당사자가 플랫폼이라며, 규제에 앞서 이들의 대처를 지켜볼 것을 제안했다. 구태언 법무법인 린 변호사는 “AI 슬롭으로 플랫폼 생태계가 어지러워지면 이용자들이 떠나게 되고, 양질의 콘텐츠가 줄면 수익에도 영향을 미치게 된다. 문제가 된다면 (플랫폼이) 알아서 ‘물 관리’에 먼저 나설 것”이라면서 “도전과 응전, 공격과 방어의 과정에서 콘텐츠 소비자를 보호하는 기술이 발전하는 것이다. 플랫폼이 자체적으로 AI 슬롭을 걸러내고 이에 저항할 방어 시스템을 구성할 시간을 주고 기다릴 필요가 있다”고 말했다.
실제로 유튜브는 올해 핵심 목표로 ‘AI 슬롭과의 전쟁’을 선포했다. 닐 모한 유튜브 최고경영자(CEO)는 1월 22일 자사 공식 블로그를 통해 올해 4대 핵심 과제 중 하나로 ‘AI 슬롭 대응’을 꼽았다. 모한 CEO는 “창의성과 기술 간의 경계가 모호해져 가는 혁신의 새 시대를 맞이하고 있다. 이런 변곡점에서는 과감한 도전이 필요하다”면서 “유튜브는 기존의 검증 시스템을 강화해 저품질·반복형 AI 콘텐츠의 확산을 줄이기 위해 적극적으로 노력하고 있다”고 전했다.
이러한 노력의 일환으로 유튜브는 최근 AI 슬롭 대량 생산 채널 정리 작업에 나선 것으로 전해졌다. 지난달 IT업계와 미국 IT 전문 매체 안드로이드폴리스 등에 따르면 올해 초 AI 슬롭 채널 상위 100곳 중 16곳이 영구 삭제되거나 영상이 비공개 처리된 것으로 파악됐다. 삭제된 16개 채널의 누적 조회 수는 약 47억 회이며, 이들 채널의 합산 연간 수익은 약 1000만 달러(약 143억 원)에 달한다.
다른 글로벌 플랫폼도 AI 슬롭 확산에 적극 대응 중이다. 틱톡은 ‘생성형 AI 기반 콘텐츠 정책’을 통해 사회적 오해를 유발할 수 있는 콘텐츠 게시를 엄격히 금지하고, 유해 콘텐츠를 빠르게 처리하기 위해 노력하고 있다. 또 AI 생성 콘텐츠에 별도의 라벨을 부착하도록 했다. 메타 역시 원작자 허가가 없거나 유의미한 수정이 없는 포스팅은 수익 창출을 금지하는 규정을 두고 있으며, 2024년부터 AI 생성 콘텐츠를 자동으로 인식하는 시스템을 도입했다.
플랫폼 입장에서 범죄와 연관되지 않은 AI 슬롭 영상을 적극적으로 제재할 동기가 부족하단 분석도 있다. 최병호 고려대학교 인스파이어드 AI연구원 교수는 “유튜브 같은 플랫폼 입장에서 트래픽만 늘게 된다면 AI 슬롭 영상의 공급을 막을 이유는 없다. 유통이 많이 될수록 유리한 사업자이기 때문”이라면서 “플랫폼이 제재를 하기 위해선 제재 대상 AI 슬롭 콘텐츠의 명확하고 세분화된 정의가 우선적으로 이뤄져야 한다. 범죄와 무관하고 재미 요소만 있다면 제재할 필요도 없고, 제재할 경우 오히려 표현의 자유를 침해할 수 있다”고 말했다.
손우현 기자 woohyeon1996@ilyo.co.kr