일명 ‘노숙자 시리즈’ 흔해, ‘범죄 피해’ 속여 경찰력 낭비…공안 집중단속 나서고 업계 워터마크 고안중
신고를 받은 경찰은 인근에 순찰하고 있던 모든 직원들에게 비상 대기를 시켰고, 그중 일부가 출동한 것으로 전해졌다. 신고부터 출동까지 걸린 시간은 대략 5분 정도였다. 경찰 측은 “범죄가 발생하지 않은 게 다행”이라면서도 “공포를 조성하고 경찰을 출동시키는 것은 공공 자원을 낭비하는 행위로 다른 사람들에게 큰 피해를 줄 수 있다”고 경고했다.
문제는 이러한 일들이 최근 들어 빈번하게 발생하고 있다는 점이다. 이 여성이 남편에게 했던 ‘장난’은 유행처럼 번지고 있어 경찰이 곤욕을 치르고 있다. 베이징에선 AI로 만든 폭발물 설치 사진으로 인해 경찰이 출동, 건물 전체를 수색하는 일이 발생했다. 한 중학생은 자신이 납치당한 것처럼 보이는 사진을 SNS(소셜미디어)에 올렸다가 부모의 신고로 경찰이 출동하기도 했다.
이른바 ‘노숙자 시리즈’도 흔하게 볼 수 있다. 노숙자가 집에 와서 아기에게 우유를 먹이는 사진, 노숙자가 자신의 옆에 누워 있는 사진 등 많은 사례들이 SNS와 인터넷에서 돌아다니고 있다. 대부분 장난으로 만든 것이지만 도가 지나칠 경우 당사자들은 법적 처벌을 감수해야 한다.
한 20대 여성은 남자친구의 사랑을 테스트하기 위해 AI로 자신의 집에 누군가 침입한 듯한 가짜 사진을 만들었다. 남자친구 신고로 출동한 경찰은 허탕을 쳤다. 여성으로선 남자친구 대응에 만족스러울 수도 있었겠지만, 이는 명백히 공공의 이익을 무시하는 행위다. 이 소식을 접한 많은 사람들은 여성을 비난했다.
경찰은 이러한 행위가 심각한 결과를 초래할 경우 구금, 벌금이나 심지어 형사 책임에 직면할 수 있다며 자제를 촉구했다. 우한에서 일하는 변호사 주조성은 “단순한 장난으로 넘어갈 일이 아니다. AI 사진과 동영상으로 가짜 뉴스를 만들어 퍼트리거나 경찰을 출동하게 하는 것은 명백한 범죄행위”라고 지적했다.
얼마 전 상하이에선 한 40대 남성이 딸의 실종 공고를 SNS에 올렸다. 경찰은 딸이 유괴됐을 가능성이 있다고 보고, 수사에 착수했다. 경찰이 딸을 찾고 있다는 뉴스를 본 남성은 AI로 만든 가짜 공고였다고 실토했다. 경찰은 이 남성을 체포해 구류 조치했다.
앞서의 변호사는 “장난으로 이런 일을 벌이는 것은 경찰이 다른 사람을 구할 기회를 놓치게 할 수 있다”고 했다. 경찰에 따르면 허위 신고로 인정될 경우 ‘치안관리처벌법’에 따라 5~10일의 구류 및 500위안(10만 원)의 벌금을 내야 한다. 사안에 따라선 형법상 ‘허위조작죄’에 해당, 최고 5년 이상의 징역형에 처해질 수도 있다.
AI가 급속도로 발전하면서 그 부작용도 커지고 있는데 앞서의 사례들은 그중 하나다. ‘가짜 대화’도 마찬가지다. AI로 유명인과 대화를 한 것처럼 만든 뒤, 이를 SNS 등에 올리는 일이 자주 벌어지고 있다. ‘가짜 성적표’ ‘가짜 학위’ 등을 취업에 이용하는 학생들도 늘어나고 있다.
한 AI 전문가는 “AI는 양날의 검이 됐다. 처벌의 강도를 높이는 것만으로는 부족하다. 기술적인 장치 마련에 힘을 쏟아야 한다. AI가 생성하는 이미지와 동영상 등에 ‘위조 워터마크’를 표시하는 기술을 고안 중”이라고 전했다. 그는 “‘윤리성’을 위해 견고한 방화벽을 마련하는 게 향후 AI의 최대 고민이 될 것”이라고 덧붙였다.
공안은 ‘클린넷 2025’를 발표, 인터넷 유언비어를 집중 단속할 것이라면서 10가지 사례를 발표했다. 첫 사례는 상하이의 한 명품 상점이 만든 가짜 동영상이었다. 상점 주인은 가게 홍보와 인지도 상승을 위해 손님이 놓고 간 시계를 찾아주는 영상을 만들어 SNS에 올렸다. 이 동영상은 허위로 드러났고, 공안은 벌금 처분을 내렸다.
한 유명 동영상 제작자가 구독자를 끌기 위해 자신의 딸이 납치됐다는 내용의 루머를 생성하고, 이를 AI 등으로 배포한 사건도 공개됐다. 이 제작자가 동영상에서 사용한 딸의 모습 역시 AI로 만든 것이었다. 공안 측은 “많은 구독자들이 딸을 찾기 위해 노력을 했다. 이로 인해 이 동영상 플랫폼 수익은 크게 늘어났다”면서 “공공질서를 혼란스럽게 만들었다”고 지적했다.
윈난 시에 들어가기 위해선 200위안(4만 원)을 납부해야 한다는 내용, 쓰촨 일대에서 화물차 주행 중 폭발사고로 대규모 화재가 발생했다는 내용, 산둥의 한 초등학교에서 개학날 건물이 붕괴됐다는 내용 등도 유언비어 사례로 꼽혔다. 한 50대 여성은 AI로 지진 영상과 이미지를 만든 뒤 이를 산둥 지역에서 발생한 지진이라고 소개한 혐의로 조사를 받고 있는 것으로 나타났다.
중국=배경화 언론인