그 사과가 이 사과라고? 중국 AI 환불 사기 뭐길래…

곰팡이 과일·올 풀린 옷 등 사진 조작…쇼핑몰 반품 정책 허점 악용 잇따라

[일요신문] 이미 일상 깊숙이 파고든 인공지능(AI)은 잘만 활용하면 더없이 유용한 비서 겸 도우미가 된다. 하지만 이와 반대로 악의적인 의도로 사용한다면 분명 문제가 될 터. 

AI로 조작된 사진을 이용한 신종 환불 사기가 중국에서 기승을 부리고 있다. 원본 사과 사진과 AI로 곰팡이가 핀 모습을 조작한 사과 사진. 사진=SNS 캡처

예를 들어 최근 중국에서는 AI로 조작된 사진을 이용한 신종 환불 사기로 온라인 쇼핑몰들이 막대한 손실을 입고 있다. 가령 곰팡이가 핀 과일이나 채소, 금이 간 도자기, 올이 풀린 옷 등 AI로 만든 가짜 사진을 제시하면서 환불을 요청하는 식이다. 몇몇은 이를 통해 심지어 큰 돈을 벌고 있는 것으로도 알려져 있다. 

이는 한편으로는 온라인 반품 정책의 허점을 이용한 수법이기도 하다. 요컨대 중국에서는 반품을 요청할 경우 해당 상품에 결함이 있거나, 혹은 최소한 품질 기준에 부합하지 않는다는 증거를 사진으로 찍어서 제출하면 실제 상품을 반품하지 않고도 전액 환불을 받을 수 있다. 더욱이 대부분의 온라인 쇼핑몰에서는 이 과정이 자동화 시스템으로 이뤄지고 있다. 구매자가 하자가 있는 제품 사진을 업로드하면 알고리즘이 이를 판단해 자동으로 환불 처리를 해주는 것이다. 

문제는 AI의 등장으로 무엇이 진짜이고 무엇이 가짜인지 구별하기가 점점 더 어려워졌다는 데 있다. 저장성에서 청과물 쇼핑몰을 운영하는 첸은 지난 3개월 동안 환불 요청이 아홉 건이나 들어왔다며 하소연했다. 그는 “처음에는 믿고 환불을 처리했지만 빈도가 잦아지자 의심을 품게 됐다”며 분통을 터뜨렸다. 사진에서 조작 흔적을 발견해도 판매 플랫폼 측은 충분한 증거가 없다며 인정하지 않았다. 

이런 사례가 급증하자 지난 9월 중국 당국은 AI로 만든 사진과 동영상에 워터마크 등 육안으로 확인 가능한 라벨을 반드시 표시하도록 규정했다. 또한 데이터에 삽입된 식별 정보도 의무적으로 부착하도록 지시했다. 하지만 과연 얼마나 효과가 있을지는 미지수다. 부정 사례를 일일이 적발하기란 사실 어렵기 때문에 사기 위험은 여전히 남아 있는 상태다. 출처 ‘사우스차이나모닝포스트’.

김민주 해외정보작가 [e-mail]