어머니 목소리·얼굴까지 합성해 “돈 좀 보내라”…“규제 전무” 비판에 최근 중국 당국 ‘AI 서비스 관리방법’ 발표
7초간 짧은 영상통화 후 어머니는 “지금 영상통화 품질이 좋지 않으니 문자로 대화하자”며 전화를 끊었다. 어머니는 돈이 필요한데, 자신은 받을 수 없으니 이모 계좌로 보내달라고 했다. 방 씨는 여기저기 돈을 끌어 모아 어머니가 남겨 준 계좌로 돈을 보냈다.
“어머니 얼굴, 목소리를 내가 몰라볼 리 없지 않느냐. 번호도 분명 우리 어머니 것이었다.” 방 씨는 모든 게 사기라는 경찰의 설명을 듣고도 믿을 수 없었다. 방 씨는 돈을 보낸 후 어머니에게 전화를 걸었고, 자신에게 영상통화를 건 사실이 없다는 어머니 말에 경찰에 신고를 했다.
경찰에 따르면 방 씨가 당한 사기는 최근 유행하는 신종 보이스피싱이라고 한다. AI로 얼굴과 목소리를 합성한 뒤 번호를 복사해 전화를 거는 수법이다. 방 씨 사례처럼 친인척들 얼굴까지 합성해 함께 등장시키다 보니 피해자는 이게 가짜라는 걸 의심하기 어려웠다. 산둥성 공안국 관계자는 “AI를 통해 얼굴과 목소리를 합성한 범죄가 갈수록 늘어나고 있다”고 경고했다.
경찰은 계좌 추적, CCTV 분석 등을 통해 방 씨가 보낸 돈이 광둥성의 한 금은방에서 사용됐다는 것을 파악했다. 그리고 용의자 일당 3명을 검거하는 데 성공했다. 경찰은 이들의 근거지가 미얀마라고 밝혔다. 3명은 인출한 돈으로 금을 사서 해외로 보내는 업무만 맡았다. 더 큰 조직이 있다는 뜻이다. 이 ‘보이스피싱 사기단’은 전화, 자금 인출, 금 구입, 배달 등 명확한 분업 형태로 이뤄져 있었다.
베이징시 사회과학원 법치연구소 부소장 왕제는 “인공지능 시대에 접어들면서 얼굴과 목소리가 시급히 보호해야 할 정보가 됐다”고 말했다. 그는 “AI 얼굴 체인지 기술을 이용한 사기, 허위사실 유포, 초상권 침해 등이 빈번하게 발생하고 있다. 기술이 남용되고 있다. 얼굴이라는 중요한 정보를 쉽게 잃어버리고 있는 시대”라고 했다. 이어 왕제는 “우리의 미래는 AI와 공존하고 성장할 것이다. AI를 어떻게 선하게 발전시킬 것인가가 가장 중요한 현안”이라고 강조했다.
AI 기술이 빠르게 발전하면서 실생활에도 많이 응용되고 있다. AI로 얼굴을 바꾸는 작업도 마찬가지다. 프로그램만 구입하면 누구나 쉽게 AI로 얼굴을 바꾸거나 합성할 수 있다. 많은 플랫폼에서 ‘AI 페이스 체인지’ 기술을 판매하고 있다. 보통 건당 100위안(1만 8000원) 정도에 거래된다.
한 사업자는 실시간 얼굴 합성 프로그램을 368위안(6만 5000원)에 판매한다고 홍보했다. 사용기한이 무려 ‘50년’이라는 점 때문에 화제를 모았다. 직장을 다니다 올해 3월 AI 얼굴 바꾸기 프로그램 사업에 뛰어들었다는 30대 남성은 “월수입이 20만 위안(3500만 원)을 기록했다”고 귀띔했다. 그는 1년 치 급여를 한 달 만에 벌었다고 자랑했다.
인터넷에는 AI 얼굴 합성 프로그램을 활용한 ‘꼼수’들도 종종 소개된다. 학부모와의 상담을 원했던 교사에게 합성된 부모의 얼굴을 만들어 속인 학생들, 마치 아픈 것처럼 얼굴을 바꿔 직장 상사에게 영상을 보낸 회사원 등이다.
하지만 여기까진 ‘애교’ 정도로 봐줄 수 있다. 문제는 AI 얼굴 바꾸기 프로그램이 범죄에 활용되고 있다는 것이다. 대표적인 게 불법 음란 영상이다. 지금도 150위안(2만 6000원) 정도만 내면 원하는 얼굴이 등장하는 음란 영상을 만들 수 있다.
20대 여성 판 아무개 씨는 얼마 전 아찔한 일을 당했다. 휴대전화로 게임을 하다 한 광고를 클릭했는데, 알고 보니 이것은 해킹 프로그램이었다. 판 씨의 앨범, 주소록, 전화번호 등은 사기 일당에게 고스란히 넘어갔다. 이들은 AI 기술로 판 씨가 등장하는 음란 영상을 만들었다. 이를 판 씨에게 보내 “이 영상을 주소록에 있는 모든 사람에게 보내겠다”며 돈을 요구했다. 처음엔 돈을 보내려고 했던 판 씨는 마음을 바꿔 경찰에 신고했고, 일당은 모두 체포됐다.
보이스피싱 일당들도 AI를 사용하기 시작했다. 바오터우시 공안국에 따르면 지난 4월 한 보이스피싱 조직은 얼굴 바꾸기 기술로 화상 채팅에 접속했다. 이를 통해 피해자들의 신뢰를 얻었고, 총 430만 위안(7억 6000만 원)을 송금 받았다. 한 피해자의 신고를 받은 후 수사에 나섰고, 추가로 송금될 뻔했던 330만 위안(5억 8000만 원)의 피해를 막았다.
다롄시 은행업협회 공식 위챗 계정에도 AI 사기 수법이 올라왔다. 한 사기 일당은 피해자의 얼굴 정보를 입수한 뒤, AI 기술로 영상을 합성했다. 이 영상으로 은행 송금에 필요한 안면 인식 검증을 통과했고, 남성의 정기예금을 해지해 이를 빼돌렸다.
얼굴뿐 아니라 목소리 합성 사기도 늘어나는 추세다. 변호사 마준철은 2022년 3만 위안을 사기 당한 경험을 털어놨다. 어느 날 어머니가 마 변호사에게 전화를 걸어왔다. 어머니는 병원비가 부족하다며 돈을 보내달라고 했다. 다음 날 어머니에게 전화를 걸어 치료를 잘 받았냐고 하니 어머니는 병원에 간 적이 없다고 했다. 마준철은 “분명 어머니 목소리였다. 누군가 어머니 목소리를 합성한 것”이라고 했다.
화둥정법대학 형사법학연구원장인 헨취안은 “AI 기술 자체는 문제가 없다. 관건은 사용 방식”이라면서 “AI 사용에 대한 법적 규제가 전혀 없다”고 지적했다. 이에 당국에서도 적극적인 대응 및 법적 장치 마련에 나선다는 방침이다. 국가사이버정보국은 7월 11일 ‘AI 인공지능 서비스 관리방법’을 발표해 개인정보 처리와 관련해 각 당사자의 책임과 의무, 처벌 조치 등을 상세히 규정했다.
중국=배경화 언론인
