이이경 협박 이어 이정재 사칭…연예계 강타한 ‘AI 주의보’

AI 제작 이미지·동영상으로 허위 사실 유포 급증…연예인에 금품 요구는 물론 일반인 대상 범행도

[일요신문] 인공지능(AI) 기술이 급속도로 발전하면서 사회가 더욱 편리해지고 있지만 그만큼 부정적 영향도 커지고 있다. AI로 제작한 이미지와 동영상 등으로 허위 사실을 유포하는 사례가 급증하고 있기 때문이다. 기술 발전으로 인해 이제는 진짜와 AI로 만든 가짜를 구분하는 게 사실상 불가능해졌다. 이를 악용해 연예인을 협박하며 금품을 요구하는 사건이 발생하는 것은 물론, 연예인을 사칭해 일반인을 대상으로 로맨스 스캠 사건까지 발생했다. ‘로맨스 스캠’은 사랑을 뜻하는 로맨스(Romance)와 사기를 뜻하는 스캠(Scam)의 합성어로 성적인 호감을 이용해 상대로부터 돈을 뜯어내는 사기 수법을 의미한다. 

로맨스 스캠 일당이 배우 이정재를 사칭해 50대 여성에게 5억 원을 뜯어낸 사건이 발생했다. 배우 이정재로 사칭하기 위해 AI로 만든 가짜 셀카와 위조 신분증이 동원됐다. 사진=JTBC 뉴스 화면 캡처

최근 로맨스 스캠 일당이 배우 이정재를 사칭해 50대 여성에게 5억 원을 뜯어낸 사건이 발생했다. 피해자를 ‘여보’ ‘꿀’ 등으로 부르며 연인 관계를 연출하는 것은 일반적인 로맨스 스캠 범죄와 유사했는데, 이번에는 배우 이정재로 사칭하기 위해 가짜 셀카와 위조 신분증까지 동원됐다. 진짜로 보이는 셀카와 신분증은 모두 AI로 제작된 가짜였다.

2024년 7월에는 일론 머스크 테슬라 최고경영자를 사칭한 로맨스 스캠 일당에게 속은 한국인 피해자가 7000만 원을 뜯긴 사건도 있었다. 당시 피해자는 머스크라고 밝힌 상대방과 영상 통화까지 했는데, 영상 속 남성이 머스크와 닮은 얼굴을 하고 있어 감쪽같이 속고 말았다. 심지어 통화 음성도 실제 머스크의 음성과 거의 완벽하게 일치했는데 전문가 분석 결과 이 역시 AI 프로그램으로 만들어진 것이었다.

10월 19일에는 자신을 독일인 여성이라고 주장한 인물이 배우 이이경의 사생활 관련 폭로를 이어가 화제가 됐다. 논란이 일자 결국 이 인물은 자신의 엑스(X·옛 트위터)를 통해 “처음에는 장난으로 시작했던 글이 그렇게 많이 관심을 받을 줄 몰랐다”며 “그런데 점점 글을 쓰고 AI 사진을 쓰다 보니 점점 더 실제로 그렇게 생각하게 된 것 같다”고 허위 조작 사실을 인정했다.

앞서 그는 자신의 블로그에 ‘이이경과 성적인 내용의 메시지를 주고받았다’는 글과 함께, 이이경 공식 인스타그램 계정 페이지에 들어가 메시지 창을 띄운 뒤 서로 나눴던 대화 내역을 실시간으로 공개하는 영상을 촬영해 이를 증거라고 주장했다. 그런데 해당 증거는 AI로 만들어진 것이었다.

‘장난이었다’는 이 인물의 말과 달리 이이경 소속사 상영이엔티는 5개월 전에 이와 관련한 협박성 메일을 받았다고 밝혔다. 금전을 요구해 법적 대응을 예고하자 사과를 하고 상황이 정리됐는데 이번에 블로그를 통해 이런 내용을 다시 공개했다고 한다.

연예계에선 이와 유사한 협박 사건이 급증할 가능성을 주목하고 있다. AI 기술인 딥 러닝(Deep Learning)을 사용해 인간 이미지를 합성하는 딥페이크(Deepfake)가 등장하면서 이미 연예계에는 ‘딥페이크 주의보’가 내려졌다. 연예인의 데이트 사진은 물론이고 은밀한 사생활이 담긴 음란 동영상까지 제작 가능해져 이를 증거라며 협박할 수 있게 됐기 때문이다. 실제로 관련 협박 사례도 있었다는 게 연예 관계자들의 설명이다.

한 중견 연예기획사 관계자는 “직접 우리 회사에 그런 협박이 들어온 사례는 없지만 그런 일로 골머리를 앓는 다른 회사 관계자들 얘기는 많이 접했다”라며 “사실 여부를 떠나 그런 의혹이 불거지는 것 자체가 신경 쓰일 수밖에 없다. 대부분의 연예기획사는 변호사 도움을 받아 법적 대응 방침을 세우고 강하게 나갔고, 그러면 협박이 중단됐다고 한다. 이런 과정의 법적 자문도 다 불필요한 비용이 된다”고 설명했다.  

최근 독일인 여성이라고 주장한 인물이 배우 이이경의 사생활 관련 폭로를 이어가 화제가 됐는데 AI를 통해 만든 가짜 대화창를 증거로 내세운 허위 폭로로 드러났다. 사진=박정훈 기자

기술은 순식간에 발전해 AI는 딥페이크를 뛰어넘어 더욱 복잡하고 세밀하고 정교해졌다. 일반인들도 누구나 유료 AI를 이용해 다양한 이미지와 영상을 손쉽게 만들 수 있게 됐고, 이를 활용한 협박 사건도 계속 이어지고 있다. 다행히 법적 대응 방침을 세우고 강력하게 대응하면 협박이 중단되지만, 이이경의 사례처럼 대중에 공개돼 괜한 곤욕을 치를 수도 있다.

연예계에서 가장 신경 쓰는 부분은 내밀한 사생활 관련 사안보다는 학폭 관련 폭로 협박이다. AI 기술을 활용해 내밀한 사생활 관련 이미지나 동영상을 만들어 협박할 경우 성범죄까지 연루돼 협박범에게도 부담이 커진다. 게다가 소속사 차원에서 어느 정도 연예인의 사생활 관리가 이뤄지고 있어 터무니없는 협박은 필터링이 가능하다. 문제는 소속사가 알 수 없는 연예인의 과거 행적인 학폭이다.

사실 학폭은 진위 여부를 입증하기 가장 힘든 영역이기도 하다. 동창들이 여럿 나서 학폭 의혹이 사실무근이라고 증언해도 대중이 쉽게 받아들이지 않는다. 친한 친구들이 나서 돕고 있지만 학폭 피해를 당한 친구도 존재할 수 있기 때문이다. 진실 여부를 떠나 의혹이 제기되는 것만으로도 이미지에 치명상을 입을 수 있다.

소속 연예인의 학폭 논란으로 어려움을 겪었던 한 연예기획사 관계자는 “당연히 소속 연예인을 절대적으로 신뢰하지만 학폭 의혹은 진위 여부를 파악하는 게 너무 힘든 게 사실”이라며 “요즘에는 AI 기술로 과거 주고받은 것처럼 보이는 메시지나 단체 채팅방 이미지 등도 만들 수 있어 그런 허위 학폭 논란이 제기되면 너무 난처해질 수밖에 없다”고 토로했다.

이처럼 AI 범죄 전반에 연예계도 촉각을 곤두세우고 있는 가운데, 앞서 언급한 이정재 사칭 로맨스 스캠 사건을 두고도 향후 비슷한 범죄 발생 가능성에 대한 우려가 제기되고 있다. 최근 캄보디아 범죄단지 쇼크로 로맨스 스캠이 사회적 이슈가 된 상황에서, 국내 연예인을 사칭하고 국내 피해자가 발생한 사건이 일어났기 때문이다. 

이 사건에서 AI로 만든 가짜 셀카와 위조 신분증이 등장했는데 이와 유사한 일은 언제든 또 발생할 수 있다. 동경의 대상인 연예인과 소셜미디어를 통해 대화를 나눈다는 상황은 일반인에게 판타지적으로 다가갈 수 있고, 여기에 팬심까지 더해지면 범죄에 대한 경계는 더욱 취약해진다. 게다가 연예인이 피해자인 AI 협박 사건과 달리 AI 로맨스 스캠 사건의 피해자는 일반인이다. 이런 부분이 연예인들에게는 더 큰 부담이 될 수밖에 없다.

연예관계자들은 현재 기댈 수 있는 부분은 수사기관뿐이라고 얘기한다. 강력한 수사와 처벌을 통해 AI를 활용한 범죄 행위가 줄어드는 것을 바랄 수밖에 없기 때문이다.

김은 프리랜서