광고가 주 수익원, 승인 절차도 쉬워져…검수용 AI, 조악한 합성조차 못 걸러내는 상황
#메타 총 매출 97% 이상이 광고
관련 업계에선 이 기업들의 전적을 근거로 실행 의지에 의구심을 표한다. 구글과 메타플랫폼스(메타) 등 거대 플랫폼 기업들이 그동안 광고주 눈치를 보느라 가짜 뉴스를 비롯한 허위 광고를 방치해 왔다는 의혹이다.
실제 메타와 구글 등의 플랫폼 기업은 총 매출의 상당 부분을 광고 수익에 기대고 있다. 특히 페이스북, 인스타그램, 왓츠앱 등을 운영하는 메타의 경우 메타버스 사업에서의 수익이 나지 않아 소셜미디어 사업에서 얻는 광고가 거의 유일한 수익원인데 광고 매출은 기업 총 매출의 97% 이상을 차지한다.
2024년 2월 1일 공개된 메타의 2023년 4분기 총 매출은 전년 동기 대비 25% 증가한 401억 달러였다. 이 가운데 광고 매출은 387억 달러였다. 또 다른 사업 분야인 메타버스 사업은 적자로 계속해서 손실을 보고 있다. 장기투자금이 필요한 메타 입장에서는 더 많은 광고주를 끌어올 수밖에 없는 셈이다.
이들은 대행사를 통해 광고를 영업하거나 광고주들로부터 직접 광고 신청을 받는데, 각 플랫폼이 세워둔 사전 조건에도 불구하고 실제 진입 장벽은 낮다는 의견이 많았다. 여러 플랫폼에 직접 광고를 해본 경험이 있는 전·현직 마케터들은 “돈만 내면 사실상 어떤 제품이든 광고할 수 있다”며 “이 과정에서 광고 콘텐츠에 대한 검증 및 승인 절차가 제대로 작동하지 않는다”고 말했다.
이들은 사칭 광고 계정이 다량의 신고를 받고도 활발하게 활동할 수 있는 것에 의문을 표하기도 했다. 페이스북의 경우 비즈니스 계정에 품질지수라는 것이 있다. 특히 중요한 것이 페이지 생성 기간이다. 페이스북 페이지를 생성한 기간이 짧을수록 품질지수는 낮게 평가된다. 품질지수가 낮은 페이지에서 광고를 게재하면 광고가 반려되거나, 심하면 계정이 정지되는 것이 원칙이다.
한 전직 마케터는 “페이지를 만들고 바로 광고를 하면 안 되고 지속적인 관리로 구독자 반응을 어느 정도 얻은 후에 광고를 올려야 승인이 된다. 광고 품질이 너무 낮거나 잦은 신고를 받으면 반려당하거나 계정이 정지되기 일쑤”라며 “그런데 유명인 사칭 광고처럼 단발성으로 생겼다 사라지는 계정들은 어떻게 광고를 승인 받고 허위 내용의 광고를 수십 개씩 올리는지 의문이다. 기존 계정을 다량으로 구입하는 것은 아닌지 의심된다”고 말했다.
또 다른 현직 마케터 역시 “몇 년 전 까지만 해도 광고 승인 절차가 까다로운 편이었지만 이제는 하루 만에 나기도 한다. 특히 인스타그램의 경우 다른 SNS에 비해 광고 승인이 쉽게 나는 편”이라고 말했다.
#광고 의도까진 못 거르는 AI
문제는 무언가 만들어내는 AI 기술은 빠르게 발전하는데 비해 이를 걸러내는 기술이 그 속도를 따라오지 못한다는 점이다. 구글과 메타는 광고 검수도 사람이 아닌 AI에 맡기고 있다. 사칭 계정의 피해자가 신고를 하면 AI를 통해 부적절한 콘텐츠를 식별하고 걸러내고 있다고 안내한다. 그러나 현실은 딥페이크가 아닌 조악한 수준의 합성 사진조차 제대로 걸러지지 않는 상황이다. 이런 이유로 IT 업계 안팎에서는 “AI가 만든 송은이를 AI가 못 거르는 역설이 발생하고 있다”는 우스갯소리도 나오고 있다.
이에 대해 한 IT 업계 관계자는 “인스타그램의 경우 콘텐츠 규제를 미국 본사에서 관할하는 것으로 알고 있다. AI를 사용한다고 해도 광고주의 의도와 광고 내용의 맥락까지는 걸러내지 못하는 것 같다. 가령 한국인 입장에선 ‘방송인 송은이가 왜 주식투자를 권유하냐’고 의아해 할 수도 있지만 외국에선 배경지식이 없으니 알 수 없는 것이다”라고 말했다.
또 다른 AI 개발자는 “현재 AI 기술이 매우 발전한 것은 사실이다. 메타와 구글은 그 중에서도 가장 높은 수준의 AI를 보유하고 있을 것”이라면서도 “그러나 이런 AI가 광고 검수에 쓰이지는 않을 것이라고 예상한다. 그러기엔 쏟아지는 광고 수가 너무 많다”고 말했다.
실제로 유튜브는 머신러닝과 전 세계 2만 명의 인력을 투입해 부적절한 콘텐츠를 심의하고 있지만 유명인 사칭 광고는 그 ‘의도’를 판별하는 게 어렵다는 이유로 관련 조치는 거의 없다. 게다가 유튜브가 규정하는 ‘부적절한 콘텐츠’에는 폭력, 성인물, 마약, 총기만 포함된다. 메타 역시 사칭 광고를 하는 이들이 조직적으로 IP를 우회하며 대규모 광고를 올렸다가 내리는 등 교묘하게 범행을 지속하고 있어 걸러내기 힘들다는 입장을 고수해왔다.
다만 계속되는 논란에 플랫폼들도 대책을 마련하고 나섰다. 유튜브를 운영하는 구글은 3월 28일부터 ‘공인, 브랜드, 조직과의 제휴 또는 이들의 지위를 사칭하거나 허위로 암시해 사용자가 금전이나 개인정보를 제공하도록 유도하는 행위’를 전면 금지했다. 해당 정책을 위반할 경우 사전 경고 없이 구글 광고 계정이 정지된다. 페이스북과 인스타그램을 운영하는 메타는 4월부터 유명인 사칭 피싱 방지 캠페인을 시작한다.
네이버와 카카오는 신고 센터를 만들기로 했다. 네이버는 2023년 12월 밴드 서비스 내 ‘신고하기’ 사유에 ‘사칭’을 추가했고 조만간 피해 신고용 추가 창구를 개설할 예정이다. 카카오 역시 상반기 중 고객센터 도움말 페이지에 ‘사기·사칭 신고’ 설명 페이지를 따로 만들겠다고 밝혔다. 다만 이러한 대책 역시 사후 규제에 그친다는 비판을 면치 못하고 있다.
최희주 기자 hjoo@ilyo.co.kr