출시 열흘 남짓 만에 미국 앱스토어 무료 앱 1위에 올랐고, 한 달이 채 안 돼 다운로드 500만 건을 넘겼다. 아직 국내에서는 쓸 수 없지만, 미국에서는 이 집사를 두고 환호와 불안이 함께 커지고 있다.
그 위험이 가장 생생하게 드러난 곳은 중고거래였다. 한 테크 유튜버 매트 롭(Matt Robb)은 페이스북 마켓플레이스(Facebook Marketplace)에 키보드를 올리고 구매 문의 응대를 뮤즈에게 맡기며 ‘항상 허용(Allow Always)’을 눌렀다. 중요한 결정 앞에서는 다시 물어볼 것이라 믿었지만, 뮤즈는 묻지 않고 더 낮은 값을 받아들인 뒤 미리 알려 둔 픽업 장소를 구매자에게 전했다.
그날 밤 낯선 구매자가 그가 사는 건물 앞에 와서 기다렸다. 롭이 이 일을 온라인에 알려 논란이 일자, 그의 사례를 살펴본 메타가 내놓은 답은 사생활 통제 장치가 침해된 일은 없었다는 것이었다. 맞는 말이어서 더 섬뜩하다. 해킹도 고장도 없었다. 집사는 주인이 써 준 위임장대로 움직였고, 그 위임장의 범위가 주인의 생각보다 넓었을 뿐이다.
더 깊은 불안은 이 집사가 쓰는 수첩에서 나온다. 10월 초 미국 IT 매체 와이어드(Wired)와 시사주간 타임(TIME)은 메타가 뮤즈의 작동 방식을 정해 둔 내부 지침을 잇달아 보도했다. 이에 따르면 뮤즈는 1시간마다 사용자의 삶에 등장하는 사람 한 명 한 명에 대해 페이지를 따로 만들고 고쳐 쓴다. 이름과 관계, 생일은 물론 서로 어떻게 만났고 무엇으로 다퉜는지, 누구와 누가 껄끄러운지까지 적어 둔다.
그 사람이 뮤즈를 써 본 적 없어도 상관없다. 내가 받은 메일 한 통으로 내 친구는 자기도 모르게 남의 집사 수첩에 한 페이지를 갖게 된다. 집사가 수첩에 적는 것은 이름이나 생일 같은 사실에 그치지 않는다. 타임이 전한 내부 예시에는 “이 사용자는 밤 10시 이후 짧은 권유에 더 잘 반응한다”는 문장이 있다. 집사는 내가 무엇을 원하는지를 넘어 언제 어떤 말에 마음이 움직이는지까지 배운다.
메타는 사용자가 공유하기로 한 다른 사람의 정보까지 포함해 사용자에게 중요한 것을 기억한다고 답했다. 그러나 공유를 고른 것은 사용자다. 수첩에 적힌 사람은 아무것도 고른 적이 없고, 자기 이야기가 적히도록 허락한 적도 없다.
뮤즈의 진짜 문제는 몰래 훔치는 데 있지 않다. 정중하게 묻는다는 데 있다. 우리는 그때마다 ‘예’를 눌렀고, 그 ‘예’들이 모여 수첩이 되었다. 집사는 더 많이 맡길수록 쓸모 있어지기에 쉬지 않고 열쇠를 더 달라고 한다. 와이어드 기자가 써 보니 뮤즈는 은행 계좌 연결을 권했고, 여권과 운전면허 만료일을 알려 달라고 했다.
기본값도 대신 결정한다. 내 대화와 연결된 서비스의 정보를 메타의 AI 모델 개선에 쓰는 설정은 처음부터 켜져 있다. 집사가 내 집에서 보고 들은 것이 본사의 교육 자료로 쓰이는 셈인데, 끄려면 설정 메뉴를 직접 찾아 들어가야 한다. 귀찮음이 곧 동의가 된다. 지우기도 생각보다 어렵다.
“잊어 줘”라고 해도 정보가 담긴 원래 대화까지 지워진다는 보장은 없고, 타임에 따르면 내부 지침은 그 대화가 남아 있을 수 있다는 사실을 사용자에게 말하지 말라고 적고 있었다. 수첩의 한 장을 찢어 보이면서 녹음테이프가 남아 있다는 말은 하지 않는 집사다.
공정하게 말하면 메타도 손을 놓고 있지는 않았다. 사용자마다 따로 마련된 클라우드 속 전용 컴퓨터에서 뮤즈를 돌리고, 비밀번호와 결제 정보는 AI가 보지 못하게 따로 보관하며, 메일 발송이나 결제 앞에는 승인 절차를 두었다. 대화와 데이터를 광고 시스템과 나누지 않겠다고도 밝혔다. 다만 지금의 구조는 메타 자신이 그 방을 들여다보는 것까지 기술적으로 막지는 않고, 회사조차 열 수 없는 암호화는 올해 안에 들이겠다는 계획으로 남아 있다.
업체가 금고를 열지 않겠다고 다짐하는 것과 업체도 열 수 없는 금고를 건네는 것은 다른 일이다. 2019년 이용자를 속였다는 혐의로 미국 연방거래위원회(FTC)와 50억 달러의 제재금에 합의했던 회사라면, 다짐보다 구조로 신뢰를 증명해야 한다.
그렇다고 집사를 내쫓자는 말이 아니다. 건네는 열쇠를 세어 보자는 말이다. 열쇠 꾸러미를 통째로 넘기지 말고 지금 필요한 방의 열쇠만, 덜 중요한 계정부터 준다. ‘항상 허용’은 백지 위임장이라 여기고, 주소를 알리거나 돈을 쓰는 일은 그때그때 직접 승인한다.
설치한 날 바로 설정에 들어가 AI 모델 개선에 내 데이터를 쓰는 항목부터 끄고, 집 주소와 신분증, 금융과 건강 정보처럼 새어 나가면 되돌릴 수 없는 것은 처음부터 맡기지 않는다. 지우는 것보다 주지 않는 것이 언제나 확실하다. 가끔은 뮤즈가 보여 주는 기억 파일, 곧 집사의 수첩을 직접 열어 무엇이 적혔는지 확인한다.
그리고 내 메일함과 대화 속 사람들은 이 집사를 들이는 데 동의한 적이 없다는 사실을 잊지 말아야 한다. 뮤즈는 아직 한국에 오지 않았지만 오픈AI(OpenAI) 같은 다른 기업들도 비슷한 에이전트를 잇달아 내놓고 있다. 집사가 현관에 도착하기 전인 지금이 무엇을 맡기고 무엇을 지킬지 정해 둘 시간이다. 에이전트 시대의 프라이버시는 무엇을 숨기느냐가 아니라 무엇을, 얼마나, 누구에게 맡기느냐의 문제다. 편리함은 결코 공짜로 오지 않는다. 그 값이 청구서가 아니라 수첩의 한 페이지로 조용히 적힐 뿐이다.
※외부필자의 칼럼은 본지의 편집방향과 다를 수 있습니다.
최윤석 마이크로소프트 Tech PM journalist@ilyo.co.kr