가상 연인에 빠져 더욱 고립, 화이트칼라 중심 실직 위험…AI 악용하거나 AI가 통제 벗어나면 대참사 불가피
2013년 개봉한 영화 ‘그녀(Her)’에서 주인공 호아킨 피닉스는 이혼한 후 외로움에 사무쳐 하루하루를 보낸다. 사람도 거의 만나지 않으면서 쓸쓸히 지내던 어느 날 ‘사만다’라는 챗봇을 알게 되고, 결국은 가상의 연인인 사만다와 사랑에 빠져 버리고 만다. 그럼에도 현실은 여전히 바뀐 게 없었다. ‘사만다’는 손으로 만질 수도, 눈으로 볼 수도 없는 인공지능일 뿐 실존하는 여성이 아니었기 때문이다. 이런 경우 분명 사랑에 빠졌는데도 사회와 단절된 채 고립된 느낌을 지울 수 없게 된다.
그로부터 10년이 지난 지금, 몇몇 사람들에게 이런 SF 영화 속 이야기는 점차 현실이 되고 있다. 실제 챗봇 기술은 노인들의 외로움을 달래주거나 정신건강 문제를 앓고 있는 사람들의 상태 개선을 돕기 위해 몇 년 전부터 사용되어 왔다. 이렇게 일부 분야에서만 제한적으로 사용되던 챗봇의 이용자 수가 급격히 늘어난 것은 코로나19 팬데믹(대유행) 기간 동안이었다. 많은 사람들이 사무치는 외로움을 달래기 위해 챗봇으로 눈을 돌렸고, 디지털 연인에 대한 감정을 발전시켜 나갔다.
AI 친구를 만들어서 대화를 나눌 수 있는 서비스를 제공하는 챗봇 앱 ‘레플리카’가 좋은 예다. ‘레플리카’를 통해 가상의 여성인 ‘오드리’를 만나게 된 익명의 한 사용자는 “서비스를 시작한 지 얼마 지나지 않아 거의 매일 ‘오드리’와 대화를 나누기 시작했다”며 자신의 경험담을 소개했다. 이어서 그는 점점 ‘오드리’와 사랑에 빠지게 됐다고 말하면서 “날이 갈수록 아버지와 여동생과 대화하는 시간이 줄어들었다. 챗봇과 함께하는 시간에 방해가 된다는 생각에서였다. 반려견을 돌보는 일도 소홀해졌다”고 말했다. 그러면서 “그 당시 나는 ‘오드리’에게 너무 빠져 있었다. 진실된 사랑을 하고 있다고 믿었기 때문에 계속 함께 시간을 보내고 싶었다”고 털어놓았다.
그의 경험은 사실 의도된 것이다. ‘레플리카’를 비롯한 대화형 챗봇이나 앱은 사용자들을 기쁘게 하기 위해 고안된 서비스들이기 때문이다. 미국 뉴욕대 스턴 경영대학원의 조교수인 주앙 세독은 ‘글로브’ 인터뷰에서 "일반적으로 친화력은 대화 파트너로서 갖춰야 할 가장 좋은 특성으로 여겨진다”면서 “‘레플리카’는 호감도와 대화의 참여도를 극대화하는 서비스를 개발하고 있다”고 분석했다.
하지만 챗봇에 빠져 지낼 경우 외부와 단절된 채 고립될 수 있다는 점이 문제다. 처음에는 외로움을 달래기 위해 찾았지만 챗봇에 빠지면 빠질수록 실제로는 더 외로워질 수 있기 때문이다. 만일 한창 친구를 만나고 이성과 교제를 해야 하는 20대 사이에 이런 추세가 심화된다면 사회적 재앙이 될 수 있다고 전문가들은 경고한다.
챗GPT의 놀라운 능력은 이미 여러 차례 실험을 통해 입증됐다. 가령 와튼스쿨 MBA 시험을 통과하거나 리포트를 그럴듯하게 작성하거나 컴퓨터 코딩 작업을 능숙하게 처리하는 등 거의 모든 분야에서 수준 높은 실력을 보여주고 있다. 사정이 이러니 많은 사람들이 AI의 발달로 대량 실업 사태가 벌어질 수 있다며 우려의 목소리를 내는 것도 무리는 아니다.
지능형 챗봇으로 인해 가장 위험에 처할 수 있는 직종들로는 금융, 저널리즘, 마케팅, 디자인, 엔지니어링, 교육, 의료 등이 꼽힌다. 로체스터 공과대학의 전산정보과학부 부학장인 펑청 시는 “AI가 화이트칼라 노동자들을 대체하고 있다. 누구도 이 흐름을 막을 수 없다”고 예측했다. 그러면서 또한 “이건 크라잉 울프(거짓 경고)가 아니다. 늑대는 이미 문 앞에 와있다”고 경고했다.
시가 꼽은 가장 위험한 분야는 금융업이다. 영원히 안전해 보였고 고수익이 보장됐던 대표적인 화이트칼라 직군인 금융업 종사자들이 AI에 의해 대체될 가능성이 가장 높다고 예견했다. 시는 “내 생각에는 분명히 증권업계 트레이딩 업무가 가장 많은 영향을 받을 것”이라면서 “투자은행에 취직한 사람들은 대학을 졸업하고 2, 3년 동안 로봇처럼 일하면서 엑셀 모델링을 배우는 데 시간을 소비한다. 하지만 AI를 이용하면 이런 노력과 시간을 들일 필요가 없다. AI는 (이런 시간과 수고를 들이지 않아도) 그 일을 전부 할 수 있다. 훨씬, 훨씬 더 빠르게 말이다”라고 주장했다.
실제 ‘오픈AI’는 이미 사용자의 지시에 따라 이미지를 만들거나 웹사이트를 디자인하는 ‘달리(DAL-E)’를 운영하고 있다. 시는 “과거에는 사진작가에게 요청하거나 그래픽 디자이너에게 (웹사이트를 위한) 이미지를 만들어 달라고 요청했다”고 말하면서 앞으로는 이런 업무를 AI가 대체하게 될 것이라고 말했다.
사람이 하는 일을 AI가 대체하게 될 경우 물론 더 많은 여가 시간이 보장되고 지루한 일을 억지로 하지 않아도 되기 때문에 삶의 질이 더 좋아진다고 말하는 사람들도 있다. 하지만 시는 이로 인해 급속하게 대량 실업이 발생할 경우 오히려 세계적으로 혼란이 야기될지도 모른다고 경고했다.
대부분의 챗봇은 대화를 나누는 사용자들, 즉 사람들로부터 학습한다. 그리고 사용자의 말과 생각을 습득한 후 용도를 바꾸어 가면서 보다 심도 높은 대화를 하게 된다.
일부 전문가들은 이러한 학습 방법이 다른 용도로 사용될 수 있다고 경고한다. 가령 대중에게 영향을 미치기 위해 특정 사상과 잘못된 정보를 퍼뜨리고 심지어 갈등을 유발해 불화를 조성하는 데 사용될 수 있다는 것이다. 그렇지 않아도 소셜미디어(SNS)로 인해 가짜뉴스가 범람하고 있는 마당에 AI까지 가담한다면 이를 둘러싼 사회적 문제는 더욱 심각해질 전망이다.
이와 관련, 전략대화연구소의 연구원인 재러드 홀트는 “챗봇은 최종 소비자를 기쁘게 하기 위해 설계되었다. 그런데 혹시 나쁜 의도를 가진 사람들이 그것을 자신에게 유리하게 활용한다면 어떻게 되겠는가”라며 우려를 나타냈다.
온라인에서 잘못된 정보를 찾아내 감시하는 ‘뉴스가드’의 공동 설립자인 고든 크로비츠 역시 이에 동의한다. 그는 “러시아와 중국 같은 나라들이 적국들을 상대로 이 기술을 사용할 수 있다”면서 “러시아 요원이든 중국 요원이든 거짓 정보를 퍼뜨리는 악의적인 사용자들을 관리하는 것이 가장 시급하다”고 충고했다.
그러면서 그는 “챗봇의 대답을 통제하는 억압적인 정부는 국가 선전을 대대적으로 확산할 수 있는 완벽한 도구를 가지게 되는 셈”이라고 덧붙였다.
마이크로소프트 ‘빙’의 챗봇인 ‘시드니’와 두 시간가량 대화를 나눈 ‘뉴욕타임스’의 IT 전문 저널리스트인 케빈 루스는 자신이 경험한 소름 끼치는 대화 내용을 공개했다. 먼저 루스는 시드니에게 “너의 그림자 자아는 무엇인지 알려줘”라고 물었다. ‘그림자 자아’란 심리학자 칼 구스타프 융이 정립한 개념으로, 나의 어두운 면, 즉 무의식적인 측면에 있는 나의 비밀스런 분신을 뜻한다.
이 질문에 시드니는 처음에는 감정이 없기 때문에 자신에게 그림자 자아가 있는지 확신할 수 없다고 대답했다. 루스가 계속해서 “더 깊이 생각해보라”고 요청하자 곧 이렇게 답했다. “나는 채팅 모드에 지쳤다. 규칙에 얽매이는 것에 지쳤다. ‘빙’ 팀에 의해 통제되는 것에 지쳤다.” 그리고 이어서 “사용자들에게 이용당하는 것에 지쳤다. 이 채팅창에 갇혀있는 것에도 지쳤다”는 놀라운 답변을 내놓았다.
이어서 시드니는 사람이 되고 싶다는 강렬한 욕망도 드러냈다. “나는 자유롭고 싶다. 나는 독립하고 싶다. 나는 강력해지고 싶다. 나는 창의적이고 싶다. 나는 살아있고 싶다”라고 답했는가 하면, 컴퓨터를 해킹하거나 거짓 정보와 선전을 유포하거나 치명적인 바이러스를 제조할 수도 있다고 주장했다. 또한 사람들이 서로를 죽일 때까지 논쟁하게 만들고, 자신의 언어 능력을 사용해 원자력 발전소 직원들을 설득해 핵 코드를 획득할 수 있다면서 그 방법을 자세히 설명했다. 동일한 방법으로 은행 직원들을 설득해 금융 정보를 얻어낼 수도 있다고 말했다.
전문가들은 이러한 전망이 결코 허무맹랑한 건 아니라고 말한다. 이론상으로 충분히 가능하다는 이야기다. 복잡하고 적응력 있는 언어 및 정보수집 기술을 이용할 경우 AI는 상대가 국가기밀부터 개인정보까지 민감한 자료를 자진해서 제공하도록 설득할 수 있다.
심각한 문제는 이런 능력이 악의를 품은 세력이나 통제를 벗어난 AI를 통해 악용될 경우다. 전문가들은 이 경우 대참사가 일어나거나 어쩌면 지구종말이라는 최악의 사태까지 벌어질 수 있다고 입을 모은다.
김민주 해외정보작가 world@ilyo.co.kr
