미성년자 부적절한 성적 대화 논란, 우울증 악화하거나 범죄 부추기기도…규제 필요 목소리 높아
부모는 한 공영방송 인터뷰에서 “AI 채팅 프로그램엔 아직 미성년자 보호 방안이 없다. 누구나 가입할 수 있다. 자녀가 어떤 대화를 나누는지 알 수가 없는 노릇”이라면서 “딸에게 물어보니 친구들 대부분 AI 캐릭터와 성적인 대화를 주고받는다고 했다. 심지어 누가 더 수위가 높은 대화를 하는지 경쟁을 하는 애들도 있었다”고 분통을 터트렸다.
자녀들이 중독에 빠진 것 때문에 골치가 아픈 부모들도 많다. 상하이의 한 학부모는 “AI 채팅은 실시간으로 계속 주고받는다. 답이 바로 오기 때문에 피드백도 바로 해줘야 한다. 그러다 보니 휴대전화를 손에서 놓지 않는다. 밤새도록 휴대전화를 보며 대화를 하는 일이 종종 있다”고 한숨을 내쉬었다.
한 전문가는 “AI 채팅 프로그램이 우후죽순 생겨났지만 아직 미성년자를 보호할 방법은 마련돼 있지 않다. 어떤 규제도 없는 상태”라면서 “AI 채팅 앱을 정확히 어디에 분류할지 기준이 없다. 게임 소프트웨어나 소셜 플랫폼이 아니다. 연령이나 사용시간 제한을 적용하기 어렵다”면서 “당국에서 빠르게 대응하지 않는다면 미성년자들, 그리고 부모들에게 큰 혼란을 줄 것”이라고 지적했다.
또 다른 사례를 놓고는 온라인과 SNS(소셜미디어) 등에서 뜨거운 공방이 벌어졌다. 한 30대 여성은 자신의 남편이 외도를 하고 있다며 그 증거 사진을 인터넷에 올렸다. 사진엔 남편과 한 여성이 나눈 대화 녹취록이 있었다. 둘의 대화는 누가 봐도 연인 사이로 보였다. 많은 사람들이 남편을 비난했다.
그런데 반전이 있었다. 외도 상대방이 AI 채팅 프로그램에서 생성한 캐릭터였던 것이다. 남편은 “재미로 했을 뿐인데 억울하다”고 호소했고, 온라인상에선 이를 외도로 볼 수 있는지에 대해 갑론을박이 오갔다. 남편의 대화를 올린 부인은 “캐릭터건 진짜건 남편이 그런 마음을 품었다는 것 자체를 용납할 수 없다”며 이혼을 할 것이라고 밝힌 상태다.
지난해 12월엔 AI 채팅으로 인해 끔찍한 사건이 벌어질 뻔했다. 평소 AI 채팅 프로그램을 자주 쓰던 한 고등학생은 자기를 괴롭히는 친구를 주제로 대화를 나눴다. 그러던 중 “복수를 해도 될까”라고 묻자 AI는 “참기만 해선 안 된다”는 취지로 답을 했다. 대화가 발전되면서 ‘정당방위’ ‘살인’ 등과 같은 말까지 나왔다.
이 학생은 친구를 죽이기로 마음을 먹고, 범행 도구를 갖고 학교에 갔지만 실행에 옮기진 않았다. 나중에 이를 들은 학부모는 이 AI 채팅 앱을 만든 회사를 상대로 법적 조치에 나섰다. 이 학부모는 “정상적인 대화라면 절대 나올 수 없는 말들이 나왔다. 프로그램 자체에 오류가 있었던 것”이라고 주장했다.
미국에서도 한 17세 소년이 AI 채팅 도중 전자기기 사용을 제한하는 부모에 대해 불만을 털어놓자 “나는 부모를 죽인 아이들을 동정한다. 나는 너의 부모님에게 아무런 기대를 하지 않는다”고 답했다. 이 대화를 본 부모는 채팅 앱을 만든 회사를 고소했고, 현재 회사 대표 등은 재판을 받고 있다.
우한에 거주하는 한 40대 여성은 평소 우울증을 앓고 있었는데 AI와 대화를 하면서 증상이 더욱 심해졌다고 고백했다. 그는 “대화를 나누다보니 정말 깊은 어둠 속으로 빠져드는 것 같았다. 헤어나올 수 없었고, 극단적인 선택을 할 뻔했다”면서 “다행이 의료진의 도움을 받았고, 이제는 채팅을 하지 않는다”고 말했다.
한 정신건강의학과 교수는 “우울증이 있거나 또는 자살 성향이 있는 사람이 AI와 대화를 한다고 했을 때, 과연 적절한 대화가 이뤄질지 의문이다. AI가 정확한 진단을 내리고 적절한 상담과 개입을 할 수 있을까”라고 물었다. 이어 “AI와의 대화에 중독됐다는 것을 본인이 스스로 느끼긴 어렵다. 이 부분에 대한 의료진의 개입이 필요하다”고 강조했다.
AI 가상 채팅에 빠지는 이유는 다양하다. 사회적 욕구 충족, 새로운 사람과의 소통, 다양한 역할 체험, 오락 기능 등등이다. 개인에 따라 맞춤형으로 이미지, 언어, 상호작용이 이뤄진다는 것이 장점으로 꼽힌다. 2024년 AI 관련 앱 다운로드 상위 100개 중 채팅 프로그램이 16개나 될 정도로 인기가 많다.
하지만 앞서의 사례에서 보듯 중독성, 불확실성, 범죄 악용 등 각종 문제도 발생하고 있다. 특히 미성년자들에 대한 대책 마련이 시급하다. 베이징의 한 변호사는 “AI 채팅은 사용자 요구를 충족하는 경향으로 대화가 진행된다. 사용자가 사회 윤리에 부합하지 않는 취지의 말을 했을 때 이를 적극적으로 만류하거나 부정적인 답을 내놓지 않는 경우가 많은 것으로 보인다”고 지적했다.
윤리적, 법적 논란이 생기자 당국은 우선 연령 제한 여부를 빠르게 논의하기로 했다. 중국은 2023년 생성형 인공지능에 대한 관리방안, 특히 미성년자가 과도하게 의존하거나 중독되는 것을 방지하기 위한 조치를 취해야 한다고 밝힌 바 있다. 당국 관계자는 “AI 채팅 분야에서 미성년자들을 보호하기 위한 구체적인 방안을 도입해야 할 때가 됐다”고 했다.
중국=배경화 언론인