‘알고리즘의 편향성’ 문제로 공정한 판결 한계…사법기관은 업무 간소화 위해 도입 추진, 일각 “빠른 판단도 정의”
중국은 가장 선제적으로 사법의 지능정보화를 추진하고 있는 국가들 가운데 하나다. 2021년 12월 '사우스차이나모닝포스트'는 중국이 세계 최초로 정확도가 97%에 달하는 AI 검찰관을 개발했다고 밝혔다. 보도에 따르면 이 AI 검찰관은 2015년부터 2020년까지 1만 7000건의 사례를 학습한 결과, 신문조서를 읽고 직접 기소 여부를 결정할 수 있게 됐다.
현재 판단 가능한 범죄는 신용카드 사기, 도박장 운영, 난폭운전, 고의 상해, 공무집행 방해, 절도, 사기, 공중소란 등 8가지다. 연구진은 AI를 업그레이드해 특이 범죄와 복수의 혐의를 받는 피의자 기소도 가능할 것이라고 주장한다. 유럽사법재판위원회는 이미 2018년 인공지능 사법제도 헌장을 발표했다.
우리 사법부 역시 인공지능 기술 상용화에 따라 사법 절차에서 이를 활용하고자 하는 의지를 보여왔다. 대법원에 따르면 우리 법원은 빅데이터 및 AI 기반의 차세대 전자소송 시스템 ‘스마트법원 4.0’의 2024년 시행을 계획하고 있다. 궁극적 목표는 법원의 업무 간소화다. 소송 등 사법 절차의 모든 문서를 디지털화해 빅데이터 분석 기반을 마련하고, AI 시스템으로 업무 처리의 자동화를 추진해 사건 처리 기간 및 비용을 단축하겠다는 것이다.
실제 활용 영역은 형사보다는 민사 중심의 개인 분쟁 해결이 될 것으로 보인다. 영국과 에스토니아 등 일부 유럽 국가에서는 소액 배상 사건 해결에 인공지능을 활용하고 있다. 호주와 네덜란드는 이혼 시 재산 분할에 인공지능을 도입하는 등 사법부 내의 AI는 당사자들의 자율적인 분쟁인 ‘나 홀로 소송’을 빠르게 처리하기 위한 방법의 하나로 쓰이고 있다.
우리 법원이 기대하는 바도 크게 다르지 않다. 문서 디지털화로 사법 투명성과 접근성을 높이고 모바일 전자소송 등 온라인 분쟁 해결 시스템을 통한 ‘나 홀로 소송’ 활성화다. 이는 일반 국민이 AI 판사 등장에 기대하는 점과는 조금 다른 방향의 변화다.
다수의 국민들이 AI 판사 등장에 바라는 바는 앞서 본 여론 조사에서 나타난 것처럼 흉악범죄를 처단하는 공정하고 정의로운 판결이다. 그러나 AI를 기반으로 내린 사법적 판단이 더욱 공정하고 중립적일 것이라는 생각은 아직 막연한 기대에 가깝다는 것이 법조계와 IT(정보통신) 업계 관계자들의 분석이다.
결국 이런 사각지대를 안은 채 인간의 개입이나 통제 없이 자율적 판단에 의해 결정을 내리게 되는 것이 알고리즘의 본래 속성이고, 이를 기반으로 작동하는 AI 역시 편향성에서 자유로울 수 없다는 것이다. 인간이 개입을 한다고 해도 어떤 데이터를 입력할 것이냐는 여전히 문제로 남는다.
현직 스타트업의 AI 기술 개발자는 “알고리즘은 우리가 그동안 만들어낸 결과값을 비추는 거울이다. 인풋과 아웃풋이 명확하다. 인종·젠더·사회 계급·경제 수준에 대한 우리 사회의 차별과 편견을 그대로 학습하고 이를 토대로 결과를 내놓는다. 지금의 판결이 잘못되었으면 알고리즘이 내놓는 결과도 다르지 않을 것이다”라며 “미래에는 인간보다 더 나은 가치 판단이 가능할지도 모르겠으나 현재의 기술력으로는 인간보다 더 나은 결정을 내릴 순 없다”고 말했다.
미국 민간 기업 노스포인트사가 개발한 알고리즘 ‘컴파스(COMPAS)’ 사례도 형사사법 분야에서 인공지능의 한계를 보여준다. 컴파스는 범죄자의 재범 가능성을 예측하는 알고리즘으로 미국의 일부 주 법원에서 가석방 심사에 이용됐다.
그런데 2016년 미국의 독립언론기관 ‘프로퍼블리카’가 컴파스의 예측과 실제 재범 여부를 조사한 결과, 위험군으로 판정 받고도 재범을 저지르지 않은 흑인이 백인보다 2배 정도 높았다. 흑인에게 불리했던 과거의 판결이 그대로 AI 알고리즘에 학습됐고 이로 인해 억울한 판결을 받은 흑인들이 생겼다는 것이 프로퍼블리카의 주장이다. 실제로는 어떤 기준값을 상정하느냐에 따라 결과가 달라질 수 있는 문제였지만, 이 사건은 완전한 공정성은 가능하지 않다는 사실을 보여주며 형사사법 분야 인공지능 활용에 대한 윤리적 논쟁을 촉발시킨 계기가 됐다.
이러한 논란에 대해 한 변호사는 “AI 판사는 결코 인간 판사를 온전히 대체하지 못할 것”이라면서도 “그럼에도 사법부의 인공지능 기술 도입은 필요하다”고 말했다. 민사소송을 다수 맡았다는 이 변호사는 “언론에는 연일 대형 사건들만 얼굴을 비추지만 실제 민사소송의 절반 이상은 3000만 원 미만의 소액 사건이다. 원고와 피고는 대부분 소시민이다. 금액이 미미하니 변호사를 선임하지 않거나 못한다. 이런 사건들은 실적을 내야 하는 판사에게도 반갑지 않은데 건수는 많아서 처리만 늦어진다. 법원이 도장만 찍으면 되는 간단한 문제인데도 해를 넘기는 경우도 빈번하다”고 말했다.
그러면서 “당연한 얘기지만 한 번 송사에 휘말리면 생업에도 지장이 생긴다. 이들에게 정의로운 판사는 문제를 하루라도 빨리 해결해주는 판사”라며 “AI 판사는 이런 부분을 뚫어주는 유용한 도구가 될 것이다. 기술이 벌어준 시간만큼 인간 판사가 국민의 목소리에 귀 기울인다면 더 나은 변화를 이끌어 낼 수 있을 것”이라고 말했다.
최희주 기자 hjoo@ilyo.co.kr