‘하마스 1명 제거 위해 민간인 100명 희생 감수’ 논란…자동화된 의사결정 위험성 경고에도 각국 개발 서둘러
이스라엘이 하마스 대원을 잡기 위해 사용하고 있는 ‘라벤더 시스템’을 보면 이런 속담이 떠오른다. 최근 인질 네 명을 구출하기 위해 희생된 민간인 수가 무려 270명에 달했다는 비극적인 소식 역시 이와 무관하지 않다.
‘라벤더 시스템’은 IDF의 최정예 정보부대인 8200부대가 개발한 AI 기반 표적 시스템이다. AI로 방대한 양의 정보를 처리해 하마스와 팔레스타인이슬람지하드(PIJ)일 가능성이 높은 사람을 빠른 속도로 식별해내 표적으로 삼는 역할을 한다. 무작위 샘플링과 예측치 교차 확인을 통해 표적 대상일 가능성을 1~100까지의 점수로 평가하며, 이때 점수가 높을수록 가능성은 높아진다. 이를 통해 지금까지 암살 대상자로 분류된 사람은 약 3만 7000명에 달하는 것으로 알려져 있다. 또한 오인률은 10% 정도에 불과하다는 게 IDF 측의 주장이다. 바꿔 말하면 90%의 정확도를 자랑한다는 의미다.
‘라벤더’가 획기적인 이유는 과거 노동집약적이었던 작업을 AI로 단시간에 처리한다는 데 있다. 이를테면 과거 군사작전 시에서는 표적을 추려내는 과정도 오래 걸렸을 뿐만 아니라 그 대상을 ‘범죄자로 규정’하거나 ‘정당한 목표물’로 식별하기 위해 여러 사람들의 논의를 거친 후 승인을 받아야 했다. 하지만 ‘라벤더’ 도입 이후에는 모든 게 빨라졌다. 목표물을 추려내는 작업과 그 목표물에 대한 공습을 승인하는 속도 역시 극적으로 가속화되었다.
사정이 이러니 AI의 효율성에 매료된 군 지휘관들이 더 많은 결과물을 요구하기 시작한 건 당연한 일. 익명의 한 이스라엘 정보요원은 ‘가디언’을 통해 “우리는 계속해서 ‘더 많은 목표물을 가져오라’는 압박을 받았다”면서 “그들은 우리에게 고함을 쳤다”고 전했다. 여기에 더해 “어떤 대가를 치르던 하마스를 때려잡아야 한다는 말을 들었다. 가능한 전부 다 폭격하라고 명령했다”라고 덧붙였다.
이러한 요구에 부응하기 위해 IDF는 더 많은 개인들의 데이터베이스를 생성하기 위해 점점 더 ‘라벤더’에 의존하게 됐다. 그 결과는 놀라운 수준이었다. 한 소식통은 “시스템이 최고조에 달했을 때는 3만 7000명의 사람들을 잠재적인 인간 목표물로 만들어냈다”면서 “그러나 하마스 조직원 식별 기준을 어떻게 설정하냐에 따라 그 숫자는 항상 바뀌었다”고 전했다. 가령 “기준값을 보다 광범위하게 입력하자 ‘라벤더’는 우리에게 민방위군과 경찰들까지 다 알려주기 시작했다. 사실 그런 곳에까지 폭탄을 낭비할 수는 없는 일이다. 그들은 하마스 정부를 돕기는 하지만 우리를 위험에 빠뜨리는 정도는 아니다”라고 말했다.
‘라벤더’는 주로 건물과 구조물을 목표물로 식별하는 또 다른 AI 기반 시스템인 ‘가스펠’과 함께 사용된다. AI 표적 생성 플랫폼인 ‘가스펠’은 종종 ‘공장’에 비유되곤 한다. 그 이유는 빠른 속도로 목표물을 다량으로 추려내기 때문이다. 이와 관련, 지난 1월까지 IDF의 수장을 지낸 아비브 코차비는 “2021년, 이스라엘과 하마스 간에 벌어진 11일간의 전쟁에서는 이 시스템으로 하루에 100개의 목표물을 생산해냈다”고 되짚었다. 이에 비해 과거에는 가자지구에서 생성해내는 목표물은 매년 50개에 불과했다. 코차비는 “이제 이 시스템은 하루에 100개의 목표물을 생산하고, 그 가운데 50%에 공격을 가한다”라고 설명했다.
실제 IDF가 지난해 11월 발표한 수치에 따르면, 가자지구 전쟁 발발 후 처음 35일 동안 이스라엘이 공격한 목표물은 무려 1만 5000개에 달했었다. 이에 한 소식통은 IDF가 “양에 중점을 두고 질에 중점을 두지 않는 대량 암살 공장을 운영하도록 했다”고 말했다. 그러면서 “눈으로는 매번 공격하기 전에 표적을 검토하긴 하지만, 공격에 많은 시간을 할애하지는 않는다”고 덧붙였다.
‘가스펠’은 지난해 10월, 가자지구 전쟁 발발 당시부터 종종 사용됐다. 전쟁 초기 하마스 고위 관리들이 지하 터널로 숨어들어갈 때마다 IDF는 ‘가스펠’을 이용해 하급 요원들의 위치를 대거 파악하고 공격했다. 다만 ‘가스펠’이 정확히 어떤 형태의 데이터를 분석하는지는 알려져 있지 않다. 몇몇 전문가들은 일반적으로 드론 영상, 감청된 통신 내용, 감시 데이터, 개인들과 대규모 집단의 움직임과 행동 패턴 등 다양한 루트를 통해 취득한 대량의 정보를 바탕으로 분석이 이루어질 것이라고 추측하고 있다.
문제는 이 과정에서 표적만 사살되는 게 아니라 민간인까지 덩달아 피해를 본다는 데 있다. 이유는 폭격에 사용되는 폭탄이 유도장치가 없는 비유도폭탄이기 때문이다. ‘멍텅구리(Dumb) 폭탄’이라고도 불리는 이 비유도탄을 사용하면 한 명을 죽이기 위해 집 전체를 폭파하는 일이 종종 벌어질 수밖에 없다.
사정이 이러니 전쟁 발발 후 가자지구의 팔레스타인 사망자 수가 충격적으로 많은 이유도 어쩌면 이 때문일 수 있다는 주장도 제기됐다. 가령 하마스가 운영하는 지역의 보건부는 지난 6개월 동안의 충돌로 3만 3000명의 팔레스타인 사람들이 사망했다고 밝혔다. 또한 유엔 자료에 따르면, 전쟁이 발발한 첫 달에만 1340가구가 가족 구성원 가운데 다수를 잃었고, 312가구는 10명 이상의 가족을 잃었다.
‘라벤더’와 ‘가스펠’이 사람이 아닌 건물을 목표로 삼는다는 점도 대량학살의 또 다른 원인이다. 한 관리는 이스라엘-팔레스타인 간행물인 ‘+972 매거진’과 히브리어 매체인 ‘로컬 콜’을 통해 “하마스 조직원으로 의심되는 사람들의 집은 계급에 상관없이 공격 목표가 된다”면서 “하마스 조직원들은 가자지구 전역의 수많은 집들에 살고 있다. 의심되는 집에 표시를 한 후 폭격하면 그 안의 모든 사람들도 함께 죽는다”라고 비난했다.
더욱이 한 이스라엘군 관계자의 말에 따르면, IDF는 용의자들을 표적으로 삼는 데 있어서 그들이 집에 있을 것으로 생각될 때 공격하는 방법을 선호한다. 그러면서 그 관계자는 “우리는 (하마스가) 군사 건물에 있거나 군사 활동을 할 때만 죽이지 않는다”면서 “가족의 집을 폭격하는 게 사실은 훨씬 쉽다. 이 시스템은 이런 상황에서 그들을 찾도록 설계됐다”고 주장했다. 또 다른 문제는 식별 후 실제 폭격이 이뤄지기까지 시간차가 존재한다는 사실이다. 가령 암살 대상자가 집에 귀가한 후 다시 외출할 경우, 그럼에도 폭격이 가해진다면 애꿎은 가족들만 희생되고 만다.
하지만 이런 주장들에 대해 현재 이스라엘 측은 전면 부인하고 있는 상태다. 이스라엘 일간지 ‘예디오트 아흐로노스’는 IDF의 정밀 타격을 강조하는 한편 “무고한 민간인들에게 피해가 가지 않도록 최대한 노력하고 있다”고 보도했다. 이와 관련, 이스라엘의 한 고위 군사 소식통은 ‘가디언’에 “작전 요원들은 공습 직전에 건물을 대피하는 민간인들의 비율을 매우 정확하게 측정한다”고 말하면서 “우리는 얼마나 많은 민간인들이 남아 있는지를 점검하기 위해 알고리즘을 사용한다. 이는 교통 신호등과 같은 녹색, 노란색, 빨간색으로 표시된다”고 설명했다.
또한 이스라엘 군 대변인은 “하마스의 야만적인 공격에 대응해 IDF는 하마스의 군사 및 행정 능력을 제거하기 위해 운영되고 있다. 하마스가 이스라엘 남성, 여성 및 어린이들을 의도적으로 공격하는 것과 달리 IDF는 국제법을 따르고 있으며 민간인 피해를 최소화하기 위한 실현 가능한 조치를 취하고 있다”고 강조했다.
또한 알려진 바와 달리 테러리스트 조직원을 식별하거나 누가 테러리스트인지 예측하기 위해 AI 시스템을 사용하지 않는다고 말하면서 “라벤더는 AI 시스템이 아니라 단순한 데이터베이스다. 그저 정보 자료를 교차 참조하기 위한 것”이라고 주장했다. ‘멍텅구리 폭탄’에 대해서는 ‘고도의 정밀성’이 보장된 ‘표준 무기’라고 항변했다. 그러면서 오히려 AI 기반 시스템이 더 정확한 표적화를 유도해 민간인 피해를 줄였다고도 주장했다.
그럼에도 ‘가디언’과 인터뷰한 AI 전문가들은 이런 주장에 대해 회의적이다. AI와 인도주의 법 준수에 관해 각국 정부에 조언을 하고 있는 한 변호사는 그러한 주장들을 뒷받침할 만한 ‘경험적 증거’가 거의 없다고 말했다. 또 다른 전문가들은 폭격의 가시적인 영향을 지적했다. 무기의 피해를 줄이기 위한 캠페인을 벌이는 연구원인 리차드 모예스는 “가자지구의 물리적인 풍경을 보라. 폭파된 도시 지역이 광범위하게 평평해지는 모습이 보이지 않는가. 따라서 정확하게 국지적인 곳에만 폭격이 가해지고 있다는 주장은 입증되지 않고 있다”라고 반박했다.
사실 이스라엘의 AI 시스템이 야기한 긴장감은 오늘날 전세계 방위산업계에서도 느껴지고 있다. 아직은 새로운 기술이 무기를 개발하고 제어하는 데 있어서 어떤 능력을 발휘할지 아무도 모르기 때문이다. 무엇보다 컴퓨터 알고리즘이 치명적인 무기를 제어할 수 있다는 생각은 많은 사람들을 불안에 떨게 만들고 있다. 어쩌면 미래의 전쟁은 AI 전쟁일 수도 있다.
실제 AI가 주입된 무기 시스템은 전장에서 판단 및 결정의 속도를 높이고, 이로 인해 우발적인 타격이나 오경보를 일으키거나, 고의적인 허위 경고에 따른 결정을 내리도록 하는 위험을 초래할 수 있다. 더 나아가 일부 전문가들은 자동화된 의사결정이 정책 입안자들이 무슨 일이 일어났는지 미처 이해하기도 전에 순식간에 핵 확전을 일으킬 수 있다고도 경고한다. 이에 따라 AI가 3차 세계대전을 일으킬 수 있다고 경고하는 사람들도 있다.
이와 관련, ‘블룸버그’는 “앞으로 AI가 전쟁의 양상을 변화시킨다는 것은 부인할 수 없는 사실이다”라고 했다. 가령 정밀 타격이 놀라운 수준으로 개선되거나 F-35 한 대가 반자율 드론 무리를 지휘하면서 폭격기의 화력을 발휘할 수도 있다. 2021년, 인공지능 국가안보위원회의 “새로운 전쟁 방식을 익히는 쪽이 새로운 갈등의 시대를 지배한다”라는 말도 결코 과장이 아닌 셈이다.
이런 위험에도 불구하고 아마 모든 국가들은 AI 기술 개발을 중단하지는 않을 것이다. 그렇다고 늦추지도 않을 것이다. 미국이 아무리 위험을 인식하고 신중하게 접근한다고 해도 중국인들은 기다리지 않을 것이고, 러시아인들도 마찬가지다. 존 셔먼 미 국방부 정보국장은 “우리가 멈출 때 누구는 멈추지 않는지 생각해 보라”면서 “그러므로 우리는 계속 움직여야 한다”라고 꼬집었다.
반대로 아무리 AI가 발달한다고 해도 인간이 최종결정권을 쥐게 될 것이라는 낙관적인 의견도 있다. 2016년부터 2020년까지 국방혁신위원회 초대 위원장을 지낸 에릭 슈미트 전 구글 회장은 “업계는 이 문제에 대해 어리석지 않으며, 이미 자율 규제를 위한 노력을 진행하고 있다”고 말하면서 “현재 AI 안전에 관한 문제에 대해 비공식적인 토의가 진행되고 있다”라고 덧붙였다.
그런가 하면 미국과 중국은 핵 지휘 통제 프로세스를 자동화하지 않기로 합의한 바 있다. 이는 생존을 위협할 수 있는 핵무기에 대한 통제권을 포기하지 않겠다는 약속이다. 자율적으로 작동 가능한 핵무장 어뢰를 개발한 러시아 역시 냉전 시기에도 인간의 통제권을 차단한 적이 없었다. 이에 관해 ‘블룸버그’는 “오늘날 강대국들이 AI로 가능한 군사적 이점을 적극적으로 활용하면서도 가장 중요한 결정은 인간의 손에 맡기려고 할 것으로 기대한다”는 의견을 내놓았다.
그러면서 오히려 AI가 위기와 전쟁의 혼란 속에서 사태를 명확하게 파악하도록 도와줄 수 있다고 주장하기도 했다. AI를 통한 적확한 판단으로 급격한 확전의 위험을 줄일 수 있다는 것이다. 실제 AI의 도움으로 미국의 정보 분석가들은 2022년 푸틴의 우크라이나 침공을 사전에 포착할 수 있었다. 이런 의미에서 AI는 사람들을 극단으로 몰아가는 불확실성과 두려움을 완화하는 기능을 발휘할 수도 있다고 ‘블룸버그’는 밝혔다.
김민주 해외정보작가 world@ilyo.co.kr