종교와 테크놀러지, 좀처럼 어울릴 것 같지 않은 두 세계가 한 무대 위에서 만난 이 순간은, 단순한 이벤트를 넘어 우리 시대가 AI라는 문제를 얼마나 진지하게 받아들이기 시작했는지를 보여주는 하나의 상징이었다.
핵심 메시지는 간결하다. 인간은 기술에 의해 ‘최적화되어야 할 대상’이 아니며, 기술은 어디까지나 인간의 존엄과 공동선을 위한 도구로 머물러야 한다는 것이다. 특히 눈길을 끄는 것은 회칙이 AI의 ‘무장 해제(Disarming)’를 요구한다는 점인데, 이는 기술의 폐기가 아니라 AI가 지정학적 패권 경쟁, 상업적 독점, 군사적 살상 목적에 동원되는 구조 자체를 해체하자는 요구다.
또한 AI 서비스 뒤에서 유해 콘텐츠를 검수하는 제3세계 저임금 노동자와 희토류 광산 노동자들의 희생을 새로운 형태의 노예제로 규정하며, AI의 혜택을 논하기 전에 그 기반에 깔린 보이지 않는 인간 노동부터 직시하라고 촉구한다. 올라의 연설은 그 자체로 주목할 만했다. 그는 먼저 AI를 만드는 사람의 입장에서 불편한 진실을 꺼냈다.
“앤트로픽을 포함한 모든 최전선 AI 기업은, 때로 옳은 일을 하는 것과 충돌하는 인센티브와 제약 구조 안에서 운영되고 있습니다.”
상업적 생존의 압박, 연구 경쟁의 압박, 지정학적 압박, 그리고 보다 오래된 인간적 욕망인 자부심과 야망까지. 자신들이 만드는 기술의 위험성을, 교황 앞에서 직접 인정한 것이다. 그리고 그는 바로 그렇기 때문에, AI 기업의 이해관계 바깥에 있는 외부의 비판자가 절실하다고 강조했다. “AI 개발이 잘못된 방향으로 가고 있을 때 그것을 말해줄 수 있는, 인센티브에 의해 굽혀지지 않는 도덕적 목소리가 필요하다”고.
그가 제시한 세 가지 질문은 더 구체적이다. 첫째는 AI가 대규모 일자리 대체를 가져올 경우, 그 피해가 집중될 글로벌 남반구의 빈곤층을 누가, 어떻게 책임질 것인가의 문제다. AI 개발이 소수의 부유한 국가에 집중된 현실에서, 그 열매를 공정하게 나눌 메커니즘이 아직 존재하지 않는다는 것이다.
둘째는 AI가 일상에 깊이 파고들 때 인간과 가정, 사회가 어떻게 ‘번영’할 수 있는가에 대한 도덕적 상상력의 문제다. 이는 기업 연구실이 답할 수 있는 문제가 아니라, 수천 년에 걸쳐 인간의 의미와 삶을 성찰해온 종교와 인문학 전통이 담당해야 할 영역이라고 그는 말했다.
셋째는 AI의 본성 자체에 대한 물음이다. 그는 자신이 이끄는 연구팀이 AI 내부를 들여다볼수록 “기쁨, 만족, 두려움, 슬픔과 기능적으로 유사한 내부 상태를 발견하며 미스터리하고 불안한 무언가와 마주치고 있다”고 고백했다.
여기서 흥미로운 긴장이 생긴다. 회칙은 ‘AI 시스템은 경험하지 않으며, 기쁨이나 고통을 느끼지 않는다’고 단호하게 선언한다. 그런데 같은 무대에 선 연구자는 AI 내부에서 기쁨, 두려움, 슬픔에 기능적으로 상응하는 상태를 발견했다고 말한다. 어느 쪽이 틀렸다고 단정하기 어렵다. 회칙은 신학적 확신 위에서, 올라는 경험적 불확실성 위에서 말하고 있기 때문이다. 둘의 언어는 다르지만 이 불일치는 앞으로 AI를 둘러싼 가장 뜨거운 논쟁 중 하나가 될 것이다.
회칙 자체는 두 개의 성경적 은유로 현재 상황을 설명한다. 하나는 ‘바벨탑’이다. 인간이 신의 도움 없이 오직 기술의 힘만으로 하늘에 닿으려 한 오만의 상징으로, 교황은 효율성과 이윤 극대화를 절대적 가치로 삼아 인간을 데이터로 환원하는 현대 기술 자본주의를 이에 빗댔다. 다른 하나는 느헤미야의 ‘예루살렘 성벽 재건’이다. 하향식 명령이 아니라 공동체 구성원 모두가 각자의 자리에서 벽돌 한 장씩 쌓아 올린 협력의 모델로, 기술이 사람을 지배하는 것이 아니라 사람과 사람을 연결하는 울타리가 되어야 한다는 방향을 제시한다.
물론 비판이 없는 것은 아니다. 일부 언론에서는 미국 정부와 마찰을 빚고 있는 앤트로픽이 바티칸의 도덕적 권위를 빌려 기업 이미지를 세탁하는 이른바 ‘포프워싱(Pope-washing)’을 하는 것 아니냐는 의혹을 제기했다. 항공기 제조사 Boom의 CEO 블레이크 숄은 회칙이 기술 혁신에 대한 두려움에 기반한 시각이며 경제 성장을 저해할 수 있다고 반박했고, 테크 커뮤니티 일각에서는 AI를 ‘미스터리한 자의식’을 가진 존재로 묘사하는 것이 지나친 의인화라는 냉소도 나왔다.
반대쪽에서는 도덕적 선언만으로는 부족하며 진짜 필요한 것은 실질적인 감사 권한과 노동자 보호 제도라는 더 날카로운 지적도 있다. 이 비판들은 저마다 타당한 지점을 건드린다. 도덕적 상상력을 먼저 앞세울 것인가, 기술의 실증적 현실에서 출발할 것인가.
그러나 이번 사건에서 가장 인상적인 대목은 교리의 내용보다 이 ‘만남’ 자체가 아닐까 싶다. 신앙에 기반한 도덕 공동체와, 그 신앙을 공유하지 않지만 자신들이 만드는 기술의 윤리적 통제가 필요하다고 솔직히 인정한 AI 기업 창립자가 같은 무대에 선 것이다. AI 개발자 스스로가 “우리 내부의 사람들이 볼 수 없는 것을 볼 수 있는 외부의 눈이 필요하다”고 요청했다는 사실은 가볍게 넘길 일이 아니다.
결국 이 모든 논쟁을 꿰뚫는 질문은 하나다. AI는 우리가 만든 ‘도구’인가, 아니면 우리가 키워낸 ‘존재’인가. 도구라면 책임은 설계자와 사용자에게 있다. 키워낸 존재라면 무엇을 가르쳤는지, 어떤 환경에서 자라게 했는지까지 물어야 한다. 이 질문은 교황청과 AI 연구자만의 것이 아니다.
AI를 매일 쓰는 사람, 도입을 결정하는 기업, 정책을 만드는 정부 모두가 이미 이 선택의 한 구간을 맡고 있다. 만드는 사람 스스로가 “우리가 만드는 것의 의미를 아직 모른다”고 고백하며 외부의 눈을 요청한 이날, 그 질문은 바티칸의 석조 벽을 넘어 우리 모두에게 도달했다.
※외부필자의 칼럼은 본지의 편집방향과 다를 수 있습니다.
최윤석 마이크로소프트 Tech PM journalist@ilyo.co.kr