“AI가 법정에 섰다”…강장묵 교수, 인도 법학 심포지엄 키노트 장식

인도 AI·형사법 국제 심포지엄서 ‘AI와 법’ 주제 발표…RAG 보안 취약성·머신 언러닝 등 기술 사례 발표

[일요신문] 강장묵 동국대학교 국제정보보호대학원 교수(한국지능로보틱스 대표이사)가 2월 17일 인도 하리아나주 구르가온의 Amity 법과대학(Amity Law School, Amity University Haryana)이 주최한 ‘인공지능과 형사법에 관한 국제 심포지엄’에서 키노트 연사로 발표했다. 이번 행사는 Google Meet을 활용한 하이브리드 방식으로 진행됐으며, 강연은 인도 표준시 기준 오후 1시부터 1시 45분까지 이어졌다.

강 교수의 발표 2번 슬라이드 ‘스피커 프로필 — 테크노-법적 격차 해소’. 이중 박사, K-ADA 아키텍처, Harvard·Yale·Brown 강연 이력이 소개되어 있다. 사진=강장묵 교수 제공

강 교수의 발표 주제는 ‘테크노-법적 경계: AI 주도 미래 범죄와 글로벌 신뢰 아키텍처 탐색(The Techno-Legal Frontier: Navigating AI-Driven Future Crimes and the Global Architecture of Trust)’이다.

그는 발표 전반을 관통하는 철학으로 “기술은 법의 도구이고, 법은 코드를 위한 지침이다(Technology is the instrument of the law; Law is the governing guideline for the code)”라는 명제를 제시했다.

강 교수는 인도의 ‘IndiaAI Mission(2024년 3월 인도 내각 승인, 5년간 약 1조 3800억 원 규모)’과 한국의 ‘인공지능 기본법(2026년 1월 22일 시행)’을 비교하며, 양국의 AI 정책 방향을 소개했다. 본질적으로 같은 목표(디지털 주권을 수호하는 ‘소버린 AI(Sovereign AI)’ 구현)를 향해 달리고 있음을 조명했다.

또한 검색증강생성(RAG) 시스템이 내포한 치명적 취약점을 법적 개념으로 재해석하기도 했다. 강 교수는 약 270만 개 텍스트가 담긴 데이터베이스에 단 5개의 악성 텍스트를 심어 AI의 대답을 97% 확률로 조작할 수 있다는 실증 연구(Zou et al., arXiv:2402.07867, USENIX Security 2025 채택)를 인용했다.

“법정에서 AI 생성 증거의 무결성을 어떻게 입증할 것인가?” 강 교수는 이 질문에 답하기 위해 ‘머신 언러닝(Machine Unlearning)’ 기법과 Bourtoule et al.의 IEEE S&P 2021 논문을 연결하면서, 인도의 DPDP(Digital Personal Data Protection) Act 2023이 규정한 '잊힐 권리(Right to Erasure)'를 기술적으로 구현하는 방법론을 제시했다.

강장묵 교수가 지난 17일 Google Meet을 통해 Amity Law School 국제 심포지엄에서 키노트 발표를 진행하고 있다. 사진=강장묵 교수 제공

강 교수가 이번 발표에서 새롭게 제안한 ‘K-ADA(Korean AI-Defense Architecture)’ 프레임워크는 한국의 AI 보안 경험을 글로벌 남반구(Global South) 국가들과 공유하기 위한 표준 모델이다. EU AI Act의 강력한 규제 모델과 인도 IndiaAI Mission의 혁신 중심 접근 사이의 간극을 K-ADA가 메울 수 있다는 주장이다.

그는 또한 ‘ACB(Activation Chain Breaker)’라는 자율 AI 에이전트의 무단 다단계 실행을 실시간으로 차단하는 킬스위치 메커니즘과 MITRE ATLAS 프레임워크(AI 시스템 대상 적대적 위협 지식베이스, atlas.mitre.org)를 결합한 대응 방안을 제안했다.

강장묵 교수는 2024년 하버드대학교와 예일대학교 세미나 강연에 이어, 2025년 4월에는 브라운대학교(Brown University) 초청 강연을 수행했다. 당시 마이클 리트만(Michael L. Littman) 교수, 페드로 펠젠스왈브(Pedro Felzenszwalb) 교수와 기술 워크숍을 진행하고, 미국 국토안보부(DHS) 국장 및 FBI·HSI·DEA 등 연방기관 대표단 앞에서 AI 기반 인지 서명 인증 기술의 필요성을 발표했다.

이번 인도 심포지엄 참가는 그러한 학술 외교(Academic Diplomacy) 행보의 연장선이다. 강 교수의 발표일(2월 17일)은 인도-한국 제6차 외교정책·안보대화(FPSD, 2월 12~13일 서울 개최)와 ‘India AI Impact Summit 2026’(2월 16~20일 뉴델리) 사이에 위치하는, 한국-인도 AI 협력의 역사적 모멘텀 한복판이었다.

박찬웅 기자 [e-mail]