“AI보안 연구, 국제 협력 시대로…강장묵 교수 LLM 기억·프라이버시 연구 주목”
이번 행사에는 한국의 동국대학교·경성대학교·동아대학교, 일본의 메이지대학교·규슈대학교·교토대학교·도쿄대학교, 그리고 대만의 주요 연구진이 온·오프라인으로 참여해 디지털 민주주의와 AI 거버넌스의 미래를 논의했다.
특히 이날 주목을 받은 발표는 강장묵 동국대학교 국제정보보호대학원 인공지능보안학과 교수(정보보호공학박사/정치학박사)가 진행한 ‘Memory-Extended LLMs and Privacy Law(기억 확장형 LLM과 프라이버시 법)’ 세션이었다. GPT-5.1, Gemini 3.0 등 최신 초거대 언어모델(LLM)에 장기메모리(Long-Term Memory)가 탑재되면서 새롭게 등장하는 프라이버시 침해 위험과 그 대응 기술을 분석한 발표는 행사 참가자로부터 높은 관심을 모았다.
강 교수는 “LLM은 데이터를 표 형태로 저장하는 것이 아니라 수조 개의 파라미터에 압축하여 기억하기 때문에, 특정 개인정보만 선택해 삭제하는 것은 이미 완성된 케이크에서 설탕만 빼내는 것과 같은 고난도 기술 문제”라고 설명했다.
그러면서 강 교수는 선택적 망각(Selective Forgetting), 머신 언러닝(Machine Unlearning), 영향 함수(Influence Functions)를 활용한 삭제 기술 등을 기반으로 GDPR 삭제권(Right to Erasure)을 실제 산업 현장에서 구현하기 위한 4단계 기술·법 융합 프레임워크를 제시했다.
단순히 법적 권리를 분석한 데 그치지 않고 공학적 접근을 실제 법·정책 프레임워크와 결합했다는 점에서 이번 발표가 각국 연구자들에게 강한 인상을 남겼다는 평가가 이어지고 있다. AI 보안, 프라이버시 공학, 규제 기술(RegTech)을 아우르는 전방위적 통찰이 돋보였다는 평가도 나왔다.
강장묵 교수는 이번 발표를 통해, AI 모델이 영구적으로 데이터를 기억하는 구조가 불러올 위험성을 지적하며 다음과 같이 강조했다.
“AI가 인간의 데이터를 무기한 보관하는 것이 아니라, 필요할 때 안전하게 망각할 수 있도록 설계하는 것이 차세대 AI 보안의 핵심이다. 이번 국제학술대회를 통해 아시아권 연구자들과 함께 협력 기반을 넓히게 된 것은 매우 의미 있는 진전이다.”
그는 앞으로 한국형 AI 보안 표준(K-ADA, Korean AI Defense Architecture) 연구를 강화하고, 이를 국제 무대에서 확산할 수 있는 공학적·법적 협력 모델을 구축하겠다는 의지도 밝혔다.
초거대 AI 시대가 본격화되면서 AI 보안과 프라이버시 기술은 글로벌 산업·정책의 핵심 관심사로 떠오르고 있다. 미국·유럽의 주요 규제기관이 ‘기억권리’와 ‘선택적 망각 기술’을 제도화하는 움직임을 보이는 가운데, 한국·일본·대만이 함께 논의한 이번 국제학술대회는 동아시아 지역에서 AI 보안 규범을 형성하는 중요한 이정표가 되었다는 평가가 나온다.
하버드·예일·브라운대학교에서의 연구 교류, 일본 메이지·규슈대와의 공동 제안, JICA 초청 논의 등은 동국대학교 강장묵 교수가 AI 보안 분야에서 축적해 온 전문성과 국제적 신뢰도를 보여주는 사례로 꼽힌다.
이번 후쿠오카 학술대회는 한·일·대만 연구자들이 함께 만들어내는 AI 보안·거버넌스 국제 협력 시대의 초입을 상징하며, 강 교수의 발표는 그 중심에서 중요한 방향성을 제시한 것으로 평가된다.
박찬웅 기자 rooney@ilyo.co.kr