강장묵 교수 “거짓이 사실로 쉽게 둔갑할 수 있는 위험한 시대에 살 수 있다는 위기감을 가져야”
하버드대학교 옌칭 연구소(Harvard-Yenching Institute)는 동아시아의 세계적 석학들이 방문 교수 등으로 국제 교류를 하여 우리나라와도 긴밀한 관계가 있다. 이날 강연에서는 하버드대학교 로스쿨의 방문 교수, 옌칭 연구소의 방문 교수, 보스턴대학교 로스쿨 교수, 일본 북해도대학교(훗카이도) 교수, 일본 메이지대학교 교수, 일본 히토츠바시대학교 소셜데이터과학학과 교수, 하버드대학교 학생, 보스턴대학교 대학원생 등이 참석하였다.
강장묵 교수는 인공환각(할루시네이션)과 챗GPT 우회 공격에 따른 해킹 사례를 소개하여, 인공지능 산업의 발전에만 급급하여 놓치기 쉬운 안전한 AI 사용에 대해 논의하였다.
강연 후 진행된 질의 및 응답 과정에서 “2024년도는 전 세계에서 선거가 있는 해이다. 유난히 선거가 많은 2024년 인공지능을 이용한 가짜뉴스가 전 세계적인 문제로 등장할 전망이다. 아직, 제도적으로 인공지능에 대한 부작용을 예방하는 기술 및 정책적 협업이 이루어지지 않은 상태이다. 따라서 하버드에서 함께 이 문제를 논의한 학자들부터 이에 대한 논의를 함께할 필요가 있어 이 자리에 함께할 수 있어 기쁘게 생각한다”며 참석 배경을 설명하였다.
특히, 이날 강장묵 교수는 인공환각의 사례로서 ‘세종대왕이 맥북 프로를 던진 사건’에 대한 인공지능의 답변을 소개하였다.
강장묵 교수는 “만약 한국 사람이라면 세종대왕이 업무를 보시던 중 화가 나셔서, 맥북 프로를 던져버렸다는 인공지능의 답변을 들으면, ‘뻔한 거짓말’임을 금방 알아차렸을 것이다. 그러나 만약 여기 계신 하버드대학교, 예일대학교, 보스턴대학교, 뉴헤이븐대학교 등에서 한국의 역사에 관심이 적은 분들이었다면 어땠을까? 한국은 여전히 입헌 한국은 여전히 입헌 군주제여서 맥북 프로를 던지는 일이 실제 역사적 사실로 생각할 수 있다고 여기지는 않을까. 우리가 인공 환각 즉 할루시네이션을 가볍게 생각할지 모르겠지만, ‘뻔한 거짓말’이라고 할지라도 장소와 시간을 달리하면 ‘가짜를 진짜’로 둔갑시킬 수 있다. 그리고 조회 수가 늘고 많은 사람이 이를 언급하면 당연한 사실로 받아들여질 수 있다. 우리는 지금 인공지능의 데이터 오류에 따른 문제뿐만 아니라, 거짓이 사실로 쉽게 둔갑할 수 있는 위험한 시대에 살 수 있다는 위기감을 가져야 한다”고 강조하여 강연을 경청한 하버드대학교의 교수 및 학생들로부터 주목을 받았다.
추후 연구로 강장묵 교수는 현재 인공지능 기술에는 사회적 가치를 코딩하거나 이를 벡터화하여 학습데이터셋에 포함하는 ‘사회적 가치에 대한 라벨링’ 연구가 필요하다. 지금까지 대한민국에서 이미지 분류모델을 위한 BB박스나 가짜뉴스 경진대회(과기정통부 주관)에서 문장의 주요 어휘에 대한 라벨링을 한 경험을 살려, 하버드대학교 및 미국 주요 대학과 사회적 가치를 학습데이터셋에 담아내는 방법론과 실제 구축을 공동 연구하고 싶다고 포부를 밝혔다.
행사 후, 강장묵 교수는 본인이 현재 QR코드를 이용한 테이블 오더 서비스를 개발하면서 적용한 다양한 데이터 처리과 인공지능 기술 그리고 추후 블록체인을 통한 거래 기록의 보존 등에 대한 경험을 추가로 설명하였다.
강장묵 교수는 대한민국 중기부의 소상공인을 위한 자동 테이블 오더 팝업 시스템에서 추가적인 고도화를 위해서는 블록체인을 적용한 개인정보보호 방안이나 인공지능을 통한 맞춤형 서비스에서 발생하는 다양한 사회적 이슈(법 및 제도)에 대한 이해가 필요하다고 강조하였다. 보스턴 현지에 민간 기업 및 관련 전문가와의 투자를 위한 미팅을 2024년 하반기에 추가로 진행하고자 하는 계획도 소개하였다.
박찬웅 기자 rooney@ilyo.co.kr