"혹시 그 영상 봤어?"…선거판 들쑤시는 '불청객' 얼마나 대비하고 있나

(서울=뉴스1) 서상혁 홍유진 기자 = "사람들은 놀라겠지만 사실 저는 론 디샌티스를 아주 좋아합니다. 그는 이 나라에 꼭 필요한 사람입니다."

지난해 4월, 사회관계망서비스(SNS) 엑스(X·구 트위터)에는 힐러리 전 미국 국무장관이 출연한 영상 하나가 올라왔다. 야권의 잠재적 대선 후보인 론 디샌티스 플로리다 주지사를 지지한다는 내용이었다. 여권의 유력 인사 힐러리가 상대 당의 후보를 공개 지지하다니, 충격적일 수밖에 없는 영상이었다.

더군다나 'HILLARY CLINTON ENDORSES DESANTIS(힐러리 클린턴이 디샌티스를 공개 지지하다)'는 머리기사 문구까지 영상에 노출됐다.

해당 영상은 금세 '딥페이크'임이 드러났지만, 진위와 관계없이 미국 선거판은 혼란에 빠졌다. 딥페이크의 위험성을 보여주는 대표 사례인 셈이다. 딥페이크는 인공지능(AI)에 특정 이미지를 학습시켜, 유사한 복제 이미지를 만들어 내는 생성형 AI를 말한다.

주요 선거를 앞두고 마치 사실인 것처럼 꾸며낸 '딥페이크' 영상이 난무하면서 각국 정부가 골머리를 앓고 있다. 딥페이크 영상은 유권자의 사고와 판단을 방해하기 때문이다. 그대로 방치할 경우 선거라는 민주주의 제도에 직격탄을 가할 수 있다.

우리 정부도 위험성을 인지하고, 선거 기간 딥페이크를 이용한 선거 운동을 일절 금지했다. 다만 "기술에는 죄가 없다"며 도움이 되는 쪽으로는 활용될 수 있도록 활로를 열어둬야 한다는 목소리도 적지 않다.

◇AI 정치인 이제 못 본다

22일 중앙선거관리위원회(중앙선관위)에 따르면 개정된 공직선거법에 따라 이달 29일부터 딥페이크 영상을 활용한 선거 운동이 금지된다. 누구든지 선거일 90일 전부터 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영·게시할 수 없다는 내용으로 지난 연말 국회 본회의 문턱을 넘었다.

이전까지는 허위 정보를 게재하거나 후보자의 동의 없이 사진을 합성하지 않는다면 처벌받지 않았지만, 앞으로는 7년 이하의 징역이나 1000만~5000만원의 벌금에 처해질 수 있다.

딥페이크를 이용한 선거 운동은 지난 대선에서 본격화했다. 국민의힘 측은 'AI 윤석열', 더불어민주당은 'AI 이재명'을 앞세워 선거운동을 벌였는데 앞으로 이같은 콘텐츠는 보지 못할 전망이다.

중앙선관위는 AI 모니터링 전담 요원과 전문가로 구성된 감별반을 통해 딥페이크 등 AI 콘텐츠가 4월 예정된 국회의원 선거 운동에 활용되는지 집중 감시할 예정이다.

다음 달 초에는 경찰청·포털 관계자 등 20여개 기관이 대책회의를 열고 딥페이크를 포함해 선거 기간 중 발생할 허위사실 유포 범죄 대응책을 논의할 계획이다.

현재까지 딥페이크가 국내 선거에서 악용된 사례는 많지 않다. 2022년 전국동시지방선거 당시 남해군수 국민의힘 후보의 지지자가 'AI 윤석열'을 이용한 홍보 영상을 제작한 정도가 대표적인 사례다.

하지만 세계적인 흐름상 한국에서도 올해 총선을 기점으로 딥페이크 악용 사례가 늘어날 수 있다는 전망이 나온다. 올해 초 대만 총통 선거에서도 중국에 반대하는 후보를 겨냥한 딥페이크 콘텐츠가 확산하기도 했다.

중앙선관위 관계자는 "딥페이크가 미국 선거에 악용되는 등 해외 사례가 나오고 있다"며 "총선은 대선과 다르게 후보가 여러 명이라는 점에서 딥페이크가 큰 파급력을 발휘할지 불확실하지만, 예의 주시하고 있다"고 말했다.

경찰 역시 엄정하게 수사한다는 방침이다. 경찰청에 따르면 지난 2022년 6월 지방선거에서 총 4076건의 선거 범죄가 발생했는데 그중 31.2%(1274건)가 허위사실 유포로 5대 선거 범죄(금품 수수·허위사실 유포·공무원 선거 관여·선거폭력·불법 단체동원) 중 압도적으로 많았다. 과거에는 현장 선거 유세 현장에서 허위사실 유포 행위가 빈번했다면, 앞으로의 대세는 딥페이크가 될 가능성을 배제하지 못한다.

◇선거에 활용되면 민의 '왜곡' 우려

딥페이크는 생성AI의 대표 격으로 지금도 각계에서 유용한 기술로 취급받고 있다. 상조회사 등이 생전 고인의 영상과 사진을 이용해 추모 영상을 제작하는 것이 대표적이다.

다만 선거에 악용될 경우엔 이야기가 다르다. 전문가들은 민주주의라는 시스템에 심각한 위협이 될 수 있다고 우려한다.

실물과 거의 구별하기 어려운 AI가 선거 운동에 나선다는 점에서, 책자 홍보물 등 텍스트를 이용한 선거 운동보다 큰 효과를 볼 수 있다. 허위 정보라고 할지라도 딥페이크를 통하면 유권자들이 그대로 믿을 가능성이 더 커진다는 의미다. 해당 정보가 SNS라는 유통망을 통해 순식간에 전파될 수도 있다. 누군가 딥페이크를 이용해 여론을 조작하고자 한다면, 선거의 '판'을 통째로 바꿔놓을 수 있는 것이다.

조원용 중앙선관위 연구교수는 지난 2022년 '공직선거에서 딥페이크 악용에 대한 입법적 대응의 필요성'이라는 논문에서 "유권자는 후보자의 목소리, 생김새, 출신지역, 이력 등 모든 것을 종합적으로 판단한다"며 "딥페이크가 이 영역의 어딘가를 거짓으로 만든다면 판단력에 영향을 미쳐, 결국 선거 결과의 왜곡으로 진행될 수 있다"고 설명했다.

실제 지난해 튀르키예 대선에서 '딥페이크'가 존재감을 드러냈다. 당시 대선 후보였던 에르도안 대통령은 쿠르드족 분리주의 무장단체 '쿠르드노동자당'이 상대 후보를 지지한다는 영상을 지지자에게 공유했다. 당시 이 영상이 퍼지면서 민족주의 노선을 내세운 에르도안 대통령이 급등해 결국 선거에서 승리했다. 해당 영상은 누군가 AI로 만든 '딥페이크'였다.

유현재 서강대 신문방송학과 교수는 "딥페이크의 내용이 '거짓'인 줄 알면서도 지자자들은 특정 후보가 좋으니 열광하는 데다 콘텐츠를 퍼뜨리기도 한다"라며 "이를 인지 편향이라고도 하는데, 기술이 혼란을 부추기는 꼴"이라고 말했다.

정치권에서 허위 정보를 담은 딥페이크 제작을 남발할 가능성도 제기된다. 허위 사실에 대한 검증은 유포하는 행위보다 느릴 수밖에 없는 만큼, 우선 '만들고 보자'는 식의 풍토가 생길 우려가 있다는 것이다.

용혜인 기본소득당 의원이 지난 2022년 10월 중앙선관위로부터 제출받은 '허위사실공표죄 사법처리 현황' 자료에 따르면 당선 목적의 허위사실 공표로 선관위가 고발한 사건은 총 110건인데, 그중 당선 무효형은 3건에 불과했다.

김명주 서울여대 정보보호학과 교수 교수는 "허위사실 공표로 정치인들이 소송을 당하기는 하지만, 보통은 선거 이후에 벌어지는 일"이라며 "소송에서도 보통 직을 유지할 정도의 처벌만 받는데, 딥페이크가 정치권의 허위사실 유포 행위를 더 용이하게 할 여지가 있다"고 꼬집었다.

◇딥페이크 이어 '딥보이스' '댓글 매크로'

딥페이크가 우려스러운 또 다른 이유는 접근성이 낮다는 데 있다. 누구나 마음만 먹으면 제작해, SNS를 통해 익명으로 유포할 수 있다.

지금도 프리랜서 플랫폼에 '딥페이크'라는 열쇠말로 검색하면 '딥페이크 영상 제작' '인공지능 이미지 만들어 드린다'는 광고 글이 다수 올라와 있다. 제작 비용은 15만~ 30만원이 든다.

업계 관계자는 "과거와 다르게 이제 비용도 적게 들고 한두 달 걸릴 작업이 수일 안에 이뤄진다"며 "제작 도구도 인터넷에 올라와 있는 만큼, 중학생도 만들 수 있는 정도가 됐다"고 설명했다.

딥페이크와 유사한 '딥보이스'도 비슷한 방식으로 제작할 수 있다. 딥보이스란 '목소리'를 복제하는 기술로, 특정인의 목소리로 대본을 읽게 하거나 노래를 부르게 할 수 있다.

'댓글 매크로' 역시 인터넷에서 손쉽게 구할 수 있다. 포털 등에 '실시간 댓글 제작' '댓글 매크로' 등을 검색하면 매크로 프로그램을 손쉽게 내려받을 수 있다. 댓글 매크로는 딥페이크와 개념은 다르나, 그 목적이 '여론 조작'에 있다는 점에서 유사한 측면이 있다.

hyuk@news1.kr