'딥페이크 범죄'에 전세계 몸살…선거용 신원 도용에 금융사기 기승

(서울=뉴스1) 권진영 기자 = 중·고등학교 교실부터 명문 대학·군대·회사까지…생성형 인공지능(AI)으로 허위 음성 및 이미지를 만드는 '딥페이크(Deep fake) 기술을 악용한 성범죄가 일상 곳곳에 침투해 공포를 조장하고 있다.

시큐리티 히어로가 2023년 발간한 보고서에 따르면 세계적으로 딥페이크로 만들어진 동영상 중 98%는 포르노 영상이었으며, 이 중 절반 이상은 한국 가수와 배우를 표적으로 삼은 것으로 드러났다.

한국뿐만 아니라 세계적으로도 상황은 마찬가지다. 딥페이크로 제작된 사진과 영상은 성범죄와 금융사기를 비롯해 대선에서 특정 후보를 비방하기 위한 목적으로 날조되고 있다.

최근 일본에서는 딥페이크 금융사기가 기승을 부리고 있다. 영국의 한 기업 조사를 인용해 2023년, 일본 내 딥페이크 사기가 전년 대비 28배나 늘었다고 보도했다. 조사 대상인 224개국 및 지역 중 5번째로 가파른 증가세다.

이는 일본어라는 언어의 장벽이 깨졌다는 것을 의미한다고 니혼게이자이신문(닛케이)은 분석했다. 히라가나·가타카나·한자를 혼합해 쓰는 일본어의 특성상, 그동안은 생성형 AI가 자연스러운 일본어 문장을 구사하는 것이 어려웠다. 하지만 이제는 비교적 자연스러운 음성 및 동영상을 제작할 수 있는 수준까지 개선된 것이다.

실제로도 일본어를 사용한 딥페이크 이메일 사기는 점점 늘어나고 있다. 미국 보안 대기업 프루프 포인트는 일본에서 거래처를 가장한 사업 이메일에 사기를 당한 이의 비율이 2023년, 전년도 대비 35% 급증해 세계 최고의 증가율을 보였다고 지적했다.

해외에서도 딥페이크에 큰돈을 잃은 사례가 잇따르고 있다. 지난 2월에는 영국 대기업 엔지니어링 기업의 사원이 딥페이크로 꾸며진 화상 회의에서 약 2억 홍콩달러(약 343억 원)를 갈취당하는 피해를 입기도 했다.

메신저 앱 '텔레그램'에는 투자 사기 집단용으로 음성을 합성하거나 외국어 번역이 가능한 툴(도구)을 매매한 정황이 확인됐다.

오는 11월 대통령 선거를 앞둔 미국에서는 딥페이크를 동원한 선거전이 기승을 부리고 있다.

대표적으로 공화당 대선 주자인 도널드 트럼프 전 대통령의 열렬한 지지자로 3만 명의 사회관계망서비스(SNS) 엑스 팔로워를 보유한 32세의 루나는 딥페이크로 만들어진 가상의 인물로 밝혀졌다.

가상의 인물 루나는 트럼프 캠프의 디지털 확성기 역할을 했으며, 상대 진영의 카멀라 해리스 부통령에 대한 음모론을 조장했다. 성소수자·백신에 반대하고 인종차별 및 외국인 혐오를 부채질하는 게시물도 남발했다.

문제는 루나가 자신의 얼굴이라고 올린 사진이 사실은 대서양 건너편 독일에서 패션 인플루언서로 활동하는 데비 네더로프의 사진이었다는 점이다.

네더로프 같은 사례는 16명 더 있다. CNN이 정보회복력센터(CIR)와 공동 조사한 결과, 이들은 트럼프 캠프를 홍보하기 위해 온라인에 게재한 사진을 도용당한 것으로 나타났다.

이 딥페이크 사진들이 공식 트럼프 캠프와 연관됐다는 증거는 아직 발견되지 않았지만, 전문가들은 현재까지 드러난 피해가 빙산의 일각일 수 있다고 우려한다. 이들은 56개의 트럼프 전 대통령 지지 계정을 분석해 체계적인 행동 패턴이 있다는 사실을 밝혀냈다.

모든 계정은 아름답고 젊은 여성들의 사진을 사용했는데, 그중 다수는 실존 인물의 사진을 도용하거나 AI로 생성해 낸 것으로 추정된다. 게시물에는 트럼프 캠프와 관련된 해시태그가 다발적으로 사용됐으며 모두 투표를 독려하는 글귀가 달려 있었다.

케이티 하바스 전 페이스북 공공정책 책임자는 이런 종류의 계정이 소셜 미디어에서 인기를 얻는 데에는 체계적인 여성혐오가 작용했다고 지적했다.

또 계정 메시지에 적힌 영어 문구에서는 문법적 오류가 발견되기도 했는데 이는 외국의 간섭을 보여주는 잠재적 신호일 수 있다고 전문가들은 풀이했다.

대부분의 계정은 지난 몇 달 사이 급조됐다. 가짜 계정 중 15개에는 본인 인증이 끝났음을 의미하는 '블루배지'가 붙기도 했는데, 이 중 8개에는 도용된 사진이 사용됐다.

또한 앞서 지난 1월에는 민주당의 예비선거가 치러진 뉴햄프셔주에선 경선 전날에 '투표에 참여하지 말라'는 바이든 대통령의 로보콜을 받았다는 유권자들의 증언이 쏟아지기도 했다.

백악관은 즉각 해당 로보콜이 바이든 대통령의 녹음본이 아니며 AI로 가짜 이미지와 음성을 합성한 딥페이크라고 해명했다.

한편 2022년, 일론 머스크 테슬라 최고경영자(CEO)에게 인수돼 엑스로 탈바꿈한 트위터는 머스크 체제 하에 허위 정보 대응팀을 해체했다.

realkwon@news1.kr