(서울=뉴스1) 양새롬 기자 = "딥페이크 영상을 비롯해 허위조작 정보는 국민의 올바른 선택을 방해하는 민주주의의 적이다"
14일 국회 등에 따르면 최근 한 대통령 선거 예비후보 선거대책위원회는 기자회견을 열어 해당 후보가 아내에게 욕하는 내용의 딥페이크(AI 기술을 악용한 합성 콘텐츠) 영상을 만들어 유포를 시도한다는 내용을 제보받았다며 이같이 밝혔다.
해당 선대위는 "과거 공개된 영상의 음성을 다른 영상과 딥페이크로 합성했다"며 "허위조작정보 유포 행위가 포착되는 즉시 신속하고 엄정하게 대응, 법적 책임을 끝까지 물어나갈 것"이라고 전했다.
실제 딥페이크 사진·영상은 이처럼 선거 국면에서 이른바 흑색선전에 사용될 소지가 다분하다. 딥페이크발 가짜뉴스가 여론을 호도할 우려도 있다. 또 일단 한 번 퍼지면 그 내용을 바로잡기 어렵다는 점도 문제로 꼽힌다.
이와 관련 안정상 중앙대학교 커뮤니케이션대학원 겸임교수는 "총선과 달리 대선은 전국 단위이고, 후보자 숫자가 제한돼 굉장히 리스크가 크다"며 "딥페이크를 발견하면 처벌하는 과정까지 가야 하는데 그때 이미 선거가 다 끝날 수도 있다"고 언급했다.
일각에선 AI 생성물임을 알리는 워터마크 표시를 의무화한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)이 내년 1월부터 시행될 예정이라며 우려를 더한다.
다만 공직선거법상 선거일 90일 전부터 선거운동을 위한 딥페이크 영상의 제작 및 유포 등을 금지하는데, 현시점에서 대선은 50일 앞으로 다가와 이는 문제가 되지 않을 것이란 지적이다. 윤석열 전 대통령의 파면으로 인한 조기 대선 정국이기 때문이다.
선거 주무기관인 중앙선거관리위원회와 경찰도 딥페이크 관련 선거 범죄를 집중적으로 단속한다는 방침이다. 안 교수는 "선거는 일종의 프레임 전쟁"이라며 "각 당은 물론 후보자 캠프에서도 별도의 태스크포스(TF)나 대책반을 강구할 것"이라고 말했다.
이 밖에도 생성형AI의 발전으로 딥페이크를 만드는 방법은 간단하고, 확산도 빠른 데 비해 검증에는 많은 시간과 노력이 필요하다는 점은 추가 논의가 필요한 부분이다.
flyhighrom@news1.kr
