"대선에 딥페이크 활용 못하도록"…중앙선관위, 대책회의 개최

(서울=뉴스1) 박소은 기자

#. 지난 2024년 총선에서 한 유튜버는 예비후보자(A)의 성대모사를 하면서 선거를 언급하는 장면에 딥페이크를 적용했다. A 씨의 얼굴을 합성해 해당 후보자가 실제로 얘기를 한 것처럼 영상을 제작해 유튜브에 게시해 선거에 영향을 미쳤다. 현재 해당 영상은 삭제 요청된 상태다.

중앙선거관리위원회는 오는 6월 치러질 제21대 대통령선거에서 위와 같은 허위사실·비방이 발생하지 않도록 준비하기 위한 유관기관 대책회의를 15일 개최했다.

이날 오후 중앙선관위는 과천 청사에서 수사 관련 기관과 포털, SNS 등 9개 유관 기관이 참석한 가운데 대책회의를 개최했다. 회의에는 대검찰청·경찰청·국립과학수사연구원·한국인터넷자율정책기구(KISO)·네이버·카카오·SK커뮤니케이션즈(네이트)·엑스(트위터)·메타(페이스북) 관계자가 참석했다.

중앙선관위와 회의에 참석한 기관들은 표현의 자유를 보장하고 건전한 선거문화 조성을 위해 공동 대응 및 협조체계 유지가 중요하다는데 뜻을 모았다.

특히 이번 선거에서는 생성형 AI를 활용한 딥페이크 영상 등 위법 게시물 확산 문제와 비방·흑색선전의 우려가 크다고 봤다. 궐위선거 특성상 선거준비 기간이 짧아서다.

중앙선관위는 지난 9일부터 중앙 및 시도선관위에 특별대응팀을 운영하고 있다. 짧은 선거 준비 기간을 고려해 가용 인력을 최대 규모인 총 450여 명으로 구성하고 딥페이크영상등 AI 생성 여부 판별을 위해 '시각적 탐지기법→감별 프로그램 활용→AI 감별 자문위원 활용' 등 3단계 감별체계를 통해 대응할 예정이다.

그중 감별이 어려운 AI로 생성한 음성 판별은 국립과학수사연구원(NFS)·한국전자기술연구원(KETI)과 업무협의를 거쳐 개발 중인 감별 프로그램을 활용해 판별 정확성을 더욱 높일 예정이다.

다만 규제 실효성을 확보하기 위해 단계별·사안별 유관기관·단체 간 공동 대응이 중요하다고 강조했다. 위법행위 예방을 위해 포털 및 SNS사와 한국인터넷자율정책기구(KISO)를 중심으로 사이버 선거문화 자정캠페인을 추진하고 허위사실공표·비방 관련 자율 규제방안을 공유하기로 했다.

위법행위 발생 시에는 위법게시물의 신속 차단을 위해 포털 및 SNS사에 대한 삭제요청권을 적극 활용하기로 했다. 검·경에는 고발·수사 의뢰 사건에 대한 신속한 수사 조치를 요청하기로 했다.

특히 후보자 등 등장인물이 근거를 밝혀 직접 신고·제보한 경우 권리 침해에 따른 '통지 및 게시중단'(Notice and Takedown) 원칙을 활용해 포털사 등에 선제적 삭제 요청 조치를 할 방침이다.

soso@news1.kr