중앙선관위, 총선 대비 'AI 활용 허위사실 공표·비방 특별대응팀' 편성

(서울=뉴스1) 노선웅 기자 = 중앙선거관리위원회가 내년 총선을 앞두고 AI를 활용한 허위콘텐츠의 선거 악영향을 막기 위해 관련 법규운용기준을 마련하고 특별대응팀을 편성하는 등 본격적인 대비에 나섰다.

중앙선관위는 31일 보도자료를 통해 지난 7월 '생성형 AI를 활용한 선거운동 등 관련 운용기준'을 마련하고, 이달 14일부터 '허위사실공표·비방 특별대응팀(AI 전담팀)'을 편성해 운영하고 있다고 밝혔다.

AI 전담팀은 모니터링반과 분석·삭제반, 조사·조치반, 이의제기처리반 및 AI 감별 등을 위한 허위사실·비방 검토자문단으로 구성된다. 단계별로 시기에 따라 전국 시·도선관위까지 확대 운영될 예정이다.

AI 전담팀의 구성원으로는 중앙선관위 전임직원 15명과 사이버공정선거지원단 20명, 각 시·도선관위별로 전임직원 2~3명, 사이버공정선거지원단 30명 이내 등 최대 500여명으로 구성된다.

AI 전담팀은 AI로 생성한 이미지·동영상 등을 감별하고, 게시물 간 연관성을 탐지·추적해 선거 관련 여론조작 여부를 판별하는 등 허위사실공표·비방에 대응할 계획이다.

중앙선관위는 AI 전담팀 운영과 함께 검찰과 경찰, 한국인터넷진흥원 등과 협조해 위반행위에 대해 단속하거나 관련 조치를 취하는 한편, 네이버·카카오와도 협업을 통해 위반행위 신고를 활성화할 예정이다.

앞서 중앙선관위는 전날(30일) 전경련 회관에서 'AI가 선거에 미칠 영향'을 주제로 관련 세미나를 개최해 AI가 선거에 미칠 영향과 예상되는 문제점에 대해 법·제도적 대응방안을 논의하기도 했다.

또 지난 7월에는 챗GPT 등 생성형 AI 활용과 관련된 법규운용기준도 마련하기도 했다.

당시 마련한 'AI를 이용한 선거운동' 기준에는 AI를 통해 만들어진 글과 사진·동영상·음성 등을 공직선거법 허용 범위 내에서 활용할 수 있으나, 허위 사실이 포함돼 있는 경우 공직선거법 제250조(허위사실공표죄)가 적용될 수 있다는 내용이 담겼다.

이때 AI를 통해 생성된 내용임을 밝히더라도 허위사실이 포함될 경우 허위사실공표죄가 적용될 수 있음을 명시했다.

'AI를 이용한 선거결과 예측' 부분에는 특정 정당·후보자에 대한 지지도, 선거결과 등을 예측할 경우 AI로 분석한 결과로서 신뢰도 등에 한계가 있을 수 있음을 밝히도록 하는 내용이 담겼다.

다만 AI를 활용한 지지도나 선거결과 등에 대한 분석결과를 선거에 관한 여론조사 결과로 오인하게 공표할 경우 공직선거법 제96조(허위논평·보도 등 금지) 제1항에 위반될 수 있다는 점, 언론인이 객관적 자료의 제시 없이 AI로 예측한 선거결과를 보도할 경우 공직선거법 제96조(허위논평·보도 등 금지)에 위반될 수 있다는 내용 등이 포함됐다.

bueno@news1.kr