네이버, 딥페이크 검색하니 "유의하세요"…가짜뉴스 단속 시작

(서울=뉴스1) 손엄지 기자 = 네이버(035420)가 총선을 앞두고 가짜뉴스 단속을 강화한다. 딥페이크 관련 내용 검색 시 경고문구가 나오도록 했다. 선거 관련 허위 정보 신고 채널도 개설했다.

네이버는 검색창에 '딥페이크'를 입력하면 "딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제삼자의 권리를 침해하지 않도록 유의해 주세요"라는 안내문이 뜨도록 조치했다고 28일 밝혔다.

'딥페이크 제작', '딥페이크 영상' 등을 검색할 때도 마찬가지다. 딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어를 대상으로 한다.

딥페이크는 딥러닝(Deep Learning)과 가짜(Fake)의 합성어다. 인공지능(AI)을 활용해 특정 인물의 영상, 음성을 조작하는 기술이다.

네이버는 "검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 경각심을 가질 수 있도록 할 것"이라고 말했다.

또 생성 AI 챗봇 서비스인 '클로바X'와 검색 AI 서비스인 '큐:'(CUE:)에서 선거와 관련된 정보 요청이나 예측을 검색할 때 제공이 어려움을 안내할 예정이다. 선거 기간 동안 대화창 하단에 선거 관련 사용자 주의 안내 문구를 제공한다.

이날 네이버는 신고센터 메인 페이지에 '선거 관련 허위 정보 신고' 채널을 만들었다. 허위정보 등이 포함된 댓글도 바로 신고할 수 있는 기능을 추가했다.

명예훼손 등 권리보호센터를 통해 접수되는 게시 중단 요청의 경우 선거관리위원회의 결정에 의해 이뤄진다. 관련된 요청이 접수되면 선거관리위원회로 신고할 수 있도록 안내한다.

네이버는 뉴스 댓글 집중 모니터링 기간 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠르게 대응해 나갈 예정이다.

eom@news1.kr