네이버, 딥페이크 성착취물 신고 채널 개설…"실시간 탐지 중"

(서울=뉴스1) 손엄지 기자 = 네이버(035420)가 '딥페이크'(Deepfake) 기술을 악용한 디지털 성범죄 피해를 신고하는 전용 채널을 개설했다.

28일 네이버는 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하면 신고채널을 통해 접수해주길 바란다"며 관련 링크를 안내했다.

네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"면서 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다.

딥페이크는 AI 기반 합성물이다. 기존 '합성사진'과 달리 인공지능 기술로 실제 사진이나 동영상처럼 교묘하고 정밀하게 제작되기 때문에 '딥페이크'라고 불린다.

최근엔 지인 등 실존 인물의 얼굴을 음란물에 합성한 딥페이크 영상물을 만들어 유포하는 사건이 전국에서 잇달아 발생하면서 정부와 플랫폼업계가 강력한 단속에 나섰다.

현재 네이버는 음란영상과 이미지 노출을 막는 '클로바 그린 아이'(AI 기술 기반 음란물 필터링 시스템)로 자사 플랫폼 내 딥페이크 불법 합성물을 실시간으로 탐지해 삭제하고 있다.

eom@news1.kr