사진 한 장으로 '딥페이크' 추적…사업자 삭제 요청 자동화

(서울=뉴스1) 오현주 기자 = 여성가족부가 인공지능(AI) 기술을 활용해 딥페이크(AI로 만든 가짜 이미지 합성 기술) 촬영물을 실시간 자동 감지하는 시스템을 구축한다. 또 구글 등 플랫폼 사업자에게 삭제 요청 문서를 보내는 것도 자동화할 예정이다.

딥페이크 삭제 지원을 담당하는 여가부 산하 디지털 성범죄 피해자 센터(디성센터)의 인력이 충분하지 않기 때문에 이를 보완하기 위해 딥페이크 삭제 속도가 빨라질 전망이다.

정부 관계부처는 6일 이러한 내용을 담은 딥페이크 성범죄 대응 강화 방안을 합동으로 발표했다. 올해 8월 인하대학교 사건과 중고생 집단 유포 사건 등으로 딥페이크가 심각한 사회 문제로 대두한 지 3개월 만이다.

여성가족부는 디성센터를 중심으로 딥페이크 범죄에 적극 대응한다. 먼저 과학기술정보통신부와 함께 AI로 딥페이크 피해 촬영물을 판별·탐지하고, 삭제 요청을 자동화하는 시스템을 마련한다. 빠르면 내년부터 도입한다.

기존에는 디성센터 내 삭제 담당 직원 18명이 특정 영상물이 딥페이크 영상인지 직접 보고 수동으로 판별했다. 센터가 보유했던 AI 기술은 주로 불법 촬영물을 추적하고 판독하는 데 쓰여서다.

직원들은 영상 삭제를 위해 플랫폼 사업자에게 매번 삭제 요청 메일 또는 종이 공문을 보내야 했다.

이제는 AI가 사진 한 장 또는 짧은 영상만으로 딥페이크 여부를 판별하고 증거 수집, 삭제 요청, 삭제 여부 모니터링까지 자동으로 하도록 체계가 구축된다.

디성센터는 삭제 지원 기술뿐만 아니라 법적 권한도 강화된다. 9월말 성폭력 방지법이 개정되면서 설치 근거가 마련됐다.

과거 성폭력 방지법에는 디성센터가 불법 영상물 삭제를 요청할 수 있다는 내용이 있었으나 센터의 설치 근거를 규정한 조항이 없었다. 이러한 입법 공백 때문에 센터가 해외 플랫폼 업체에 삭제 요청을 할 때 실제 권한이 있는지 의심을 받는 경우가 많았다.

센터는 아동·청소년 성착취물이나 수사기관 연계 피해영상물은 신고 없이 먼저 삭제 지원한다. 법 개정으로 피해자 신상 정보 역시 삭제 가능해졌다.

여러개로 분산된 디성센터 연결 번호는 1366으로 통일한다. 현재 디성센터로 전화할 수 있는 번호는 총 5개다. 서울 소재 중앙 디성센터와 지차제별 디지털 성범죄 피해자 지원기관(서울·경기·인천·부산)이 각각 다른 번호를 쓰고 있었다.

부족했던 디성센터 인력 역시 확대된다. 정부는 18명에 그친 삭제 지원 인력을 33명까지 충원할 방침이다. 지난해 디성센터 직원 1명당 1만 5000건 이상의 불법 영상 삭제를 지원할 만큼, 업무가 과중된 점을 고려했다.

오전 8시부터 오후 10시까지였던 디성센터의 상담 운영 시간은 24시간으로 연장한다. 국민 누구나 성적 허위 영상물, 불법 촬영물을 보면 바로 신고하도록 신고접수 전용 홈페이지도 만들 예정이다.

정부는 지역 특화 상담소와 지역 지원기관(서울·경기·인천·부산)을 확대 개편해 지역 디성센터 17곳 운영도 추진한다. 지역에서는 주로 방문 상담과 치유 프로그램을 통해 피해자를 지원한다.

내년부터 아동·청소년 허위 성착취물 범죄 처벌 수준도 높인다. 9월말 청소년 성보호 개정안이 국회 본회의를 통과하면서다.

정부는 아동·청소년 대상 성착취물 이용해 사람을 협박·강요한 죄에 대한 처벌기준을 신설했다. 각각 징역 3년 이상, 5년 이상이다.

야간·공휴일 등 긴급한 수사가 필요할 경우 경찰관이 상급 부서 등의 사전 승인 없이 긴급 신분 비공개 수사를 할 수 있게 됐다.

경찰이 아동∙청소년 성착취물을 발견하면 방심위에 삭제 요청하는 의무도 신설했다.

woobi123@news1.kr