김승수 "AI 딥페이크 영상 워터마크 의무화해야"…정보통신망법 발의

(대구=뉴스1) 김종엽 기자 = 김승수 국민의힘 의원(대구 북구을)은 1일 딥페이크 등 인공지능(AI) 기술을 이용해 만든 거짓 정보를 온라인 게재 시 워터마크(식별표시)를 의무화하는 내용의 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부 개정 법률안'을 대표 발의했다고 밝혔다.

개정안은 정보통신망을 통해 공개되는 딥페이크 영상(음향·화상 포함)의 워터마크 표시를 의무화하고, 이를 지키지 않을 시 1000만원 이하의 과태료 부과 및 해당 영상을 삭제할 수 있도록 하는 것이 골자다.

딥페이크는 딥러닝(deeplearning)과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.

최근 온라인상에서 AI 기술을 이용한 거짓의 음향·화상 또는 영상 등의 정보가 빈번하게 유통되며 어떤 정보가 딥페이크로 인한 거짓의 정보인지 혼란을 초래하고, 당사자도 모른 채 자신의 얼굴과 음성이 성적 허위영상물, 금융사기와 같은 범죄에 악용되고 있다.

현재 딥페이크 성적 허위영상물에 대한 차단·삭제 처리 건수를 보면 법이 시행된 2020년 473건에서 2021년 1913건, 2022년 3574건, 2023년 11월 기준 5996건으로 매년 증가하고 있다.

김 의원은 "AI 기술의 발전과 함께 이를 악용하는 범죄와 피해사례가 지속적으로 증가하고 있다"며 "AI 기술을 활용한 거짓 영상에 대한 식별표시를 의무화하면 건전한 AI 기술 활용 문화의 정착은 물론 피해 감소도 기대된다"고 말했다.

kimjy@news1.kr