표창원 "딥페이크 금지? 법으로 불 금지하는 꼴…독립성 키워야"

(서울=뉴스1) 김승준 기자 = "법으로 딥페이크, 인공지능(AI) 금지는 불가능하다. 차라리 법으로 불을 금지해라"

표창원 표창원범죄과학연구소장이 20일 서울에서 열린 '디지털 심화쟁점 콜로키엄'에서 "독립 문화, 비판적 사고, 열린 토론으로 딥페이크 가짜 뉴스를 이겨내야 한다"며 "여기에 법과 제도가 뒷받침야 한다"고 강조했다.

이날 행사는 과학기술정보통신부가 딥페이크 가짜뉴스 대응을 국민과 논의하려고 마련됐다.

딥페이크 기술은 AI 기술로 사실성 높은 이미지, 음성, 영상을 합성하는 것이다.

표창원 소장은 딥페이크를 활용한 성범죄, 유명인 사칭 사기, 민사 혼란, 정치·경제적 이득을 노린 허위정보·가짜 뉴스 유포 등을 소개했다.

표 소장은 "국립과학수사연구원, 한국전자통신연구원(ETRI)에서 딥페이크 탐지 프로그램 개발이 막바지다"라며 "이를 연동시키면 자동 검색은 가능하겠지만 바로 딥페이크 범죄를 막기는 힘들다. 해당 영상이 가짜 뉴스인지 오락인지 영업 혹은 교육인지 판별도 해야 하는 문제가 있다"고 분석했다.

기술적인 해결책이 있어도 기술의 이점을 누리려면 콘텐츠 내용을 판단해야 한다는 것이다. 아울러 갑작스레 발생한 새로운 정보가 가짜 뉴스인지 아닌지 판단하려면 시간이 걸리기에 가짜 정보 확산 전에 판단이 어렵다는 문제도 있다.

표창원 소장은 가짜뉴스에 취약하게 되는 심리적 기제로 △공식 정보 불신 △집단을 향한 동일시와 집단 편향 △집단에 의존해 외부 조언을 듣지 않는 고립 △확증 편향 △불안과 외로움 등을 들었다.

이어 그는 "누군가에게 나를 의존해 버리라고 내 판단을 거세시켜 버리는 순간 딥페이크는 우리 사회를 마음 놓고 농락하게 된다"며 "독립적인 문화에 따라서 의존하지 말고 비판적 사고를 키우고 다른 사람과 토론해 잘못된 것은 인정하는 문화가 돼야 한다. 여기에 법과 제도랑 어느 정도 뒷받침이 돼 줘야 한다"고 강조했다.

강연 후 교육이나 행정, 제도 측면에서의 딥페이크 범죄 대응 방안 질의도 나왔다.

표창원 소장은 "(딥페이크 범죄를 비롯한 폭력, 성범죄 예방 교육이 제대로 되려면) 교직 이수 과정에서 아동·청소년의 (범죄, 학대 방지 등) 안전 관련된 교육을 반드시 받게 해야 하지만 안 되고 있다"며 "선진국의 경우 교직 이수 필수로 해놓는 국가들이 있다"고 지적했다.

아울러 그는 "경찰 조직이 신기술 이용 범죄 대응하려고 과기정통부 등과 계속 협업하는 점은 칭찬할 만하다하다"면서도 "현재 법원, 경찰이 경각심을 가지고 노력하고 있지만 피해자가 느끼는 만큼은 (교육·훈련·직제 등이) 준비가 안 된 것 같다"고 했다.

seungjun241@news1.kr