"딥페이크 미리 막을 수 있어요" 기술개발 나선 대학생들…원리는?

(울산=뉴스1) 김세은 기자 = “딥페이크 문제는 앞으로도 끊이지 않을 거라고 생각해요. 그런데 정부 차원에서 법과 제도를 마련하는 건 사후 처리잖아요. 그전까지 개인들도 안심할 수 있도록 빈틈없이 돕고 싶었습니다.”

유니스트 산업공학과를 재학 중인 김민환(23) 대표가 딥페이크(불법 합성) 제작을 사전에 막을 수 있는 시제품 개발에 전념하고 있다며 이같이 말했다.

딥페이크 사전방지 솔루션인 ‘디비디비딥’은 사진에 보호필터(pertubation)를 입혀 딥페이크 생성모델에 넣게 됐을 때 생성하지 못하도록 방해하는 원리다.

김 대표가 속한 유니스트 창업팀 ‘트로하(Troja)’는 올해 초 학내 AI 보안연구실에서 동료 학생들과 딥페이크 문제에 대해 논의하면서 만들어졌다.

그는 이날 뉴스1과의 인터뷰에서 “겉보기에는 평범한 목마 안에 적군의 병사가 숨어 있었던 트로이 목마처럼, ‘트로하’도 겉으로 볼 때는 원본 이미지와 다르지 않지만 딥페이크로 합성하려고 하면 엉뚱한 결과를 초래하도록 공격하는 역할이라는 뜻”이라고 설명했다.

이들이 개발한 솔루션은 지난 6월 열린 ‘AI 스타트업 창업 경진대회’에서 최우수상을 받는 쾌거를 이뤘지만, 당시에는 딥페이크 피해에 대한 경각심이 적어 기술을 알리기까지 어려움이 컸다.

그러다 지난 26일 텔레그램을 기반으로 한 딥페이크 성범죄가 언론보도를 통해 공론화되면서부터 본격적으로 기술 상용화에 속도를 내게 됐다.

트로하는 사건이 터진 이후 지역 내 중·고등학교 총 7곳과 직접 인터뷰를 진행하며 딥페이크의 위험성을 몸소 체감했다.

특히 10대 학생들 사이에서는 딥페이크에 대한 불안이 커지자 SNS 계정에 올린 얼굴 사진을 삭제하는 행동수칙이 빠르게 번졌다.

이를 두고 일각에서는 딥페이크 범죄를 막을 수 있는 사회안전망이 없어 피해자가 스스로를 검열하게 됐다는 지적도 나왔다.

김 대표는 “기존에도 딥페이크 사진을 탐지하는 기술은 있었지만, 주로 피해가 발생한 이후에 활용되기 때문에 본질적으로 문제를 해결할 수 있는 건 아니라고 생각했다”며 “딥페이크를 예방할 수 있는 기술 개발에도 더욱 집중해야 한다”고 강조했다.

이미지 편집 도구나 SNS에 해당 기술을 탑재해 딥페이크 위험을 미리 방지하겠다는 게 트로하의 궁극적인 목표다.

대학 입학 후 호기심으로 참여했다는 노윤주(19) 팀원 역시 “딥페이크에 대한 법적 조치가 미비한 상태에서 이번 사건이 크게 터져 유감”이라며 “저희가 가진 기술을 이번 사태의 해결 방안으로 제시하고 싶다는 막중한 책임감으로 임하게 됐다”고 말했다.

그러면서 “앞으로 트로하는 딥페이크 이외에도 계정 도용이나 저작권 등 생성형 AI로 발생하는 문제를 해결해 나가는 기업으로 성장하고 싶다”고 전했다.

트로하는 오는 9월 중 서비스를 정식 론칭하기 위해 크라우드 펀딩 적합성 심사 결과를 기다리고 있다. 추후 자세한 일정은 트로하 인스타그램 계정(@troja.ai)을 통해 공지될 전망이다.

syk000120@news1.kr