"딥페이크 두려움 사라졌으면"…AI 속이는 앱 개발한 대학생들

(서울=뉴스1) 정윤미 기자 = "딥페이크 문제 저희가 해결하겠습니다"

최근 사회 문제로 떠오른 딥페이크 성범죄를 직접 해결하겠다고 나선 대학생들이 있다. 영남대 로봇공학과 4학년 박준영(24)·고려대 물리학과 4학년 왕채은(23)·3학년 최재원(24) 씨가 바로 그 주인공이다.

이들은 딥페이크 방지 필터 애플리케이션(앱) 'DeepShield'를 개발해 지난 13일 애플 앱 스토어에 출시했다. 앱을 실행하면 인공지능(AI)이 페이크 이미지를 만들기 위한 알고리즘에 혼란을 줘서 원본 속 얼굴 인식을 방해하는 역할을 한다. 안드로이드용 앱은 곧 심사를 신청할 예정이다.

지역·성별·나이가 다른 세 학생이 모여서 어떻게 딥페이크 방지 필터 앱을 개발하게 됐을까. 지난 20일 오후 서울 성북구 안암동 고려대에서 이들을 만났다. 박 씨는 인터뷰를 위해 영남대에서 일찍 수업을 마치고 서울로 올라왔다.

◇"딥페이크 문제 심각성 피부로 느껴…우리가 할 수 있는 게 뭘까"

최 씨는 지난여름 주변 지인들이 딥페이크 성착취물 피해에 대한 두려움으로 사회관계망서비스(SNS)에 올린 사진을 모두 지우거나 게시를 망설이는 걸 보고 문제의 심각성을 피부로 직접 느꼈다.

정부와 사회가 어떻게 딥페이크 문제를 대처하고 있는지 살펴본 결과 대부분 관련 법 개정을 통해 규제하거나 딥페이크 성착취물 채널로 이용되는 '텔레그램' 서비스 이용을 금지하는 식으로 이야기가 진행되고 있음에 답답함을 느꼈던 최 씨.

그는 "법 규제 방식은 효과적일 수 있지만 실제 적용되기엔 다소 시간이 걸릴 것 같다"며 "텔레그램 서비스 이용 금지는 근본적인 해결책이 아니다"라고 밝혔다.

그러면서 "무엇보다 딥페이크 악용은 지금 당장 직면한 문제인데 이를 막기 위해 할 수 있는 게 없다는 데 무기력함을 느꼈다"면서 "딥페이크 대응 방법을 고민하다가 딥페이크 방지 필터 제공하는 앱 서비스를 생각하게 됐다"고 말했다.

최 씨는 지난해 창업하면서 실제 앱을 만들어 본 경험이 있어 자신 있었다. 다만 앱에 들어갈 필수 기술인 딥페이크 방지 필터를 개발할 기술자가 필요했고 가장 먼저 박 씨를 떠올렸다. 고등학교 친구인 박 씨는 평소 인공지능(AI) 기술에 관심이 많고 관련 연구실 인턴 이력도 있었다.

개강을 앞두고 평소 친한 과 선배 왕 씨와 근황을 주고받던 중 그가 최근 딥페이크 방지 프로그램을 만들어봤다는 말에 바로 영입을 제안했다. 왕 씨는 흔쾌히 수락했다. 그렇게 지난달 31일 팀이 결성됐다.

◇"딥페이크로부터 안전한 세상, DeepShield가 만듭니다"

앱 DeepShield는 영어단어 딥페이크(Deepfake) 앞 글자 Deep과 보호한다(Shield)를 합친 말이다. 딥페이크 모델이 온라인상 이미지를 무단 학습해 악용하는 것을 방지하기 위해 원본 이미지 속 딥페이크 방해 필터를 추가하는 서비스다.

사용 방법은 간단하다. DeepShield 앱을 내려받은 다음에 필터를 적용하고 싶은 얼굴이 드러난 이미지를 선택해 안내에 따라 필터를 적용해 주면 된다.

필터에는 '공격적 노이즈'(Adversarial Noise) 기술이 적용됐다. 딥페이크 이미지를 만들기 위한 알고리즘에 혼란을 줘서 원본 속 얼굴 인식을 방해하는 역할을 한다.

노이즈 필터를 씌운 사진이 더욱 원본과 유사하게 자연스럽게 보이기 위해 페더링(Feathering) 기법도 들어갔다. 이미지 경계를 자연스럽게 처리해 필터 이미지가 원본과 차이 나지 않도록 보완해 준다.

이들은 향후 필터 이미지가 원본처럼 더 자연스럽게 보일 수 있도록 필터 성능을 보완할 계획이다. 그뿐만 아니라 현재는 정면 이미지에서만 적용할 수 있는 필터를 영상 등 다양한 각도에 적용할 수 있도록 기능을 발전시킬 계획이다.

◇"미래 한국의 스티브 잡스·이로운 AI 학자·최고 정보 보안가"

앱은 팀 결성한 지 열흘 만에 만들어졌다. "최대한 빨리 많은 사람이 이용할 수 있어야 한다"는 마음에 당초 앱 제작과 배포 기간을 일주일로 잡았으나 3일 늦춰졌다. 이후 사흘간 스토어 심사를 거쳐 지난 13일 iOS 기반 스토어에 처음 출시됐다. 안드로이드 기반 스토어에도 3주간 심사 과정을 마치는 대로 선보일 예정이다.

박 씨는 "학기 중이다 보니 학업을 마치고 오후 9~10시부터 전화로 작업을 시작해 서너 시간 정도 자면서 필터를 개발했다"며 "딥페이크 모델이나 이미지 처리가 익숙한 분야가 아니라서 적용 가능한 필터 기법들을 공부하고 실제 코드로 구현할 때 어려웠다"고 말했다.

최 씨는 "촉박한 일정에 맞춰 개발을 진행하다 보니 잠을 제대로 못 자서 체력적으로 아주 힘들었는데 팀원들이 잘 따라와 줘서 감사하다"고 소회를 밝혔다.

출시 초기여서 아직 앱 이용자가 많지는 않은 상황이다. 현재 앱 사용자는 50명 정도로 추산된다. 한 달에 10만 원 정도인 서버 비용은 자비로 충당하고 있다. 문제는 사용자가 많아질수록 비용도 늘어난다는 점이다. '유료화할 생각은 없느냐'고 묻자 "저희 통장이 허락하는 한 최대한 스스로 충당하고 싶다"고 입을 모았다.

당장 고민은 피해자가 가장 많은 10대에게 앱 홍보 방법이었다. 최 씨는 "대학생들에게는 각 대학 커뮤니티인 에브리타임에 홍보해 취지에 공감하고 응원한다는 좋은 반응을 얻었다"며 "정작 피해자 대부분이 10대인데 알릴 방법이 없어서 어려움을 겪고 있다"고 토로했다.

마지막으로 향후 장래 희망에 관해 묻는 말에 박 씨는 "누구나 SNS에 올리기 전에 저희 필터를 한번 적용해 올리는 게 자연스러운 상황이 됐으면 좋겠다"며 "AI 기술이 사람들에게 이로운 영향을 줄 수 있도록 공부하는 학자가 되고 싶다"고 답했다.

왕 씨는 "정보 보호 분야를 공부할수록 흥미가 생겨 훗날 국정원이나 보안 책임자 쪽으로 진로를 고려하고 있다"며 "보다 큰 꿈으로는 안전한 세상을 만들어 안락한 노후를 보내고 싶다"고 말했다.

최 씨는 "어렸을 적부터 제 꿈은 과학기술을 통해 사람들 삶을 혁신하고 싶었다"며 "스티브 잡스나 일론 머스크처럼 사람들 삶이 바뀔만한 혁신을 만들고 싶다"고 했다.

세 학생 진로의 방향은 조금씩 달랐지만, 기술로 세상을 이롭게 하고자 한다는 간절함만큼은 하나였다. 학기 중에 밤잠을 줄여가며 열흘 만에 앱을 세상에 선보인 저력이 아니었을까.

younme@news1.kr