딥페이크로 보는 기술 범죄와 윤리[기자의눈]

(서울=뉴스1) 손엄지 기자 = 인간관계엔 최소한의 약속들이 있다. 다른 사람의 재물을 훔치면 안 된다는 게 대표적이다. 윤리는 스스로 지켜야 하지만 사람 마음이 모두 똑같지는 않다. 그래서 사회규범을 법으로 강제한다. 재물을 훔치면 법으로 처벌을 내리는 식이다.

인공지능(AI) 영역에서는 아직 최소한의 윤리가 자리 잡지 못했다. 윤리에 어긋난다는 사실을 알아도 이를 벌할 법적 근거가 미약하다. 스스로들 지켜주면 좋지만 앞서 얘기했듯 사람 마음이 모두 똑같지 않다.

최근 딥페이크(deepfake) 범죄가 그렇다. 여성 사진을 음란물에 합성하면 안 된다는 건 알고 있지만, '텔레그램의 보안'이라는 기술 익명성 뒤에 숨어 이를 즐겼다.

일부는 단순히 합성 사진을 본 것으로는 처벌받지 않는다는 점을 악용했다.

최근 몇 년 사이 딥페이크(deepfake)는 성착취물 제작, 금융사기, 전쟁 여론 조작 등 다양한 곳에서 악용됐다. 기저에는 쉬운 접근성과 익명성에 기댄 책임감 결여가 있다.

딥페이크 제작 소스는 오픈 플랫폼에 공개돼 누구나 가짜 영상을 뚝딱 만들어낼 수 있다. 한 컷을 만드는 데 10초도 걸리지 않을 정도로 쉽다.

전 세계는 이제야 딥페이크 기술의 위험성을 인지하고 딥페이크 오픈 소스를 삭제하는 등의 조치를 시작했다. 국내에서도 딥페이크 성범죄 처벌 수위를 강화하는 법안 개정을 준비하고 있다. 유포뿐만 아니라 제작한 사람도 처벌받을 수 있도록 한다.

이제 AI 기술 개발 속도에 열광할 때가 아니다. 새로운 기술이 나오기 전 사회적 윤리 기준에서 문제가 될 소지는 없는지, 악용 시 처벌 근거가 있는지 등을 먼저 파악해야 한다.

AI 기술 윤리는 기술 개발자뿐만 아니라 정책 입안자, 법률가, 사회 전체가 함께 고민할 문제가 됐다.

무엇보다 AI 기술을 이용하는 사람들이 최소한의 윤리를 지키려고 노력해야 할 때다.

eom@news1.kr