딥페이크·마약 온상 된 플랫폼 규제해야…'표현의 자유' 딜레마

(서울=뉴스1) 남해인 조유리 기자 = 텔레그램, 엑스(X·옛 트위터) 등이 최근 무분별하게 확산한 딥페이크 성착취물은 물론 마약 거래에 악용되면서 규제가 필요하다는 목소리가 높아지고 있다.

이에 대해 전문가들은 정부나 국가기관이 중심이 될 경우 표현의 자유 침해와 플랫폼 위축 우려가 있은 만큼 '자율 규제'가 바람직하다고 조언했다.

◇ 익명성 기반 범죄 행위 판치는 텔레그램·엑스

5일 뉴스1 취재를 종합하면 최근 '겹지방'(겹지인방)이라는 이름으로 개설된 텔레그램 채널에서 참가자들이 여성 지인의 정보와 사진을 공유해 딥페이크 성착취물을 제작·유포하는 방식의 범죄가 광범위하게 이뤄지고 있는 것으로 확인됐다.

이에 경찰은 텔레그램에 대해 처음으로 내사에 착수했다. 미성년자 등을 상대로 디지털 성착취물을 제작·유포한 사실이 지난 2019년 알려졌던 이른바 'N번방 사건'도 텔레그램에서 벌어졌다.

또 플랫폼들은 마약 구매처 홍보 수단으로 활용된 지 오래다. 필로폰, 엑스터시 등 마약을 뜻하는 은어들을 입력하면 구매처 텔레그램 계정이 적힌 게시글을 어렵지 않게 찾을 수 있다. 이를 통해 접속한 텔레그램에선 버젓이 마약 거래방과 후기방이 다수 운영되고 있다.

◇ "처벌 강화 우선, 국가기관 직접 통제 아닌 플랫폼 자율 규제 필요"

상황이 심각해지면서 이런 범죄 행위들이 방치돼 온 플랫폼에 대한 정부 차원의 규제가 필요하다는 목소리가 커지고 있다. 플랫폼이 이용자의 익명성을 무조건 보장하며 경찰 수사에 협조하지 않고, 범죄 행위를 방조해 왔다는 이유에서다.

반면 개인 간 대화가 이뤄지는 플랫폼에 게시되는 모든 매체물을 모니터링 대상으로 삼을 경우 '표현의 자유' 침해라는 주장도 팽팽히 맞선다.

전문가들은 적극적인 수사와 처벌 강화가 우선돼야 하고, 플랫폼에 자율 규제 책임을 지워야 한다고 입을 모았다. 국가기관의 모니터링과 같은 직접 통제는 공론장 역할을 하기도 하는 플랫폼이 위축되고 '검열'로 작용할 여지가 있어 바람직하지 않다고 제언했다.

최진봉 성공회대 신문방송학과 교수는 "불법 행위를 찾아내기 위해서는 규제하도록 보장돼야 한다. (플랫폼상에서)불법 행위가 있다면 표현의 자유 의미 자체가 퇴색되기 때문"이라고 말했다.

그러면서도 "규제를 하다 보면 표현의 자유 영역이 침해될 수 있으니 주의해야 한다"며"며 "국가기관의 개입은 최소화하고 플랫폼이 자율적으로 불법성이 있는 게시물만 즉각적으로 제재를 가하도록 자율 심의를 강화하는 방향으로 법과 제도를 만들어야 한다"고 강조했다.

허창덕 영남대 사회학과 교수는 "플랫폼에 대한 규제가 강화되면 표현의 자유가 보장되지 않는 '통제 사회'가 될 우려가 있다. 기술은 가치중립적이라 그 안에서 범죄가 발생한다면 수사와 처벌을 강화하는 편이 바람직하다"고 했다.

한편 인공지능(AI) 등 정보 기술 발달로 '표현의 자유'를 실현할 수 있는 수단이 이전보다 많아진 만큼 '표현의 자유'를 제한할 수 있는 경우에 대한 고민이 필요하다는 의견도 나왔다.

김명주 서울여대 바른AI센터장은 "AI 시대 표현 도구가 훨씬 저렴해지고 무한해졌다"며 "이전처럼 '표현할 수 있는 수단을 제공하라'는 개념이 아닌, 무한히 표현할 수 있는 가운데 표현할 수 없는 것을 지정하고 '이것 빼고는 다 표현하라'는 게 현시대의 '표현의 자유'"라고 설명했다.

hi_nam@news1.kr