치지직 "AI로 음란 콘텐츠 삭제"…관리허술 아프리카TV와 차별화

(서울=뉴스1) 김민석 기자 = 스트리밍(인터넷 생방송) 플랫폼 서비스는 특성상 개인 방송인(스트리머·BJ)의 돌발 행동을 사전에 알고 막기 어렵다. 사회적 논란이 반복되는 이유다.

최근 마약 전과를 가진 조직폭력배(조폭) 출신 BJ 또는 선정적인 의상·춤을 앞세운 BJ 활동이 눈에 띄게 늘었다. '딥페이크'(AI 기반 합성 이미지) 음란물 범죄 피해 문제도 심각하다.

이 같은 상황에서 네이버 치지직(CHZZK)과 아프리카TV(SOOP) 사이 이를 어떻게 관리할 것인지를 두고 온도 차가 벌어지고 있다. 두 플랫폼은 현재 국내 스트리밍 시장에서 점유율 1·2위를 다투고 있다.

30일 네이버(035420)에 따르면 치지직은 '클로바 그린아이' 시스템을 통해 음란물을 포함하는 선정적인 콘텐츠와 딥페이크 관련 성착취물을 실시간으로 탐지해 삭제하고 있다.

클로바 그린아이는 네이버가 자체기술로 개발한 인공지능(AI) 기술 기반 음란물 필터링 시스템이다. 이용자가 이미지·동영상 등을 등록하면 실시간으로 음란성 지수를 산출하고 선정적인 이미지·동영상으로 판단 시 네이버 이용약관·운영정책에 따라 즉시 삭제 조치한다.

2021년 도입한 그린아이 2.0은 기존 2가지 구분(정상 또는 음란)에서 4가지 등급(정상·음란·성인·선정)으로 확대하고 적중률도 99.5%로 높였다.

파급력이 강한 개인방송 특성상 실시간 AI 차단만으론 문제를 놓칠 수 있어 사후적 조치도 실시하고 있다.

네이버는 자회사를 통해 3교대로 24시간 모니터링을 진행하고 있다. 올해 1월 20대 스트리머가 욱일기 티셔츠와 머리띠를 착용한 채 생방송을 진행하자 방송권한을 즉각 중지한 바 있다.

치지직은 출범 초기 선정성을 앞세우거나 성범죄 전력을 보유한 스트리머들이 논란이 되자 약관을 개정해 범죄 이력이 있거나 사회적 물의를 일으킨 스트리머 활동을 제한하고 있다.

구체적으로 △성범죄·살인·폭력·아동학대·강도·마약 등 중대한 범죄 이력 △지속적인 자해 행위 △타인을 향한 폭력 행위와 이에 준하는 기타 가혹 행위 △타인 개인정보 무단 공유 △모욕·협박·명예훼손 행위 △상대방의 동의를 수반하지 않은 성적인 행위 △성적 수치심 유발 언행 등이다.

네이버 관계자는 "지속적인 기능 업데이트 등 쾌적한 스트리밍 환경을 위해 노력하고 있다"며 "본인인증을 완료한 사용자만 참여할 수 있는 채팅 기능 추가 등 이용자가 원하는 스트리밍 플랫폼을 만들어 가고 있다"고 말했다.

반면 아프리카TV는 사명과 서비스명을 SOOP(숲)으로 변경하며 리브랜딩을 진행하면서도 범죄 혐의를 받거나 물의를 일으킨 일부 인기BJ와 관련 미온적 태도를 근절하지 못하고 있다.

법 위반으로 실형을 확정받기 전까지 신중하게 판단하는 기조도 유지하고 있다. 이달 26일 오후 6시쯤 조폭 출신 BJ 겸 유튜버 김 모 씨가 운영한 김강패 방송국을 영구정지시켰지만 이 결정도 고민했던 것으로 전해졌다.

이를 두고 아프리카TV 사업 구조상 자율규제로는 한계가 있다는 지적이 나온다. 회사가 인기BJ 척도인 '별풍선'에 '매출'과 '이익' 대부분을 의존하고 있기 때문이다.

아프리카TV와 유튜브를 병행 활동하는 감동란(본명 김소은)이 최근 자신의 유튜브 채널 커뮤니티에 폭로성 글을 올리기도 했다. 그는 "최근 BJ들이 '액셀 방송' 주최자 무리에 껴서 돈을 벌기 위해 그들과 마약·성관계도 한다"며 "별풍선을 둘러싼 그들의 리그는 동물의 왕국"이라는 취지의 발언을 했다.

ideaed@news1.kr