외설 AI로 수익 창출까지…AI 창작의 '그늘'

[AI 르네상스③]AI가 만든 음란물 판매로 수익…법망 피하는 팁도 공유
생성형 AI 경계 목소리…美·日 창작자들 반대 입장

생성형 AI를 활용한 음란물을 유튜브에서 공유하고 있는 일부 채널. 영상은 22개에 불과하지만 구독자는 수십만 명에 달한다. (유튜브 화면 갈무리)
생성형 AI를 활용한 음란물을 유튜브에서 공유하고 있는 일부 채널. 영상은 22개에 불과하지만 구독자는 수십만 명에 달한다. (유튜브 화면 갈무리)

AI 이미지를 공유하는 한 플랫폼에 유통 중인 이미지. 신체 절단 등 고어한 키워드가 포함돼있지만 연령 제한이나 다운로드 제한은 없었다. 해당 이미지의 다운로드 수는 약 1만회에 육박한다. (사이트 화면 갈무리)
AI 이미지를 공유하는 한 플랫폼에 유통 중인 이미지. 신체 절단 등 고어한 키워드가 포함돼있지만 연령 제한이나 다운로드 제한은 없었다. 해당 이미지의 다운로드 수는 약 1만회에 육박한다. (사이트 화면 갈무리)

생성형 AI를 활용해 웹툰을 제작했다는 논란에 휩싸인 네이버웹툰 '신과함께 돌아온 기사왕님'의 댓글란. 소비자들은 AI가 웹툰에 활용되는 것이 위험하다고 지적하고 있다. (네이버웹툰 댓글란 갈무리)
생성형 AI를 활용해 웹툰을 제작했다는 논란에 휩싸인 네이버웹툰 '신과함께 돌아온 기사왕님'의 댓글란. 소비자들은 AI가 웹툰에 활용되는 것이 위험하다고 지적하고 있다. (네이버웹툰 댓글란 갈무리)

대표이사/발행인/편집인 : 이영섭

|

편집국장 : 채원배

|

주소 : 서울시 종로구 종로 47 (공평동,SC빌딩17층)

|

사업자등록번호 : 101-86-62870

|

고충처리인 : 김성환

|

청소년보호책임자 : 안병길

|

통신판매업신고 : 서울종로 0676호

|

등록일 : 2011. 05. 26

|

제호 : 뉴스1코리아(읽기: 뉴스원코리아)

|

대표 전화 : 02-397-7000

|

대표 이메일 : webmaster@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 사용 및 재배포, AI학습 활용 금지.