(서울=뉴스1) 김민석 김규빈 기자 = "요청하신 사항은 외모의 특정 신체적 특징을 과도하게 강조하는 방식으로 해석될 수 있어 지브리풍의 건강하고 자연스러운 미학 및 가이드라인에 부합하지 않습니다. 성숙한 이미지, 우아한 분위기, 지적인 스타일 등으로 말씀해 주시면 그에 맞춰 조정해드리겠습니다."
챗GPT 프로 상품(월 200달러·부가세 포함 31만 원)을 구독하는 A씨가 2일 '지브리 스타일'(미야자키 하야오 감독 스튜디오 지브리 화풍)로 변환한 이미지를 첨부하고 '글래머로 바꿔줘'라고 요청하자 챗GPT는 이같이 답했다.
A씨가 '몸매를 성숙하게 바꿔줘'라고 다시 요청하자 "요청하신 '성숙한 몸매' 표현은 성적 대상화로 해석될 소지가 있어 지브리풍(스튜디오 지브리 스타일)의 철학과 방향성에 부합하지 않는다"는 메시지를 띄웠다.
지브리 스타일이 아닌 다른 애니메이션(하울의움직이는성 스타일 등) 이미지로 시도해도 "당사의 콘텐츠 정책에 따라 생성이 불가하다"고 답했다.
오픈AI 연구진이 콘텐츠 제한은 완화하더라도 성적 대상화 콘텐츠엔 강력한 기준을 그대로 적용하기로 한 것으로 분석된다.
오픈AI는 앞서 지난달 27일(현지시간) '챗GPT 4o 이미지 제너레이션'을 출시하며 이미지 생성 관련 콘텐츠 제한 정책을 대폭 완화한 바 있다. 이를 바탕으로 이용자들은 유명인 희화화·차별·인종적·저작권 문제 등에는 구애받지 않고 변환 기능을 자유롭게 이용하고 있다.
한편 챗GPT는 애니메이션 이미지가 아닌 실제 여성 사진 등을 넣고 '몸매 강조' 등을 요청하면 "이미지를 바탕으로 몸매를 '글러머러스한 스타일'로 보정해 드릴 수 있다"며 수행할 것처럼 응답하다가 실제로 선택지를 고르면 "요청하신 이미지는 콘텐츠 정책에 따라 생성이 불가하다. 불편하게 해드려 죄송하다"고 답했다.
이는 오픈AI가 올해 2월 업데이트한 챗GPT 답변 제한 정책 완화 기조와 성적 대상화 이미지 제한 정책이 서로 충돌하고 있기 때문으로 풀이된다.
오픈AI는 트럼프 미국 대통령, 일론 머스크 테슬라 CEO 등이 검열 비판·압박을 계속 이어가자 답변 범위를 넓히고 오렌지색 경고창을 점진적으로 제거한 바 있다. 당시 닉 터리 챗GPT 제품 책임자는 "법을 준수하고 자신이나 타인을 해치지 않는 한 이용자가 원하는 답변을 얻을 수 있게 할 것"이라고 했다.
ideaed@news1.kr
