"선거철 딥페이크 막는다"…카카오, AI 이미지에 워터마크

(서울=뉴스1) 조재현 기자 = 카카오(035720)가 제22대 국회의원 총선거를 앞두고 허위 조작 정보 방지를 위해 인공지능(AI) 활용 이미지 생성물에 워터마크를 넣는다.

딥페이크(AI로 만든 영상·이미지 합성 조작물) 게시물이 확인되면 즉각 조치하고 딥페이크 관련 키워드 검색 시 경고 문구도 안내한다.

카카오는 오는 4월 총선을 앞두고 허위·조작 콘텐츠의 제작과 유통을 근절하기 위한 여러 정책·기술적 조치를 마련했다고 13일 밝혔다.

카카오는 우선 카카오브레인의 이미지 생성형 모델인 '칼로'(Karlo)에 일반 사용자에는 보이지 않는 비가시성 워터마크를 도입했다. 사용자가 이미지를 일부 편집하더라도 비가시성 워터마크는 제거되거나 훼손되지 않는다.

인물 기반 AI 생성물 공유가 활발히 이루어지는 만큼 카카오톡 채널인 '칼로 AI 프로필' 기능에 비가시성 워터마크를 먼저 도입했다. 이미지 생성 웹 기반 전문가 툴인 'Karlo.ai'에도 이달 내 도입될 예정이다.

언론사가 AI로 생성한 기사는 쉽게 인지할 수 있도록 상단에 '자동생성 알고리즘에 의해 작성된 기사'라는 문구도 노출한다.

카카오는 허위 조작 정보 신고 절차도 간소화했다. 이용자가 위반 사항 발견 후 신고 시 중앙선거관리위원회 신고센터로 바로 연결된다.

특히 공개 영역에 딥페이크 영상이나 영상 캡처 이미지 등이 노출되면 삭제 등 즉각적인 조치에 나선다.

카카오는 "선거 운동 기간 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과 긴밀하게 협의하겠다"고 했다.

포털 다음(Daum)에 '허위사실 및 비방 게시물 신고', '오보 및 권리침해 신고' '불공정 기사 모음', '정정∙반론∙추후 보도 기사' 배너를 게시하는 등 허위 정보 확산 및 불공정 선거 보도를 막기 위한 노력도 강화한다.

카카오톡 내에서도 건전한 선거 문화 정착을 위한 캠페인을 진행한다.

cho84@news1.kr