"AI로 가짜뉴스 걸러내자"…네카오, AI 생성 이미지에 '워터마크' 단다

(서울=뉴스1) 손엄지 기자 = 네이버와 카카오는 생성 인공지능(AI)이 만든 이미지에 라벨을 붙이는 기술을 개발 중이다. 국내외 플랫폼 기업은 딥페이크(Deepfake) 대응 협의체도 만들었다. AI 기술을 활용한 가짜뉴스 확산을 막기 위해서다.

28일 정보기술(IT)업계에 따르면 카카오(035720)의 AI 전문 자회사 카카오브레인은 이미지 생성 AI 모델 '칼로'에 비가시성 워터마크 기술 도입을 검토하고 있다.

칼로가 생성한 이미지에 AI가 만들었다는 라벨을 붙이는 것이다. 일반 이용자들에게는 워터마크가 노출되지 않지만 기술적으로는 칼로가 만든 이미지임을 확인할 수 있도록 한다.

카카오 관계자는 "정확한 공개 시점은 정해지지 않았지만, 최대한 빨리 기술을 내놓을 수 있도록 노력하고 있다"고 말했다.

네이버(035420) 역시 하이퍼클로바X 등이 만든 생성 AI 이미지에 워터마크를 다는 방안을 검토하고 있다. 아울러 딥페이크 영상도 판별할 수 있는 기술을 연구 중이다.

네이버 관계자는 "아직 하이퍼클로바X를 이용한 이미지 생성 기술은 나오지 않았지만, 중장기적 측면에서 생성 AI가 만든 이미지 또는 영상을 식별하는 기술을 개발하고 있다"고 설명했다.

올해 전 세계 76개국에서 각종 선거가 치러지는 상황에서 AI가 민주주의 근간을 흔들 수 있다는 우려가 나오고 있다.

세계경제포럼(WEF‧다보스포럼)이 펴낸 '글로벌 리스크 리포트 2024'에서 올해 세계가 직면한 위험 중 하나로 'AI로 생성한 가짜 정보'를 지목했다.

글로벌 빅테크 기업들은 AI가 만들어낸 가짜뉴스에 적극 대응할 방침이다. 이달 16일(현지시각) 오픈AI·구글·메타 등 20개 글로벌 빅테크 기업은 독일 뮌헨안보회의(MSC)에서 유권자가 속을 수 있는 콘텐츠를 감지해 라벨을 붙이는 등의 조치를 자발적으로 하기로 합의했다.

국내에서도 총선을 앞두고 발빠른 움직임을 보이고 있다. 지난 26일 네이버, 카카오, SK커뮤니케이션즈, 구글코리아 등 한국인터넷기업협회(인기협) 회원사들은 딥페이크에 대응하는 자율협의체를 구성했다. 이른 시일 내 MSC에서 발표한 기술 협정과 유사한 협약문을 만들어 발표할 계획이다.

eom@news1.kr