과학지 사이언스, AI로 논문 사진 조작 잡는 '프루피그' 도입

(서울=뉴스1) 윤주영 기자 = 국제학술지 사이언스(Science)가 논문 사진 조작 판별에 인공지능(AI) 기반 분석 도구를 도입한다.

5일 홀든 소프 사이언스 편집장은 올해 본지 및 계열사의 출판 작업에 AI 이미지 분석 도구 '프루피그'(Proofig) 도입 방침을 발표했다.

논문 사진 조작은 연구 부정을 넘어 학계의 신뢰성 전반에 악영향을 끼친다.

지난해 마크 테시에 라빈 스탠퍼드대 전(前) 총장은 공동 저자로 참여했던 논문 12편에서 사진 조작 의혹이 제기돼 총장직에서 사임했다. 우리나라의 경우 2005년 황우석 박사가 사이언스 지에 게재한 논문에서 줄기세포 사진을 조작한 게 밝혀져 큰 파장을 일으켰다.

사이언스는 이미 7년간 AI 기반 논문 표절 검사 프로그램 '아이텐티케이트'를 사용해 왔다. AI가 논문 부정을 판단하는 영역이 활자를 넘어 그림까지 확대된 셈이다.

프루피그는 논문 속 사진의 복제, 눈금조작, 회전, 짜집기 등 조작 여부를 감지할 수 있다. 프루피그가 이상 징후를 보고서로 생성하면 인간 편집자는 이를 검토하고 원 저자에게 해명을 요구할 수 있다.

사이언스 지는 몇달 간의 시범 운영을 거쳐 성능을 확인했다고 설명했다. 소프 편집장은 "시범 운영에서 출판되어서는 안 되는 논문이 탐지되기도 했다"며 "출판을 검토 중인 모든 논문에 (프루피그의) 적용을 확대할 예정"이라고 설명했다.

지난해 10월 논문 공유 플랫폼 바이오아카이브(BioRxiv)에서는 이미지트윈이 소개되기도 했다. 오스트리아에 소재한 스타트업 '이미지트윈'이 만든 이 프로그램은 프루피그와 마찬가지로 AI 기반의 조작 검출 프로그램이다.

생물학자 숄트 데이비드는 학술지 톡시콜로지 리포츠(Toxicology Reports)에서 2014년부터 2023년 7월까지 발행된 논문 중 715건을 해당 프로그램으로 조사했다. 그 결과 이미지트윈은 인간이 직접 검출한 사진 조작 63건에 추가로 41건을 검출했다.

한편 과학계는 논문 작성에서 AI를 도입하는 데 신중한 입장을 보여왔다.

소프 편집장은 지난해 1월26일 "챗GPT 등 인공지능은 저자가 될 수 없다"면서 이를 사이언스 지의 라이센스 및 편집 정책에 명시했다고 강조했다.

국제학술지 네이처 역시 지난해 1월 '챗GPT 같은 도구가 과학의 투명성을 위협한다'라는 사설을 통해 AI 기반 대형언어모델이 창작자가 될 수 없다고 했다.

막달레나 스키퍼 네이처 편집장은 "논문의 출판 뿐 아니라 책임져야 할 다양한 요소들이 있는데 챗GPT 등 대형언어모델은 이를 책임질 수 없다"며 "이를 도구로 사용했다면 논문이 어떻게 구성되고 어떤 프로그램을 사용했는지 명확히 해야 한다"고 했다.

legomaster@news1.kr