'5·18 왜곡' 사람 아닌 '기계'가 잡는다…최고 정확도 93%

(광주=뉴스1) 이수민 기자 = 온라인상에서 5·18민주화운동 왜곡·폄훼가 꾸준한 가운데 인공지능(AI)을 통한 '악플 잡기'가 성과를 내고 있으나 아직 넘어야 할 산이 많다.

5·18기념재단은 AI 전문업체 A사(익명표기)와 함께 지난해 3월부터 5·18민주화운동 왜곡과 폄훼를 줄일 수 있는 방안으로 'AI 모니터링' 사업을 본격 시작했다.

디시인사이드, 일간베스트(일베) 등 주요 3개 사이트를 대상으로 AI를 이용해 온라인 영상과 게시글, 댓글을 살펴 왜곡·폄훼를 감지한다.

AI 모니터링은 3단계를 거쳐 왜곡·폄훼 게시물·댓글을 선별한다. 선별 작업에 앞서 A사는 '5·18폭동을 일간베스트에 검색해 확인되는 모든 게시글과 댓글을 수집하고 캡처한다'는 등 명령을 입력한다.

이후 웹 사이트에서 해당 키워드들로 검색한 결과를 모두 수집(1단계 수집단계)해 오면 AI가 1차적으로 왜곡·폄훼를 판단(2단계 AI 판단 단계), 마지막으로 AI가 판단한 악플들을 사람이 직접 보고 최종 여부(3단계 최종 판단 단계)를 가린다.

이렇게 걸러진 5·18민주화운동에 대한 악플들이 즉 '5·18민주화운동에 대한 왜곡·폄훼'이며 재단과 A사는 개발된 시스템 기능을 활용해 악플로 잡아낸 결과를 엑셀로 다운로드해 리스트업하고, 게시물의 실제 삭제와 고소·고발까지 이어진다.

숙련된 작업자 기준 약 5명이 해야 하는 인간의 작업을 AI를 도입하면 1명으로 대체할 수 있는 효율성이 있다.

왜곡·폄훼에 대한 모니터링은 계속되는 강화학습을 통해 성능이 향상되고 있어 기대감도 크다.

A사 AI가 5·18 왜곡·폄훼를 판단한 정확도를 살펴보면 시범 단계로 최초 수행한 2023년 7월 51.29% 수준이었던 정확도가 2달 만인 9월에는 91.84%까지 올랐다.

5·18기념재단과 AI모니터링 사업을 본격적으로 시작한 지난해의 경우 초기 72.64%로 시작해, 말미에는 93.75%의 정확도까지 향상했다.

이처럼 시간이 흐를 수록 AI의 정확도가 향상하는 이유는 AI 스스로가 '대체로 어떤 유형의 문장이 5·18에 대한 왜곡·폄훼인가'를 학습하고 판단하기 때문이다.

AI는 표현의 자유를 고려하지 않으며 오로지 사용자가 판단한 악플의 기준에 철저하게 맞춰 대응한다. 모욕적, 증오적, 선동적, 반사회적 표현을 분명하게 잡아낸다.

AI의 발전에도 이 기술 만을 이용해 5·18의 왜곡·폄훼를 완전히 없애기엔 아직 한계점도 존재한다.

아무리 발전을 했어도 현재의 기술로는 '사람의 개입'이 불가피하다. A사에 따르면 사람의 개입 없이 단순 AI 만의 모니터링은 일시적으로는 가능하지만 장기적으로는 어렵다는 분석이다.

악플도 트렌드가 있어 그에 맞춰 대응해야 하기 때문이다.

예를 들어 '5·18 폭동설'의 경우 '1980년 5월 18일 칼빈 소총을 들고 무장한 광주시민'이라고 제목을 작성하고 실제 무장한 시민 사진만 게시해 오해 소지를 높이는 방식으로 진화하고 있다.

시민들이 왜 무장을 하게 됐는지, 왜 5월 18일인지 등 배경 설명 없이 평화시위가 상대적으로 안착한 최근의 사회 흐름상 '시위에 총을 들고 오는 부도덕한 행위'라고 오해하게끔 유도한다.

이러한 방식의 왜곡·폄훼는 AI가 지속적으로 학습해야 악플로 판단할 수 있으며, 이는 사람이 직접 학습시켜야 하는 부분이다.

A사 대표는 실질적인 왜곡·폄훼 근절을 위해 다차원의 관심이 필요하다고 강조했다.

그는 "5·18민주화운동에 대한 왜곡·폄훼를 했을 경우 '수익'으로 이어지는 구조를 원천봉쇄해야 악플을 줄일 수 있을 것"이라며 "왜곡·폄훼로 수익을 창출하는 케이스들을 민첩하게, 많이, 끊이지 않고 확인할 수 있도록 정부나 지자체에서 지원책이 있어야 한다"고 꼬집었다.

이어 "특히 유튜브를 예의주시해야 한다"며 "앞으로도 최선을 다해 5·18민주화운동에 대한 왜곡·폄훼를 잡아내겠다"고 덧붙였다.

breath@news1.kr