"악성코드 짜는 '생성형 AI'…모의해킹 시나리오 작성엔 도움"(종합)

(서울=뉴스1) 오현주 기자 = 챗GPT를 포함한 생성형 인공지능(AI)가 보안업무에 상당한 영향을 미칠 것으로 보인다.

보안 '보조 도구'로 활용하면 도움이 될 수 있으나 악성코드를 작성하는데 쓰일 경우 보안 위협이 커질 수 있어서다.

이호석 SK쉴더스 이큐스트 랩(EQST Lab) 담당은 20일 오전 서울 중구 을지로 SK T(티)타워에서 간담회를 열고 "생성형 AI의 등장으로 AI 모델과 AI 서비스에서 다양한 보안 위협이 등장했다"며 "생성형 AI는 여러 기술적 한계로 보안업무 영역에서 보조도구로 쓰면 적절하다"고 말했다.

SK쉴더스가 이날 꼽은 생성형 AI로 인한 보안 위협은 크게 두 가지다. AI 모델과 AI 서비스에 대한 위협이다.

구체적으로 'AI 모델' 대상 보안 위협은 △회피 공격(입력 데이터를 변조해 결과 조작) △추출 공격(사용된 모델 추출) △추론 공격(학습 데이터 추출) △중독 공격(악의적 데이터세트를 추가해 모델 조작)을 말한다.

또 'AI 서비스' 대상 보안 위협은 △프롬프트 인젝션(악의적 질문을 넣어 설정된 정책 우회) △민감한 정보 유출(AI 서비스 자체 취약점을 통한 민감정보 노출) △악성코드 생성(챗봇으로 악성코드 개발) △딥페이크(음성합성 모델 활용해 피싱)

이호석 담당은 "챗봇 서비스를 이용해 백신을 우회하는 악성코드 스크립트 작성이 가능해졌다"며 "AI 기술이 영상 합성 또는 목소리 복제에 악용돼 아이의 목소리를 들려주고 돈을 요구하는 보이스피싱 사례도 있었다"고 말했다.

다만 생성형 AI 기술이 이처럼 사이버 보안에 위협만 가하는 건 아니다. '모의해킹 시나리오 작성'과 '시큐어 코딩'(소프트웨어개발시 보안 취약점 점검)에 일부 도움을 준다.

SK쉴더스가 보안 분야에 생성형 AI를 도입해 활용도를 검증한 결과 시나리오 모의해킹·시큐어 코딩 분야에서 각각 60%·50% 수준을 기록했다.

이 담당은 "코딩 언어가 사람의 언어보다 규칙적이고 변수가 적어 (생성형 AI는) 코딩 측면에서 활용도가 되게 높았다"며 "다만, 정형화되지 않은 로직을 AI가 이해하지 못하기에 메인 수단으로 쓰긴 어렵다"고 말했다.

모바일 서비스 보안 취약점 점검과 악성코드 분석 업무에는 활용도가 떨어지는 것으로 나타났다. AI 활용도가 각각 30%·20%로 집계됐다.

이 담당은 "생성형 AI 모델이 발전함에 따라 정확도와 활용도가 높아질 것으로 보이지만 보안 영역에서 활용하기엔 초·중급 수준"이라고 말했다.

생성형 AI 같은 첨단 기술 발전으로 하반기 역시 다양한 보안 위협이 등장할 전망이다. 대표적으로 △확장된 소프트웨어(SW) 공급망 공격 △랜섬웨어 시장 변화 △북한발 해킹 증가 잇따를 것으로 예상된다. 올해 상반기 가장 많았던 '정보 탈취' 사고(전체 30%) 역시 지속될 것으로 보인다.

특히 SK쉴더스는 초기 침투 전문가인 'IAB'(Initial Access Broker) 위주로 랜섬웨어 공격이 이어질 것으로 내다봤다. IAB는 내부 사이트에 들어갈 수 있는 접속 권한을 빼내 랜섬웨어 공격자에게 다크웹(특정 프로그램으로만 접속할 수 있는 웹사이트)을 통해 판매한다. 금융권 또는 대기업일 경우 판매가는 더 비싸져 최근 사이버 범죄 생태계에서 가장 몸값이 높은 인물로 꼽힌다.

이 담당은 "현재 IAB 규모가 지난해 대비 약 2배 늘었다"며 "IAB 중심으로 돌아가는 랜섬웨어 생태계는 계속될 것"이라고 말했다.

woobi123@news1.kr