"트럼프 취임하면 AI 보안 위협 늘어날 것…경쟁력 강화 필요"

(서울=뉴스1) 김민재 기자 = 도널드 트럼프 미국 대통령 당선인이 취임하면 인공지능(AI) 보안 위협이 증가하고 관련 산업이 빠른 속도로 발전할 것이라는 전망이 나왔다.

한국인터넷진흥원(KISA)은 11일 오후 2시 서울 용산구 전쟁기념관에서 'KISA 사이버보안 성과 발표회'를 개최했다.

KISA는 '트럼프 2기'가 출범하면 AI 자율성이 늘어나고 동시에 보안 위협도 증가할 것으로 내다봤다.

황보성 KISA 정책연구실장은 "고위험 AI 등을 선정해 관리하는 등 전 세계적으로 AI 안전성을 담보하는 분위기지만 트럼프 당선인은 AI 견제에 부정적 입장"이라며 "이에 따라 AI의 자율성이 확대되겠지만 보안 위협 또한 늘어나고 관련 산업도 빠르게 발전할 것"이라고 했다.

AI 보안 경쟁력을 강화해야 한다고 강조했다. 황 실장은 "AI 보안 설루션을 도입한 조직은 그렇지 않은 조직에 비해 해킹을 약 180일 정도 빨리 탐지하고 피해 비용 또한 30% 절감하는 것으로 알려졌다"고 했다. 이어 "제품 경쟁력을 강화하려는 노력이 필요하다"고 덧붙였다.

이에 따라 KISA는 AI 개발·공급·이용 단계를 아우르는 보안 가이드라인을 마련했다.

AI 보안 가이드라인을 만든 건 KISA뿐만이 아니다. 과학기술정보통신부는 '신뢰할 수 있는 인공지능 개발 안내서'를 마련해 안전 지침을 안내하고 있다.

KISA 가이드라인은 개발자와 공급자, 이용자 모두에게 보안 수칙을 알려준다는 점에서 차별화된다. 과기정통부의 안내서는 개발자 주의 사항만을 담고 있다.

가이드라인은 AI 개발자와 공급자, 이용자에게 단계별 정보보호 수칙을 명시한다. 이를테면 AI 서비스 접속·이용·피해 예방 단계를 구분해 주의 사항을 안내하는 식이다.

특히 이용자에게는 접속 단계에서 법률 및 이용약관을 확인하고 이용 단계에서는 중요 정보를 입력하지 말라고 안내한다. 마지막으로 피해 예방 단계에서는 AI 악용이 의심되는 콘텐츠를 삭제하고 재배포 하지 말라고 명시한다.

김성훈 KISA 정책연구팀장은 "이용 시에는 프롬프트 단에서 중요 정보를 입력하지 않는 게 가장 중요하다"며 "정확성 검증 결과도 바로 받아들이지 말고 다시 한번 검증하는 것이 좋다"고 말했다.

KISA는 AI 보안 위협에 대응하기 위해 '레드팀'을 운영할 예정이다. 레드팀은 전문 보안기업과 연구계, AI 및 거대언어모델(LLM) 기업 등으로 구성돼 있다.

임진수 KISA 위협대응단장은 "(레드 팀으로) 실질적 위협을 식별하고 대응할 수 있도록 위협 대응을 연구할 예정"라고 말했다.

한편 이날 행사에서는 불법스팸 방지 종합대책 수립과 보이스피싱 탐지 기술 개발 등 KISA의 보안 분야 성과도 소개됐다.

minjae@news1.kr