"복잡한 상품 검색, AI가 대신"…SKT 언어모델로 고객상담 혁신

(서울=뉴스1) 윤주영 기자 = SK텔레콤(017670)은 지난달 중순부터 자체 개발한 텔코 LLM(대형언어모델) 및 LMM을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템을 시범 운영했다고 18일 밝혔다.

상담사들은 텔코 LLM 기반의 'AI 지식 검색 도우미 서비스'를 통해 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있다.

'퍼플렉시티'나 '챗GPT'처럼 상담사가 자연어로 질문을 입력하면 AI가 정보를 검색 후 정리해 준다. 이를 통해 상담사의 정보 탐색 시간을 단축하는 한편 상담사 역량·경력과 관계없이 고품질 서비스를 제공할 수 있게 됐다.

실제 상담 현장에서 적용되는 과정을 통해 서비스가 안정화하고 있다는 설명이다. 내년부터는 모든 고객 상담 업무에 전면 적용된다.

아울러 회사는 자체 LLM '에이닷엑스'(A.X)를 활용해 AI 서류 자동 처리 시스템도 구축한다. 이는 고객들이 보낸 문자, 이메일, 팩스 등 다양한 서류를 AI가 자동으로 분류·처리해 주는 개념이다. 서류 확인에 드는 시간을 크게 단축할 수 있을 것으로 기대된다.

지난달 23일 서류를 자동으로 분류하는 시스템부터 도입됐는데 향후에는 내용까지 자동으로 판독·처리할 수 있게 될 전망이다.

또 회사는 12월 텔코 LLM을 활용해 고객 상담 결과를 활용해 자동으로 분류·요약 정리하는 '상담 후속 업무 자동화 시스템'도 오픈한다.

기존엔 상담 결과를 정리하는데 평균 30초 정도 소요됐지만 AI가 자동으로 처리를 해주게 되면 상담사는 후속 업무 없이 보다 빠르게 대기 중인 고객에게 상담을 제공할 수 있게 된다. 그뿐만 아니라 고객의 이전 상담 내용을 빠르고 정확하게 파악할 수 있어 맞춤형 상담도 가능해진다.

실제로 한 달여간 AI 상담 업무 지원 시스템을 운영한 결과 상담사들은 텔코 LLM의 성능이 기대 이상으로, 고객 상담에 필요한 정확한 정보를 손쉽게 찾을 수 있었다고 평했다. 특히 다양한 상품·서비스를 확인하는 게 어려운 경력이 짧은 상담사 부담을 덜었다는 반응이다.

아울러 고객이 서류를 보냈는지 일일이 확인해야 하는 번거로움이 줄어 보다 상담에 집중할 수 있게 됐다고 덧붙였다.

홍승태 SKT 고객가치혁신 담당은 "SKT는 업무 효율화에만 치중하지 않고 고객 개개인에게 최적화된 상담을 제공하는 것을 목표로 한다"며 "앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 이룩하겠다"고 말했다.

한편 회사는 앤스로픽 등 해외 주요 LLM 업체들과 협력해 다양한 통신 전문 지식을 학습한 텔코 LLM을 개발해 왔다. 지난 1년간은 지식정보시스템을 AI 활용에 최적화된 구조로 개편하는 한편 다양한 통신 관련 데이터를 모델 튜닝에 활용했다. 추가로 LLM 품질을 높이고자 필요한 정보만을 검색해 답변에 활용하는 '검색 증강 생성'(RAG) 기능, 서류 등 이미지 학습이 개발에 적용됐다.

legomaster@news1.kr