오픈소스 언어모델 '금융 특화' 튜닝 지원…LG CNS AI 평가도구

29개 평가지표·1200개 데이터셋으로 금융·수학 추론능력 평가

(LG CNS 제공)
(LG CNS 제공)

(서울=뉴스1) 윤주영 기자 = LG CNS(064400)가 금융 기업의 생성형 인공지능(AI) 도입을 돕는 금융 맞춤형 AI 평가 도구를 개발했다고 24일 밝혔다.

도구는 미리 구축한 데이터셋으로 시중 개방형 대형언어모델(LLM)을 평가, 뱅킹·보험·증권 등 각 금융 서비스에 적합한 AI 모델을 찾아준다. 개방형 LLM은 소스코드나 알고리즘이 공개돼 있어 누구나 수정·활용할 수 있다. LG AI연구원의 엑사원 3.5, 메타 라마, 알리바바 큐원 2.5 등이등이 대표적이다.

금융 기업은 데이터 유출 등 보안 이유로 AI 도입 시 개방형 LLM을 파인튜닝해 자체 모델을 구축한다. 별도 데이터를 학습시켜 특정 목적에 맞게 만드는 과정이다. 오픈AI 챗GPT나 구글 제미나이 같은 폐쇄형 LLM은 내부 소스코드가 공개되지 않아, 기업이 자체 AI 모델로 응용할 수 없다.

LG CNS의 금융 특화 평가 도구는 29가지 평가지표와 약 1200개의 데이터셋으로 구성됐다. 주요 평가 항목으로 △금융 지식을 기반 추론 능력 △수학적 추론 능력 △복잡한 질문 이해력 △문서요약 능력 △금융 용어 이해도 △AI 에이전트 사용 능력 등을 종합 테스트한다.

특히 AI가 어려워하는 금융 추론 문제를 29개 평가지표에 적용, 더 정확한 성능 검증이 가능하다는 설명이다.

또 회사는 금융 전문가와 협업해 평가 데이터에 실제 현장에서 사용하는 서비스 정보나 전문 지식 등이 반영됐는지 점검했다. AI가 금융 규제 요건이나 복잡한 서비스 구조 안에서도 정확한 답변을 하는지 판단할 수 있다.

한편 LG CNS는 최근 NH농협은행과 생성형 AI 플랫폼 구축 프로젝트에 착수했고, 신한카드와 생성형 AI 기반 상담사 응대 시스템을 구축 중이다. 지난해 신한은행과 함께 LLM 기반 미래형 영업점인 'AI 브랜치'를 개발했고, KB금융그룹에 AI·클라우드 등 디지털 기술을 접목한 미래형 고객센터(FCC)를 구축·운영 중이다.

legomaster@news1.kr