LG CNS, 기업용 생성 AI 플랫폼 출시…4개 LLM 선택 가능
"내부 정보자산 활용으로 환각 현상 차단"
- 조재현 기자
(서울=뉴스1) 조재현 기자 = 디지털전환(DX) 전문기업 LG CNS가 기업용 생성형 인공지능(AI) 서비스 플랫폼 'DAP GenAI'를 출시했다고 12일 밝혔다.
'DAP GenAI'는 △AI 서비스 △AI 프롬프트 △거대언어모델 도구(LLMOps) 등 3개 모듈을 제공한다. 자체 서버, 클라우드 등 보유 중인 인프라에 설치하기만 하면 자유롭게 사용할 수 있는 것이 특징이다.
기업 문서와 데이터베이스(DB) 등 내부 정보 자산을 활용하고 다양한 보안 필터 등을 적용할 수 있다. 아울러 거짓이나 왜곡된 내용을 생성하는 환각(Hallucination·할루시네이션)을 방지하고 보안 고민까지도 해결해 준다고 LG CNS 측은 강조했다.
AI 서비스에서는 오픈AI의 '챗GPT', 앤트로픽의 '클로드'(Claude), 구글의 '팜2'(PaLM2), LG AI연구원의 '엑사원'(EXAONE) 등 4개 LLM을 활용할 수 있다. 이를 통해 문서 요약·분류 같은 단순한 서비스부터 상품 추천, 자료 기반 보고서 작성 등과 같은 복잡한 영역의 서비스를 만들 수 있다.
금융사에서 소비자를 위한 보험상품 추천 AI 서비스를 개발하고 싶다면 △질문을 입력한 소비자 정보를 확인할 기업의 고객정보 DB △알맞은 상품을 검색해 주는 프롬프트 △추천과 답변에 적합한 LLM을 각각 선택해 설정하기만 하면 된다.
개발이 완료된 서비스는 플랫폼을 통해 실제 운영 환경에 맞춰 테스트도 가능하다. 모든 서비스는 플랫폼을 통해 사내 공유할 수 있어 다양한 파생 서비스를 만들 수도 있다.
AI 프롬프트는 생성형 AI의 활용에 있어 가장 중요한 프롬프트를 만들 수 있는 모듈이다. 프롬프트가 중요한 이유는 질문을 어떻게 입력하는지에 따라 AI가 출력하는 결괏값이 달라지기 때문이다. LG CNS 측은 정교한 답변을 할 수 있도록 명령어를 만드는 '프롬프트 엔지니어링' 노하우를 탑재했다고 설명했다.
LLMOps는 다양한 오픈소스 LLM을 미세조정 함으로써 특화된 LLM을 만들 수 있도록 한다. 민감한 데이터를 다루는 금융, 공공 등 분야와 같이 '프라이빗 LLM'을 보유하고자 하는 기업을 위한 모듈이다. 기업은 원하는 LLM을 선택해 보유한 데이터를 학습시킬 수 있다.
LG CNS는 복수의 LLM을 활용하는 '멀티 엔진' 전략을 비롯해 플랫폼 고도화 작업을 지속할 계획이다.
cho84@news1.kr
Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용금지.