업스테이지, 인텔과 협업…칩셋 최적화로 온디바이스 LLM 구현

(서울=뉴스1) 김승준 기자 = 업스테이지는 개발한 거대언어모델(LLM) 솔라가 인텔 프로세서에 최적화된다고 7일 밝혔다.

구체적으로 솔라의 경량화 버전인 '솔라 미니'(Solar Mini)와 솔라 기반 LLM 문서 작업용 앱 '라이트업'(WriteUp)이 '인텔 코어 울트라(Ultra) 프로세서'에 최적화된다.

업스테이지와 인텔은 이번 협업으로 AI PC의 새로운 기준을 제시한다. 인텔의 해당 프로세서를 장착한 윈도우 PC 제품군에서 솔라를 온디바이스 AI로 활용할 수 있게 될 전망이다.

온디바이스 AI는 외부 클라우드 연결 없이 기기 자체에서 AI 처리가 가능해 정보 유출 방지와 접근성에서 장점이 있다.

솔라는 업스테이지가 개발한 LLM이다. 솔라 미니는 매개변수(파라미터)를 경량화한 모델로 작지만 강력한 성능으로 다양한 산업, 기업별 맞춤형 파인튜닝(미세조정)뿐만 아니라 온디바이스 AI 등 구축형에 특화됐다. 지원 언어는 한국어와 영어, 일본어 등이다.

라이트업은 솔라 기반의 문서 작업용 앱으로 설치형으로 폐쇄망, 오프라인 환경에서도 동작해 솔라 LLM을 활용한 다양한 문서 작업이 가능하다. 문장 생성, 요약뿐만 아니라 문맥에 맞는 문장의 톤까지 다양하게 조절할 수 있는 점이 특징으로 실시간 다국어 번역 기능까지 지원한다.

아울러 업스테이지는 대만 타이베이에서 개최된 '컴퓨텍스(COMPUTEX) 2024'와 서울에서 개최된 '인텔 AI 서밋'(Intel AI Summit Seoul)에서 인텔 칩셋에서 구동되는 솔라를 시연했다.

김성훈 업스테이지 대표는 "업스테이지가 개발한 세계 최고 수준의 솔라 LLM을 인텔의 고성능 프로세서에 탑재하게 되어 매우 기쁘다"며 "높은 생산성과 보안성을 갖춘 온디바이스 AI에 특화된 솔라를 통해 인텔 기반의 윈도우 PC 사용자들은 생성형 AI 기술을 더욱 쉽고 빠르게 활용할 수 있을 것"이라고 말했다.

seungjun241@news1.kr