[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 알리 파이낸스 LLM이 적용된 AI챗봇생성AI(인공지능) 스타트업 올거나이즈가 금융에 특화된 '알리 파이낸스 LLM(거대언어모델)'을 자체 개발했다고 19일 밝혔다.
알리 파이낸스 LLM은 오픈소스인 메타의 라마2를 기반으로 경량화한 금융 특화 sLLM(소형 거대언어모델)이다. sLLM은 파라미터(매개변수) 규모가 일반적인 LLM보다 작지만, 훈련을 위한 데이터·시간· 비용 등이 상대적으로 적게 들어 특정 용도의 AI 서비스에 적합하다. 알리 파이낸스 LLM은 130억개 파라미터 버전과 70억개 파라미터 버전 두 가지로 출시됐다. 도입을 원하는 기업은 비용과 난이도에 따라 모델 크기를 자유롭게 선택할 수 있다.
알리 파이낸스 LLM은 금융권에 특화된 데이터로 학습해 금융 이해도가 높은 것이 특징이다. 예컨대 'LTV'라는 단어를 챗GPT에 물어볼 경우, 마케팅 지표인 '라이프타임 밸류'에 대해 먼저 답한다. 하지만 알리 파이낸스 LLM에 질문하면 금융계약에서 활용하는 LTV(담보인정비율)를 명확하게 답한다.
해당 모델은 신청 후 2주 안에 구축이 가능한 것도 특징이다. 클라우드가 아닌 온프레미스 형태로도 구축할 수 있어 데이터 유출 우려도 방지할 수 있다. 해당 모델을 활용해 금융용어, 약어 등을 이해하는 생산성 앱도 활용할 수 있다. 올거나이즈는 '알리'플랫폼을 통해 알리 파이낸스 LLM을 활용한 직군별 100개의 앱을 제공하고 있다.
이창수 올거나이즈의 대표는 "2017년부터 KB증권, 현대카드, 일본 SMBC 등 금융 고객사들과 함께하며 관련 분야 지식관리 노하우를 쌓아 특화 sLLM을 가장 먼저 출시했다"며 "앞으로 보험, 제조업 등으로 분야를 넓혀갈 것"이라고 말했다.
