[헬로AI] 올거나이즈 LLM, 금융 분야의 생산성을 재정의하다

2024.06.10 17:38:21

서재창 기자 eled@hellot.net

[#강추 웨비나] 제조업이 직면한 과제 해결을 위한 미쓰비시전기의 디지털전환(DX) 제안 (7/16)


생성형 AI가 전 산업 영역으로 파고들고 있다. 특히 지난해부터 금융 분야를 타겟으로 한 거대언어모델(LLM) 적용 사례가 급격하게 늘어나는 추세다. 올거나이즈는 생성형 AI 기술을 활용해 금융권에 특화한 LLM을 제공함으로써 업계의 이목을 집중시켰다. 이에 올거나이즈 이창수 대표를 만나 금융 도메인에 특화한 LLM을 구축하게 된 과정과 해당 서비스의 경쟁력에 대해 이야기 나눴다. 



금융 산업에 변화 가져온 특화 LLM

 

올거나이즈는 자체 개발한 LLM을 통해 고객사가 특정 업무에 적합한 애플리케이션을 손쉽게 선택하고 사용하도록 지원함으로써 비즈니스 프로세스의 효율성을 극대화하고 있다. 이에 올거나이즈는 자사를 ‘LLM 인에이블러’라고 수식한다. 특히, 올거나이즈의 AI 솔루션은 금융권의 복잡한 규제 및 법률 문서를 이해하고 처리하는 능력에 특화해 금융기관의 엄격한 요구 사항을 충족시키는 데 기여하고 있다. 금융권에 종사하는 다양한 직군에 필요한 특수한 기능을 제공하며, 이들 기업이 디지털 혁신을 가속화하는 데 중추적인 역할을 하고 있다. 

 

 

AI 기술이 비즈니스 영역에 미치는 영향력은 점차 확대되고 있다. 특히 금융 서비스 분야에서의 그 변화가 두드러진다. 오늘날 금융권은 방대한 양의 금융 데이터를 처리하고 복잡한 규제 환경 안에서 운영되며, 고객의 요구가 점차 다양화하고 있다. 이러한 배경에서 올거나이즈는 자사의 LLM을 활용해 금융 기업이 직면한 도전 과제를 해결하고자 했다.

 

이창수 대표는 “우우리는 AI를 활용해 금융권을 비롯한 기업 고객의 특화한 요구를 충족시키는 다양한 애플리케이션을 개발하고 있다. 이를 통해 기업은 빠르고 정확한 업무 수행이 가능해졌으며, 이는 기업 경쟁력을 높일 뿐 아니라 고객에게 양질의 서비스를 제공하는 기반을 마련하는 계기가 된다”고 말했다. 

 

올거나이즈가 제공하는 AI 솔루션은 다양한 언어 모델과 더불어 자체 개발 금융 특화 언어 모델을 선택할 수 있도록 구성돼 있다. 금융 LLM을 설계함에 있어 금융 용어와 문서의 스타일을 정확하게 이해하고, 필요한 복잡한 추론을 수행하도록 설계했다.

 

대표적으로, 지난해 출시된 ‘알리 파이낸스 LLM’은 메타의 라마2를 기반으로 경량화한 금융 특화 소형언어모델(sLLM)이다. sLLM은 파라미터 규모가 LLM보다 작지만, 훈련을 위한 데이터·시간· 비용 등이 상대적으로 적게 들어 특정 용도의 AI 서비스를 개발하는데 적합하다. 알리 파이낸스 LLM은 파라미터 13B와 70B 두 모델로 출시됐다. 

 

최근에는 정식 명칭을 ‘알파-F(Alpha-Finance)’로 변경한 바 있다. 알파-F는 금융 산업에 특화한 100만 건의 데이터로 학습돼 복잡한 금융 용어 및 약어를 이해한다는 강점이 있으며, RAG(검색증강생성) 데이터 역시 20만 건 포함됐다. 추후 ‘알파-M(Manufacture, 제조)’, ‘알파-G(Government, 공공)’ 등의 산업 특화 LLM을 순차적으로 출시할 계획이다.

 

이창수 대표는 “기업은 금융 규제나 법률 문서에서 요구하는 다양한 조건과 예외 사항을 정확하게 파악하고 처리하는 능력을 필요로 한다. 이 같은 기능을 갖춘 자사의 LLM은 리스크 관리, 규제 준수, 고객 서비스 등의 분야에서 혁신을 추구하는데 기여하고 있다”고 강조했다. 

 

올거나이즈 LLM 생태계 ‘검증 넘어 혁신으로’

 

이창수 대표는 “지난해까지는 LLM에 대한 기업의 관심도가 높아지면서 많은 사업화 검증(PoC)가 진행됐다. 올해부터는 본격적인 도입이 진행되고 있다. 기업은 LLM을 활용해 생산성을 높이고 비용을 줄이는 계기를 마련하고자 한다”고 말했다. 이 대표는 “자사의 기술은 고객사가 직면한 실질적인 문제를 해결하는 데 집중하며, 특히 금융권에서 요구하는 고도의 정확성과 신뢰성을 충족시키기 위해 끊임없이 모델을 개선하고 있다”고 말했다.

 

올거나이즈는 다양한 금융 기업과 협력해 실제 업무 환경에서 그들의 LLM 효과를 입증하는 프로젝트를 진행해 왔다. 한국과 미국, 일본을 기반으로 누적 200개 이상의 엔터프라이즈 기업 고객에 LLM 솔루션을 제공하고 있다. 특히 KB증권, 일본의 미쓰이스미토모은행(SMBC) 금융그룹 등 글로벌 거대 금융 고객사와 함께하며 금융 분야에서의 AI 기반 지식관리 노하우를 쌓았다.

 

지난 4월에는 금융 전문 LLM 리더보드를 공개하기도 했다. LLM 리더보드란 AI 언어모델의 성능을 측정해 순위를 매기며 평가하는 플랫폼이다. 누구나 자신이 개발한 LLM 모델을 등록하고, 다른 모델과 비교해볼 수 있다. 이 리더보드는 금융 용어와 약어를 이해하고, 복잡한 추론에 특화한 한국어 LLM의 성능을 평가한다.

 

올거나이즈는 금융기관이 금융 특화 LLM 모델의 성능을 비교 평가하도록 자체 제작 테스트 데이터셋도 모두 공개했다. 현재 오픈AI의 GPT-4, 클로드-3, 젬마 등 일반 LLM과 금융 특화 LLM의 13개 모델이 경쟁하고 있다. 이 중 세 개는 올거나이즈가 금융 전문 데이터로 파인튜닝한 자체 모델이기도 하다. 

 

이와 함께 금융 업무 자동화에 특화한 ‘금융 LLM 앱마켓’도 선보였다. AI 인지검색 솔루션을 적용한 LLM 앱을 활용하면, 단시간에 파악하기 어려운 금융 정보를 빠르게 파악한다. 금융 기업의 문서와 매뉴얼, 최신 정보 등을 기반으로 은행 분쟁사례 검색 등 사용자 질문에 답하는 기업용 LLM 앱을 생성할 수 있다. 앱 마켓에 등록된 LLM 앱 중 필요한 앱을 골라 현업에 바로 활용하거나, 원하는 LLM을 선택해 직접 생성해 사용하면 된다. 

 

이처럼, 올거나이즈의 기술 개발은 지속적인 혁신을 통해 금융권에 특화한 솔루션을 제공하는 데 중점을 두고 있다. 이와 함께 올거나이즈는 자체적으로 개발한 앱 마켓을 통해 고객사가 필요에 따라 적합한 AI 애플리케이션을 쉽게 찾고 적용하도록 지원하며, 이는 기업이 경쟁력을 유지하고 시장 변화에 빠르게 대응하는 기반을 제공할 것으로 보인다. 

 

올거나이즈는 AI 기술을 금융 서비스 분야에 통합함으로써 업계의 디지털 전환을 시도하고 있다. 올거나이즈는 기술 혁신을 지속적으로 추구하며, 금융권의 다양한 요구에 맞춘 특화 솔루션을 업데이트하는 데 초점을 맞출 계획이다.

 

이창수 대표는 “우리는 AI 기술을 고도화해 금융 기업이 직면한 문제를 해결하고, 이를 통해 금융 서비스의 효율성을 향상시킬 것이다. 나아가 글로벌 시장에서의 입지를 강화하고, 다른 산업 분야로의 확장을 모색하는 등 차별화한 비즈니스 전략을 수행함으로써 성장을 지속할 계획이다”고 말했다. 

 

 

헬로티 서재창 기자 |

Copyright ⓒ 첨단 & Hellot.net





상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 | 본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 통신판매번호 : 제 2013-서울마포-1032호 copyright(c) HelloT all right reserved.