사이냅소프트가 구글 리서치에서 공개한 최신 벡터 양자화 알고리즘 '터보퀀트(TurboQuant)'를 자사 AI 솔루션 '사이냅 OCR IX'에 성공적으로 적용했다고 밝혔다. 사이냅 OCR IX는 시각언어모델(VLM)과 AI 에이전트 기술을 결합해 비정형 문서의 맥락을 이해하고 데이터를 추출하는 AI Agentic OCR 솔루션이다. 그러나 LLM이나 VLM 운영 시 긴 문서를 처리할수록 AI의 단기 기억 장치인 'KV 캐시(Key-Value Cache)'가 방대한 메모리를 차지해 고가의 고성능 GPU가 요구된다는 한계가 있었다. 사이냅소프트는 이러한 인프라 구축 부담을 해결하기 위해 모델 인식 정확도 손실을 최소화하면서 KV 캐시를 고도로 압축하는 터보퀀트를 사이냅 OCR IX의 VLM 엔진에 적용했다. 이를 통해 동일 GPU 환경에서 더 긴 컨텍스트와 더 큰 배치를 병목 없이 빠르고 안정적으로 처리할 수 있게 됐으며 고가의 GPU 서버를 별도로 구축해야 했던 고객들의 TCO(총소유비용)를 낮추는 데 성공했다. GPU 인프라 구축 자체가 제한적인 환경을 위해 '사이냅 OCR IX CPU 버전'도 함께 지원한다. 자체 개발 모델의 특성에 맞춘 정밀 프로파일링으
사이냅소프트가 AI OCR 솔루션 '사이냅 OCR IX'의 CPU 버전을 출시했다. 양자화 기법을 통해 모델을 경량화하면서도 26년간 축적한 문서 처리 노하우를 바탕으로 실무 현장에서 요구되는 높은 인식 정확도를 유지한 것이 특징이다. 그동안 AI OCR은 방대한 연산량 처리를 위해 고가의 GPU 서버 도입이 필수적이었다. 이 때문에 보안 정책상 망분리 환경을 유지해야 하는 금융·공공기관이나, 기존 전산 인프라가 CPU 위주로 구성된 제조·중견기업들은 도입을 유보하는 경우가 적지 않았다. 사이냅소프트는 이러한 현장의 제약을 해소하기 위해 기존 온프레미스 서버에 즉시 적재할 수 있는 CPU 전용 모델을 출시했다. 이번 버전에 적용된 양자화 기법은 일반적으로 인식 품질 저하를 수반하지만, 사이냅소프트는 자체 개발 모델의 구조적·연산적 특성에 맞춘 정밀 프로파일링으로 품질 손실을 1% 이하 수준으로 최소화했다. CPU 환경에서도 분당 약 100건 수준의 추론 처리가 가능한 속도를 확보해 별도 GPU 없이도 실무 적용이 가능한 수준의 성능을 달성했다. 별도 서버 구축 없이 기존 자원을 그대로 활용할 수 있어 총소유비용(TCO)도 낮췄다. 국내 A사는 GPU 서버 구
업스테이지가 NH농협생명과 손을 맞잡고 금융 AI 혁신에 나섰다. 업스테이지는 30일 NH농협생명과 AI 기술을 통한 보험 업무 효율화 및 공동 성장을 위한 업무협약을 체결했다. 양사는 서대문구 NH농협생명 본사에서 업스테이지 김성훈 대표와 NH농협생명 윤해진 대표이사 등 양사 주요 경영진이 참석한 가운데 협약식을 진행했다. 최근 금융권을 중심으로 문서 자동화를 위한 광학문자인식(OCR), 도메인 특화 LLM 등 AI 도입으로 시장 지형이 급변하고 있다. 특히, 개인정보 보호가 생명인 금융권 특성상 높은 보안성 보장과 잘못된 정보를 생성하는 환각 현상(할루시네이션) 방지에 특화된 '프라이빗LLM'에 대한 수요가 급증하고 있다. 이러한 흐름 속에 업스테이지는 NH농협생명과 손잡고 ▲데이터 업무 효율화 및 AI 기술 내재화 방안 협업 ▲AI 기술 기반의 보험 밸류체인 업무 개선 ▲보험업에 특화된 AI 기술 모델 개발 ▲AI 연계 새로운 비즈니스 모델 발굴 등 다양한 영역에서 AI를 활용한 혁신을 도모하기로 했다. 양사는 이번 협약으로 AI OCR 기술 도입을 통한 업무 자동화를 추진하고, 생성형 AI 기술을 활용하는 등 보험업 전반에서 기술 공동 개발을 위해 협
상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 |
본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 이메일 : help@hellot.net | 통신판매번호 : 제 2013-서울마포-1032호
copyright(c) HelloT all right reserved
UPDATE: 2026년 05월 16일 16시 59분
