국내 기업 유일하게 CB 인사이트 선정 LLMOps 핵심 기업 프롬프트 엔지니어링 부문 이름 올려 키토크 AI가 연내 기업공개(IPO)를 추진할 대표 주관사로 한국투자증권을 선정했다고 밝혔다. 한국투자증권은 최근 5개년 상장예비심사 승인율 1위와 더불어 2024년 1월 한국거래소에서 공식발표한 최근 5개년 주요 증권사 혁신기술기업 주관순위에서 28건으로, 17건의 미래에셋증권을 제치고 1위를 차지했다. 특히 담당 파트너인 김해광 상무는 업계에서 가장 큰 이슈였던 하이브, 다음소프트 등을 이끌었고 솔트룩스, 코난테크놀로지 등 최근 주목받는 AI 기업 상장을 진두지휘했다. 2014년 설립된 키토크 AI는 국내 기업으로는 유일하게 CB 인사이트 선정 LLMOps 핵심 기업 프롬프트 엔지니어링 부문에 이름을 올렸다. CB 인사이트는 투자자를 위한 고성장 산업 및 기업 정보를 제공하는 글로벌 시장조사 기업이다. 컴퓨팅 환경이 LLM 기반으로 조성되면서 기존 산업지도가 대폭 개편됐다. 키토크 AI는 프롬프트 엔지니어링 부문에 소개됐으나, 실제로는 데이터 어노테이션, ML 트레이닝 데이터 큐레이션, 벡터 데이터베이스, LLM 애플리케이션 개발까지 총 5개 부문 솔루션을
LLMOps 솔루션 및 노코드 LLM 어플리케이션 빌더 LangNode 선보여 딥네츄럴(DeepNatural)이 스페인 바르셀로나에서 열린 세계적인 통신 및 기술 행사 MWC 2024에 참가해 자사가 개발한 LLMOps 솔루션을 선보였다고 밝혔다. 딥네츄럴은 비즈니스 환경에 최적화한 LLMOps 솔루션을 제공하는 AI 스타트업으로, 고품질 언어 데이터 구축부터 파인튜닝, 양자화를 활용한 성능 최적화, 효율적인 어플리케이션 개발 및 운영까지 LLM(Large Language Models) 적용의 전 과정을 지원한다. 특히 딥네츄럴은 이번 MWC에서 노코드 LLM 어플리케이션 빌더 LangNode를 처음 선보였다. 머신러닝 엔지니어가 파인튜닝한 LLM을 LangNode에 등록하면, 기획자와 프롬프트 엔지니어가 쉽게 이용할 수 있다. 코딩을 할 줄 모르는 비개발자도 파인튜닝된 LLM을 로드해 파이프라인을 설계, 테스트, 배포한다. 파라미터 조정 및 프롬프트 엔지니어링도 가능하다. 이러한 노코드 도구는 머신러닝 엔지니어와 기획자, 프롬프트 엔지니어가 효과적으로 협업하기 위해 필요한 툴로 평가받는다. 이를 통해 기업은 고급 언어 모델을 활용해 비즈니스 프로세스를 혁신
킨드릴이 구글 클라우드와 파트너십을 확대한다고 15일 밝혔다. 킨드릴은 이를 통해 책임 있는 생성형 AI 솔루션을 개발하고 고객들의 도입을 가속화한다고 전했다. 킨드릴과 구글 클라우드는 2021년부터 협력해 글로벌 기업이 구글 클라우드의 고급 AI 역량과 신뢰할 수 있는 인프라를 통해 혁신할 수 있도록 지원해 왔다. 킨드릴은 파트너십의 다음 단계로 구글의 대형 언어 모델(LLM)인 제미니(Gemini)를 비롯한 구글 클라우드의 사내 AI 역량과 고객의 생성형 AI 솔루션 개발 및 배포를 지원하는 킨드릴의 전문적인 관리 서비스를 결합하는 데 중점을 둘 것이라고 설명했다. 이번 파트너십 확대로 킨드릴의 포괄적인 자문, 구축 및 킨드릴 컨설트 서비스는 고객이 비즈니스 목표에 부합하는 최적의 AI 활용 사례와 데이터 기반을 파악하는 데 도움을 줄 것이다. 또한 킨드릴은 제미니와 같이 구글 클라우드의 기존 기술 및 새로운 기술 구현을 지원해온 폭넓은 경험을 바탕으로 기업이 AI 및 생성형 AI를 통해 비즈니스 혁신을 지속할 수 있도록 지원한다. 또한 킨드릴은 구글 클라우드 코어텍스 프레임워크를 활용하여 구글 클라우드에서 고객의 전사적 자원 관리(ERP) 데이터로부터
LLM 파인튜닝 기능, 프롬프트 관리 기능, 벡터데이터 관리 등을 순차적으로 지원 에이프리카가 6일 LLMOps 플랫폼을 바탕으로 엔터프라이즈 LLM 시장에 본격적으로 진출한다고 밝혔다. 챗GPT의 등장으로 생성형 인공지능(AI)이 확산되면서, 기업들은 물론 공공에서도 초거대언어모델(LLM)을 도입하려는 시도가 늘어나고 있다. 대규모 데이터셋으로 훈련한 수천억 개의 매개변수를 가진 LLM을 도입하여 활용하기 위한 방안으로 LLMOps가 주목받고 있다. 일반적인 MLOps가 하나의 AI 모델을 개발하고 최적화해 서비스를 제공하는 방법론이라면, LLMOps는 이를 LLM에 적용해 기업의 내부 보안 정보 유출 방지와 같은 특정 요구에 맞는 LLM 선정 및 학습, 배포 등 운영을 위한 사이클을 통합 관리하는 체계다. 따라서 이 LLMOps를 효과적으로 구현하기 위해서는 MLOps와 LLM에 대한 기술과 경험이 필수적이다. 에이프리카는 이미 2019년부터 MLOps 플랫폼 소프트웨어 '치타'를 개발해 경찰청, 광주과학기술원, 현대글로비스 등 주요 공공기관 및 기업에 공급함으로써 AI 모델 개발에 필요한 데이터 관리부터 모델 개발, 배포와 HPC 인프라 운영까지 전 과