우리는 LLM 시대를 살고 있다 AI 기술의 급속한 발전 가운데, 대규모 언어 모델(Large Language Models, LLM)은 특히 눈에 띄는 진보를 이루고 있다. 지난 2022년 11월 등장한 GPT-3.5와 같은 모델이 자연어 처리를 혁신하며, 다양한 산업에서 영향력을 확대하고 있음을 의미한다. LLM은 방대한 양의 텍스트 데이터를 학습해 언어의 구조와 의미를 이해하고, 이를 바탕으로 자연스러운 텍스트를 생성할 수 있는 AI 모델이다. 초기 모델에서 최근 GPT-4o에 이르기까지 LLM은 더 많은 데이터와 복잡한 알고리즘을 통해 정확하고 다양한 언어 생성 및 이해 능력을 증명하고 있다. 챗GPT가 주목받았던 이유 중 하나는 사용자가 원하는 답변을 신속히 생성해낸다는 점이었다. 이 같은 관점에서 LLM은 고객 서비스에 적합한 기술이라는 평가를 받고 있다. 특히 AI 챗봇과 가상 어시스턴트는 고객 지원을 혁신하고 있다. 이들은 사용자 질문에 즉각적으로 반응하며, 특히 비대면 서비스가 중요해진 현 시대에 24시간 고객 지원을 제공함으로써 서비스의 접근성과 효율성을 높이고 있다. 자동화한 콘텐츠 생성 기능도 LLM의 주요 강점이다. 사용자는 LLM을 활
전 세계적으로 포화상태에 접어든 센서 시장. 4차 산업혁명이 도래한 이후 센서의 활용성이 급증함에 따라 경쟁이 더욱 치열한 양상이다. 이와 동시에 미래 성장성이 확보된 것 또한 바로 센서 기술이다. 이 배경에서 센서 시장이 주목하는 핵심요소 중 하나가 ‘혁신’과 ‘기술 고도화’다. 기존에 센서가 활용되지 않는 요소에 센서를 이식하거나, 센서가 활약하는 부분에 새로운 기술을 입은 새로운 센서가 대체되는 형태로 이상이 실현되고 있다. 제조 영역 내 각 기업은 공정 효율성·생산성 등을 제고하기 위한 자동화 시스템 구축에 센서를 적극 도입하고 있다. 이 현상은 뿌리산업, 전후방 산업 가릴 것 없이 두드러진다. 산업 자동화 시장은 약 2000억 달러(약 266조 원) 이상 규모로 알려진 글로벌 센서 시장과의 융합을 통해 혁신의 활로를 열었다. 독일에 컨트롤 타워를 둔 글로벌 광학센서 및 머신비전 솔루션 업체 센소파트는 공장 자동화, 디지털 공장 실현을 위해 전 세계에 센서 기술을 전파하고 있다. 한국 지사 센소파트코리아는 지난 2022년 자동화·로봇 분야 글로벌 톱5로 평가받는 국내 시장을 공략하겠다는 포부로 문을 두드렸다. 올해로 론칭 3년차에 접어든 센소파트코리아
엔비디아, 비용 절감 및 도메인별 용도에 따라 작업 속도 크게 높여 엔비디아가 구글과 협력해 모든 엔비디아 AI 플랫폼에서 AI 모델 ’젬마’를 위한 최적화를 실시했다고 밝혔다. 이를 통해 엔비디아는 비용을 절감하고 도메인별 용도에 따라 작업 속도를 혁신적으로 높였다. 어디서나 실행 가능한 젬마는 구글의 새로운 경량 오픈 언어 모델로, 20억 파라미터와 70억 파라미터 크기로 제공된다. 젬마는 구글의 멀티모달 모델인 제미나이 개발에 사용된 동일한 연구와 기술을 기반으로 구축됐다. 엔비디아는 구글과 긴밀히 협력해 엔비디아 텐서RT-LLM으로 젬마의 성능을 가속화했다. 텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리다. 이를 통해 개발자는 전 세계 고성능 AI PC에 탑재된 1억 개 이상의 엔비디아 RTX GPU를 활용할 수 있다. 개발자는 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있다. 여기에는 H100 텐서 코어 GPU를 기반으로 하는 구글 클라우드 A3인스턴스가 포함되며, 초당 4.8테라바이트의 141GB HBM3e 메모리를 갖춘 엔비디아 H
파라미터 다른 두 모델 출시돼 프로젝트 비용과 난이도에 따라 자유롭게 선택 올거나이즈가 19일 금융에 특화된 AI 언어모델인 '알리 파이낸스 LLM(Alli Finance LLM)'을 출시했다고 밝혔다. 알리 파이낸스 LLM(대형언어모델)은 오픈소스 LLM 중 가장 성능이 뛰어나다고 알려진 메타의 라마2를 기반으로 경량화한 금융 특화 sLLM(소형언어모델)이다. sLLM은 인간 두뇌의 시냅스에 해당하는 파라미터 규모가 LLM보다 작지만, 훈련을 위한 데이터·시간· 비용 등이 상대적으로 적게 들어 특정 용도의 AI 서비스를 개발하는데 적합하다. 알리 파이낸스 LLM은 파라미터가 130억 개인 13B와 700억 개인 70B의 두 모델이 함께 출시돼 프로젝트 비용과 난이도에 따라 모델 크기를 자유롭게 선택할 수 있다. 금융 도메인에 특화된 데이터로 학습돼 금융 용어를 이해한다는 강점이 있다. 일례로 'LTV'라는 단어를 챗GPT에 물어볼 경우, 고객의 생애 기간 동안 기여하는 평균적인 가치를 나타내는 마케팅 지표인 'Lifetime Value'의 약어라고 대답한다. 하지만 알리 파이낸스 LLM에 질문하면 금융 약관 등에 자주 나오는 'Loan to Value(담보
자체 개발 생성형 초거대 언어모델 공개 예정 코난테크놀로지가 내달 자체 개발에 성공한 초거대 언어모델(Large Language Model, LLM) ‘코난 LLM’을 출시한다고 밝혔다. 코난테크놀로지는 전체 학습 토큰 4920억 개, 한국어 토큰 2840억 개로 학습을 마쳤고, 총 파라미터가 131개에 달하는 코난 LLM을 내달 공개하기로 했다. 코난테크놀로지에 따르면 13.1B 파운데이션 모델은 파인튜닝 과정을 거친 후 내달 출시될 예정이며, 코난 LLM 파운데이션 모델은 내달 1일 학습을 시작해 10월 중으로 마무리할 계획이다. 내달 출시될 코난 LLM은 자체 전산시스템에 의한 온프레미스 체제로 운영돼 보안 사고를 방지하고, B2B·B2G향 초거대 AI를 노리는 것으로 알려져 있다. 코난테크놀로지 측은 기업 및 기관에 최적화된 지도 및 강화학습을 거쳐 문서 초안 생성, 문서 요약, 질의 및 응대 등에 활용성을 높이겠다는 전략이라고 설명했다. 김영섬 코난테크놀로지 대표이사는 “자체 개발한 초거대 언어모델 확보를 위해 24년 동안 기술력을 쏟아부었다”며 “기업 및 기관에 최적화된 모델로 시장 요구에 발맞추고, 생성형 AI 생태계 구축에 앞장서겠다”고 말했다
헬로티 서재창 기자 | ST마이크로일렉트로닉스(이하 ST)가 시스템 전력 손실을 최소화하기 위해 주요 파라미터를 개선하는 새로운 슈퍼 정션 STPOWER MDmesh K6 시리즈를 출시했다. 이 시리즈는 LED 드라이버 및 HID 램프와 어댑터는 물론, 평면 디스플레이용 전원공급장치와 같은 플라이백 토폴로지 기반의 조명 애플리케이션에 특히 적합하다. ST는 800V STPOWER MDmesh K6 시리즈로 동급 최고 성능과 사용 편의성을 결합한 슈퍼-정션 기술을 소개했다. MDmesh K6는 현재 시중에 공급되는 800V 제품 중 최상의 단위 면적당 RDS(on) 값을 제공하며, 높은 전력밀도와 효율성을 모두 갖춰 소형 설계를 지원한다. K6 시리즈는 이전 세대 MDmesh K5에 비해 임계 전압이 감소됐으며, 이를 통해 구동 전압을 낮추고 전력 손실을 줄여 주로 제로-와트 대기모드 기반 애플리케이션의 효율을 향상시켜준다. 총 게이트 전하(Qg)도 매우 낮기에 빠른 스위칭 속도를 가지며 손실을 줄인다. 통합된 ESD 보호 다이오드는 MOSFET의 전반적인 안정성을 HBM 클래스 2(Human Body Model Class 2)까지 높여준다. 루카 콜롬보(Lu