LLM 도입 시 고려해야 할, 환각, 보안, 비용 문제에 대해 진단
포티투마루가 22일인 오늘 TRAIN 심포지엄에서 품질 기반의 AI 신뢰성을 강조하며 ‘Trustworthy LLM : How to’를 주제로 세션을 진행한다고 밝혔다.
TRAIN 심포지엄은 TRAIN 글로벌이 주최하고 부산IT융합부품연구소(CIDI), 전주정보문화산업진흥원(JICA), 한국산업기술시험원(KTL) 등이 후원하는 글로벌 행사다. 베트남, 태국, 인도네시아 등 동남아 각국과 AI 신뢰성 확보와 강화 움직임을 공유하는 것은 물론 이에 대한 글로벌 대응 방안을 공동 모색하는 자리가 될 예정이다. 행사에는 국내외 정부·공공기관과 AI 관련 기업·협회·단체를 비롯해 법조계와 학계 관계자들이 참석했다.
첫날 심포지엄에서는 ‘신뢰할 수 있는 AI를 위한 아시아 연대-정보 교류의 힘’을 주제로 기술과 교육, 법·제도·정책 세 개 세션에서 주제 발표가 진행되고, 저녁에는 행사 주요 인사가 모이는 비공개 교류의 장이 마련되며, 다음 날에는 TRAIN 총회가 진행될 예정이다.
포티투마루 해외사업 총괄 박주식 이사는 기술 세션에서 ‘Trustworthy LLM : How to’를 주제로 대규모 언어 모델(LLM) 도입 시 고려해야 할, 환각, 보안, 비용 문제에 대해 짚어본다. 특히 환각 현상을 방지하고 Trustworthy Answering AI(신뢰할 수 있는 인공지능)를 구현하기 위한 방안에 대해 자사의 자체 대규모 언어 모델인 'LLM42'의 실제 사례를 통해 다방면의 인사이트를 공유할 예정이다.
포티투마루는 초거대 언어모델의 단점인 환각 현상을 정확도 중심인 인공지능 독해(MRC) 기반의 QA(Question Answering) 모델과의 엔지니어링으로 완화하고, 기업용 프라이빗 모드를 지원해 기업 내부 데이터와 민감한 고객 정보 유출에 대한 걱정없이 안전하게 초거대 인공지능을 활용하게 하며, 전문 산업 분야에 특화한 모델을 구현해 솔루션 구축과 학습, 서빙에 들어가는 비용을 획기적으로 절감한다.
포티투마루 김동환 대표는 “포티투마루는 2020년부터 인공지능 신뢰성·품질 확보 가이드라인 컨설팅에 참여하고, 한국정보통신기술협회(TTA), 한국지능정보사회진흥원(NIA) 및 국제인공지능&윤리협회(IAAE) 등 다양한 기관과 인공지능 윤리 준수 및 신뢰성 확보를 위해 긴밀히 협조해왔다”고 밝혔다.
이어 그는 “그 결과 언어 AI의 기술력과 윤리성을 심사하는 Good AI Awards에서 2년 연속 수상하고 2023년 제 1회 인공지능 신뢰성·품질 대상을 수상하는 등 대외적으로 공식 인증을 받았다. 앞으로도 기술력과 품질 신뢰성을 모두 보장하는 선도기업으로 생성형 AI 시장을 이끌어갈 것”이라고 밝혔다.
헬로티 서재창 기자 |
