[디지털투데이 황치규 기자] 2024년 엔터프라이즈 시장에서 거대 언어 모델(LLM) 및 생성형 AI 관련 최대 이슈는 확실하게 통하는 사례를 발굴하는 것이다. 지금까지 LLM을 어디에 어떻게 써야 효과를 볼 수 있는지 찾아내기 위한 파일럿이나 개념검증(PoC) 프로젝트에 주력해왔다면 올해는 답을 찾아 내는 것이 관련 업계 가장 큰 숙제로 부상했다. 저마다의 전술로 하나라도 확실한 걸 만들기 위한 AI 기업들 행보가 분주하다.
포티투마루의 경우 RAG(Retrieval-Augmented Generation, 검색 증강 생성)과 상대적으로 규모가 작은 LLM, 이른바 SLM(Small Language Model)을 엔터프라이즈 LLM 시장에서 승부수로 던진 케이스다.
LLM이 엔터프라이즈 시장을 파고들려면 할루시네이션(Hallucination, 환각), 보안, 비용 3가지 문제를 극복해야 하는데, 이와 관련해 온프레미스(구축형) LLM과 RAG 조합이 가장 확률 높은 승부수라는 것이다.
김동환 포티투마루 대표는 "LLM을 도입할 만한 규모를 가진 회사들은 많지 않고, 구축과 운영 비용도 만만치 않다. SLM으로 충분한 영역들이 많다"면서 "기술은 상용화가 중요하다. LLM 자체에만 집중하기 보다는 RAG를 결합해 완성도가 높은 AI 솔루션을 제공하는 것이 현재로선 엔터프라이즈 시장에서 가장 현실적인 접근"이라고 강조했다. LLM 플러스 알파로 LLM이 가진 문제를 해결하는 것이 중요하다는 얘기다.
김 대표에 따르면 포티투마루가 추진하는 플러스 알파 전략에서 핵심은 RAG다........ [인터뷰 전문 보기] https://www.digitaltoday.co.kr/news/articleView.html?idxno=505098
[인터뷰 출처 : 디지털투데이]
Comments