향후 3년 내 기업에서 대형언어모델(LLM)보다 소형언어모델(SLM)을 더 많이 사용하게 될 것이란 전망이 나왔습니다.
가트너는 최근 발간한 ‘2025년 전망: 의사결정을 혁신할 AI 기반 분석’ 보고서에서 기업이 2027년까지 특정 작업에 최적화한 SLM을 도입하고, 전체 사용량이 범용 LLM 사용량보다 최소 3배 이상 높아질 것으로 전망했는데요.
이 배경에는 LLM의 응답 정확도에 대한 차이 때문입니다. 가트너는 범용 LLM이 강력한 언어 처리 능력을 제공하지만, 특정 비즈니스 분야처럼 전문성이 요구되는 작업에서는 응답 정확도가 떨어진다고 분석했습니다. 따라서 다양한 비즈니스 업무 흐름 내 높은 정확도를 높이기 위해서는, 특정 기능이나 도메인 데이터에 맞춰 범용 LLM을 파인튜닝한 특화 모델을 사용하는 게 효과적이라고 설명합니다.
이 과정에서 기업의 고유 데이터는 핵심적인 차별화 요소로 작용하며, 파인튜닝에 필요한 요구사항을 충족하도록 데이터 준비, 품질 관리, 버전 관리, 전반적인 관리가 필수적이라고 강조했어요.
수밋 아가왈 가트너 VP 애널리스트는 “비즈니스 업무 흐름 전반에 다양한 작업과 더 높은 정확도에 대한 요구로 인해 특정 기능 또는 도메인 데이터에 맞춰 파인튜닝한 특화 모델로의 전환이 가속화되고 있다”며 “SLM은 응답 속도가 빠르고 컴퓨팅 자원 소모가 적어, 운영 및 유지 관리 비용을 절감할 수 있다”고 설명했습니다.
이어서 “기업은 자사의 고유한 데이터와 전문화된 업무 프로세스에서 도출된 인사이트의 가치를 점차 인식하게 되면서, 이를 수익화하거나 고객과 경쟁사를 포함한 더 광범위한 대상과 공유하는 방향으로 나아갈 가능성이 높다. 이는 데이터와 지식에 대한 보호 중심적 접근 방식에서 더 개방적이고 협력적인 활용 방식으로의 전환을 의미한다”고 주장했습니다.
가트너는 기업이 자사의 고유 AI 모델을 상용화함으로써, 새로운 수익원을 창출하는 동시에 상호 연결된 생태계를 구축할 수 있다고 전망했어요. 그리고 소규모 AI 모델 도입을 추진하는 기업을 위한 조언도 덧붙였는데요. 비즈니스 맥락이 중요한 분야나 LLM 응답 품질, 속도가 기대에 미치지 못하는 영역에 컨텍스트 기반 SLM을 시범 도입하는 것이 효과적이라고 밝혔어요. 단일 모델만으로는 한계가 있는 사용 사례를 파악하고 여러 모델과 워크플로우 단계를 결합한 복합적 접근 방식을 도입하는 것이 더욱 나은 전략이라고 강조했습니다.
이와 함께, 언어 모델 파인튜닝에 필요한 데이터를 수집, 선별, 구조화하는 데이터 준비 역량에 우선순위를 두라고 조언했습니다. 따라서, AI 이니셔티브를 추진하기 위해 AI 및 데이터 설계자, 데이터 과학자, AI 및 데이터 엔지니어, 리스크 및 규정 준수 팀, 구매팀, 비즈니스 전문가 등 다양한 기술·기능 인력의 역량 강화에 적극 투자할 필요가 있다고 밝혔습니다.
콘텐츠 제공 : 바이라인네트워크(byline.network)
