SLLM 정보, 국내 사례 정리 24년 5월 기준, 관련기사

24년 5월 최신 기사

최근 메타 공식 블로그
 한국의 인공지능(AI) 스타트업 업스테이지와 매스프레소의 ‘매스(MATH) GPT’ 사례
콴다, KT클라우드 쓴듯

매스프레소·업스테이지·KT가 개발한 '수학 GPT', 오픈AI 제쳐
출처: <https://www.etnews.com/20240108000247>

 

 

매스 GPT의 매개변수(파라미터)는 130억개 수준
 GPT-4(1조개)와 비교하면 작지만, 수학 능력에서는 세계 최고 수준이다.

1만2500개의 고난도 수학경시 문제로 구성된 ‘매스 벤치마크’에서 1점 만점에 0.488점을 받아  오픈AI의 GPT-4(0.425점)를 제쳤다.

 

기존 거대언어모델

회사	LLM	매개변수
OpenAI	GPT-3.5	1750억개
	GPT-4	100조개??	멀티모달 추정GPT-4: 알아야 할 모든 것 + GPT-3 및 ChatGPT와의 차이점 (ax-semantics.com)
	GPT-4-Turbo
앤트로픽	클로드3		오푸스, 소넷, 하이쿠
구글	제미나이 울트라	1조 7500억개
	제미나이 프로

 

 

 거대언어모델(LLM) 대신 가성비가 좋은 sLLM이 주목

회사	sLLM	매개변수
구글	제미나이 나노	18억개
MS	파이(Phi)-3 미니	38억개	23년 11월, 멀티모달
	파이(Phi)-1.5	13억개	멀티모달
메타	라마3	80억개

 

 거대언어모델의 경우 매개변수가 1000억개 이상

sLLM은 경량화를 통해 응답 속도를 향상시켰고 입력 데이터 최적화 등으로 LLM 못지않은 효율을 낼 수 있다는 점이 장점이다.

sLLM은 또 ‘온디바이스 AI’로 활용되기에 적합하다.

스마트폰, 노트북 등 기기 자체에 AI 서비스가 탑재

아울러 B2B(기업대기업) 시장에서는 ‘최소 비용, 최고 성능’을 내는 게 중요하기 때문에 sLLM이 보다 경쟁력이 있다.

한국

네이버	HCX-대시
업스테이지	솔라미니
파수	엘름
포티투마루	LLM42

 

네이버  하이퍼클로바X의 신규 경량화 모델인 ‘HCX-대시’  
기존 모델 대비 5분의 1 수준 가격

업스테이지
지난 3월 ‘솔라 미니’를 아마존 세이지메이커 점프스타트·AWS 마켓플레이스 등에 오픈소스로 공개했다. 고객사가 솔라 미니를 미세 조정해 자사의 맞춤형 생성 AI 서비스를 만들 수 있게 한 것이다. 에듀테크 산업용 sLLM도 출시했다.
 리걸테크 스타트업 로앤컴퍼니와 함께 ‘솔라-리걸’을 개발목표.

업계 관계자는 “법률·의료·금융 등 특정 분야에서 활용되는 AI 서비스를 구사할 때 범용 LLM을 활용하기보다는 해당 분야 데이터를 중점적으로 학습한 소형언어모델을 활용하는 게 효율적”이라고 말했다.

파수
 sLLM인 ‘엘름(Ellm)’을 출시했다. 엘름은 온프레미스 구축형 sLLM으로 코딩, 법률, 세무, 금융 등 다양한 직군, 산업 환경에서 활용할 수 있다는 게 파수의 설명이다. 특정 작업이나 도메인에 맞는 작은 데이터 세트를 활용해 모델을 추가적으로 훈련시킬 수도 있어, 기업에서는 특정 부서나 조직에서만 활용할 수도 있다.

미국 시장조사업체 밸류에이츠 리포트가 발간한 보고서에 따르면 sLLM 시장 규모는 2022년 51억8000만달러에서 오는 2029년 171억8000만달러로 성장할 전망이다.

 

출처: <https://biz.chosun.com/it-science/ict/2024/05/03/TILI5ZARGVDX5JICKRAHP7H6RA/>