모델/아키텍처중급
SLM
소규모 언어 모델 · Small Language Model
수십억 이하의 파라미터를 가진 효율적인 언어 모델
상세 설명
SLM (소규모 언어 모델)
LLM보다 작은 규모의 언어 모델입니다. 모바일, 엣지 기기에서 실행 가능하며 추론 비용이 낮습니다.
특징
- 수십억 이하 파라미터
- 빠른 추론 속도
- 낮은 메모리 요구사항
- 온디바이스 실행 가능
예시
Phi, TinyLLaMA, DistilBERT 등
태그
#모델#효율성#온디바이스