SLM 소형 언어 모델

SLM은 상대적으로 작은 규모로 설계한 언어 모델을 가리키는 말입니다. Small Language Model의 약어이며 모든 기관과 제조사에 공통인 파라미터 수 경계가 정해진 인증 등급은 아닙니다.

작은 모델은 저장 공간과 실행 메모리 및 계산 부담을 줄이는 데 유리할 수 있습니다. 다만 학습 데이터, 구조, 양자화와 실행 환경이 함께 작용하므로 작은 모델이라는 이유만으로 모든 장치에서 빠르고 정확하게 실행되는 것은 아닙니다.

PC 안에서 짧은 문장을 분류하거나 제한된 형식으로 바꾸는 작업에 소형 모델을 사용할 수 있습니다. 회사의 모든 문서를 이해하는 범용 상담 시스템과는 요구 조건이 다릅니다. 인터넷을 쓰지 않는 동작도 모델 이름이 아니라 앱의 실제 데이터 경로로 확인합니다.

범용 모델과 특정 분야에 맞춘 모델, 서버 실행과 기기 내 실행은 서로 다른 분류입니다. SLM과 LLM의 경계는 사용 맥락에 따라 달라지며 매개변수 수만으로 품질을 비교하지 않습니다. NVMe 문서의 Subsystem Local Memory도 SLM으로 줄일 수 있지만 언어 모델과는 다른 용어입니다.

지원 언어, 입력 길이, 작업 정확도와 필요한 메모리를 실제 조건으로 확인합니다. 작은 모델에 검색이나 도구를 연결해 범위를 넓힐 수 있어도 모델의 이해 한계가 사라지지는 않습니다. NPU 지원 여부도 해당 모델 형식과 실행 엔진의 조건을 따릅니다.

learn.microsoft.com: slm