sLLM(smaller Large Language Model)
컴퓨터시스템응용기술사 제137회 2교시 17번 문항으로, 과목은 AI/신기술입니다. ‘양자화’ 키워드는 컴퓨터시스템응용기술사 기출 3문항에 나왔습니다.
원문 문제
컴퓨터시스템응용기술사 제137회 17번. sLLM(smaller Large Language Model)
- 가. sLLM의 정의 및 필요성
- 나. sLLM의 주요 기술 및 활용분야
- 다. LLM과 sLLM 비교
핵심 키워드
- sLLM
- 모델 경량화
- 지식 증류
- 양자화
- 프루닝
- 추론 성능
- 배포 환경
고득점 가이드 — 1. 개요
sLLM(smaller Large Language Model)은 수억~수십억 파라미터 규모로 LLM의 능력을 압축한 경량 언어 모델이다. 외부 API 의존을 줄이고 온프레미스·엣지 환경에서 추론을 수행해 데이터 통제권, 응답 지연, 운영 비용 측면의 한계를 동시에 해결하기 위한 생성형 AI 아키텍처의 핵심 선택지로 부각되고 있으며, 도메인 특화 챗봇·온디바이스 AI 분야에서 빠르게 확산되고 있다.
출제 이력
- sLLM기출 1문항
- 모델 경량화기출 2문항
- 지식 증류기출 2문항
- 양자화기출 3문항
- 프루닝기출 1문항
- 추론 성능기출 1문항
- 배포 환경기출 1문항