지식 증류(Knowledge Distillation)
컴퓨터시스템응용기술사 제123회 1교시 9번 문항으로, 과목은 AI/신기술입니다. ‘지식 증류’ 키워드는 컴퓨터시스템응용기술사 기출 2문항에 나왔습니다.
원문 문제
컴퓨터시스템응용기술사 제123회 9번. 지식 증류(Knowledge Distillation)
핵심 키워드
- 지식 증류
- Teacher Network
- Student Network
- 소프트 타겟
- 모델 압축
- 추론 속도 개선
고득점 가이드 — 1. 개요
지식 증류 Knowledge Distillation 은 사전 학습된 대형 모델(Teacher)이 보유한 지식을 경량 모델(Student) 로 전이해, 추론 정확도는 최대한 유지하면서 파라미터·연산량·메모리 사용량을 대폭 줄이는 모델 경량화 기법이다. 엣지·모바일 배포에 적합한 추론 효율 모델을 확보한다.
출제 이력
- 지식 증류기출 2문항
- Teacher Network기출 1문항
- Student Network기출 1문항
- 소프트 타겟기출 1문항
- 모델 압축기출 1문항
- 추론 속도 개선기출 1문항
같은 과목 문항
- 제123회 4번능동 학습(Active Learning)1교시무료
- 제122회 10번인공지능 데이터의 평가를 위한 고려사항1교시무료
- 제122회 12번생성적 적대 신경망(Generative Adversarial Networks : GAN)1교시무료
- 제122회 13번기울기소실 문제(Vanishing Gradient Problem)1교시무료
- 제122회 14번자율주행의 기술동향 및 핵심기술2교시
- 제122회 18번패션 의류용 이미지를 분류하는 다층 신경망 (의류용 이미지 10가지 유형 흑백이미지 32*32 pixels, 학습 이미지 48,000장, 완전연결 3계층, 은닉층 뉴런 100개)2교시