경사하강법(Gradient Descent)
컴퓨터시스템응용기술사 제122회 3교시 25번 문항으로, 과목은 AI/신기술입니다. ‘경사하강법’ 키워드는 컴퓨터시스템응용기술사 기출 3문항에 나왔습니다.
원문 문제
컴퓨터시스템응용기술사 제122회 25번. 경사하강법(Gradient Descent)
- 가. 평균제곱오차 비용함수를 가중치에 대해 편미분한 후 학습률을 곱한 값을 기존 가중치에서 차감하여 가중치 갱신을 수행한다고 가정할 때, 가중치 최적해의 좌측 또는 우측 어디에서 시작하든 상관없이 최적해를 향해 진행하는 이유를 수식적으로 설명
- 나. 확률적경사하강법, 배치경사하강법, 미니배치경사하강법의 개념과 특징 비교
핵심 키워드
- 경사하강법
- 평균제곱오차
- 편미분
- 학습률
- 확률적 경사하강법
- 배치 경사하강법
- 미니배치 경사하강법
고득점 가이드 — 1. 개요
경사하강법은 비용함수를 최소화하기 위해 현재 가중치에서 손실 함수의 기울기 반대 방향으로 가중치를 갱신하는 1차 최적화 알고리즘이다. 평균제곱오차 같은 볼록 비용함수에서는 어떤 초기 위치에서 출발해도 부호 보정 메커니즘에 의해 최적해 방향으로 수렴하며, 학습 데이터 활용 방식에 따라 배치·확률적·미니배치 세 변형이 사용되어 학습 안정성과 효율의 절충을 결정한다. 딥러닝 학습의 핵심 엔진으로 동작하므로 동작 원리와 변형별 특성 이해가 필수이다.
출제 이력
- 경사하강법기출 3문항
- 평균제곱오차기출 1문항
- 편미분기출 1문항
- 학습률기출 3문항
- 확률적 경사하강법기출 1문항
- 배치 경사하강법기출 1문항
- 미니배치 경사하강법기출 1문항
같은 과목 문항
- 제122회 10번인공지능 데이터의 평가를 위한 고려사항1교시무료
- 제122회 12번생성적 적대 신경망(Generative Adversarial Networks : GAN)1교시무료
- 제122회 13번기울기소실 문제(Vanishing Gradient Problem)1교시무료
- 제122회 14번자율주행의 기술동향 및 핵심기술2교시
- 제122회 18번패션 의류용 이미지를 분류하는 다층 신경망 (의류용 이미지 10가지 유형 흑백이미지 32*32 pixels, 학습 이미지 48,000장, 완전연결 3계층, 은닉층 뉴런 100개)2교시
- 제122회 19번인공지능(AI) 윤리의 개념, 주요사례, 고려사항 및 추진방향2교시