인공지능 머신러닝 기술의 적대적 공격(Adversarial Attack)
컴퓨터시스템응용기술사 제119회 2교시 16번 문항으로, 과목은 보안입니다. ‘Model DoS’ 키워드는 컴퓨터시스템응용기술사 기출 3문항에 나왔습니다.
원문 문제
컴퓨터시스템응용기술사 제119회 16번. 인공지능 머신러닝 기술의 적대적 공격(Adversarial Attack)
- 가. 자율주행자동차에 대한 적대적 공격
- 나. 적대적 공격을 위한 적대적 샘플(Adversarial Sample) 제작기법
- 다. 적대적 공격에 대한 방어기법
핵심 키워드
- 적대적 공격
- 적대적 샘플
- Model DoS
- 적대적 견고성
- 공격 탐지
- 방어 메커니즘
고득점 가이드 — 1. 개요
적대적 공격은 입력에 사람 눈에 띄지 않는 작은 perturbation 을 더해 학습 모델의 판단을 오분류로 유도하는 공격이다. 자율주행자동차처럼 인지 결과가 즉시 물리 제어로 연결되는 환경에서는 단일 오인식이 인명 사고로 이어질 수 있어 모델 견고성 확보가 필수 안전 요건이다. 보안 담당자는 공격 유형과 샘플 제작 기법, 방어 메커니즘을 체계적으로 이해해 다층 방어를 설계해야 한다.
출제 이력
- 적대적 공격기출 2문항
- 적대적 샘플기출 1문항
- Model DoS기출 3문항
- 적대적 견고성기출 1문항
- 공격 탐지기출 2문항
- 방어 메커니즘기출 1문항