인공지능 기술 활용 증가에 따른 보안 위협
정보관리기술사 제130회 3교시 23번 문항으로, 과목은 보안입니다. ‘프롬프트 인젝션’ 키워드는 정보관리기술사 기출 4문항에 나왔습니다.
원문 문제
정보관리기술사 제130회 23번. 인공지능 기술 활용 증가에 따른 보안 위협
- 1). 머신러닝 학습과정에서의 적대적 공격 4가지와 방어기법
- 2). 생성형 언어모델 기반의 인공지능 기술 활용 시 발생할 수 있는 보안취약점
핵심 키워드
- 적대적 공격
- 데이터 중독
- 모델 역설계
- 프롬프트 인젝션
- 생성형 언어모델
- AI 보안 방어
- 학습 데이터 조작
고득점 가이드 — 1. 개요
AI 서비스 확산은 학습 파이프라인과 추론 인터페이스라는 새로운 공격 노출 면을 만든다. 머신러닝 모델은 학습 단계의 데이터·가중치 조작과 추론 단계의 입력 변조에 취약하며, 대규모 언어모델은 자연어 입력 자체가 명령으로 해석되는 특성으로 인해 기존 입력 검증·웹 보안 통제만으로는 방어가 어렵다. 학습부터 추론까지 단계별 위협 모델링과 통합 거버넌스가 필수적이며, 사고 발생 시 신속한 대응 절차도 함께 준비해야 한다.
출제 이력
- 적대적 공격기출 2문항
- 데이터 중독기출 1문항
- 모델 역설계기출 1문항
- 프롬프트 인젝션기출 4문항
- 생성형 언어모델기출 1문항
- AI 보안 방어기출 1문항
- 학습 데이터 조작기출 1문항