입력 데이터에 노이즈를 추가하여 딥러닝 모델이 잘못된 결과를 출력하도록 하는 공격 유형으로, 예를 들어 팬더 이미지에 노이즈를 추가하면 사람은 계속 팬더로 인식하지만 딥러닝 모델은 긴팔원숭이로 잘못된 결과를 출력함. 견고한 AI 에서 해결하고자 하는 핵심 문제 중 하나.1
활용 및 발전방향
- 실무 적용: 적대적 공격 개념을 실제 프로젝트나 업무 상황에 직접 적용해 이해를 심화한다.
- 연관 개념 학습: 관련 노트와 연결하여 맥락을 넓히고 응용 범위를 확장한다.
- 비교 분석: 유사한 방법론·도구와 비교하며 장단점을 파악한다.
- 참고 자료 탐색: 공식 문서나 전문 서적을 통해 더 깊은 이해를 추구한다.
- 사례 수집: 실제 사례를 꾸준히 수집하여 이 노트를 발전시킨다.
관련 노트
- AGI — 공유 키워드:
AI,딥러닝 - Active Learning — 공유 키워드:
AI,딥러닝 - Annotation — 공유 키워드:
AI,딥러닝 - Atros Convolution — 공유 키워드:
AI,딥러닝 - Attention mechanism — 공유 키워드:
AI,딥러닝
Footnotes
-
쉽게 활용하는 인공지능 비즈니스 ↩