한빛미디어

이 책은 인공지능 시스템의 취약점이 존재하며 이에 대한 개선책을 강구하는 방법을 소개한다. 입력데이터에 적대적 입력이나, 패치 ,섭동을 통해 신경망에 교란을 일으키고, 

원하는 출력이 생성되도록 유도할 수 있음을 보여준다.  조그마한 섭동이  미래의 인공지능 시스템에 커다란 장애를 일으킬 수도 있다는 점을 시사한다. 

적대적 입력을 생성하기 위한 방법으로 화이트 박스기법으로서  FGSM, 적대적 돌출 기법을 소개한다. 

이에 대한 방어책으로서 적대적 훈련, OoD 감지, 무작위 드롭아웃 불확실성 측정, 전처리 기법을 소개한다. 

이러한 방어기술을 잘 활용하여 견고한 인공지능 시스템을 구축하는데 기여했으면 한다.