한빛미디어

[들어가며]

'안전한 인공지능 시스템?'

일단 이 말이 무슨 말인지 잘 모르겠더랬다. 

테슬라 같은 자율주행 자동차의 

인공지능 인식 장애 사고에 대한 이야기인가?

책을 열어서 살펴보니 내 생각과는 좀 달랐다. 

이 책은 인공지능에 사용되는 

한 가지 주요 기술인 심층 신경망(DNN)을 

어떻게 의도적으로 속일 수 있으며, 

그것을 또 어떻게 방어하는지에 대한 이야기였다. 

[내용]

1부는 이미지와 오디오 데이터 처리를 위한 

딥러닝의 기본 개념부터 시작한다. 

인공지능에 대한 배경지식이 거의 없는 

사람들도 쉽게 이해할 수 있도록 

기초 개념부터 차근차근 제시한다.

(인공지능 초보자인 독자는 

나 빼고는 거의 없을 것 같지만 말이다.)

2부/3부는 심층신경망에 대한 적대적 입력과 

이를 생성하는 방법을 구체적으로 설명한다.

공격자가 실제 세계에서 사용하는 공격 방법과 

이때 마주하는 어려움에 대한 이야기이다. 

인공지능이 악용되는 상황을 고려해 

야기되는 적대적 입력의 동기와 위험성을 알아본다.

4부는 적대적 입력을 방어하는 방법이 제시되어 있다. 

인공지능 시스템을 어떻게 더 견고하게 만들 수 있는 

제시한 아이디어는 상당히 흥미로웠다. 

[편집]

편안한 마음으로 침대에서 읽기에도 

부족함이 없는 가벼운 책이다. 

세련되고 깔끔한 편집에 

좋은 종이 질을 자랑하며 

한글 번역도 매끄럽다. 

책 본문도 올컬러로 제작되어

한눈에 잘 들어온다. 

[소감]

이 책은 IT 프로그래밍 도서라기보다는 

인공지능, 시각적 인식론, 정보 보안 등에 대한

통합적인 시각을 제시하는 교과서에 가깝다. 

코드가 없는 것은 아니지만, 

실무 프로그래밍 스킬의 제시가 아니라 

인공지능의 보안 위협과 대처 방안에 대한

개념 이해를 목적으로 보여주는 느낌이다. 

이해 못 하는 수식이 잔뜩 쓰여있는 

인공지능 고급 활용서일 거라고 지레짐작했던 

내 두려움과는 달리,

난이도가 그렇게 높은 책은 아니었다.

오히려 딥러닝에 익숙하지 않은 초보자들도 

의외로 직관적으로 이해할 수 있는 내용이

많이 포함되어 있었다. 

인공지능은 어느새 IT의 모든 분야에 

자연스럽게 침투하고 있으며,

마치 전기와 같이, 가까운 미래에

일상생활에서 뺴놓을 수 없는 

중요한 기반 기술이 될 것이다. 

인공지능을 실제 제품/업무에 적용하기 위해 

앱/웹 제작 시 사용되는 

딥러닝 모델의 잠재적 위험성과

보안 위협에 대한 대처 방안을 고려해야 한다는 

개념 하나만 확실히 잡아도 

도서 구매 비용을 투자할 가치는 있겠다. 

우리가 빠르고 안전할 것으로 예상하는 인공지능 모델이

의도적이며 정교한 공격으로 

어처구니없는 문제가 생길 수도 있다는 사실이 

익숙하지 않은 사람은 

꼭 읽어볼 필요가 있는 책이다.