HOME > 상세정보

상세정보

안전한 인공지능 시스템을 위한 심층 신경망 강화 : 적대적 공격에 속지 않는 심층 신경망 만들기 (1회 대출)

자료유형
단행본
개인저자
Warr, Katy 김영하, 역
서명 / 저자사항
안전한 인공지능 시스템을 위한 심층 신경망 강화 : 적대적 공격에 속지 않는 심층 신경망 만들기 / 케이티 워 지음 ; 김영하 옮김
발행사항
서울 :   한빛미디어,   2020  
형태사항
255 p. : 천연색삽화, 도표 ; 24 cm
원표제
Strengthening deep neural networks : making AI less susceptible to adversarial trickery
ISBN
9791162243534
일반주기
부록: A. 수식 설명  
색인수록  
일반주제명
Neural networks (Computer science) Computer networks --Security measures Artificial intelligence
000 00000nam c2200205 c 4500
001 000046059113
005 20201211184006
007 ta
008 201204 2020 ulkad 001c kor
020 ▼a 9791162243534 ▼g 93000
040 ▼a 211009 ▼c 211009 ▼d 211009
041 1 ▼a kor ▼h eng
082 0 4 ▼a 006.3/2 ▼2 23
085 ▼a 006.32 ▼2 DDCK
090 ▼a 006.32 ▼b 2020z2
100 1 ▼a Warr, Katy
245 1 0 ▼a 안전한 인공지능 시스템을 위한 심층 신경망 강화 : ▼b 적대적 공격에 속지 않는 심층 신경망 만들기 / ▼d 케이티 워 지음 ; ▼e 김영하 옮김
246 1 9 ▼a Strengthening deep neural networks : ▼b making AI less susceptible to adversarial trickery
260 ▼a 서울 : ▼b 한빛미디어, ▼c 2020
300 ▼a 255 p. : ▼b 천연색삽화, 도표 ; ▼c 24 cm
500 ▼a 부록: A. 수식 설명
500 ▼a 색인수록
650 0 ▼a Neural networks (Computer science)
650 0 ▼a Computer networks ▼x Security measures
650 0 ▼a Artificial intelligence
700 1 ▼a 김영하, ▼e
900 1 0 ▼a 케이티 워, ▼e
945 ▼a KLPA

소장정보

No. 소장처 청구기호 등록번호 도서상태 반납예정일 예약 서비스
No. 1 소장처 중앙도서관/제2자료실(3층)/ 청구기호 006.32 2020z2 등록번호 111838723 도서상태 대출가능 반납예정일 예약 서비스 B M

컨텐츠정보

책소개

인공지능 시스템을 속이는 적대적 공격을 소개한다. 공격자가 시스템을 공격하는 동기를 파악하고 적대적 공격의 위험성을 알아본다. 또한 적대적 공격이 이미지, 오디오, 비디오 데이터를 활용해 인공지능을 속이는 실제 사례를 살펴본다. 신경망을 공격하는 방법과 공격을 방어하는 방법을 이해하며 인공지능 분야가 나아갈 미래를 알아보자.

쉽게 속지 않는 인공지능을 위한 심층 신경망 강화 프로젝트

일상생활에 보편화된 인공지능 시스템은 자율 주행차, 음성 어시스턴트, 얼굴 인식 장치 등 다양한 곳에 활용된다. 인공지능의 발전과 더불어 인공지능 시스템을 속이려는 공격자가 곳곳에 도사리고 있으며, 의도적으로 시스템을 속이기 위한 악의적인 데이터가 만들어지고 있다. 이러한 데이터는 각종 데이터 속에 숨어서 다양한 방법으로 인공지능을 속인다.

이 책은 인공지능 시스템을 속이는 적대적 공격을 소개한다. 공격자가 시스템을 공격하는 동기를 파악하고 적대적 공격의 위험성을 알아본다. 또한 적대적 공격이 이미지, 오디오, 비디오 데이터를 활용해 인공지능을 속이는 실제 사례를 살펴본다. 신경망을 공격하는 방법과 공격을 방어하는 방법을 이해하며 인공지능 분야가 나아갈 미래를 알아보자.

● 심층 신경망(DNN) 이해하기
● 적대적 공격이 심층 신경망을 어떻게 속이는지 알아보기
● 적대적 공격이 심층 신경망을 무엇으로 속이는지 알아보기
● 심층 신경망을 속이는 실제 사례 살펴보기
● 적대적 공격에 강한 인공지능 시스템 만들기

이 책은 인공지능이 이미지, 오디오, 비디오 데이터를 처리하기 위해 우리 일상생활에서 악용되는 실제 상황을 고려해 그곳에서 야기되는 적대적 입력의 동기, 실현 가능성, 위험성을 알아본다. 이 주제를 알기 쉽게 직관적으로 설명하는 동시에 수학적으로 조리 있게 설명하고, 인공지능 시스템을 적대적 입력에 맞서 어떻게 더 견고하게 만들 수 있는지 살펴본다.

인공지능을 속이는 방법을 이해하면 종종 베일에 싸인 듯 불투명해 보이던 심층 신경망 알고리즘, 그리고 이러한 알고리즘과 인간의 뇌가 감각 입력을 처리하는 방법상의 차이를 명확하게 알게 된다. 이 책은 이러한 차이와 어떻게 하면 이 둘 간의 격차를 좁혀 미래에 인공 학습이 생물학적 학습에 더 가까이 다가갈 수 있는지 그 방법을 탐색한다.

1부 인공지능을 속이는 기술: 적대적 입력과 공격 동기를 소개하고 이미지와 오디오 데이터 처리를 위한 딥러닝의 기본 개념을 설명한다.
● 1장: 적대적 인공지능과 딥러닝이라는 광범위한 주제를 소개한다.
● 2장: 적대적 이미지, 오디오, 비디오의 생성 뒤에 숨겨진 잠재적 동기를 살펴본다.
● 3장: 딥러닝 개념을 설명한다.
● 4장: 이미지, 오디오, 비디오 처리에 사용하는 심층 신경망을 수준 높게 개괄하여 이후 내용을 이해할 수 있는 기반을 마련한다.

2부 적대적 입력 생성하기: 적대적 입력과 적대적 입력을 생성하는 방법을 구체적으로 설명한다.
● 5장: 적대적 입력을 뒷받침하는 개념을 설명한다.
● 6장: 적대적 입력을 생성하는 계산법을 추가해 더 자세히 설명한다.

3부 실제 위협 이해하기: 2부에서 설명한 방법을 기반으로 공격자가 실제 세계에서 사용하는 공격 방법과 이때 마주하는 어려움을 알아본다.
● 7장: 2부에서 정의한 방법을 기반으로 실제 시스템에 사용할 때 실제 공격과 적대적 공격이 직면하는 과제를 설명한다.
● 8장: 물리적 세계에서 개발되고 만들어진 적대적 물체나 적대적 소리의 구체적인 위협을 탐구한다.

4부 방어: 3부의 내용을 기반으로 적대적 입력을 방어하는 방법을 알아본다.
● 9장: 신경망의 견고성을 평가하는 두 가지 방법, 즉 경험적 평가와 이론적 평가를 설명한다.
● 10장: 적대적 입력에 대비해 심층 신경망 알고리즘을 강화하는 방법 중 가장 최근에 알려진 자료를 살펴본다. 그다음 종합적 관점에서 신경망 기술에 도입할 수 있는 방어 조치를 고려한다.
● 11장: 미래 동향과 심층 신경망이 향후에 어떻게 진화할지 내다본다.


정보제공 : Aladin

저자소개

케이티 워(지은이)

컴퓨터 성능과 데이터가 부족해 딥러닝 이론을 구현하지 못하고 있던 시절에 에든버러 대학교에서 인공지능과 컴퓨터공학 학위를 받았다. 오랫동안 엔터프라이즈 소프트웨어를 개발했으며, 최근에는 인공지능 전문가로 활동하고 있다. 일상생활에 깊숙이 스며든 인공지능과 함께 삶의 즐거움을 누린다.

김영하(옮긴이)

새로운 기술에 관심이 많은 개발자이자 번역가. 삼성SDS, 미래에셋증권, GS홈쇼핑 등 기업에서 다양한 프로젝트에 참여해 실무 경력을 쌓았다. 현재는 디플러스에서 데이터 분석 연구원으로 일하며, 주로 인공지능과 데이터 분석 분야 강사로 활동한다. 새 기술과 최신 정보를 공유하고자 『안전한 인공지능 시스템을 위한 심층 신경망 강화』(한빛미디어, 2020), 『Do it! 데이터 분석을 위한 판다스 입문』(이지스퍼블리싱, 2018), 『파이썬 웹 스크래핑』(2017), 『Splunk 앱 제작과 대시보드 개발』(2016, 이상 에이콘출판사), 『뷰티풀 자바스크립트』(2016), 『누구나 쉽게 배우는 스몰베이직』(2016, 이상 비제이퍼블릭) 등을 번역했으며, EBS 이숲에서 데이터 분석 컨텐츠를 제작한다.

정보제공 : Aladin

목차

"CHAPTER 1 소개
1.1 딥러닝 소개
1.2 딥러닝 역사
1.3 인공지능의 ‘착시 현상''
1.4 ‘적대적 입력’이란 무엇인가
1.5 ‘적대적 머신러닝’의 광범위한 분야
1.6 적대적 입력의 의미

CHAPTER 2 공격 동기
2.1 웹 필터 우회
2.2 온라인 평판과 브랜드 관리
2.3 감시 위장
2.4 개인 정보 온라인 
2.5 자율 주행차의 혼동
2.6 음성 제어 장치

CHAPTER 3 심층 신경망
3.1 머신러닝
3.2 딥러닝 개념
3.3 수학 함수로서의 심층 신경망 모델
3.4 간단한 이미지 분류기 만들기

CHAPTER 4 이미지, 오디오, 영상을 처리하는 심층 신경망
4.1 이미지
4.2 오디오
4.3 영상
4.4 적대적 고려 사항
4.5 ResNet50을 사용한 이미지 분류

CHAPTER 5 적대적 입력의 원리
5.1 입력 공간
5.2 DNN의 사고를 가능하게 하는 원리
5.3 섭동 공격: 변화의 최소화, 영향의 최대화
5.4 적대적 패치: 산만의 최대화
5.5 탐지 가능성 측정
5.6 요약

CHAPTER 6 적대적 섭동을 생성하는 방법
6.1 화이트 박스
6.2 제한된 블랙박스 방법
6.3 점수 기반 블랙박스 방법
6.4 요약

CHAPTER 7 시스템에 사용하는 공격 패턴
7.1 공격 패턴
7.2 재사용할 수 있는 섭동과 패치
7.3 통합: 하이브리드 접근법과 절충안

CHAPTER 8 물리적 공격
8.1 적대적 물체
8.2 적대적 음향
8.3 실생활 속에서 적대적 사례의 타당성

CHAPTER 9 모델 견고성 평가
9.1 적대적 목표, 역량, 제약, 정보
9.2 모델 평가
9.3 요약

CHAPTER 10 방어
10.1 모델 개선
10.2 데이터 전처리
10.3 대상 감추기 
10.4 적대적 입력에 대항하는 강력한 방어 구축

CHAPTER 11 미래 동향: 속지 않는 견고한 인공지능
11.1 윤곽을 인식해 견고성 향상하기
11.2 다중감각 입력
11.3 객체 구성과 계층
11.4 마치며"

관련분야 신착자료

Baumer, Benjamin (2021)