- 현재 위치
- home > 컴퓨터·ICT·어학 > 컴퓨터·IT 도서 > 컴퓨터공학 > 패턴 인식과 머신 러닝[제이펍]
;)
패턴 인식과 머신 러닝 분야에 대한 기본적인 내용을 포괄적으로 소개하고 위에서 언급된 최근의 발전 양상에 대해서 다룬다. 책의 내용을 공부하는 데 있어서 패턴 인식이나 머신 러닝 개념에 대한 사전 지식은 필요하지 않지만, 다변량 미적분과 기본적인 선형 대수학에 대한 사전 이해는 필요하다.
저자: 크리스토퍼 비숍
옮긴이 머리말
서문
베타리더 후기
CHAPTER 1 소개 1
1.1 예시: 다항식 곡선 피팅 _ 5
1.2 확률론 _ 13
1.3 모델 선택 _ 36
1.4 차원의 저주 _ 37
1.5 결정 이론 _ 42
1.6 정보 이론 _ 54
CHAPTER 2 확률 분포 75
2.1 이산 확률 변수 _ 76
2.2 다항 변수 _ 83
2.3 가우시안 분포 _ 87
2.4 지수족 _ 126
2.5 비매개변수적 방법 _ 134
CHAPTER 3 선형 회귀 모델 155
3.1 선형 기저 함수 모델 _ 156
3.2 편향 분산 분해 _ 166
3.3 베이지안 선형 회귀 _ 172
3.4 베이지안 모델 비교 _ 181
3.5 증거 근사 _ 186
CHAPTER 4 선형 분류 모델 201
4.1 판별 함수 _ 203
4.2 확률적 생성 모델 _ 221
4.3 확률적 판별 모델 _ 229
4.4 라플라스 근사 _ 240
4.5 베이지안 로지스틱 회귀 _ 245
CHAPTER 5 뉴럴 네트워크 253
5.1 피드 포워드 네트워크 함수 _ 255
5.2 네트워크 훈련 _ 261
5.3 오차 역전파 _ 271
5.4 헤시안 행렬 _ 281
5.5 뉴럴 네트워크에서의 정규화 _ 289
5.6 혼합 밀도 네트워크 _ 306
5.7 베이지안 뉴럴 네트워크 _ 312
CHAPTER 6 커널 방법론 327
6.1 듀얼 표현 _ 329
6.2 커널의 구성 _ 330
6.3 방사 기저 함수 네트워크 _ 336
6.4 가우시안 과정 _ 341
CHAPTER 7 희박한 커널 머신 363
7.1 최대 마진 분류기 _ 364
7.2 상관 벡터 머신 _ 387
CHAPTER 8 그래프 모델 403
8.1 베이지안 네트워크 _ 404
8.2 조건부 독립 _ 418
8.3 마르코프 무작위장 _ 431
8.4 그래프 모델에서의 추론 _ 443
CHAPTER 9 혼합 모델과 EM 477
9.1 K 평균 집단화 _ 478
9.2 혼합 가우시안 _ 485
9.3 EM에 대한 다른 관점 _ 495
9.4 일반적 EM 알고리즘 _ 507
CHAPTER 10 근사 추정 517
10.1 변분적 추론 _ 518
10.2 예시: 변분적 가우시안 혼합 분포 _ 531
10.3 변분적 선형 회귀 _ 545
10.4 지수족 분포 _ 549
10.5 지역적 변분 방법론 _ 552
10.6 변분적 로지스틱 회귀 _ 558
10.7 EP _ 566
CHAPTER 11 표집법 587
11.1 기본적인 표집 알고리즘 _ 590
11.2 마르코프 연쇄 몬테 카를로 _ 603
11.3 기브스 표집법 _ 608
11.4 조각 표집법 _ 613
11.5 하이브리드 몬테 카를로 알고리즘 _ 615
11.6 분할 함수 추정 _ 622
CHAPTER 12 연속 잠재 변수 627
12.1 PCA _ 629
12.2 확률적 PCA _ 640
12.3 커널 PCA _ 657
12.4 비선형 잠재 변수 모델 _ 662
CHAPTER 13 순차 데이터 677
13.1 마르코프 모델 _ 679
13.2 은닉 마르코프 모델 _ 682
13.3 선형 동적 시스템 _ 710
CHAPTER 14 모델 조합 729
14.1 베이지안 모델 평균 _ 730
14.2 위원회 방식 _ 732
14.3 부스팅 _ 733
14.4 트리 기반 모델 _ 740
14.5 조건부 혼합 모델 _ 744
부록 A. 데이터 집합 757
손글씨 숫자 _ 757
오일 흐름 _ 758
오래된 믿음 _ 761
합성 데이터 _ 762
부록 B. 확률 분포 765
베르누이 분포 _ 765
베타 분포 _ 766
이항 분포 _ 766
디리클레 분포 _ 767
감마 분포 _ 768
가우시안 분포 _ 768
가우시안 감마 분포 _ 770
가우시안 위샤트 분포 _ 770
다항 분포 _ 771
정규 분포 _ 772
스튜던트 t 분포 _ 772
균등 분포 _ 773
폰 미제스 분포 _ 773
위샤트 분포 _ 774
부록 C. 행렬의 성질 775
기본 행렬 성질 _ 775
대각합과 행렬식 _ 777
행렬 미분 _ 778
고윳값 공식 _ 779
부록 D. 변분법 783
부록 E. 라그랑주 승수법 787
참고문헌
찾아보기
서문
베타리더 후기
CHAPTER 1 소개 1
1.1 예시: 다항식 곡선 피팅 _ 5
1.2 확률론 _ 13
1.3 모델 선택 _ 36
1.4 차원의 저주 _ 37
1.5 결정 이론 _ 42
1.6 정보 이론 _ 54
CHAPTER 2 확률 분포 75
2.1 이산 확률 변수 _ 76
2.2 다항 변수 _ 83
2.3 가우시안 분포 _ 87
2.4 지수족 _ 126
2.5 비매개변수적 방법 _ 134
CHAPTER 3 선형 회귀 모델 155
3.1 선형 기저 함수 모델 _ 156
3.2 편향 분산 분해 _ 166
3.3 베이지안 선형 회귀 _ 172
3.4 베이지안 모델 비교 _ 181
3.5 증거 근사 _ 186
CHAPTER 4 선형 분류 모델 201
4.1 판별 함수 _ 203
4.2 확률적 생성 모델 _ 221
4.3 확률적 판별 모델 _ 229
4.4 라플라스 근사 _ 240
4.5 베이지안 로지스틱 회귀 _ 245
CHAPTER 5 뉴럴 네트워크 253
5.1 피드 포워드 네트워크 함수 _ 255
5.2 네트워크 훈련 _ 261
5.3 오차 역전파 _ 271
5.4 헤시안 행렬 _ 281
5.5 뉴럴 네트워크에서의 정규화 _ 289
5.6 혼합 밀도 네트워크 _ 306
5.7 베이지안 뉴럴 네트워크 _ 312
CHAPTER 6 커널 방법론 327
6.1 듀얼 표현 _ 329
6.2 커널의 구성 _ 330
6.3 방사 기저 함수 네트워크 _ 336
6.4 가우시안 과정 _ 341
CHAPTER 7 희박한 커널 머신 363
7.1 최대 마진 분류기 _ 364
7.2 상관 벡터 머신 _ 387
CHAPTER 8 그래프 모델 403
8.1 베이지안 네트워크 _ 404
8.2 조건부 독립 _ 418
8.3 마르코프 무작위장 _ 431
8.4 그래프 모델에서의 추론 _ 443
CHAPTER 9 혼합 모델과 EM 477
9.1 K 평균 집단화 _ 478
9.2 혼합 가우시안 _ 485
9.3 EM에 대한 다른 관점 _ 495
9.4 일반적 EM 알고리즘 _ 507
CHAPTER 10 근사 추정 517
10.1 변분적 추론 _ 518
10.2 예시: 변분적 가우시안 혼합 분포 _ 531
10.3 변분적 선형 회귀 _ 545
10.4 지수족 분포 _ 549
10.5 지역적 변분 방법론 _ 552
10.6 변분적 로지스틱 회귀 _ 558
10.7 EP _ 566
CHAPTER 11 표집법 587
11.1 기본적인 표집 알고리즘 _ 590
11.2 마르코프 연쇄 몬테 카를로 _ 603
11.3 기브스 표집법 _ 608
11.4 조각 표집법 _ 613
11.5 하이브리드 몬테 카를로 알고리즘 _ 615
11.6 분할 함수 추정 _ 622
CHAPTER 12 연속 잠재 변수 627
12.1 PCA _ 629
12.2 확률적 PCA _ 640
12.3 커널 PCA _ 657
12.4 비선형 잠재 변수 모델 _ 662
CHAPTER 13 순차 데이터 677
13.1 마르코프 모델 _ 679
13.2 은닉 마르코프 모델 _ 682
13.3 선형 동적 시스템 _ 710
CHAPTER 14 모델 조합 729
14.1 베이지안 모델 평균 _ 730
14.2 위원회 방식 _ 732
14.3 부스팅 _ 733
14.4 트리 기반 모델 _ 740
14.5 조건부 혼합 모델 _ 744
부록 A. 데이터 집합 757
손글씨 숫자 _ 757
오일 흐름 _ 758
오래된 믿음 _ 761
합성 데이터 _ 762
부록 B. 확률 분포 765
베르누이 분포 _ 765
베타 분포 _ 766
이항 분포 _ 766
디리클레 분포 _ 767
감마 분포 _ 768
가우시안 분포 _ 768
가우시안 감마 분포 _ 770
가우시안 위샤트 분포 _ 770
다항 분포 _ 771
정규 분포 _ 772
스튜던트 t 분포 _ 772
균등 분포 _ 773
폰 미제스 분포 _ 773
위샤트 분포 _ 774
부록 C. 행렬의 성질 775
기본 행렬 성질 _ 775
대각합과 행렬식 _ 777
행렬 미분 _ 778
고윳값 공식 _ 779
부록 D. 변분법 783
부록 E. 라그랑주 승수법 787
참고문헌
찾아보기
컴퓨터 비전과 머신 러닝 분야의 고적인자 필독서인 비숍책, 이젠 번역판으로 공부하세요!
머신 러닝은 컴퓨터 과학의 일부로서 발전해 온 반면, 패턴 인식은 공학에 그 기원을 두고 있다. 이 둘은 한 분야의 두 가지 다른 측면이라고 볼 수 있다. 머신 러닝과 패턴 인식은 지난 십여 년간 상당한 발전을 이루어 냈다. 예를 들면 베이시안 방법론은 전문가들만이 사용하던 특별한 도구였으나 이제는 주류의 방법론이 되었으며, 그래프 모델들은 확률적 모델을 묘사하고 적용하는 일반적 방법론으로 부상하였다. 이 책에서는 패턴 인식과 머신 러닝 분야에 대한 기본적인 내용을 포괄적으로 소개하고 위에서 언급된 최근의 발전 양상에 대해서도 다룰 것이다. 책의 내용을 공부하는 데 있어서 패턴 인식이나 머신 러닝 개념에 대한 사전 지식은 필요하지 않지만, 다변량 미적분과 기본적인 선형 대수학에 대한 사전 이해는 필요하다. 이 책의 내용은 고급 학부과정, 1년 차 박사과정 학생, 연구원, 관련 업계 종사자들을 고려하여 집필되었다.
현대 패턴 인식과 머신 러닝의 개념과 효과적 이해를 위한 수학적 사고!
지난 수년간 머신 러닝은 그 어느 때보다도 뜨거운 관심을 받았다. 특히, 2016년 알파고와 이세돌 9단의 대국은 더 많은 사람이 인공지능 분야에 관심을 가지게 하는 촉매제가 되었다. 이는 딥 러닝을 비롯한 여러 머신 러닝 알고리즘의 성능이 최근 매우 향상되었기 때문이다.
머신 러닝은 최근에 새롭게 생겨난 기술이 아니다. 데이터를 기반으로 해서 최적화 문제를 풀거나 예측해야 하는 다양한 분야에서 이미 오랜 시간 동안 머신 러닝 기술이 활용되었다. 최근에 가장 주목을 받고 있는 딥 러닝은 수십 년 전에 처음 제안된 뉴럴 네트워크 알고리즘이 기반이다. 오랜 시간 동안 학계로부터 외면받고 있었던 뉴럴 네트워크 기술이 GPU 등 하드웨어의 발전과 구글/페이스북 등의 회사에서 발생하는 엄청난 양의 데이터, 여러 알고리즘 개선법 등을 만나면서 새로운 모습을 보이게 된 것이다.
이 책은 지난 수십 년간 발전되어 온 확률/통계 기반의 패턴 인식과 머신 러닝 분야의 전반적인 내용을 다루고 있다. 내용을 이해하는 데 있어서 패턴 인식이나 머신 러닝 분야에 대한 사전 지식은 필요하지 않지만, 다변량 미적분과 기초 선형 대수학을 다뤄본 경험은 필요하다. 또한 기초적인 확률 이론에 대한 소개가 포함되어 있으므로 확률론에 대한 기초 지식이 반드시 필요하지는 않다. 기본적으로 학부 고학년생들이나 박사과정 1년 차 학생들을 대상으로 하고 있으나, 해당 분야의 연구자들이나 업계에서 머신 러닝을 활용하는 사람들이 읽기에도 적합하다. 그리고 머신 러닝, 통계, 컴퓨터 공학, 신호 처리, 컴퓨터 비전, 데이터 마이닝, 바이오 인포매틱스와 같은 분야의 강의 과정에서 사용하기도 적합하다.
머신 러닝은 컴퓨터 과학의 일부로서 발전해 온 반면, 패턴 인식은 공학에 그 기원을 두고 있다. 이 둘은 한 분야의 두 가지 다른 측면이라고 볼 수 있다. 머신 러닝과 패턴 인식은 지난 십여 년간 상당한 발전을 이루어 냈다. 예를 들면 베이시안 방법론은 전문가들만이 사용하던 특별한 도구였으나 이제는 주류의 방법론이 되었으며, 그래프 모델들은 확률적 모델을 묘사하고 적용하는 일반적 방법론으로 부상하였다. 이 책에서는 패턴 인식과 머신 러닝 분야에 대한 기본적인 내용을 포괄적으로 소개하고 위에서 언급된 최근의 발전 양상에 대해서도 다룰 것이다. 책의 내용을 공부하는 데 있어서 패턴 인식이나 머신 러닝 개념에 대한 사전 지식은 필요하지 않지만, 다변량 미적분과 기본적인 선형 대수학에 대한 사전 이해는 필요하다. 이 책의 내용은 고급 학부과정, 1년 차 박사과정 학생, 연구원, 관련 업계 종사자들을 고려하여 집필되었다.
현대 패턴 인식과 머신 러닝의 개념과 효과적 이해를 위한 수학적 사고!
지난 수년간 머신 러닝은 그 어느 때보다도 뜨거운 관심을 받았다. 특히, 2016년 알파고와 이세돌 9단의 대국은 더 많은 사람이 인공지능 분야에 관심을 가지게 하는 촉매제가 되었다. 이는 딥 러닝을 비롯한 여러 머신 러닝 알고리즘의 성능이 최근 매우 향상되었기 때문이다.
머신 러닝은 최근에 새롭게 생겨난 기술이 아니다. 데이터를 기반으로 해서 최적화 문제를 풀거나 예측해야 하는 다양한 분야에서 이미 오랜 시간 동안 머신 러닝 기술이 활용되었다. 최근에 가장 주목을 받고 있는 딥 러닝은 수십 년 전에 처음 제안된 뉴럴 네트워크 알고리즘이 기반이다. 오랜 시간 동안 학계로부터 외면받고 있었던 뉴럴 네트워크 기술이 GPU 등 하드웨어의 발전과 구글/페이스북 등의 회사에서 발생하는 엄청난 양의 데이터, 여러 알고리즘 개선법 등을 만나면서 새로운 모습을 보이게 된 것이다.
이 책은 지난 수십 년간 발전되어 온 확률/통계 기반의 패턴 인식과 머신 러닝 분야의 전반적인 내용을 다루고 있다. 내용을 이해하는 데 있어서 패턴 인식이나 머신 러닝 분야에 대한 사전 지식은 필요하지 않지만, 다변량 미적분과 기초 선형 대수학을 다뤄본 경험은 필요하다. 또한 기초적인 확률 이론에 대한 소개가 포함되어 있으므로 확률론에 대한 기초 지식이 반드시 필요하지는 않다. 기본적으로 학부 고학년생들이나 박사과정 1년 차 학생들을 대상으로 하고 있으나, 해당 분야의 연구자들이나 업계에서 머신 러닝을 활용하는 사람들이 읽기에도 적합하다. 그리고 머신 러닝, 통계, 컴퓨터 공학, 신호 처리, 컴퓨터 비전, 데이터 마이닝, 바이오 인포매틱스와 같은 분야의 강의 과정에서 사용하기도 적합하다.
