続・わかりやすい パターン認識 -教師なし学習入門-, 第 2 巻定番「わかりやすい パターン認識」の続編!ベイズ統計学の基礎から、 初学者にはとっつきにくいパターン認識の基本を丁寧な図解と数式 第1章 ベイズ統計学 |
目次
1 | |
3 | |
9 | |
11 | |
16 | |
18 | |
19 | |
第2章事前確率と事後確率 | 25 |
1前向きアルゴリズムの実験 | 158 |
2ビタービアルゴリズムの実験 | 160 |
3バウムウェルチアルゴリズムの実験 | 162 |
4識別実験 | 163 |
第9章混合分布のパラメータ推定 | 169 |
92 教師付き学習によるパラメータ推定 | 171 |
93 教師なし学習によるパラメータ推定 | 173 |
2教師付きの場合との対比 | 176 |
2コインをn回投げる場合 | 29 |
22 ベイズ更新 | 32 |
23 ベイズ更新の実験 | 33 |
第3章ベイズ決定則 | 37 |
32 事後確率最大化 | 39 |
33 事前確率の効果 | 43 |
34 ベイズ誤り確率 | 45 |
第4章パラメータ推定 | 49 |
42 最尤推定 | 50 |
43 ベイズ推定 | 52 |
44 ベータ分布 | 56 |
45 共役事前分布 | 58 |
46 ベイズ推定における推定値の特定 | 59 |
47 ベイズ推定の実験 | 61 |
2事前分布の効果 | 64 |
48 最尤推定とベイズ推定との比較 | 66 |
49 ディリクレ分布 | 69 |
第5章教師付き学習と教師なし学習 | 77 |
52 最尤推定に必要な数学 | 81 |
53 教師付き学習 | 83 |
1パラメータπiの推定 | 85 |
54 教師なし学習 | 86 |
1パラメータπiの推定 | 88 |
2パラメータθikの推定 | 89 |
3推定結果の妥当性 | 90 |
4教師付き学習との関係 | 92 |
5教師なし学習アルゴリズムの演算 | 93 |
55 教師なし学習の実験 | 95 |
第6章 EMアルゴリズム | 99 |
62 logsumからsumlogへ | 100 |
63 Q関数の特性 | 107 |
64 Q関数の最大化 | 111 |
2R2の最大化 | 112 |
65 EMアルゴリズムと補助関数法 | 113 |
2補助関数法 | 116 |
第7章マルコフモデル | 123 |
72 マルコフモデルのパラメータ推定 | 127 |
1Laの最大化 | 130 |
2Lbの最大化 | 131 |
3Lρの最大化 | 132 |
第8章隠れマルコフモデル | 133 |
82 前向き後向きアルゴリズム | 134 |
83 ビタービアルゴリズム | 138 |
84 バウムウェルチアルゴリズム | 143 |
1Qθ0Aの最大化 | 146 |
2Qθ0Bの最大化 | 148 |
3Qθ0ρの最大化 | 150 |
85 隠れマルコフモデルによる識別系 | 154 |
86 隠れマルコフモデルの実験 | 157 |
3EMアルゴリズムとの関係 | 177 |
94 混合正規分布のパラメータ推定 | 178 |
95 混合正規分布のパラメータ推定実験 | 181 |
2多次元正規分布 | 183 |
3クラスタリングについて | 184 |
第10章クラスタリング | 189 |
102 Kmeans法 | 191 |
1δkに関する最小化 | 192 |
2piに関する最小化 | 193 |
103 Kmeans法の実験 | 195 |
2Kmeans法による決定境界 | 196 |
104 Kmeans法とEMアルゴリズム | 198 |
105 凸クラスタリング法 | 201 |
106 凸クラスタリング法の実験 | 207 |
107 クラスタ数の推定 | 212 |
第11章ノンパラメトリックベイズモデル | 213 |
112 ホップの壺モデル | 216 |
113 中華料理店過程 | 219 |
114 事前確率のための確率モデル | 222 |
115 ディリクレ分布から分割ルールへ | 231 |
116 ディリクレ過程の数学 | 235 |
2確率分布Gθの形状 | 239 |
3棒折り過程 | 247 |
第12章ディリクレ過程混合モデルによるクラスタリング | 253 |
所属クラスタとそのパラメータの決定 | 257 |
所属クラスタのみ決定 | 261 |
122 ノンパラメトリックベイズモデルの実験 | 266 |
2クラスタリング法1の実験 | 268 |
3クラスタリング法2の実験 | 271 |
第13章共クラスタリング | 277 |
132 無限関係モデルIRM | 280 |
133 IRMの学習 | 283 |
付録A 補足事項 | 291 |
2正定値および半正定値 | 293 |
4最適化問題 | 295 |
A2 イェンゼンの不等式 | 297 |
A3 ベクトルと行列に関する基本公式 | 298 |
A4 KLダイバージェンス | 299 |
A5 ギブスサンプリング | 301 |
A6 ウィシャート分布と逆ウィシャート分布 | 306 |
2逆ウィシャート分布 | 307 |
A7 ベータベルヌーイ過程 | 309 |
むすび | 313 |
315 | |
著者略歴 | 317 |
318 | |
327 | |