PRML読書会 第二回まとめPart1

PRML
Chapter 2 :確率分布

復習

MLの流れ

inference p(d_{k} | x)
decision losss function

  1. Generative model
    • inference
    • p(x | d_{k}) 観測
    • p(d_{k}) 仮定→p(d_{k} | x)
    • or
    • p(x, d_{k})のモデル化
  2. discriminatative model
    • inference: p(d_{k}| x)
  3. 識別関数f(x)をつくる

(xからみつける)
下二つは手間がかかる。

posterior distribution があった方が良い理由
  • 観測dataを取り込めるので、時系列修正可能。
  • 棄却optionが使える。
  • priorの修正反映
  • モデルの結合が出来る
    • p(d_{k} | x_{1},x_{2}) \propto p(d_{k} | x_{1})p(d_{k} | x_{2})
  • Outlier detection p(x)

p(x|d_{k})
p(d_{k})を面倒臭がらず求めましょう。
ここから先は確率論を理解するために必要なプチ測度論