PRML

PRML読書会第二回まとめpart5

Chapter 2 :確率分布 Gaussian distribution 最尤推定 minimize 不偏推定ではない! 逐次推定 オンライン分野、データを処理ごとに捨てる。 N-1個のデータ: を追加:を加えて修正 一般化 Robbins-Monro algorithm θ , z : r.v.s with p(z , θ) z:観測値 θ:デ…

PRML読書会 第二回まとめPart4

Chapter 2 :確率分布 Gaussian distribution 基本事項 X 〜 N() D次元に拡張すると… 平均 共集合 ; 対称, 正定値(実数固有値を持ち、それらが正。二次形式は楕円体になる。→p.82) パラメーターの数 … そのまま 1/2 D(D+1) 斜め楕円 対角 D 楕円 1 円 μ… D 並…

PRML読書会 第二回まとめPart3

Chapter 2 :確率分布 Machine Learning unsdupervised density estimation perametric non-parametric parametric(代表的なもの) binary dist normal dist 指数型分布族 non-parametric histgram kernel K-nearest neighber 特にGaussian distributionを見て…

PRML読書会 第二回まとめPart2

Chapter 2 :確率分布 プチ測度論(確率論で使える範囲) 面積を測るとは集合を測る。より一般化したもの。 Index の分解 Random variable, distribution Independent, Conditional probability sp:スペース (1)の分解 : Probability sp : sample sp 連続有無 :…

PRML読書会 第二回まとめPart1

Chapter 2 :確率分布 復習 MLの流れ inference decision losss function Generative model inference 観測 仮定→ or のモデル化 discriminatative model inference: 識別関数f(x)をつくる (xからみつける) 下二つは手間がかかる。 posterior distribution が…

PRML読書会 第一回まとめpart3

Chapter1:序論 Probability Freauentist(客観) と Bayesian(主観) Freauentist:頻度主義 客観確率 世界の中に存在する頻度や傾向性など、主観とは独立に存在する確率。 Bayesian:ベイズ主義 主観確率 人間が考える主観的な信念あるいは信頼の度合(客観的には…

PRML読書会 第一回目まとめpart2

Chapter1:序論 Machine Larning ←膨大なデータにも対応できる。 文字の識別(画像から文字を識別する) y: x → t :category をつくる。 Training : { , ... , }に対して(手動での)ラベリング Test: xのcategory決定が可能に Machine Learning の色々 Supervi…

PRML読書会 第一回目まとめpart1

Goal : ひとりで読めるようになること。 担当者曰く必要な能力 基本知識 確率論:決定理論:情報理論 = 6 : 3 : 1 主要結果 計算過程 PRMLのChapter 序章 確率論準備 線形回帰モデル 線形識別モデル ニューラルネットワーク この辺まで出来れば良いかと。