PRML読書会第二回まとめPart2 - nsasakiの勉強メモ

Chapter 2 :確率分布

プチ測度論(確率論で使える範囲)

面積を測るとは集合を測る。より一般化したもの。

Index

$(\omega, \mathcal{F}, P)$ の分解
Random variable, distribution
Independent, Conditional probability

sp:スペース

(1) $(\omega, \mathcal{F}, P)$ の分解

$(\omega , \mathcal{F}, P)$ 　: Probability sp
$\omega$ : sample sp 連続有無
$\mathcal{F}$ : Family of events $\sigma$ - algebra on $\omega$
$P$ : Probability measure measure on $(\omega , \mathcal{F} )$ , $P(\omega) = 1$

$w \in \omega$ :sample
$E \in \mathcal{F}$ : Event
$P(E)$ : probability of E

Def : $\mathcal{F}$ is a $\sigma$ - algebra on $\omega$

$\omega \in \mathcal{F}$
$E \in F \rightarrow E^{d} \in \mathcal{F}$ d:余事象
$(E_{n})\in \mathcal{F} \rightarrow UE_{n}\in \mathcal{F} \; n \in \mathbb{N}$ 　ユニオン(和集合)

可測でなければならない

e.g)
$\mathcal{F}=(\phi , \omega)$
$\mathcal{F} = 2^{\omega}$
$\rightarrow(\omega , \mathcal{F})$ : measurable sp

Def: P is a measure on $(\omega , \mathcal{F})$

$P(E) \geq 0$ for $^{\forall} E\in \mathcal{F}$
$P(UA_{n}) = \Sigma P(A_{n})$ for $(A_{n}) \subset \mathcal{F}$ : disjoint

$\rightarrow P(\omega) = 1$ のときProbability measure
$\rightarrow (\omega , \mathcal{F} , P)$ : Prob sp

(2)Random variable, distribution

random variable

Def : measurable function

$(\omega , \mathcal{F} ), (S, g)$ : measurable sp
X is a S-valued measurable function
- $\Leftrightarrow$
- $X: \; \omega \rightarrow S$
- $X^{-1}(A) \in \mathcal{F}$ for $^{\forall} A \in g$ ※ $X^{-1}$ はXの逆像　i.e. $X^{-1}(A) = {w | X(w)\in A}$

$\rightarrow (\omega , \mathcal{F} ,P)$ : Prob spのとき
X: s-valued r.v(random variable)
$(S, g) = $ \mathbb{R}^{n}, B(\mathbb{R}^{n} ) $$ のときX:n次元実数値確率変数　インターセクションの長さも測れますよってこと^^;

Def : distribution

$(\omega, \mathcal{F} , P)$ :Prob sp
(S, g) : measure sp
$X: \omega \rightarrow S , r,v$

e.g)
サイコロ
$\omega = {1,2,3,4,5,6}$
S = {0,1}
$X ( \omega ) = \left{ 0 \; \omega \; :even\\1 \; \omega\; :odd$

$P^{X}$ が(S,g)上のinduced measure
$\Leftrightarrow P^{X}(A) = P(X^{-1}(A)) A\in g$ //移った先でも確率を測れますよってこと。 $P^{X}$ をdistributionという
$P \left( X^{-1} \left( A \right) \right) = P \left( \left{ w | X \left( w \right) \in \left( a, b\right) \right} \right)$
「確率空間だけではなく、元の空間がなんだったのかを意識しながら考えていくこと」が大事ってこと。

(3) independent , Conditional

Def: joint distribution

$\{ X_{i} \}_{i=1}^{n} : \mathbb{R}-{\bf r,v,s}$ (sは列)
X(w) = ( $X_{1}(w)$ , ... , $X_{n}(w)$ ) : $\mathbb{R}^{n}-r.v$
( $X_{1}$ , ... , $X_{n}$ )のjoint distribution
$\Leftrightarrow$ induced measure $\mathbb{P}^{X}$ on $\mathbb{R}^{n}$

Def : independent

$\{ X_{i} \}_{i=1}^{n} :\mathbb{R} \; {\bf -r.v.s} \sqcup \leftarrow$ 独立という意味
$\Leftrightarrow P^{X}(\prod_{i=1}^{n} E_{i}) = \prod_{i=1}^{n} P^{X_{i}}(E_{i}) (\mathbb{R}, B(\mathbb{R}), P)$ for $E_{i} \in B(\mathbb{R})$