Aritalab:Lecture/Basic/Inequality
From Metabolomics.JP
< Aritalab:Lecture | Basic(Difference between revisions)
m (New page: ==分散とモーメント== ;[定義] '''E'''[<math>X^k</math>] を確率変数 ''X'' の ''k'' 次モーメントと呼ぶ。 ;[定義] 確率変数 ''X'' の分散は : <math>\mathbf{...) |
m |
||
| Line 1: | Line 1: | ||
==分散とモーメント== | ==分散とモーメント== | ||
| − | + | '''[定義]''' '''E'''[<math>X^k</math>] を確率変数 ''X'' の ''k''次モーメントと呼ぶ。 | |
| − | + | ||
| + | '''[定義]''' 確率変数 ''X'' の分散は | ||
: <math>\mathbf{Var}[X] = \mathbf{E}[(X-\mathbf{E}[X])^2] = \mathbf{E}[X^2] - (E[X])^2</math> | : <math>\mathbf{Var}[X] = \mathbf{E}[(X-\mathbf{E}[X])^2] = \mathbf{E}[X^2] - (E[X])^2</math> | ||
| − | + | ||
| − | : <math>\sigma[X] = \sqrt{\mathbf{Var}[X]} | + | '''[定義]''' 確率変数 ''X'' の標準偏差 <math>\sigma</math> は |
| + | : <math>\sigma[X] = \sqrt{\mathbf{Var}[X]}</math> | ||
==Markovの不等式== | ==Markovの不等式== | ||
| Line 13: | Line 15: | ||
をマルコフの不等式と呼ぶ。証明は随所に見られるので省略する。 | をマルコフの不等式と呼ぶ。証明は随所に見られるので省略する。 | ||
| − | |||
| − | |||
==Chebyshevの不等式== | ==Chebyshevの不等式== | ||
| Line 23: | Line 23: | ||
をチェビシェフの不等式と呼ぶ。証明には、<math>\mbox{Pr}(|X - \mathbf{E}[X]| \geq a) = \mbox{Pr}(|X - \mathbf{E}[X]|^2 \geq a^2)</math> に対してマルコフの不等式を適用する。 | をチェビシェフの不等式と呼ぶ。証明には、<math>\mbox{Pr}(|X - \mathbf{E}[X]| \geq a) = \mbox{Pr}(|X - \mathbf{E}[X]|^2 \geq a^2)</math> に対してマルコフの不等式を適用する。 | ||
| − | + | ==MarkovとChebyshevの違い== | |
| − | + | ===例1=== | |
| + | 確率 1/''k'' で ''k'' '''E'''[''X''] をとり、確率 (1- 1/''k'') で 0 をとる確率変数 ''X'' を考える。 このときマルコフの不等式は <math>\textstyle \mbox{Pr}(X \geq k\mathbf{E}[X] ) = 1/k</math> という等号が成立しており、不等式が十分「きつい」ものであることがわかる。 | ||
| + | |||
| + | この分布の分散は <math>\textstyle \frac{k^2}{k}(\mathbf{E}[X])^2 - (\mathbf{E}[X])^2 = (k-1)(\mathbf{E}[X])^2</math> となる。チェビシェフの不等式は <math>\textstyle \mbox{Pr}(|X - \mathbf{E}[X]| \geq k\mathbf{E}[X]) \leq (k-1)/k^2</math> を与える。 | ||
Revision as of 22:15, 7 July 2010
Contents |
分散とモーメント
[定義] E[
] を確率変数 X の k次モーメントと呼ぶ。
[定義] 確率変数 X の分散は
![\mathbf{Var}[X] = \mathbf{E}[(X-\mathbf{E}[X])^2] = \mathbf{E}[X^2] - (E[X])^2](/mediawiki/images/math/0/9/a/09a2cee744e122ad5f2ca4fc6adb2fea.png)
[定義] 確率変数 X の標準偏差 
は
![\sigma[X] = \sqrt{\mathbf{Var}[X]}](/mediawiki/images/math/e/e/c/eecb8fb7e6648064b8af6f867df16daf.png)
Markovの不等式
確率変数 X と a > 0 に対し
![\textstyle \mbox{Pr}(|X| \geq a) \leq \mathbf{E}[|X|]/a](/mediawiki/images/math/b/8/1/b81f064c5185a8725a538245f64ce320.png)
をマルコフの不等式と呼ぶ。証明は随所に見られるので省略する。
Chebyshevの不等式
確率変数 X と a > 0 に対し
![\textstyle \mbox{Pr}(|X - \mathbf{E}[X]| \geq a) \leq \mathbf{Var}[X]/a^2](/mediawiki/images/math/b/3/5/b35844972c499d2207c8d5afbeab5bad.png)
をチェビシェフの不等式と呼ぶ。証明には、![\mbox{Pr}(|X - \mathbf{E}[X]| \geq a) = \mbox{Pr}(|X - \mathbf{E}[X]|^2 \geq a^2)](/mediawiki/images/math/b/1/c/b1ca3a25d1e20650cc30ff0cfdc183f7.png)
に対してマルコフの不等式を適用する。
MarkovとChebyshevの違い
例1
確率 1/k で k E[X] をとり、確率 (1- 1/k) で 0 をとる確率変数 X を考える。 このときマルコフの不等式は ![\textstyle \mbox{Pr}(X \geq k\mathbf{E}[X] ) = 1/k](/mediawiki/images/math/2/2/8/228c04e8bd57ce791664b12f02a869ad.png)
という等号が成立しており、不等式が十分「きつい」ものであることがわかる。
この分布の分散は ![\textstyle \frac{k^2}{k}(\mathbf{E}[X])^2 - (\mathbf{E}[X])^2 = (k-1)(\mathbf{E}[X])^2](/mediawiki/images/math/4/e/0/4e0677394915be22532c5e6324030f82.png)
となる。チェビシェフの不等式は ![\textstyle \mbox{Pr}(|X - \mathbf{E}[X]| \geq k\mathbf{E}[X]) \leq (k-1)/k^2](/mediawiki/images/math/9/1/4/914e1c862b0648c4e7ff7ec62d81a743.png)
を与える。
