【確率変数の収束】確率収束ってどういうこと？ その意味を具体例を交えて丁寧に解説！！
今回は「確率収束」について紹介していきたいと思います。
今、きっと皆さんの頭の中では、「確率が収束するってどういうこと？」とはてなマークが浮かんでいることでしょう。
安心してください。自分も最初はそうでした。
この記事を読み終わる頃に少しでも確率収束っておもしろいな、かっこいいなと思えるはずです。
それでは初めていきましょう。
確率収束は全部で4種類ある
驚いた方も多いでしょう。そう、なんと4種類あるんです！
「4種類も勉強したくないよ、、、」
今、こう思ったことでしょう、こう感じたことでしょう。
お気持ちはわかります。
でも４種類学べば確率収束をより深く深く理解できるはずです。
どうかここでくじけず、 確率収束の定義を見ていきましょう。
概収束
確率変数の列$X_1,X_2,\cdots$を考え、これを{$X_n$}と書きます。
{$X_n$}がある確率変数$Y$に概収束するとは、
$P(\displaystyle \lim_{n \to \infty}X_n=Y)=1$
と定義する。
また、次のように略記する。
$X_n\stackrel{a.s.}{\to}Y$
つまり、確率１(=100%)で{$X_n$}が$Y$に収束するということです。
（ほとんどいたるところで）
しかし、なかなかピンとこないと思うので、具体例を出しましょう。
(具体例)
短命の種である一匹の動物について考えます。
その動物が毎日に摂る食事の数量を記録するとこの数量の列は予測不可能ですが、その値が$0$となる日は確かに必ず訪れます。
ここでは、{$X_n$}が動物が毎日に摂る食事の数量の列であり、$Y$が$0$におきかえています。
確かに確率１(=100%)で動物はいつか死亡しますね、、、
確率収束
{$X_n$}がある確率変数$Y$に確率収束するとは、
任意の$\varepsilon>0$に対して
$\displaystyle \lim_{n \to \infty}P(|X_n-Y|>\varepsilon)=0$
と定義する。
また、次のように略記する。
$X_n\stackrel{p}{\to}Y$
つまり、$X_n$の値がぴったり完全に$Y$に一致するとは言ってませんが、値が大きく外れる確率はどんどん小さくなっていくということです。(ずれの誤差を$\varepsilon$で表しています)
具体例を見ていきましょう。
(具体例)
人に弓を持たせ、的を目掛けて矢を射させる作業を考えます。
$X_n$を、その人の$n$回目までの射的の成績とします。
初めは、その人はとても頻繁に的を外すかもしれませんが、何度も繰り返す内にその人の射的の腕前は向上していき、的の中心を射抜いて 10 点の成績を得ることも起こりやすくなるでしょう。
何年も練習を重ねた後に、その人が 10 点以外の成績を得る可能性はより低くなるはずです。
したがって、 {$X_n$}は $Y=10$ へと確率収束します。
ここで{$X_n$}は、概収束はしません。
その人がどれほど優れた射手であろうとも、失敗をする確率はわずかにでも常に存在しています。
したがって、{$X_n$}は決して$Y=10$の定常状態になることはありません。たとえその頻度が少なくなろうとも、パーフェクトでない成績は必ず含まれます。
分布収束
{$X_n$}を考え、$X_n$の分布関数を$F_n(x)=P(X_n\leq x)$と表す。
このとき、$X_n$が$Y$の確率分布$G(x)=P(Y\leq x)$に分布収束するとは、
$\displaystyle \lim_{n \to \infty}F_n(x)=G(x)$が$G$の全ての連続点$x$において成り立っていることと定義する。
また、次のように略記する。
$X_n\stackrel{d}{\to}Y$
つまり、文字通り$X_n$の分布が$Y$の分布に収束します。
そうはいっても、ピンとこないと思うので、具体例を出しましょう。
（具体例）
有名なものが小数法則です。
$X_n$が試行回数$n$、成功確率 $\frac{\lambda}{n}$ の二項分布
$P(X_n=x)={_\it n}\mathrm{C}_{\it x}(\frac{\lambda}{n})^x(1-\frac{\lambda}{n})^{n-x}$
に従うとします。
このとき、$x$を固定して、$n \to \infty$とすると
$\displaystyle \lim_{n \to \infty}P(X_n=x)=\frac{\lambda^x}{x!}e^{-\lambda}$ (これはポアソン分布という)
が成り立ちます。
したがって、$X_n$はポアソン分布に収束します。
平均収束
$r\leq 1$に対して、
{$X_n$}がある確率変数$Y$に$r$次平均収束するとは、
$\displaystyle \lim_{n \to \infty} E[|X_n-Y|^r]]=0$
と定義する。
また、次のように略記する。
$X_n\stackrel{L^r}{\to}Y$
つまり、r次平均収束は、$X_n$と$X$の差のr次のべきの期待値が0へと収束することを意味します。
ということで、確率の収束４つを紹介しました。
最後に４つの収束同士の関係をみていきましょう。
収束同士の関係
- 概収束は、確率収束を意味する。つまり、$X_n\stackrel{a.s.}{\to}Y\Rightarrow X_n\stackrel{p}{\to}Y$
- 確率収束は、分布収束を意味する。つまり、$X_n\stackrel{p}{\to}Y\Rightarrow X_n\stackrel{d}{\to}Y$
- r次平均収束は、確率収束を意味する。つまり、$X_n\stackrel{L^r}{\to}Y\Rightarrow X_n\stackrel{p}{\to}Y$
- r次平均収束は、より低次sの平均収束を意味する。つまり、$X_n\stackrel{L^r}{\to}Y\Rightarrow X_n\stackrel{L^s}{\to}Y$
一つの図でこれらの関係をわかりやすく表したものがwikipediaにあったので掲載します。
記事を読んでいただきありがとうございます。
今回の記事はここまでです。少しでも確率の収束の理解が深まったでしょうか？
今度は連続写像定理なども紹介できたらなと思っています。おつかれさまでした。
【おすすめ記事】
riaimu.hateblo.jp
riaimu.hateblo.jp
riaimu.hateblo.jp
記事の内容に間違いがあった場合は、Twitterもしくはお問い合わせフォームからお伝えください。
