制御変量法について日本語で検索してみてもwikiで
"モンテカルロ法における分散減少法の1つ. 推定したい特性値の不偏推定量に対して, これと相関があって期待値がわかっている確率変数のことを制御変量という. 不偏推定量と制御変量の1次結合をうまく作れば,推定の分散を減らすことができる. "
程度しかわかりませんでした。
英語で検索してみると解説してくれるPDFがすぐに見つかって、読んでみると思ったより簡単そうだったので適当にメモ。
～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～
$\theta :=E(Y)$を決定したい。ここでYはある試行の結果であるとする。
また、Zを同じ試行から得られる量で、その期待値E(Z)は既知であるとする。
Zのことを制御変量(control variate)と呼ぶ。
これらについての２通りの不偏推定量
\begin{equation}
\hat{\theta }=Y \label{simple}
\end{equation}
\begin{equation}
\hat{\theta _c}=Y+c(Z-E(Z)) \label{contvar}
\end{equation}
を考える。ここで明らかに$E(\hat{\theta _c})=\theta$である。
考えるべきは$\hat{\theta}$の分散と$\hat{\theta_c}$の分散の大小関係である。分散が小さいほど、$\theta$についてより精度のよい推定値であるということになる。
\begin{equation}
{\rm var}(\hat{\theta_c})={\rm var}(Y)+2c{\rm cov}(Y,Z)+c^2{\rm var}(Z) \label{thetac}
\end{equation}
\begin{equation}
{\rm var} (\hat \theta )={\rm var}(Y)
\end{equation}
式\ref{thetac}をcについての二次式と考えると、$c=-\frac{{\rm cov}(Y,Z)}{{\rm var}(Z)}\equiv c^*$のとき${\rm var}(\hat{\theta_c})$は最小値
\begin{equation}
{\rm var}(\hat{\theta_{c^*}})={\rm var}(\hat \theta )-\frac{{\rm cov}(Y,Z)^2}{{\rm var}(Z)}
\end{equation}
をとることが分かる。これは${\rm cov}(Y,Z)\not =0$である限り${\rm var}(\hat{\theta})$より小さい。
したがって、$\theta :=E(Y)$を推定するときには、推定値として式\ref{simple}を用いるより式\ref{contvar}を用いたほうが得られる推定値の分散が小さくなる。分散の減少量は${\rm cov}(Y,Z)$の二乗に比例するが、共分散${\rm cov}(Y,Z)$はYとZの相関の大きさを表すので、相関が大きいほど、つまり制御変量Zによって得られるYについての情報量が多いほど精度よく$\theta $を推定できる。と感覚的にわかる。しかし${\rm cov}(Y,Z)$と${\rm var}(Z)$は独立でないために、${\rm var}(\hat{\theta_c})$を最小にするZは${\rm cov}(Y,Z)=\pm 1$とは限らないようだが、今はまあいいかと思ったので詳しくは調べていない。
実装に当たっては、$c^*$を使うために${\rm cov}(Y,Z)$と${\rm var}(Z)$を知る必要がある。
これらは既知とは限らないが、例えばn回目の試行なら、n-1回目までの試行で得られた値とE(Z)から推定した値を用いることで代用するらしい。
2014年3月17日月曜日
上極限と下極限
上極限と下極限について定義の式を見ただけでは全然意味がわからなかったです。いろいろ調べてみたんですが、結局ルベーグ積分30講の解説を読んで
xが$A_n$の下極限に含まれる$\Leftrightarrow $ある$n_0$が存在して$n \geq n_0 \Rightarrow x\in A_n$
xが$A_n$の上極限に含まれる$\Leftrightarrow$どんな$N>0$に対しても$n>N$かつ$x\in A_n$を満たすnが存在する
ということだと理解しました。下極限のほうがわかりやすかったので下極限、上極限の順になってます。
定義式を最初に見たとき変な形の式だなと思ったので、式的な意味でも理解しておくべきかと思い式を眺めていたら上極限と下極限を導入した経緯について自分なりに納得できたので以下にメモ。
以下は私が勝手に考えただけなので間違ってるかもしれません
～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～
集合列$\{A_n\}$、$A_1, A_2, A_3, ...A_n, ...$
について、この集合列の極限$\lim_{n \to \infty}A_n$を考える。
$A_n$は任意の集合列であるので、そもそも極限が存在することも定かではない。
そこで、先ずは極限が存在することがわかっている単調増加/単調減少の数列を出発点とする。
$B_n$を単調増加の数列、$C_n$を単調減少の数列とすると、これらの極限は
\begin{eqnarray}
\lim_{n \to \infty}B_n=\bigcup_{n=1}^{\infty}B_n
\\
\lim_{n \to \infty}C_n=\bigcap_{n=1}^{\infty}C_n
\end{eqnarray}
となる。このように単調増加/単調減少の数列ならば極限を考えることができるので、$\{A_n\}$をもとに単調増加/単調減少の数列を作り、それらの極限を考えることにする。
$\{A_n\}$をもとに単調増加の数列を作る。
\begin{equation}
B_k=\bigcap_{n=k}^{\infty}A_n
\end{equation}
は単調増加の数列である。$B_k$は$\{A_n\}$をn=kから無限大の積集合なので、kが大きくなるほど積をとる対象が少なくなるため、$k\leq l\Rightarrow B_k \subset B_l$となるのである。
$\{B_k\}$の極限を考える。
$B_k$は単調増加の集合列なので上の式より
\begin{equation}
\lim_{k \to \infty}B_k=\bigcup_{k=1}^{\infty}B_k
\end{equation}
である。この式は
\begin{equation}
\lim_{k \to \infty}B_k=\bigcup_{k=1}^{\infty}B_k=\bigcup_{k=1}^{\infty}\bigcap_{n=k}^{\infty}A_n
\end{equation}
となる。この、$A_n$をもとして作った単調増加の集合列$B_k$の極限を$A_n$の下極限と定義する。
\begin{equation}
\lim_{k \to \infty}B_k=\bigcup_{k=1}^{\infty}B_k=\bigcup_{k=1}^{\infty}\bigcap_{n=k}^{\infty}A_n\equiv \varliminf_{n \to \infty} A_n
\end{equation}
下極限は以上のような手順で作ったため、$A_n$がどのような集合列であっても下極限は存在する。
単調増加列の場合と同様に単調減少列
\begin{equation}
C_k=\bigcup_{n=k}^{\infty}A_n
\end{equation}
を作り、その極限を上極限と定義する。
\begin{equation}
\lim_{k \to \infty}C_k=\bigcap_{k=1}^{\infty}C_k=\bigcap_{k=1}^{\infty}\bigcup_{n=k}^{\infty}A_n\equiv \varlimsup_{n \to \infty} A_n
\end{equation}
こちらも$A_n$がどのような集合列であっても存在する。
これら$A_n$をもとに作った２種類の極限が一致するとき、それを$A_n$の極限と呼ぶ。
\begin{equation}
\varlimsup_{n \to \infty} A_n=\varliminf_{n \to \infty} A_n \equiv \lim_{n \to \infty}A_n
\end{equation}
xが$A_n$の下極限に含まれる$\Leftrightarrow $ある$n_0$が存在して$n \geq n_0 \Rightarrow x\in A_n$
xが$A_n$の上極限に含まれる$\Leftrightarrow$どんな$N>0$に対しても$n>N$かつ$x\in A_n$を満たすnが存在する
ということだと理解しました。下極限のほうがわかりやすかったので下極限、上極限の順になってます。
定義式を最初に見たとき変な形の式だなと思ったので、式的な意味でも理解しておくべきかと思い式を眺めていたら上極限と下極限を導入した経緯について自分なりに納得できたので以下にメモ。
以下は私が勝手に考えただけなので間違ってるかもしれません
～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～
集合列$\{A_n\}$、$A_1, A_2, A_3, ...A_n, ...$
について、この集合列の極限$\lim_{n \to \infty}A_n$を考える。
$A_n$は任意の集合列であるので、そもそも極限が存在することも定かではない。
そこで、先ずは極限が存在することがわかっている単調増加/単調減少の数列を出発点とする。
$B_n$を単調増加の数列、$C_n$を単調減少の数列とすると、これらの極限は
\begin{eqnarray}
\lim_{n \to \infty}B_n=\bigcup_{n=1}^{\infty}B_n
\\
\lim_{n \to \infty}C_n=\bigcap_{n=1}^{\infty}C_n
\end{eqnarray}
となる。このように単調増加/単調減少の数列ならば極限を考えることができるので、$\{A_n\}$をもとに単調増加/単調減少の数列を作り、それらの極限を考えることにする。
$\{A_n\}$をもとに単調増加の数列を作る。
\begin{equation}
B_k=\bigcap_{n=k}^{\infty}A_n
\end{equation}
は単調増加の数列である。$B_k$は$\{A_n\}$をn=kから無限大の積集合なので、kが大きくなるほど積をとる対象が少なくなるため、$k\leq l\Rightarrow B_k \subset B_l$となるのである。
$\{B_k\}$の極限を考える。
$B_k$は単調増加の集合列なので上の式より
\begin{equation}
\lim_{k \to \infty}B_k=\bigcup_{k=1}^{\infty}B_k
\end{equation}
である。この式は
\begin{equation}
\lim_{k \to \infty}B_k=\bigcup_{k=1}^{\infty}B_k=\bigcup_{k=1}^{\infty}\bigcap_{n=k}^{\infty}A_n
\end{equation}
となる。この、$A_n$をもとして作った単調増加の集合列$B_k$の極限を$A_n$の下極限と定義する。
\begin{equation}
\lim_{k \to \infty}B_k=\bigcup_{k=1}^{\infty}B_k=\bigcup_{k=1}^{\infty}\bigcap_{n=k}^{\infty}A_n\equiv \varliminf_{n \to \infty} A_n
\end{equation}
下極限は以上のような手順で作ったため、$A_n$がどのような集合列であっても下極限は存在する。
単調増加列の場合と同様に単調減少列
\begin{equation}
C_k=\bigcup_{n=k}^{\infty}A_n
\end{equation}
を作り、その極限を上極限と定義する。
\begin{equation}
\lim_{k \to \infty}C_k=\bigcap_{k=1}^{\infty}C_k=\bigcap_{k=1}^{\infty}\bigcup_{n=k}^{\infty}A_n\equiv \varlimsup_{n \to \infty} A_n
\end{equation}
こちらも$A_n$がどのような集合列であっても存在する。
これら$A_n$をもとに作った２種類の極限が一致するとき、それを$A_n$の極限と呼ぶ。
\begin{equation}
\varlimsup_{n \to \infty} A_n=\varliminf_{n \to \infty} A_n \equiv \lim_{n \to \infty}A_n
\end{equation}
ルベーグ積分30講 (数学30講シリーズ)
読みました。
アマゾンで、これは読み物だから電車の中でもすらすら読めちゃうぜ～、というレビューを信じて購入。最初は読みやすかったけれど、後半はわかったような気はするけど実は全然わかっていないという学部時代の懐かしい感覚を思い出し、やはり数学の本だなーと感じました。
あとルベーグ積分の応用については物足りないどころか、読み終わったとき「で、何がしたかったんだっけ？」となってしまいました。
真面目に理解しようとしたら少なくともあと２回は読まないといけない程度の理解度ですが、ルベーグ積分の雰囲気だけは感じられたのでひとまず読了ということにします。あと２回読むには退屈しそう
登録:
コメント (Atom)