積率母関数とは
任意の（連続）確率分布の確率密度関数を$f(x)$とおくと，
$$\phi(\theta)=E[e^{\theta x}]=\int_{-\infty}^{\infty} e^{\theta x}f(x)dx$$
離散の場合は
$$\phi(\theta)=E[e^{\theta x}]=\sum_{i=1}^n e^{\theta x_i}p(x_i)dx$$
平均や分散が計算できる
確率分布の平均や分散を計算するために便利な関数。
どうやって平均や分散を計算するかというと，$\phi(\theta)$をテーラー展開して，
$$\phi(\theta)=E\left[1+\theta x+\frac{\theta^2 x^2}{2!}+\cdots\right]$$
$$=1+\theta E[x]+\frac{\theta^2 E[x^2]}{2!}+\cdots$$
が得られるから，
$$\phi'(0)=E[x]$$
$$\phi”(0)=E[x^2]$$
が得られる。平均値$m$は，
$$m=E[x]=\phi'(0)$$
分散は
$$E[x^2]-m^2=\phi”(0)-\phi'(0)^2$$
指数分布だと
指数分布族との相性がよろしい。
$$\phi(\theta)=\int_0^\infty e^{\theta x}\frac{1}{\lambda}e^{-\frac{x}{\lambda}}dx$$
$$=\frac{1}{\lambda}\int_0^\infty e^{(\theta-\frac{1}{\lambda})x}dx$$
$$=-\frac{1}{\lambda \theta -1}$$
$$\phi'(\theta)=\frac{\lambda}{(\lambda \theta-1)^2}$$
$$\phi”(\theta)=-\frac{2\lambda^2}{(\theta \lambda -1)^3}$$
$$E[x]=\phi'(0)=\lambda$$
$$V[x]=\phi”(0)-\phi'(0)^2=\lambda^2$$
一様分布だと
一様分布なんかはけっこうややこしかったりする。
$$\phi(\theta)=E[e^{\theta x}]=\int_0^1e^{\theta x}\cdot 1dx=\frac{e^\theta-1}{\theta}$$
$$\phi'(\theta)=\frac{(\theta-1)e^\theta+1}{\theta^2}$$
$$\lim_{\theta\to 0}\phi'(\theta)=\frac{1}{2}$$
この計算は結構むずかしい。Mathematicaで・・・
$$\phi”(\theta)=\frac{(\theta^2-2\theta+2)e^\theta-2}{\theta^3}$$
$$\lim_{\theta\to 0}\phi”(\theta)=\frac{1}{3}$$
これもMathematica・・・
平均は$1/2$，分散は$1/3-(1/2)^2=1/12$
確率変数の和の分布がわかる
独立な確率変数$x_1$と$x_2$の和$x_1+x_2$の和の積率母関数$\phi_{x_1+x_2}(\theta)$は，それぞれの積率母関数$\phi_1(x)$と$\phi_2(x)$を使って
$$\phi_{x_1+x_2}(\theta)=\phi_1(x)\phi_2(x)$$
となる。
異なる確率分布が同じ積率母関数をとることがない：積率母関数を見れば，確率分布が確定できる。
以上から，$x_1+x_2$の分布が確定できる。