本筆記僅作學習交流之用

連續型隨機變數

  1. 概率累計函數

對於概率密度函數 F(x) ,我們規定其概率累計函數(Probability cummulative function) 為C(x)=int_{-infty}^{x}dxF(x) ,注意其中 x 為引入的啞變數。 C(x) 是一個非遞減函數,它的概率學意義在於它描述了當隨機變數 Xleq{x} 時的概率,因而有: C(-infty)=0 , C(infty)=1

2.生存概率函數

生存概率函數,顧名思義,隨時間增大而減小(Roger Jones教授原話:Probability of survival decreases with time),概率學意義是在 X 之前,事件不會發生的概率,因而: P(x)=int_{x}^{infty}dxF(x)

利用積分的定律,對於上述兩種函數,易知: F(x)=-dfrac{dP(x)}{dx}=dfrac{dC(x)}{dx}

高斯分布(正態分布)

高斯分布不少人在高中甚至初中就學過,卻很少有學生真正在高中就真正參悟到其中的原理的。Rojer Jones教授帶領我們從積分開始入手,真正參悟到高斯分布的實質,使人大呼過癮。

  1. 歸一化條件

一元隨機變數 x 服從高斯分布,則有概率密度函數: F(x)=frac{1}{sqrt{2pi}sigma}expleft( frac{-(x-mu)^2}{2sigma^2} 
ight) 其中 mu 是期望值。

對於其歸一化條件的確認,首先,先證明將要用到的結論:泊松積分公式 int_{-infty}^{infty}e^{-x^2}dx=sqrt{pi}

證明:令: I_x=int_{-infty}^{infty}e^{-x^2}dx I_y=int_{-infty}^{infty}e^{-y^2}dy ,兩者數學意義上等價

有: I_xI_y=int_{-infty}^{infty}{e^{-x^2}}dxint_{-infty}^{infty}e^{-y^2}dy 轉化成二重積分,有: I_xI_y=int_{-infty}^{infty}int_{-infty}^{infty}{e^{-x^2}}e^{-y^2}dxdy=int_{-infty}^{infty}int_{-infty}^{infty}{e^{-(x^2+y^{2})}}dxdy

轉化到極坐標下,即 r^{2}=x^2+y^2 ,利用雅可比矩陣進行變數代換,則:

I_xI_y=intint_{R}{re^{-r^2}}drd	heta ,確定積分上下限,有: I_xI_y=int_0^{2pi}int_{0}^{infty}{re^{-r^2}}drd	heta=2piint_0^{2pi}{re^{-r^2}dr}=2pileft[ frac{-e^{-r^2}}{2} 
ight]_0^infty=pi

故: int_{-infty}^{infty}e^{-x^2}dx=sqrt{pi} 證畢。

作變數代換: t=frac{(x-mu)}{sqrt2sigma} ,有: dfrac{dt}{dx}=dfrac{1}{sqrt{2}sigma}

則易得: int_{-infty}^{infty}{F(x)}dx=dfrac{1}{sqrt{2pi}{sigma}}int_{-infty}^{infty}{e^{-t^2}}{sqrt2sigma}{dt}=dfrac{1}{sqrt{2pi}{sigma}}sqrt2sigmasqrt{pi}=1

故高斯分布歸一化特徵得證。

至此,筆者在高中對於正態分布的疑惑被解決,真是大快人心。

2.期望:

對於高斯分布之期望,欲證明 langle{x}
angle=mu

我們求積分:

langle{x}
angle=int_{-infty}^{infty}{xF(x)}dx=frac{1}{sqrt{2pi}sigma}int_{-infty}^{infty}-xexpleft( frac{-(x-mu)^2}{2sigma^2} 
ight)

令: z=frac{x-mu}{sigma}dfrac{dx}{dz}=sigma

則: langle{x}
angle=frac{1}{sqrt{2pi}}int_{-infty}^{infty}(sigma{z}+mu)expleft( dfrac{-z^2}{2} 
ight)dz=frac{1}{sqrt{2pi}}left(int_{-infty}^{infty}sigma{z}expleft( dfrac{-z^2}{2} 
ight)dz+int_{-infty}^{infty}{mu}e^{-dfrac{z^2}{2}}dz
ight)

奇函數積分結果為零,故: langle{x}
angle=frac{1}{sqrt{2pi}}left(int_{-infty}^{infty}{mu}e^{dfrac{z^2}{2}}dz
ight)=mu{dfrac{sqrt{2pi}}{sqrt{2pi}}}=mu

證畢。

注意其中,根據換元易知: int_{-infty}^{infty}e^{-dfrac{z^2}{2}}dz=sqrt{2}sqrt{pi}

3. 方差Variance

對於高斯分布之期望,欲證明: langle(x-mu)^2
angle=sigma^2

求積分: langle(x-mu)^2
angle=frac{1}{sqrt{2pi}sigma}int_{-infty}^{infty}(x-mu)^2expleft( frac{-(x-mu)^2}{2sigma^2} 
ight)

令: a=dfrac{1}{2sigma^2},u=x-mu

則: frac{1}{sqrt{2pi}sigma}int_{-infty}^{infty}(x-mu)^2expleft( frac{-(x-mu)^2}{2sigma^2} 
ight)=frac{1}{sqrt{2pi}sigma}int_{-infty}^{infty}u^2expleft( -au^2 
ight)du

對於積分 int_{-infty}^{infty}u^2expleft( -au^2 
ight)du 我們可以採取分部積分法,但是太過繁瑣複雜。這裡引進費曼技巧,即積分符號內取微分,這種技巧十分好用。

觀察積分式可得:

int_{-infty}^{infty}u^2e^left( -au^2 
ight)du=int_{-infty}^{infty}left(- dfrac{partial}{partial{a}}{e^{-ax^2}} 
ight)dx=- dfrac{partial}{partial{a}}left(int_{-infty}^{infty} e^{-au^2}du 
ight)

由上面已證明的泊松積分,原式可化為:

- dfrac{partial}{partial{a}}left(int_{-infty}^{infty} e^{-au^2}du 
ight)=-dfrac{d}{da}sqrt{dfrac{pi}{a}}=dfrac{pi^{frac{1}{2}}}{2a^{frac{3}{2}}}

因為有: a=dfrac{1}{2sigma^2} 則原式為: langle(x-mu)^2
angle=frac{1}{sqrt{2pi}sigma}dfrac{sqrt{pi}}{2}left(2sigma^2
ight)^{frac{3}{2}}=sigma^2

證畢。

因高斯分布積分運算較為複雜,故考試時一般查表得數據。

(本章完)

下節預告:特別篇:積分必殺技--費曼技巧

推薦閱讀:

相关文章