手帳と試行

学んだことをアウトプットしていきます。 日々、ノートあるのみ。

ガウス積分

「ガウス積分」と呼ばれる公式について、個人的に必要な部分を纏めておく。

ガウス積分の公式

次のような積分公式がある。

The Gaussian Integral (1)
1.12πvdxexp(12v(xx0)2)=12.1det(2πV)dxexp(12(xx0)TV1(xx0))=1\begin{aligned} &1. & \sqrt \frac{1}{2 \pi \color{#c06} v} & \int dx \exp \left( - \frac{1}{2 \color{#c06} v} (x-x_0)^2 \right) = 1 \\ &2. & \sqrt \frac{1}{\det(2 \pi {\color{#c06} \bm V})} & \int d \bm x \exp \left( -\frac{1}{2} (\bm x - \bm x_0)^\mathsf{T} {\color{#c06} \bm V}^{-1} (\bm x - \bm x_0) \right) = 1 \end{aligned}

ただし vR+\textcolor{#c06} v \in \R_+ は正の実数で、VRn\textcolor{#c06}{\bm V} \in \R^n は半正定値行列。

正規化定数部分を右辺に払えば、次式の形でも書ける。

The Gaussian Integral (2)
1.dxexp(12v(xx0)2)=2πv2.dxexp(12(xx0)TV1(xx0))=det(2πV)\begin{aligned} &1'. & \int dx \exp \left( - \frac{1}{2 \color{#c06} v} (x-x_0)^2 \right) ={}& \sqrt{2 \pi \color{#c06} v} \\ &2'. & \int d \bm x \exp \left( -\frac{1}{2} (\bm x - \bm x_0)^\mathsf{T} {\color{#c06} \bm V}^{-1} (\bm x - \bm x_0) \right) ={}& \sqrt{\det(2\pi \textcolor{#c03}{\bm V})} \end{aligned}

以上は、赤字で示された箇所に同じものが入ると覚えておけばよい。

また、一般に VRn\bm V \in \R^n に対して det(2πV)=(2π)ndetV\det(2\pi \bm V) = (2\pi)^n \det \bm V であるから、

1.12πvdxexp(12v(xx0)2)=12.1(2π)ndetVdxexp(12(xx0)TV1(xx0))=1\begin{aligned} &1. & \sqrt \frac{1}{2 \pi \color{#c06} v} & \int dx \exp \left( - \frac{1}{2 \color{#c06} v} (x-x_0)^2 \right) = 1 \\ &2. & \sqrt \frac{1}{(2 \pi)^n \det{\color{#c06} \bm V}} & \int d \bm x \exp \left( -\frac{1}{2} (\bm x - \bm x_0)^\mathsf{T} {\color{#c06} \bm V}^{-1} (\bm x - \bm x_0) \right) = 1 \end{aligned}

とも書ける。

積分は被積分関数に含まれる積分変数 x,xx, \bm x が取りうるすべての値に対して実行される。

dxdx,dxdx1dx2 ⁣dxn\begin{aligned} \int dx &\coloneqq \int_{-\infty}^{\infty} dx, \\ \int d \bm x & \coloneqq \int_{-\infty}^{\infty} dx_1 \int_{-\infty}^{\infty} dx_2 \dots \int_{\infty}^{\infty} dx_n \end{aligned}

ガウス分布との関連

被積分関数は、正規分布の確率密度関数に一致する。

N(xx0,v):=12πvexp(12v(xx0)2)Nn(xx0,V):=1det(2πV)exp(12(xx0)TV1(xx0))\begin{aligned} \mathcal N(x | x_0, v) &:= \sqrt \frac{1}{2\pi v} \exp \left( -\frac{1}{2v} (x-x_0)^2 \right) \\ \mathcal N_n(\bm x | \bm x_0, \bm V) &:= \sqrt \frac{1}{\det(2 \pi \bm V)} \exp \left( -\frac{1}{2} (\bm x - \bm x_0)^\mathsf{T} \bm V^{-1} (\bm x - \bm x_0) \right) \end{aligned}

省略表記

a=1,A=I\begin{aligned} a &= 1, & \bm A &= \bm I \end{aligned}

の場合には、次の形になる。

12πdxexp(12(xx0)2)=11(2π)ndxexp(12xx02)=1\begin{alignedat}{2} \sqrt \frac{1}{2\pi} \int dx & \exp \left( -\frac{1}{2} (x-x_0)^2 \right) &&= 1 \\ \sqrt \frac{1}{(2\pi)^n} \int d \bm x & \exp \left( -\frac{1}{2} \| \bm x - \bm x_0 \|^2 \right) &&= 1 \end{alignedat}

この積分は特に頻繁に使うので、次のような表現を使うことがある。

Dx:=12πdxexp(12(xx0)2)Dx:=1(2π)ndxexp(12xx02)\begin{alignedat}{2} \int Dx &:=& \sqrt \frac{1}{2\pi} \int dx & \exp \left( -\frac{1}{2} (x-x_0)^2 \right) \\ \int D \bm x &:=& \sqrt \frac{1}{(2\pi)^n} \int d \bm x & \exp \left( -\frac{1}{2} \| \bm x - \bm x_0\|^2 \right) \end{alignedat}

たとえば次のように表す。

Dxf(x)=12πdxf(x)exp(12(xx0)2)\begin{aligned} \int Dx \mathop f(x) = \sqrt \frac{1}{2\pi} \int dx \mathop f(x) \exp \left( -\frac{1}{2} (x-x_0)^2 \right) \end{aligned}

平方完成するパターン

指数が2次式になっていることがある。

dxexp((ax2+bx+c))dxexp((xTAx+bTx+c))\begin{aligned} & \int dx \exp \left( -(ax^2 + bx + c) \right) \\ & \int d\bm x \exp \left( -(\bm x^\mathsf{T} \bm A \bm x + \bm b^\mathsf{T} \bm x + c) \right) \end{aligned}

この場合は、平方完成することで計算を進めることができる。2次形式の平方完成は、

ax2+bx+c=a(x+b2a)2b24a+cxTAx+bTx+c=(x+12A1b)TA(x+12A1b)14bTA1b+c\begin{aligned} ax^2 + bx + c &= a \left( x + \frac{b}{2a} \right)^2 - \frac{b^2}{4a} + c \\ \bm x^\mathsf{T} \bm A \bm x + \bm b^\mathsf{T} \bm x + c &= \left( \bm x + \frac{1}{2} \bm A^{-1} \bm b \right)^\mathsf{T} \bm A \left( \bm x + \frac{1}{2} \bm A^{-1} \bm b \right) - \frac{1}{4} \bm b^\mathsf{T} \bm A^{-1} \bm b + c \end{aligned}

で与えられるから、次のように計算できる。平方完成の詳細は 📄 平方完成 を参照。

dxexp((ax2+bx+c))=dxexp(a(x+b2a)2(b24a+c))=dxexp(a(x+b2a)2)exp((b24a+c))=πaexp(b24ac),\begin{aligned} & \int dx \exp \left( -(ax^2 + bx + c) \right) \\ ={}& \int dx \exp \left( -a \left( x + \frac{b}{2a} \right)^2 - \left( -\frac{b^2}{4a} + c \right) \right) \\ ={}& \int dx \exp \left( -a \left( x + \frac{b}{2a} \right)^2 \right) \exp \left( - \left( -\frac{b^2}{4a} + c \right) \right) \\ ={}& \sqrt\frac{\pi}{a} \exp \left( \frac{b^2}{4a} - c \right), \end{aligned}
dxexp((xTAx+bTx+c))=dxexp((x+12A1b)TA(x+12A1b)(14bTA1b+c))=dxexp((x+12A1b)TA(x+12A1b))exp((14bTA1b+c))=det(πA1)exp(14bTA1bc)\begin{aligned} & \int d\bm x \exp \left( -(\bm x^\mathsf{T} \bm A \bm x + \bm b^\mathsf{T} \bm x + c) \right) \\ ={}& \int d\bm x \exp \left( -\left( \bm x + \frac{1}{2} \bm A^{-1} \bm b \right)^\mathsf{T} \bm A \left( \bm x + \frac{1}{2} \bm A^{-1} \bm b \right) - \left(- \frac{1}{4} \bm b^\mathsf{T} \bm A^{-1} \bm b + c\right) \right) \\ ={}& \int d\bm x \exp \left( -\left(\bm x + \frac{1}{2} \bm A^{-1} \bm b \right)^\mathsf{T} \bm A \left( \bm x + \frac{1}{2} \bm A^{-1} \bm b \right) \right) \exp \left( - \left(- \frac{1}{4} \bm b^\mathsf{T} \bm A^{-1} \bm b + c\right) \right) \\ ={}& \sqrt{\det(\pi \bm A^{-1})} \exp \left( \frac{1}{4} \bm b^\mathsf{T} \bm A^{-1} \bm b - c \right) \\ \end{aligned}

以上のことは、積分結果には、平方完成したときに余った項が出てくるとまとめることができる。これを知っておくと色々と便利。

漸化式

次のような積分の実行を要求されることがある。

dxx2exp(x2)\int dx x^2 \exp \left( -x^2\right)

積分可能性について論じているわけでない限りは特に考え込む必要はなく、単に部分積分してやればよい。

dxx2exp(x2)=12dxx(2xexp(x2))=12[xexp(x2)]0+12dxexp(x2)=π2\begin{aligned} \int dx x^2 \exp \left( -x^2\right) &= -\frac{1}{2} \int dx x \left( -2x\exp \left( -x^2\right) \right) \\ &= -\frac{1}{2} \underbrace{\left[x \exp \left( -x^2\right) \right]_{-\infty}^{\infty}}_{0} + \frac{1}{2} \int dx \exp \left( -x^2\right) \\ &= \frac{\sqrt \pi}{ 2} \end{aligned}