多変数関数の微分

この記事では、Einsteinの縮約規則を使っています。

微分

$f: \mathbb{R} \to \mathbb{R}$の場合

$$ df = \frac{df}{dx}dx $$

tでの微分を考える

$$ \frac{df}{dt} = \frac{df}{dx}\frac{dx}{dt} $$

これは、chain rule。

$f: \mathbb{R}^{n} \to \mathbb{R}$の場合

$$ df = \frac{\partial f}{\partial x_{i}} dx_{i} $$

一階テンソルを使うと、

$$ df = \left[ \begin{array}{ccc} \frac{\partial f}{\partial x_{1}} & \dots & \frac{\partial f}{\partial x_{n}} \end{array} \right] \left[ \begin{array}{c} dx_{1} \\ \vdots \\ dx_{n} \end{array} \right] $$

ベクトル解析の記号を使うと、

$$ \begin{aligned} df &= \nabla f \cdot d\mathbf{x} \\ &= grad f \cdot d\mathbf{x} \end{aligned} $$

$f: \mathbb{R}^{n} \to \mathbb{R}^{m}$の場合

各成分は独立して計算できるから、

$$ df_{i} = \frac{\partial f_{i}}{\partial x_{j}} dx_{j} $$

二階テンソルを使うと、

$$ \left[ \begin{array}{c} df_{1} \\ \vdots \\ df_{m} \end{array} \right] = \left[ \begin{array}{ccc} \frac{\partial f_{1}}{\partial x_{1}} & \dots & \frac{\partial f_{1}}{\partial x_{n}} \\ \vdots & \ddots & \vdots \\ \frac{\partial f_{m}}{\partial x_{1}} & \dots & \frac{\partial f_{m}}{\partial x_{n}} \\ \end{array} \right] \left[ \begin{array}{c} dx_{1} \\ \vdots \\ dx_{n} \end{array} \right] $$

ここで、

$$ \left[ \begin{array}{ccc} \frac{\partial f_{1}}{\partial x_{1}} & \dots & \frac{\partial f_{1}}{\partial x_{n}} \\ \vdots & \ddots & \vdots \\ \frac{\partial f_{m}}{\partial x_{1}} & \dots & \frac{\partial f_{m}}{\partial x_{n}} \\ \end{array} \right] $$

はヤコビ行列

象徴的に書くと、

$$ d\mathbf{f} = J d\mathbf{x} $$

ベクトル解析の記号を使うと、

$$ df_{i} = \nabla f_{i} \cdot d\mathbf{x} $$

なので、

$$ df = \nabla \mathbf{f} d\mathbf{x} $$

となる。

上の式と比較して、

$$ J = \nabla \mathbf{f} $$

ここで、$\nabla$は$\mathbf{f}$を(ベクトルではない)値とみて作用させている

Talor展開

$f: \mathbb{R} \to \mathbb{R}$の場合

$$ \begin{aligned} f(x+\Delta x) &= \sum_{n=0}^{\infty}\frac{1}{n!}\frac{d^{n}}{dx^{n}}f(x)\Delta x^{n} \\ &= \sum_{n=0}^{\infty}\frac{1}{n!}\frac{d^{n}}{dx \dots dx}f(x) \Delta x \dots \Delta x \\ &= \sum_{n=0}^{\infty}\frac{1}{n!}\left(\Delta x \frac{d}{dx}\right)^{n}f(x) \end{aligned} $$

一次の項を取り出すと、

$$ df = dx\frac{df}{dx} $$

微分と一致

$f: \mathbb{R}^{n} \to \mathbb{R}$の場合

$f: \mathbb{R} \to \mathbb{R}$の場合を自然に拡張して、

$$ \begin{aligned} f(\mathbf{x}+\Delta \mathbf{x}) &= \sum_{n=0}^{\infty}\frac{1}{n!}\frac{\partial^{n}}{\partial x_{i_{1}} \dots \partial x_{i_{n}}}f(\mathbf{x}) \Delta x_{i_{1}} \dots \Delta x_{i_{n}} \\ &= \sum_{n=0}^{\infty}\frac{1}{n!}\left(\Delta x_{i}\frac{\partial}{\partial x_{i}}\right)^{n}f(\mathbf{x}) \\ &= \sum_{n=0}^{\infty}\frac{1}{n!}\left(\Delta \mathbf{x}\cdot\nabla\right)^{n}f(\mathbf{x}) \end{aligned} $$

一次の項を取り出すと、

$$ df = d\mathbf{x}\cdot\nabla f $$

微分と一致

$f: \mathbb{R}^{n} \to \mathbb{R}^{m}$の場合

$$ f_{i}(\mathbf{x}+\Delta \mathbf{x}) = \sum_{n=0}^{\infty}\frac{1}{n!}\left(\Delta \mathbf{x}\cdot\nabla\right)^{n}f_{i}(\mathbf{x}) $$

一次の項を取り出すと、

$$ df_{i} = d\mathbf{x}\cdot\nabla f_{i} $$

微分と一致

まとめ

$$ f(x+dx) = \sum_{n=0}^{\infty} \frac{1}{n!} d^{n}f(x) $$

ここで、$d^{n}f(x)$は$x$における$f$の$n$階全微分を表す。

例えば、多変数関数において、

$$ d^{2}f(\mathbf{x}) = \frac{\partial^{2}}{\partial x_{i}\partial x_{j}}f(\mathbf{x})dx_{i}dx_{j} $$

となる。ちなみに、$\left(\frac{\partial^{2}}{\partial x_{i}\partial x_{j}}f\right)_{i,j}$はHessian行列。