コンテンツにスキップ

偏微分

偏微分

多変数関数の微分の基礎は偏微分である。 つまり、他の変数は定数だと思って固定した状態である一つの変数について微分する。

定義 1 (偏微分)

𝑓(𝑥1,…,𝑥𝑁)をℝ𝑁の部分集合𝑋上で定義された𝑁変数実数値関数、𝑖=1,…,𝑁とする。

(𝑎1,…,𝑎𝑁)を𝑋の内点、つまり半径𝑟>0が存在して𝐵𝑟(𝑎)⊂𝑋が成り立つとする。 ここで他の成分は固定して第𝑖成分だけ動かした時の微分係数

lim𝑥𝑖→𝑎𝑖𝑓(𝑎1,…,𝑎𝑖−1,𝑥𝑖,𝑎𝑖+1,…,𝑎𝑁)−𝑓(𝑎1,…,𝑎𝑖−1,𝑎𝑖,𝑎𝑖+1,…,𝑎𝑁)𝑥𝑖−𝑎𝑖

が存在するとき𝑓は点(𝑎1,…,𝑎𝑁)で𝑥𝑖について偏微分可能であるといい、極限を偏微分係数という。 関数𝑦=𝑓(𝑥1,…,𝑥𝑁)の点(𝑎1,…,𝑎𝑁)で𝑥𝑖についての偏微分係数を

𝑓𝑥𝑖(𝑎1,…,𝑎𝑁),𝜕𝑓𝜕𝑥𝑖(𝑎1,…,𝑎𝑁),𝜕𝑓𝜕𝑥𝑖|(𝑥1,…,𝑥𝑁)=(𝑎1,…,𝑎𝑁),(𝑓(𝑥1,…,𝑥𝑁))𝑥𝑖|(𝑥1,…,𝑥𝑁)=(𝑎1,…,𝑎𝑁),𝜕𝜕𝑥𝑖(𝑓(𝑥1,…,𝑥𝑁))|(𝑥1,…,𝑥𝑁)=(𝑎1,…,𝑎𝑁),𝑦𝑥𝑖|(𝑎1,…,𝑎𝑁),𝜕𝑦𝜕𝑥𝑖|(𝑎1,…,𝑎𝑁)

などで表す。

𝑋を開集合、つまり𝑋の点がすべて内点である場合を考える。 𝑋のすべての点で関数𝑓が𝑥𝑖について偏微分可能であるとき𝑓は𝑋上𝑥𝑖について偏微分可能であるという。 この時、(𝑥1,…,𝑥𝑁)∈𝑋に対して偏微分係数𝑓𝑥𝑖(𝑥1,…,𝑥𝑁)を対応させる集合𝑋上の実数値関数を𝑓の𝑥𝑖についての偏微分導関数という。 𝑦=𝑓(𝑥1,…,𝑥𝑁)の𝑥𝑖についての偏微分導関数を

𝑓𝑥𝑖,𝜕𝑓𝜕𝑥𝑖,(𝑓(𝑥1,…,𝑥𝑁))𝑥𝑖,𝜕𝜕𝑥𝑖(𝑓(𝑥1,…,𝑥𝑁)),𝑦𝑥𝑖,𝜕𝑦𝜕𝑥𝑖

などで表す。

方向𝑥𝑖と点(𝑎1,…,𝑎𝑁)を決めるごとに偏微分係数は実数であり、 偏微分導関数は𝑋上の実数値関数である。 偏微分導関数はしばしば偏導関数と略される。

偏微分係数および偏微分導関数は一変数の通常の微分をもとにして定義しているので、それに対する命題の類が成り立つ。 つまり、和と定数倍の微分や積の微分、商の微分、一変数関数との合成関数の微分は第𝑖成分以外の変数は固定されていることに注意して行うことができる。 ただし、多変数関数との合成関数の微分は後で述べる別の扱いをする必要があることに注意する。

例 2

原点からの距離で定まる二変数関数

𝑓(𝑥,𝑦)=𝑥2+𝑦2

の𝑥偏微分を考える。 𝑦を固定するごとに𝑥について微分すると、(𝑥,𝑦)≠(0,0)においては偏微分可能で

𝑓𝑥(𝑥,𝑦)=𝑥𝑥2+𝑦2

となる。 (𝑥,𝑦)=(0,0)においては𝑓(𝑥,0)=|𝑥|なので、これは𝑥について偏微分可能でない。 同様にして𝑓(𝑥,𝑦)の𝑦偏微分は(𝑥,𝑦)≠(0,0)においては偏微分可能で

𝑓𝑦(𝑥,𝑦)=𝑦𝑥2+𝑦2

となり、(𝑥,𝑦)=(0,0)においては偏微分可能でない。

例 3

<t_non_cont> の二変数関数

𝑓(𝑥,𝑦)={𝑥𝑦𝑥2+𝑦2((𝑥,𝑦)≠(0,0)),0((𝑥,𝑦)=(0,0))

を考える。 この関数は少なくとも(𝑥,𝑦)≠(0,0)においては偏微分可能で商の微分などから

𝑓𝑥(𝑥,𝑦)=𝑦(𝑦2−𝑥2)(𝑥2+𝑦2)2,𝑓𝑦(𝑥,𝑦)=𝑥(𝑥2−𝑦2)(𝑥2+𝑦2)2

がわかる。 (𝑥,𝑦)=(0,0)においても偏微分の定義から

𝑓𝑥(0,0)=lim𝑥→0𝑓(𝑥,0)−𝑓(0,0)𝑥=0,𝑓𝑦(0,0)=lim𝑦→0𝑓(0,𝑦)−𝑓(0,0)𝑦=0

となり、偏微分可能である。 しかしながら、<t_non_cont> で見た通りこの関数𝑓(𝑥,𝑦)は(𝑥,𝑦)=(0,0)において連続ではない。 このことは多変数関数においては偏微分可能であっても連続とは限らないことを示唆している。

全微分

定義 1 (勾配)

𝑁変数関数𝑓(𝑥)=𝑓(𝑥1,…,𝑥𝑁)が点𝑥=𝑎において各𝑥𝑖 (𝑖=1,…,𝑁)について偏微分可能であるとするとき、 偏微分係数を順番に並べて得られる𝑁次元ベクトル

∇𝑓(𝑎)=(𝑓𝑥1(𝑎),…,𝑓𝑥𝑁(𝑎))

を𝑓(𝑥)の点𝑥=𝑎での勾配という。

注意 2

勾配はベクトルとして考えるのが自然であり、内積が定義できることに注意する。

本来勾配は次に述べる全微分可能な場合に意味をなす概念であるが、 その全微分可能性の定義でこのベクトル∇𝑓(𝑎)を利用するため本テキストではここで勾配を導入する。

定義 3 (全微分)

𝑓(𝑥)をℝ𝑁の部分集合𝑋上で定義された𝑁変数実数値関数、𝑎を𝑋の内点とする。 ここで、𝑓(𝑥)が点𝑥=𝑎で各方向に偏微分可能であって、勾配を使った極限の式

lim𝑥→𝑎|𝑓(𝑥)−𝑓(𝑎)−∇𝑓(𝑎)⋅(𝑥−𝑎)|‖𝑥−𝑎‖=0

が成り立つとき、関数𝑓(𝑥)は点𝑥=𝑎で全微分可能であるという。

注意 4

全微分可能の条件を度合い関数𝜔𝑎を使って表すと

|𝑓(𝑥)−𝑓(𝑎)−∇𝑓(𝑎)⋅(𝑥−𝑎)|≤‖𝑥−𝑎‖𝜔𝑎(‖𝑥−𝑎‖)

がすべての𝑥∈𝑋で成り立つということである(𝑥=𝑎のときは両辺ともに0で不等号は成立することに注意する)。

注意 5

テキストによっては全微分

d𝑓=𝑓𝑥1(𝑎)d𝑥1+…+𝑓𝑥𝑁(𝑎)d𝑥𝑁

というものを導入することがある。 この表記は微分形式の理論で有用であるが、本テキストではそこまで必要にならない。 勾配が代わりの役割を果たす。

例 6

𝑁次元定ベクトル𝑣との内積で定まる𝑁変数関数

𝑓(𝑥)=𝑣⋅𝑥

を考える。 この関数はℝ𝑁全体で全微分可能であり、勾配は

∇𝑓(𝑥)=𝑣

となる。

例 7

定点𝑎からの距離の二乗で定まる𝑁変数関数

𝑓(𝑥)=12‖𝑥−𝑎‖2

を考える。 この関数はℝ𝑁全体で全微分可能であり、勾配は

∇𝑓(𝑥)=𝑥−𝑎

となる。

例 8

定点𝑎からの距離で定まる𝑁変数関数

𝑓(𝑥)=‖𝑥−𝑎‖

を考える。 この関数は𝑥≠𝑎で全微分可能であり、勾配は

∇𝑓(𝑥)=𝑥−𝑎‖𝑥−𝑎‖

となる。

命題 9 (全微分可能性と連続性)

𝑓(𝑥)をℝ𝑁の部分集合𝑋上で定義された𝑁変数実数値関数、𝑎を𝑋の内点とする。 ここで、𝑓(𝑥)が点𝑥=𝑎で全微分可能ならば𝑓(𝑥)は𝑥=𝑎で連続である。

証明

三角不等式とコーシー・シュワルツの不等式より

|𝑓(𝑥)−𝑓(𝑎)|≤|𝑓(𝑥)−𝑓(𝑎)−∇𝑓(𝑎)⋅(𝑥−𝑎)|+|∇𝑓(𝑎)⋅(𝑥−𝑎)|≤‖𝑥−𝑎‖𝜔𝑎(‖𝑥−𝑎‖)+‖∇𝑓(𝑎)‖‖𝑥−𝑎‖.

ここで𝑥→𝑎で最右辺は0に収束するので、𝑓(𝑥)は𝑥=𝑎で連続である。

合成関数の微分

一変数関数𝑓(𝑥),𝑔(𝑦)の合成関数の微分とは

(𝑔(𝑓(𝑥)))′=𝑔′(𝑓(𝑥))𝑓′(𝑥)

であったが、この多変数関数版を考えたい。 𝑓(𝑥)が多変数関数𝑓(𝑥)=𝑓(𝑥1,…𝑥𝑁)の場合は𝑔(𝑓(𝑥))も多変数関数で偏微分を考えると

(𝑔(𝑓(𝑥)))𝑥𝑖=𝑔′(𝑓(𝑥))𝑓𝑥𝑖(𝑥),∇(𝑔(𝑓(𝑥)))=𝑔′(𝑓(𝑥))∇𝑓(𝑥)

となるが、 問題は𝑔(𝑦)が多変数関数𝑔(𝑦)=𝑔(𝑦1,…,𝑦𝑀)の場合である。 このとき𝑓(𝑥)はℝ𝑀値関数𝑓(𝑥)=(𝑓1(𝑥),…,𝑓𝑀(𝑥))である必要があり、 𝑔(𝑓(𝑥))は(𝑓(𝑥)が一変数関数ならば)一変数関数となるのでその微分を考える価値がある。 この関数𝑓(𝑥)が𝑥=𝑎で微分可能であるとは各𝑓𝑖(𝑥) (𝑖=1,…,𝑀)が𝑥=𝑎で微分可能であることをいい、

𝑓′(𝑎)=(𝑓1′(𝑎),…,𝑓𝑀′(𝑎))

と定義する。

命題 1 (合成関数の微分)

ℝ𝑀値関数𝑓(𝑥)=(𝑓1(𝑥),…,𝑓𝑀(𝑥))が点𝑥=𝑎で微分可能で𝑀変数関数𝑔(𝑦)=𝑔(𝑦1,…,𝑦𝑀)が点𝑦=𝑓(𝑎)で全微分可能とする。 この時、合成関数𝑓(𝑔(𝑥))も𝑥=𝑎で微分可能で、

(𝑔(𝑓(𝑥)))′|𝑥=𝑎=∇𝑔(𝑓(𝑎))⋅𝑓′(𝑎)=𝑔𝑦1(𝑓(𝑎))𝑓1′(𝑎)+…+𝑔𝑦𝑀(𝑓(𝑎))𝑓𝑀′(𝑎)

が成立する。

証明

𝑔(𝑦)は𝑦=𝑏≔𝑓(𝑎)で全微分可能なので、

|𝑔(𝑦)−𝑔(𝑏)−∇𝑔(𝑏)⋅(𝑦−𝑏)|≤‖𝑦−𝑏‖𝜔𝑏(‖𝑦−𝑏‖)

である。 ここから𝑦=𝑓(𝑥), 𝑏=𝑓(𝑎)を代入し、

|𝑔(𝑓(𝑥))−𝑔(𝑓(𝑎))−∇𝑔(𝑓(𝑎))⋅(𝑓(𝑥)−𝑓(𝑎))|≤‖𝑓(𝑥)−𝑓(𝑎)‖𝜔𝑏(‖𝑓(𝑥)−𝑓(𝑎)‖).

これを|𝑥−𝑎|で割って𝑥→𝑎とすれば、

|𝑔(𝑓(𝑥))−𝑔(𝑓(𝑎))𝑥−𝑎−∇𝑔(𝑓(𝑎))⋅𝑓(𝑥)−𝑓(𝑎)𝑥−𝑎|≤‖𝑓(𝑥)−𝑓(𝑎)𝑥−𝑎‖𝜔𝑏(‖𝑓(𝑥)−𝑓(𝑎)‖)→‖𝑓′(𝑎)‖⋅0=0.

よって、

lim𝑥→𝑎𝑔(𝑓(𝑥))−𝑔(𝑓(𝑎))𝑥−𝑎=lim𝑥→𝑎∇𝑔(𝑓(𝑎))⋅𝑓(𝑥)−𝑓(𝑎)𝑥−𝑎=∇𝑔(𝑓(𝑎))⋅𝑓′(𝑎)

である。

注意 2

積の微分公式は多変数の合成関数の微分から導出することができる。 つまり積の関数ℎ(𝑥,𝑦)=𝑥𝑦の偏微分はℎ𝑥(𝑥,𝑦)=𝑦, ℎ𝑦(𝑥,𝑦)=𝑥なので、

(𝑓(𝑥)𝑔(𝑥))′=(ℎ(𝑓(𝑥),𝑔(𝑥)))′=ℎ𝑥(𝑓(𝑥),𝑔(𝑥))𝑓′(𝑥)+ℎ𝑦(𝑓(𝑥),𝑔(𝑥))𝑔′(𝑥)=𝑔(𝑥)𝑓′(𝑥)+𝑓(𝑥)𝑔′(𝑥)

がわかる。

連続微分可能性

例 3 で見たように、偏微分可能と連続とは分離された概念であるが、連続(偏)微分可能ならば(全)微分可能なので連続性も従うという事実が知られている。

定義 1 (連続微分可能性)

ℝ𝑁の開部分集合𝑋上の実数値関数𝑓が各変数𝑥𝑖 (𝑖=1,…,𝑁)に対して偏微分可能で偏微分導関数𝑓𝑥𝑖が𝑋上の連続関数である時、𝑓は𝑋上連続微分可能であるという。

注意 2

各偏微分導関数𝑓𝑥𝑖が連続関数のところは∇𝑓が連続関数と読みかえられる。

命題 3 (連続微分可能ならば全微分可能)

ℝ𝑁の開部分集合𝑋上の実数値関数𝑓が連続微分可能ならば、𝑓は𝑋上の各点で全微分可能である。

証明

証明は点𝑎=(𝑎1,…,𝑎𝑁)∈𝑋とその近傍の点𝑥=(𝑥1,…,𝑥𝑁)∈𝑋について、𝑥から𝑎へ𝑥1,…,𝑥𝑁軸に沿って近づけるという方法で行う。 そのためにまず各𝑥𝑖に対して次の値

|𝑓(𝑥1,…,𝑥𝑖,…,𝑥𝑁)−𝑓(𝑥1,…,𝑎𝑖,…,𝑥𝑁)−𝑓𝑥𝑖(𝑎1,…,𝑎𝑖,…,𝑎𝑁)(𝑥𝑖−𝑎𝑖)|

を評価する。 ここで𝑥↦𝑓(𝑥1,…,𝑥,…,𝑥𝑁)に対する平均値の定理より0≤𝜃≤1が存在して、

|𝑓(𝑥1,…,𝑥𝑖,…,𝑥𝑁)−𝑓(𝑥1,…,𝑎𝑖,…,𝑥𝑁)−𝑓𝑥𝑖(𝑎1,…,𝑎𝑖,…,𝑎𝑁)(𝑥𝑖−𝑎𝑖)|≤|𝑓𝑥𝑖(𝑥1,…,𝜃𝑎𝑖+(1−𝜃)𝑥𝑖,…,𝑥𝑁)−𝑓𝑥𝑖(𝑎1,…,𝑎𝑖,…,𝑎𝑁)|(𝑥𝑖−𝑎𝑖)).

したがって、𝜔を∇𝑓の連続性の度合いとして、

|𝑓(𝑥1,…,𝑥𝑖,…,𝑥𝑁)−𝑓(𝑥1,…,𝑎𝑖,…,𝑥𝑁)−𝑓𝑥𝑖(𝑎1,…,𝑎𝑖,…,𝑎𝑁)(𝑥𝑖−𝑎𝑖)|≤𝜔(‖(𝑥1,…,𝜃𝑎𝑖+(1−𝜃)𝑥𝑖,…,𝑥𝑁)−(𝑎1,…,𝑎𝑖,…,𝑎𝑁)‖)|𝑥𝑖−𝑎𝑖|≤𝜔(‖𝑥−𝑎‖+|𝜃𝑎𝑖+(1−𝜃)𝑥𝑖−𝑎𝑖|)|𝑥𝑖−𝑎𝑖|

ここで0≤𝜃≤1なので、

|𝜃𝑎𝑖+(1−𝜃)𝑥𝑖−𝑎𝑖|=(1−𝜃)|𝑥𝑖−𝑎𝑖|≤|𝑥𝑖−𝑎𝑖|

よって、

|𝑓(𝑥1,…,𝑥𝑖,…,𝑥𝑁)−𝑓(𝑥1,…,𝑎𝑖,…,𝑥𝑁)−𝑓𝑥𝑖(𝑎1,…,𝑎𝑖,…,𝑎𝑁)(𝑥𝑖−𝑎𝑖)|≤𝜔(‖𝑥−𝑎‖+|𝑥𝑖−𝑎𝑖|)|𝑥𝑖−𝑎𝑖|≤𝜔(2‖𝑥−𝑎‖)‖𝑥−𝑎‖

である。 あとはこれを用いることで、

|𝑓(𝑥)−𝑓(𝑎)−∇𝑓(𝑎)⋅(𝑥−𝑎)|≤∑𝑖=1𝑁|𝑓(𝑎1,…,𝑥𝑖,…,𝑥𝑁)−𝑓(𝑎1,…,𝑎𝑖,…,𝑥𝑁)−𝑓𝑥𝑖(𝑎1,…,𝑎𝑖,…,𝑎𝑁)(𝑥𝑖−𝑎𝑖)|≤𝑁𝜔(2‖𝑥−𝑎‖)‖𝑥−𝑎‖

よって、𝑓は全微分可能である。

定理 4

弧状連結な開集合𝑋上の関数𝑓がすべての内点𝑥で全微分可能であり∇𝑓(𝑥)=0を満たすならば、𝑓は定数関数である。

証明

<t_pcurv> より𝑋の任意の二点𝑥,𝑦は𝑥1,…,𝑥𝑁軸に並行ないくつかの線分で結ばれて、それぞれの線分で偏微分が0なので、𝑓(𝑥)=𝑓(𝑦)が成り立つ。

注意 5

この定理の偏微分版つまり𝑓𝑥𝑖(𝑥)=0ならば𝑓(𝑥)は𝑥𝑖について定数関数は一般には成り立たない。 反例としてはコの字形の領域により与えられる。

高階の偏微分

𝑁変数関数𝑓の𝑥𝑖での偏微分導関数𝑓𝑥𝑖はやはり𝑁変数関数なので引き続き𝑥𝑗での偏微分導関数を(存在すれば)考えることができる。

定義 1 (高階偏微分)

ℝ𝑁の開部分集合𝑋上の関数𝑓が変数𝑥𝑖 (𝑖=1,…,𝑁)に対して偏微分可能で偏微分導関数𝑓𝑥𝑖が変数𝑥𝑗 (𝑗=1,…,𝑁)で偏微分可能である時、𝑓は𝑋上二回偏微分可能であるといい、偏微分導関数

𝑓𝑥𝑖𝑥𝑗=(𝑓𝑥𝑖)𝑥𝑗,𝜕2𝑓𝜕𝑥𝑗𝜕𝑥𝑖=𝜕𝜕𝑥𝑗(𝜕𝑓𝜕𝑥𝑖)

を𝑓の二階偏微分導関数という。 同様にして、𝑖1,…,𝑖𝑛=1,…,𝑁 (𝑛=1,2,3,…)に対して偏微分導関数𝑓𝑥𝑖1…,𝑥𝑖𝑛を𝑓の𝑛階偏微分導関数という。 すべての𝑛階偏微分導関数が連続の時、𝑓は𝑋上で𝐶𝑛級であるという。 さらに𝑓が𝑋上ですべての𝑛=1,2,3,…で𝐶𝑛級である時、𝑓は𝐶∞級であるという。

注意 2

𝐶1級であることは連続微分可能であることと同値である。

この定義によると𝑁変数関数の𝑛階偏微分導関数は𝑁𝑛個あるが、実際にはいくつかは等しい。

定理 3 (シュワルツの定理)

𝑓(𝑥,𝑦)を二変数関数として(𝑎,𝑏)を定義域の内点とする。 ここで(𝑎,𝑏)の近傍において𝑓𝑥, 𝑓𝑦, 𝑓𝑥𝑦が存在して𝑓𝑥𝑦が(𝑎,𝑏)で連続ならば、𝑓𝑦𝑥も存在して

𝑓𝑦𝑥(𝑎,𝑏)=𝑓𝑥𝑦(𝑎,𝑏)

が成り立つ。

証明

ℎ,𝑘≠0として、平均値の定理を二回用いると

𝑓(𝑎+ℎ,𝑏+𝑘)−𝑓(𝑎+ℎ,𝑏)−𝑓(𝑎,𝑏+𝑘)+𝑓(𝑎,𝑏)=ℎ(𝑓𝑥(𝑎+𝛼ℎ,𝑏+𝑘)−𝑓𝑥(𝑎+𝛼ℎ,𝑏))=ℎ𝑘𝑓𝑥𝑦(𝑎+𝛼ℎ,𝑏+𝛽𝑘)

となる0≤𝛼,𝛽≤1が存在することがわかる。 ここで𝑓𝑥𝑦は連続より、𝜔を連続性の度合いとして

|𝑓(𝑎+ℎ,𝑏+𝑘)−𝑓(𝑎+ℎ,𝑏)−𝑓(𝑎,𝑏+𝑘)+𝑓(𝑎,𝑏)−ℎ𝑘𝑓𝑥𝑦(𝑎,𝑏)|≤|ℎ𝑘|𝜔(𝛼2ℎ2+𝛽2𝑘2)≤|ℎ𝑘|𝜔(ℎ2+𝑘2)

となることがわかる。 あとは先に𝑘で割って極限を取ってから次いでℎで割って極限を取ることで、

|𝑓𝑦(𝑎+ℎ,𝑏)−𝑓𝑦(𝑎,𝑏)−ℎ𝑓𝑥𝑦(𝑎,𝑏)|≤|ℎ|𝜔(|ℎ|),limℎ→0|𝑓𝑦(𝑎+ℎ,𝑏)−𝑓𝑦(𝑎,𝑏)ℎ−𝑓𝑥𝑦(𝑎,𝑏)|≤0.

したがって𝑓𝑦𝑥(𝑎,𝑏)が存在して、その値は𝑓𝑥𝑦(𝑎,𝑏)に一致する。

この定理は3変数以上の多変数関数に対しても任意の二つの変数に対して適用することで偏微分の順序交換をすることができ、 3回以上微分可能な関数に対しても定理を繰り返し用いることで任意の偏微分の順序交換をすることができる。 例えば𝐶3級の𝑁変数関数に対して、

𝑓𝑥𝑖𝑥𝑗𝑥𝑘=𝑓𝑥𝑘𝑥𝑗𝑥𝑖

などが成り立つ。

ヤコビ行列とヘッセ行列

ℝ𝑀値関数に対して勾配ベクトルを並べて得られる行列をヤコビ行列という。

定義 1 (ヤコビ行列)

𝑁次元点集合上の𝑀個の実数値関数𝑓1(𝑥)=𝑓1(𝑥1,…,𝑥𝑁),…,𝑓𝑀(𝑥)=𝑓𝑀(𝑥1,…,𝑥𝑁)が内点𝑥=𝑎で偏微分可能な時、ℝ𝑀値関数𝐹(𝑥)=(𝑓1(𝑥),…,𝑓𝑀(𝑥))は𝑥=𝑎で偏微分可能といい、 𝑀×𝑁型行列

𝐽𝐹(𝑎)=∇𝐹(𝑎)=(𝑓𝑥11(𝑎)⋯𝑓𝑥𝑁1(𝑎)⋮⋱⋮𝑓𝑥1𝑀(𝑎)⋯𝑓𝑥𝑁𝑀(𝑎))

を𝐹(𝑥)の𝑥=𝑎でのヤコビ行列という。

特に𝑀=𝑁の場合はヤコビ行列は正方行列になり、 行列式det𝐽𝐹(𝑎)が定義されてヤコビ行列式あるいはヤコビアンという。

例 2 (線形写像)

𝐴を𝑀×𝑁型行列として𝑁次元ベクトル𝒙を𝑀次元ベクトル𝐴𝒙に移す線形写像𝐹(𝒙)=𝐴𝒙を考えると、 ヤコビ行列は

𝐽𝐹(𝒙)=𝐴

となる(ベクトル𝒙によらない)。 特に𝐴が𝑁次正方行列の場合の一次変換(線形変換)𝐹(𝒙)=𝐴𝒙のヤコビアンは

det𝐽𝐹(𝒙)=det𝐴

である。

例 3 (極座標変換)

極座標変換𝑥=𝑟cos𝜃,𝑦=𝑟sin𝜃のヤコビアンを計算すると、

det(𝑥𝑟𝑥𝜃𝑦𝑟𝑦𝜃)=|cos𝜃−𝑟sin𝜃sin𝜃𝑟cos𝜃|=𝑟cos2𝜃+𝑟sin2𝜃=𝑟

となる。

一回偏微分を並べて勾配ベクトルが得られたように二回偏微分を並べてヘッセ行列と呼ばれるものが定義される。

定義 4 (ヘッセ行列)

𝑁次元点集合上の実数値関数𝑓(𝑥)=𝑓(𝑥1,…,𝑥𝑁)が内点𝑥=𝑎の近傍で二回偏微分可能な時、𝑁次正方行列

𝐻𝑓(𝑎)=∇2𝑓(𝑎)=(𝑓𝑥1𝑥1(𝑎)⋯𝑓𝑥1𝑥𝑁(𝑎)⋮⋱⋮𝑓𝑥𝑁𝑥1(𝑎)⋯𝑓𝑥𝑁𝑥𝑁(𝑎))

を𝑓(𝑥)の𝑥=𝑎でのヘッセ行列あるいはヘシアンという。

注意 5

𝑓が𝐶2級関数の時、シュワルツの定理よりヘッセ行列は実対称行列である。

極値問題

点集合上の関数𝑓がどのような点で最大または最小になるかという極値問題は様々な場面で現れる重要な問題である。 一変数の時と同様にこの問題に一定の指針を与えるのが次の最大値原理である。

定理 1 (最大値原理)

𝑁次元点集合𝑋上の関数𝑓が𝑋の内点𝑎で最大または極大または最小または極小とする。 ここで、𝑓が𝑎で𝑥𝑖について偏微分可能であるとすると、𝑓𝑥𝑖(𝑎)=0が成立する。 特に𝑓が𝑎で全微分可能ならば∇𝑓(𝑎)=0が成り立つ。

この定理により最大点や最小点では勾配が0である(勾配が消えているという)ものの中にあるか境界上にあることがわかる。 特に境界を持たない点集合である開集合での極値問題は勾配が消える点を調べたので十分である。

そのような勾配が消える点を停留点と呼ぶ。

定義 2 (停留点)

𝑁次元開集合𝑋上の関数𝑓が内点𝑎で∇𝑓(𝑎)=0を満たす時、𝑎を𝑓の停留点という。

例 3

二次式

𝑓(𝑥,𝑦)=𝑎𝑥2+𝑏𝑥𝑦+𝑐𝑦2+𝑑𝑥+𝑒𝑦+𝑓

は

𝑓𝑥(𝑥,𝑦)=2𝑎𝑥+𝑏𝑦+𝑑,𝑓𝑦(𝑥,𝑦)=𝑏𝑥+2𝑐𝑦+𝑒

より、𝑓の停留点は連立方程式

2𝑎𝑥+𝑏𝑦+𝑑=0,𝑏𝑥+2𝑐𝑦+𝑒=0

の解(𝑥,𝑦)である。 この連立一次方程式は

(2𝑎𝑏𝑏2𝑐)(𝑥𝑦)=(−𝑑−𝑒)

と表すことができるので、 係数行列が逆行列を持つつまり行列式が非零なので

|2𝑎𝑏𝑏2𝑐|=4𝑎𝑐−𝑏2≠0

の時、停留点は

(𝑥𝑦)=−(2𝑎𝑏𝑏2𝑐)−1(𝑑𝑒)

と求まる。

一般には𝑁次実対称行列𝐴と𝑁次元実ベクトル𝒃と実数𝑐に対して、 二次式

𝑓(𝒙)=𝒙⋅𝐴𝒙+𝒃⋅𝒙+𝑐

を考えると

∇𝑓(𝒙)=2𝐴𝒙+𝒃

である。 よって、det𝐴≠0の時は停留点は

𝒙=−12𝐴−1𝒃

と求まる。

停留点であることは極大や極小であることの必要条件であるが、逆は一般には成り立たない。

例 4

二次式

𝑓1(𝑥,𝑦)=𝑥2+𝑦2,𝑓2(𝑥,𝑦)=−𝑥2−𝑦2,𝑓3(𝑥,𝑦)=𝑥2−𝑦2,

の停留点はいずれも原点(0,0)である。 しかしながら、極大極小については分かれて、𝑓1の場合は最小、𝑓2の場合は最大、𝑓3の場合は最大でも最小でもないことになる。 𝑓3については𝑥軸方向には最小で𝑦軸方向には最大となっている。

一変数関数がそうであったように多変数関数においても二階微分つまりヘッセ行列と極値であることの関係が知られている。 つまり𝑓を点𝑎の近傍で𝐶2級の関数とすると、方向を表すベクトル𝑒ごとに合成関数𝑔(𝑡)=𝑓(𝑎+𝑒𝑡)の一回微分と二回微分は

𝑔′(𝑡)=∇𝑓(𝑎+𝑒𝑡)⋅𝑒,𝑔′(0)=∇𝑓(𝑎)⋅𝑒,𝑔″(𝑡)=𝑒⋅𝐻𝑓(𝑎+𝑒𝑡)𝑒,𝑔″(0)=𝑒⋅𝐻𝑓(𝑎)𝑒

となることに注意する。

定理 5 (二階最大値原理)

𝑓を𝑁次元点集合上の関数で点𝑎の近傍で𝐶2級とする。

  • 𝑓が点𝑎で最大または極大となるならば、任意のベクトル𝑒∈ℝ𝑁に対して∇𝑓(𝑎)⋅𝑒=0かつ𝑒⋅𝐻𝑓(𝑎)𝑒≤0が成り立つ。
  • 𝑓が点𝑎で最小または極小となるならば、任意のベクトル𝑒∈ℝ𝑁に対して∇𝑓(𝑎)⋅𝑒=0かつ𝑒⋅𝐻𝑓(𝑎)𝑒≥0が成り立つ。

定理 6 (二階微分判定法)

𝑓を𝑁次元点集合上の関数で点𝑎の近傍で𝐶2級とする。

  • 任意の零でないベクトル𝑒∈ℝ𝑁に対して∇𝑓(𝑎)⋅𝑒=0かつ𝑒⋅𝐻𝑓(𝑎)𝑒<0を満たすならば、𝑓は点𝑎で極大となる。
  • 任意の零でないベクトル𝑒∈ℝ𝑁に対して∇𝑓(𝑎)⋅𝑒=0かつ𝑒⋅𝐻𝑓(𝑎)𝑒>0を満たすならば、𝑓は点𝑎で極小となる。

注意 7

正方行列𝐴が任意のベクトル𝑒≠0に対して𝑒⋅𝐴𝑒>0を満たすことは𝐴が正定値であると呼ばれ、𝐴の固有値がすべて正であるとも表現される。 同様にして𝑒⋅𝐴𝑒<0は負定値、𝑒⋅𝐴𝑒≥0は半正定値(非負定値)、𝑒⋅𝐴𝑒≤0は半負定値(非正定値)であるといい、それぞれ固有値がすべて負、非負、非正 を意味する。

陰関数定理

𝑥𝑦平面上の図形の表示方法はいろいろあるが最も表現できる対象の範囲が広いのが方程式𝑓(𝑥,𝑦)=0による表示である。 この図形は𝑥を固定するごとに方程式を𝑦について解くことで、𝑦=𝑔(𝑥)と関数のグラフとして表示できることが期待される。 このような方程式から定まる関数のことを陰関数という。 例えば円の方程式𝑥2+𝑦2=1を𝑦について解くことで𝑦=±1−𝑥2とするということが同期である。 実際にはこの例のように陰関数は一般に複数あったり(多価という)また存在しないこともあるが、一意(正確には一価)な陰関数が存在することを保証するのが陰関数定理である。 一般的な陰関数定理の要点は以下の通りである。 つまり、𝑓(𝑎,𝑏)=0となるような点(𝑎,𝑏)において𝑦偏微分𝑓𝑦(𝑎,𝑏)が消えていない時、(𝑎,𝑏)の近くで𝑓(𝑥,𝑦)=0は𝑦=𝑔(𝑥)と陰関数表示される。 また陰関数𝑓(𝑥)は𝑓(𝑥,𝑔(𝑥))=0を満たすので、𝑓も𝑔も𝐶1級であればこれを微分して、

𝑓𝑥(𝑥,𝑔(𝑥))+𝑓𝑦(𝑥,𝑔(𝑥))𝑔′(𝑥)=0,

つまり

𝑔′(𝑥)=−𝑓𝑥(𝑥,𝑔(𝑥))𝑓𝑦(𝑥,𝑔(𝑥))

を得る。 これは𝑦=𝑔(𝑥)と設定しているので、

𝑦′=−𝑓𝑥(𝑥,𝑦)𝑓𝑦(𝑥,𝑦)

とも書くことができる。

定理 1 (陰関数定理1)

二変数実数値関数𝑓(𝑥,𝑦)を点(𝑎,𝑏)∈ℝ×ℝの近傍で定義された𝐶1級関数で𝑓(𝑎,𝑏)=0とする。 ここで𝑓𝑦(𝑎,𝑏)≠0の時、ある半径𝑟,𝑅>0が存在して、各𝑥∈𝐵𝑟(𝑎)に対して𝑦∈𝐵𝑅(𝑏)の範囲で𝑓(𝑥,𝑦)=0を満たす𝑦が一意に存在しそれを𝑔(𝑥)とおくと𝑔は𝐶1級であり、

𝑔′(𝑥)=−𝑓𝑥(𝑥,𝑔(𝑥))𝑓𝑦(𝑥,𝑔(𝑥))

が成り立つ。

証明

𝑓𝑦(𝑎,𝑏)<0の場合も同様なので、𝑓𝑦(𝑎,𝑏)>0の場合だけ証明する。 仮定より𝑓𝑦は連続関数なので、半径𝑟1,𝑅2>0が存在して𝐵𝑟1(𝑎)×𝐵𝑅1(𝑏)上の全ての(𝑥,𝑦)で

𝑓𝑦(𝑥,𝑦)≥12𝑓𝑦(𝑎,𝑏)>0

となる。 ここで𝑥∈𝐵𝑟1(𝑎)を固定するごとに𝑓(𝑥,𝑦)は𝑦について[𝑏−𝑅1,𝑏+𝑅1]で狭義単調増加であることに注意する。 よって

𝑓(𝑎,𝑏−𝑅1)<𝑓(𝑎,𝑏)=0<𝑓(𝑎,𝑏+𝑅1)

より、𝑓の連続性から𝑟1より小さい半径𝑟2>0が存在して任意の𝑥∈𝐵𝑟2(𝑎)に対して

𝑓(𝑥,𝑏−𝑅1)<0<𝑓(𝑥,𝑏+𝑅1)

が成り立つ。 したがって𝑥∈𝐵𝑟2(𝑎)ごとに中間値の定理と𝑓(𝑥,𝑦)の𝑦についての単調性より𝑓(𝑥,𝑦)=0となる𝑦が一意に存在してこれを𝑔(𝑥)とおくと𝑔(𝑎)=𝑏である。 以降では𝑔(𝑥)の𝑥∈𝐵𝑟2(𝑎)での微分可能性を見る。 テイラーの定理よりℎ≠0に対して、𝑦=𝑔(𝑥), 𝑘=𝑔(𝑥+ℎ)−𝑔(𝑥)とおくと、

𝑓(𝑥+ℎ,𝑦+𝑘)=𝑓(𝑥,𝑦)+𝑓𝑥(𝑥+𝛼ℎ,𝑦+𝛽𝑘)ℎ+𝑓𝑦(𝑥+𝛼ℎ,𝑦+𝛽𝑘)𝑘

となる0≤𝛼,𝛽<1が存在する。 ここで𝑦,𝑘の定め方から𝑓(𝑥+ℎ,𝑦+𝑘)=𝑓(𝑥,𝑦)=0であるから、

𝑘ℎ=𝑔(𝑥+ℎ)−𝑔(𝑥)ℎ=𝑓𝑥(𝑥+𝛼ℎ,𝑦+𝛽𝑘)𝑓𝑦(𝑥+𝛼ℎ,𝑦+𝛽𝑘).

ここで最右辺は𝑥,ℎについて有界なので、ℎ→0とすると𝑘→0であり、最右辺は収束するので最終的に

𝑔′(𝑥)=limℎ→0𝑔(𝑥+ℎ)−𝑔(𝑥)ℎ=−𝑓𝑥(𝑥,𝑦)𝑓𝑦(𝑥,𝑦)=−𝑓𝑥(𝑥,𝑔(𝑥))𝑓𝑦(𝑥,𝑔(𝑥))

を得る。 よって𝑔は微分可能で特に連続であり、最右辺は連続なので𝑔′も連続つまり𝑔は𝐶1級である。

そして陰関数の滑らかさは方程式の滑らかさまで上がることが知られている。

系 1.1

𝑓が𝐶𝑛級の時、陰関数𝑔も𝐶𝑛級である。

証明

𝑓が𝐶2級の時、𝑓𝑥と𝑓𝑦は𝐶1級で定理より𝑔も𝐶1級なので式 (0.1) の両辺は𝐶1級であり、𝑔は𝐶2級である。 この議論を繰り返し用いることで𝑓が𝐶𝑛級ならば𝑔も𝐶𝑛級であることがわかる。

ラグランジュの未定乗数法

閉集合𝑋上で関数𝑓(𝑥)の最大最小を考える問題は、内部では停留点になるので、あとは境界上での最大最小の問題となり、 しばしば境界が𝑔(𝑥)=0の形をしているときに束縛条件𝑔(𝑥)=0のもとでの𝑓(𝑥)の最大最小を考えることになる。 このような問題に絶大な威力を発揮するのが(ラグランジュの)未定乗数法である。 つまり𝑓(𝑥)の停留点を考えるのではなく、未定乗数と呼ばれる新しい変数𝑘を使って定義される関数

𝐹(𝑥,𝑘)=𝑓(𝑥)−𝑘𝑔(𝑥)

の停留点(𝑥,𝑘)=(𝑎,𝑘)を考えればよい。 つまり、

∇𝑥𝐹(𝑎,𝑘)=∇𝑓(𝑎)−𝑘∇𝑔(𝑎)=0,𝐹𝑘(𝑎,𝑘)=−𝑔(𝑎)=0

を満たす点𝑥=𝑎が最大最小を達成する点の候補である。 実際には∇𝑔(𝑎)≠0という条件もつくことに注意する。 𝑓,𝑔を二変数関数とすると、𝑔(𝑥)=0で一つの変数に束縛がついてそれを𝑓(𝑥)に代入すると一変数関数の最大最小を考えることにはなるが、未定乗数法ではあえて変数を増やし三変数関数𝐹(𝑥,𝑘)を考えるという不思議な方法である。

定理 1 (ラグランジュの未定乗数法)

𝑓(𝑥,𝑦), 𝑔(𝑥,𝑦)を二変数𝐶1級関数として、点(𝑥,𝑦)が束縛条件𝑔(𝑥,𝑦)=0を満たしながら動くときに𝑓(𝑥,𝑦)が点(𝑥,𝑦)=(𝑎,𝑏)で最大または極大または最小または極小とする。 このとき∇𝑔(𝑎,𝑏)=0または

∇𝑓(𝑎,𝑏)=𝑘∇𝑔(𝑎,𝑏)

となる実数𝑘が存在する。

証明は陰関数定理を用いて一変数関数に帰着させる。

証明

∇𝑔(𝑎,𝑏)≠0つまり𝑔𝑥(𝑎,𝑏)≠0または𝑔𝑦(𝑎,𝑏)≠0の時を考えて、変数𝑥,𝑦の対称性より𝑔𝑦(𝑎,𝑏)≠0の場合を考える。 このとき陰関数定理が使えて、点(𝑎,𝑏)の近くでは𝑔(𝑥,𝑦)=0を満たす点(𝑥,𝑦)は𝑦=𝑦(𝑥)と解けて

𝑦′(𝑥)=−𝑔𝑥(𝑥,𝑦(𝑥))𝑔𝑦(𝑥,𝑦(𝑥))

となるのであった。 ここで一変数関数ℎ(𝑥)=𝑓(𝑥,𝑦(𝑥))は𝑥=𝑎で最大または極大または最小または極小より

ℎ′(𝑎)=𝑓𝑥(𝑎,𝑦(𝑎))+𝑓𝑦(𝑎,𝑦(𝑎))𝑦′(𝑎)=𝑓𝑥(𝑎,𝑏)−𝑓𝑦(𝑎,𝑏)𝑔𝑥(𝑎,𝑏)𝑔𝑦(𝑎,𝑏)=0

が満たされる。 したがって

𝑓𝑥(𝑎,𝑏)=𝑓𝑦(𝑎,𝑏)𝑔𝑦(𝑎,𝑏)𝑔𝑥(𝑎,𝑏)

であり、自明なこととして

𝑓𝑦(𝑎,𝑏)=𝑓𝑦(𝑎,𝑏)𝑔𝑦(𝑎,𝑏)𝑔𝑦(𝑎,𝑏)

なので、 𝑘=𝑓𝑦(𝑎,𝑏)𝑔𝑦(𝑎,𝑏)とおけば定理の結論が得られる。 𝑔𝑥(𝑎,𝑏)≠0の場合も全く同様である。

例 2