汎関数
関数 は任意の入力に対して出力を返す演算子と考えられる。 同様に、関数を入力としてとり、ある出力値を返す演算子として汎関数が定義できる。
例えば、2次元平面中の曲線がある関数で定義されているときに、その長さを求める演算子は汎関数となる。 また連続確率変数に対するエントロピーも、確率密度関数が与えられたときにあるスカラー値を返す関数である。
通常の解析学では、関数を最大化するの値を求めることが主問題である。 同様に、変分法に置いては、汎関数を最大化する関数を求める。 すなわち、可能な関数のうち汎関数の値が最大となる関数を求めたい。
変分
変分法を説明するために、まず通常の微分を考える。 微分は変数に微小な変化を加え、の累乗形に展開することによって表現し、最後に極限を取ることで計算できる。 $$ y(x+\epsilon) = y(x) + \frac{dy}{dx}\epsilon + O(\epsilon^{2}) $$
変分(functional derivative)は汎関数の微分であり、関数に微小な変化を加えた時の汎関数の変化の度合いを表す。ただしここではの任意の関数とする。 形式的には、汎関数のに対する変分は次の式で定義する。 $$ F \left[ y(x) + \epsilon η(x) \right] = F \left[ y \right] + \epsilon \int \frac{\delta F}{\delta y(x)} η(x) dx + O(\epsilon^{2}) $$
この定義は、個々のに対するの値を個別の変数とみなし、をその無限次元変数の関数と考えると上の式の自然な拡張になっている。 通常の関数の場合と同様に考えると、汎関数が最大もしくは最小となる条件は、関数の微小な変化に対して汎関数が変化しないことが必要条件となる。 したがって、以下の式が成立する。 $$ \it \frac{\delta F}{\delta y(x)} dx = 0 $$
この式が任意のに対して成り立つためには、変分がの関数として恒等的に0にならなければならない。