next up previous
Next: 一次関数 Up: 実験式 Previous: 実験曲線

最小二乗法による関数近似

関数関係にある量 $y_1, y_2 \cdots y_n$を観測して複数の未知数 $a_1, a_2 \cdots a_m$の最確値を求め関数を決定する。 $n$ 個の観測方程式は

\begin{displaymath}
F_i(a_1, a_2 \cdots a_m) = y_i, \hspace{1zw} (i = 1, 2 \cdots n)
\end{displaymath}

ここで $n > m$ であって、方程式の数の方が未知数の数よりも大きく、解くことができない。 そこで、$F_i$$y_i$ に等しくなく、期待値に対する $y_i$ の残差を $\rho_i$ とする。 残差方程式は

\begin{displaymath}
F_i(a_1, a_2 \cdots a_m) = y_i - \rho_i
\end{displaymath}

これを、 $\sum \rho_i^2$ が最小になるように、すなわち

\begin{displaymath}
\rho_1 \frac{\partial \rho_1}{\partial a_k} + \rho_2 \frac{...
...l \rho_n}{\partial a_k} = 0, \hspace{1zw} (k = 1, 2 \cdots m)
\end{displaymath}

$m$ 個の方程式を満足する $a_1, a_2 \cdots a_m$ を見つければよい。

たとえば、関数 $F_i$ が各 $a_k$ の線形結合で表わされるとき、残差方程式は

\begin{displaymath}
c_{i1}a_1 + c_{i2}a_2 + \cdots + c_{im}a_m = y_i - \rho_i
\end{displaymath}

となる。 ここで、

\begin{displaymath}
- \frac {\partial \rho_i}{\partial a_k} = c_{ik}
\end{displaymath}

であるから、上の条件は

\begin{displaymath}
\sum_{i=1}^n \rho_ic_{ik} = 0
\end{displaymath}

すなわち

\begin{displaymath}
\sum_{i=1}^n (y_i - c_{i1}a_1 - c_{i2}a_2 - \cdots - c_{im}a_m) c_{ik} = 0
\end{displaymath}

これから

\begin{displaymath}
\sum_{i=1}^n c_{ik}c_{i1}a_1 + \sum_{i=1}^n c_{ik}c_{i2}a_2...
...cdots + \sum_{i=1}^n c_{ik}c_{im}a_m = \sum_{i=1}^n c_{ik}y_i
\end{displaymath}

が得られ、これを正規方程式という。 これは $m$ 個の未知数 $a_k$ を持つ連立方程式であり、解くことができる。



Keiichi Takasugi
平成24年2月9日