ネットで調べたら、最小二乗法（自乗法）について簡潔な説明があった。
http://jp.encarta.msn.com/encyclopedia_1161540033/content.html

『一般に、測定値は、真の値に対して標準偏差が正規分布するように誤差をふくんでいる場合が多い。そのような場合には、それぞれのデータと理論値との差の二乗和S(残差二乗和)が最小になるようにパラメーターpiを推定する最小二乗法を採用するとよいことがわかっている』

とか、

『具体的には、残差二乗和Sの、各パラメーターpiによる偏微分∂s /∂piが0になるようにパラメーターをきめる。理論モデルがパラメーターに関して線形である場合、すなわちパラメーターの1次式とみなせる場合、∂s /∂piを0とおいたn個の式からn元連立1次方程式がつくられるため、行列演算でパラメーターを容易にもとめることができる(→ 行列論と線形代数学)。これを線形最小二乗法という。』

とあり、さらに、非線形な場合にも言及されている。

『一方、理論モデルがパラメーターに関して非線形である場合は、∂s /∂piが整式にならず、偏微分要素がのこるため、連立1次方程式がつくれない。そこで、ニュートン法などを利用して、逐次的に非線形方程式の近似解をもとめることになる。これを非線形最小二乗法という』

などとあり、数式処理ソフトMathematicaなどでは、これにも対応している。Mathematicaでは、線形の場合でも、変数にSin[x]なども選択できて、かなり便利である。

非線形の場合は、予想される関数形を想定して適当なパラメーターを事前に選び、後は逐次近似法（あるいは反復法）で、推定誤差が小さくなるように、自動計算され、結果が逐次示されていき、そのモデルでの最終結果まで続く。したがって、モデリングが重要となる。

『18世紀イタリアの数学者、天文学者、物理学者であったR.J.ボスコビッチは、土地の測量で観測地にもっともうまく適合する値をもとめるために、最小二乗法の先駆的な研究をおこなった。また、ドイツの数学者カール・F.ガウスは、1795年から天文学の計算に最小二乗法をもちいていた。ただし、著作の中でふれたのは、1809年の「天体の運動理論」がはじめてである。彼はその本の中で誤差論を展開し、みずから測定した彗星の軌道計算や三角測量に応用した。しかし、フランスの数学者A.ルジャンドルは、ガウスと独立に最小二乗法の原理を発見し、06年に公刊した「彗星の軌道決定のための新方法」の中で論じていた。両者の間で先取権論争がおこったことは有名である。一般に、最小二乗法の発見者はガウスということにされるが、公刊物にしめしてはじめて先取権を主張できる、という現在の習慣を適用すれば、かならずしもそうとはいえない。』

としているが、これは、事後法で行う裁判結果みたいな判断といえないだろうか？

数学史上では、決着がついているようである。しかし、数学者、数学史家といえども、肩入れの仕方でニュアンスに差がでるかもしれない微妙な問題を含んでいるような気もしないではない。

前回紹介した、『最小二乗法の歴史』（安藤洋美）の表紙の写真というか肖像画は、ガウス26歳（1803）のときとされている。ガウスの『天体運動論』は1809年にようやく刊行され、ルジャンドルによる
最小二乗法の粗い発表は1805年であったが、ガウスの天体運動論は実はもっと前から準備されていたらしいが、ナポレオン侵攻によりドイツは混乱していて、出版が遅れたという。ドイツ語ではだめで、ラテン語にしてようやく出版されたという。しかし、皮肉なことに、まもなくラテン語は、首座から下りて行く時代が来る直前であったようだ。

ナポレオンは1806年7月西部ドイツの16の公国を合併し、ライン同盟をつくり盟主となる。やむなく、プロシャは、ロシアと組んでフランスに宣戦布告、総司令官は、ガウスの庇護者であったブラウンシュヴァイク公であったが、10月14日、イエナの会戦で公爵は左目が飛び出す重傷を負った、という。

英国亡命中、11月10日死去。ナポレオンは占領地に戦争税を課し、ガウスの割り当ては2000フランであったが、貧乏なガウスにはとても払えず、ラプラスがパリで立替払いをした、という。ガウスは以後利子つきで、ラプラスに返済をすることになった。ナポレオンへの憎悪は、ラプラスはともかく、ルジャンドルの上に増幅される、と安藤氏は書かれている。

今回、当時の2000フランが今日の円換算でどれくらいのものであったか、私には関心があった。高木貞二先生が、ガウスの数学ノートの書き込みとして、こんなに生活が苦しいなら、死んだほうがましだ、というような書き込みがある、などと紹介されていたので、・・・。ガウスの息子の一人は、アメリカに渡り、有名な化学会社創立にかかわったりするのだが、・・・。人をやとって計算させたら？などというアドヴァイスにガウスは激怒したとも。

http://www.hpmix.com/home/komori/C5_2.htm
を拝見したら、お金の話がいろいろあり、ヒントになる話があった。

　『１９世紀のフランスの文豪ヴィクトル・ユゴーは「レ・ミゼラブル」で、自らの６０年を振り返るかのように、金銭をめぐる人間の葛藤を悲壮かつおごそかに描いた。ジャン・ヴァルジャンは、６０万フラン（１８６０年頃の６億円）も、愛する者を失ったかなしみの前では何の役にも立たないと嘆いている。生きる金と死ぬ金。』

半世紀ほど後の貨幣価値であるが、単純計算でいくと、ガウスにナポレオンに課せられた戦争税は、200万円ぐらいということになる。今日では、普通車の新車並値段ぐらいということになりそうだが、
・・・。完成させた天体運動論は、ドイツ語で書かれていて、出版を引き受けてくれる業者がいるはずもなかった、と記述されている。それで、ラテン語なら、ということで、ようやく刊行へと、・・・。


安藤氏の著作では、「ルジャンドルの限界」という項をもうけ、ルジャンドルの最小二乗法は、確率的枠組みがなかった。シンプソンいらいの観測誤差論の影響は、そこには微塵も感じられない。概念の系譜からいうと、ボスコビッチの補間法の延長線上のものである。また、彼が称した誤差は、今日の残差に当たる。このように彼の最小二乗法は大いなる欠陥が見られるのにもかかわらず、適用のしやすさで高く評価された、とある。

ある程度の成功を収めたルジャンドルは、ナポレオンの没落と歩調を合わせるように、学者としての地位を絶えず脅かされるようになる。大陸各国の反ナポレオン感情の発生と、、ガウスの執拗なまでの反ルジャンドル・キャンペーンは、無関係とはいえないような気がする、と記述されている。

最小二乗法の先取権の問題について、総じてフランスの学者たちの態度は冷静、公正である、という。ガウスの戦争税を立替払いをした、というフランス数学者ラプラスは『確率の解析的理論』の第4章24節であるというが、

『ルジャンドルは観測の誤差の平方和をつくり、それを最小にするという簡単な発想をした。そうすると補正すべき要素の数と同じだけの終結方程式が得られた。この博学の数学者こそがこの方法を公表した最初の人である。しかしこのことが公表される何年も前から、ガウスも同じ考えを持っていて、ずっと使っていたばかりか、多くの天文学者に伝えていたことを注意するのが公平だろう。ガウスは「天体運動論」の中でこの方法を確率論と結びつけることを研究した。観測者たちによって認められた、多数の観測値の算術平均の規則を一般的に成立させている観測誤差のあの法則が、同時に観測誤差の最小二乗法の規則をも与えることを示した」ときわめて公正に、事実をありのままに述べている、と結んでいる。

さらに、安藤氏は、ガウスの証明は、行列やベクトルを使っていないけれども、そのまま線形代数が適用できる、という。実際に最小二乗法の研究に最初に線形代数が適用されたのは、約110年後の1935年、エジンバラのエイトケンによるという。線形代数が数学に出てきたのが1930年代とは、現代数学社の雑誌で知っていたが、・・。

ガウスの偉大さは、推論の筋をそのまま現代風に書き換えることができる点にある、という。そして、マトリクスとシステムの本で展開されているのと同様な、行列とベクトル表現が示されている。

最初のガウスの最小二乗法の三番目の証明で、「もしも誤差が正規分布にしたがうとすれば算術平均は最確値である。算術平均が観測誤差を結合するすぐれた方法として一般的に認められている。それで誤差分布は正規分布であると考えられるというのである。・・・十数年後、ガウスはこの拙い推論の連鎖に気づく。

ガウスの貢献とした12章では、ガウスの最小二乗法の研究は1821年から26年にかけて発表された『誤差を最小にとどめる観測値の組み合わせ論』三部作に結実している、とだけ紹介して、今回は終わる。

研究には、なかなか終わりというものが無いのが実感である。