最小二乗法（least squares method）

分類

テクノロジ系 基礎理論

出る試験

基本情報応用情報

重要度

★★★☆☆

もう少し詳しい説明

最小二乗法は、ばらついた点に、いちばんよく合う直線を引く方法です。

散布図に点を打つと、きれいな直線には乗りません。その中で「これがいちばん近い」と言える1本を、計算で決めるのがこの方法です。

点から直線へ下ろした縦の破線が、このあと出てくる残差です。この破線を短くしたい、というのがこの方法の出発点になります。

なぜ二乗するのか

ここが名前の由来で、試験で問われる点でもあります。

点と直線の縦方向のずれを残差といいます。

残差にはプラスとマイナスがあります。直線より上にある点はプラス、下にある点はマイナスです。

そのまま足すと、打ち消し合います。 +10と−10を足すと0になり、「どちらも10ずれている」という情報が消えます。でたらめな直線でも合計が0になってしまいます。

打ち消しを防ぐ方法は2つ考えられます。

二乗にはもうひとつ効き目があります。大きなずれほど、強く効くことです。

ずれ10の点が1つあると、ずれ1の点100個ぶんの重みになります。大きく外れた点を放置した直線は選ばれません。

裏返すと、外れ値に弱いということでもあります。測り間違えた点が1つ混じると、直線がそちらへ引っぱられます。

何に使うのか

求めた直線は、まだ測っていないところを見積もるのに使います。

この直線を回帰直線といいます。

相関係数との違い

セットで出てくるので、区別しておきます。

相関係数は強さ、回帰直線は式です。相関が弱いのに回帰直線を引くと、式は出てきますが、当てになりません。

もうひとつ注意があります。相関があっても、原因と結果とは限りません。 アイスクリームの売上と熱中症の件数には相関がありますが、片方がもう片方を起こしているわけではなく、どちらも気温から来ています。

どうやって解くのか

直線を y = ax + b としたとき、残差の二乗の合計を a と b の式で書き、それが最小になる a と b を求めます。

さきほどのグラフの直線は y = 10x + 20 でした。a が 10、b が 20 です。この a と b を少しずつ動かすと、4本の破線の長さが変わります。

この合計がいちばん小さくなるところで止めた、それがいちばん合う直線です。a と b を動かしながら合計を見ている、と考えてください。

計算そのものは試験ではまず問われません。表計算ソフトの関数や分析ツールが出してくれます。

問われるのは「何を最小にしているか」です。そこだけ押さえておけば足ります。

試験ではこう出る

科目A（旧・午前）では、「残差の二乗和を最小にする」という説明を選ばせる形がほとんどです。「ずれの合計」「最短距離の合計」は誤りです。

相関係数との区別も出ます。関係の強さを表すのが相関係数、関係を式にするのが回帰直線です。

相関と因果は別という点も、統計の問題としてよく出ます。

応用情報では、散布図から回帰直線を使って予測値を読み取る形や、外れ値が結果に与える影響を問う形が出ます。

関連する用語

線形計画法

同じ最適化だが目的が違う。こちらは当てはめ、あちらは最大化・最小化

機械学習

回帰の基本。学習とは、ずれの合計を小さくする作業にあたる

QC七つ道具

散布図で2つの量の関係を見る。そこに引く直線がこれ

移動平均法

名前に平均が付くが別物。あちらは在庫の評価

ミニクイズ

この分野をまとめて解く → 基礎理論と情報メディアのミニテスト（全39問）

最終更新：2026-10-20