確率

分布

母集団から無作為に抽出された標本集団から、もとの母集団を統計的に推し量ることを推定という。

従属変数（近似したい値、目的変数ともいう）と説明変数（近似に用いるデータ）の関係を統計的に推定することを回帰分析という。１個の説明変数から１個の従属変数を予測する場合を単回帰、説明変数を複数用いる場合を重回帰という。従属変数をy、説明変数をxとすると

$y_i = a_{i1}x_{i1} + a_{i2}x_{i2} + ... a_{ij}x_{ij}$

の形でパラメータa_{ij}を最小二乗法で決定する線形回帰が一般的。

標本の値から、母集団の平均値や分散を予測することを点推定（数値を点として予測）と呼び、その推定がどれ位ずれているかを区間推定と呼ぶ。