一、为什么要估计（estimate）
在统计学中，我们所要研究的数据往往是很大的(比如统计全国高中生体重），我们几乎不可能去对如此之大的数据做统计。我们只能从样本去做估计。
·总体（Populantion）。通常它均值（mean）用 μ 表示。方差用 表示。
·样本（Sample）。通常它的均值用 表示，方差用 表示。
二、矩估计
用样本的k阶矩作为总体的k阶矩的估计量，建立含待估计参数的方程。
看一个小栗子
总体服从泊松分布 , X1 X2 , Xn是来自该总体的一个样本，试求 参数 的矩估计量。
解法1： 泊松分布的期望 ，用样本均值 近似期望 ， 得 的矩估计量为 。
解法 2： 泊松分布的方差 ，用样本方差 替换总体方差， 得 的矩估计量为 。
矩估计不唯一,为了计算简单，尽可能用低阶矩。
三、最大似然估计
参数的极大似然估计法
栗子
设一个盒子里装有一定量的白球和黑球，试估计其中黑球比例 p 。 假定进行 10 次有放回的抽取，抽到 3 个黑球。黑球个数
发生这一结果的概率
p=0.1时， P = 0.0574； p = 0.4 时， P = 0.215； p = 0.3时， P = 0.2668 。显然，取不同的p 得到的P有大有小，在我们已得到样本数据后，P为最大值时是最符合样本数据的。
极大似然估计方法的基本思想是以最大概率解释样本数据。
极大似然估计(maximum likelihood estimation, MLE)的实现过程
1. 设总体分布的概率函数为 ，其中 是一组未知参数， 称为 参数空间，即参数可能取值的集合。
2. 是来自该总体的样本观测值，则样本值发生的联合概率函数是关 于 的函数，用 表示，简记为 ，
称为样本值的似然函数，
3. 函数满足 ，则称统计量为参 数 的极大似然估计量。
是来自该总体的样本观测值
指数分布的密度函数为
似然函数 ,对其求极值
得到
矩估计使用简单，但问题是它的精度不够。
另外对总体原点矩不存在的分布（如柯西分布）等不能用，另一方面它只涉及总体的部分数据特征，并未用到总体的分布，因此矩估计实际上只包含了总体的部分信息，因此它在体现总体的分布特性上较差，只有在样本容量足够大时，才能保障它的优良性。
似然估计精度较高，但使用前提是要知道总体的分布特性。
