最小二乘拟合法公式
最小二乘拟合法是一种常用的数据分析方法，用于找到一条最佳的拟合曲线或函数，使其在给定的数据集上的误差平方和最小。这种方法可以用于解决各种问题，例如线性回归、曲线拟合等。
在最小二乘拟合法中，我们希望找到一个函数或曲线，使其能够最好地拟合给定的数据点。假设我们有一组数据点{(x1, y1), (x2, y2), ..., (xn, yn)}，我们希望找到一个函数y = f(x)，使得对于每个数据点(xi, yi)，f(xi)的值与yi的值之间的差异最小。
为了实现这个目标，我们可以使用最小二乘法来确定最佳的拟合函数。最小二乘法通过最小化误差平方和来找到最佳拟合函数的系数。误差平方和定义为每个数据点的预测值与实际值之差的平方之和。
最小二乘拟合法的公式如下所示：
β = (X^T * X)^(-1) * X^T * Y
其中，β是一个包含拟合函数的系数的向量，X是一个包含数据点的矩阵，Y是一个包含对应的实际值的向量，^T表示矩阵的转置，^(-1)表示矩阵的逆运算。
通过求解上述公式，我们可以得到最佳的拟合函数的系数。然后，我们可以使用这些系数来计算拟合函数在其他输入值上的预测值。
最小二乘拟合法在实际应用中具有广泛的用途。例如，在线性回归中，我们可以使用最小二乘法来拟合一条最佳的直线，以描述自变量和因变量之间的关系。在曲线拟合中，我们可以使用最小二乘法来拟合一条最佳的曲线，以逼近给定的数据点。
需要注意的是，最小二乘拟合法在某些情况下可能会出现问题。例如，当数据点存在较大的误差或离群值时，最小二乘法可能会受到影响。此外，最小二乘法只能用于找到最佳的拟合函数，而不能确定拟合函数的可靠性或显著性。
总结起来，最小二乘拟合法是一种常用的数据分析方法，用于找到一条最佳的拟合曲线或函数。通过最小化误差平方和，最小二乘法可以确定拟合函数的系数，从而实现对给定数据的最佳拟合。然而，最小二乘法也有一些限制，需要在实际应用中进行注意。
最小二乘法拟合sigmod 最小二乘法是一种常用的数据拟合方法，可以用于拟合各种函数曲线，包括sigmoid函数。Sigmoid函数是一种常见的非线性函数，也称为S形函数，它通常用于描述生长和饱和过程。在这篇文章中，我们将介绍如何使用最小二乘法来拟合sigmoid函数。 首先，我们需要了解sigmoid函数的公式和特性。Sigmoid函数的一般形式为： f(x) = L / (1 + exp(-k(x - x0))) 其中，L是函数的最大值，k是斜率，x0是函数的中心位置。Sigmoid函数的特性是它的值在x趋近于正无穷和负无穷时分别趋近于L和0，因此它通常用于描述生长和饱和过程，如细胞生长、人口增长等。 接下来，我们将使用最小二乘法来拟合sigmoid函数。最小二乘法是一种通过最小化误差平方和来确定函数参数的方法。对于sigmoid函数的拟合，我们需要确定L、k和x0三个参数。 具体步骤如下： 1.首先，我们需要将sigmoid函数转换为线性函数的形式。根据sigmoid函数的公式，我们可以将其改写为： y = L / (1 + exp(-k(x - x0))) = a / (1 + exp(-bx)) 其中，a = L，b = k，x0 = -a/b。 2.然后，我们需要准备数据。我们需要收集一组包含独立变量x 和因变量y的数据点，这些数据点应该尽可能地分布在sigmoid函数
的上升和下降部分。 3.接下来，我们需要将数据点转换为线性函数的形式。根据上述转换公式，我们可以将每个数据点变为： y = a / (1 + exp(-bx)) = a(1 + exp(-bx))^-1 然后，我们可以将其改写为： y = a + b*ln((1-y)/y) 其中，ln表示自然对数，1-y为sigmoid函数的下降部分，y为上升部分。 4.然后，我们需要使用最小二乘法来拟合线性函数。我们可以使用线性回归来实现这一步骤。具体地，我们可以按照下列步骤进行：（1）将每个数据点的y值取对数，即ln((1-y)/y)； （2）将每个数据点的a值设为1； （3）使用线性回归模型来拟合数据点的a和ln((1-y)/y)。 5.最后，我们可以将得到的线性拟合结果转换回sigmoid函数的形式。具体地，我们可以将线性拟合结果中的斜率b设为k，截距设为-log(L)。 这样，我们就完成了对sigmoid函数的最小二乘法拟合。通过这种方法，我们可以得到sigmoid函数的最适参数，并将其用于生长和饱和过程的建模。
最小二乘法公式 ∑(X--X平)(Y--Y平) =∑(XY--X平Y--XY平+X平Y平) =∑XY--X平∑Y--Y平∑X+nX平Y平 =∑XY--nX平Y平--nX平Y平+nX平Y平 =∑XY--nX平Y平 ∑(X --X平)^2 =∑(X^2--2XX平+X平^2) =∑X^2--2nX平^2+nX平^2 =∑X^2--nX平^2 最小二乘公式（针对y=ax+b形式） a=(NΣxy-ΣxΣy)/(NΣx^2-(Σx)^2) b=y(平均)-ax（平均） 最小二乘法 在我们研究两个变量(x, y)之间的相互关系时，通常可以得到一系列成对的数据(x1, y1),(x2, y2).. (xm , ym)；将这些数据描绘在x -y直角坐标系中(如图1), 若发现这些点在一条直线附近，可以令这条直线方程如(式1-1)。 Y计= a0 + a1 X (式1-1) 其中：a0、a1 是任意实数 为建立这直线方程就要确定a0和a1，应用《最小二乘法原理》，将实测值Yi与利用(式1-1)计算值(Y计=a0+a1X)的离差(Yi-Y计)的平方和〔∑(Yi - Y计)²〕最小为“优化判据”。 令: φ = ∑(Yi - Y计)² (式1-2) 把(式1-1)代入(式1-2)中得: φ = ∑(Yi - a0 - a1 Xi)2 (式1-3) 当∑(Yi-Y计)²最小时，可用函数φ 对a0、a1求偏导数，令这两个偏导数等于零。
(式1-4) (式1-5) 亦即 m a0 + (∑Xi ) a1 = ∑Yi (式1-6) (∑Xi ) a0 + (∑Xi2 ) a1 = ∑(Xi, Yi) (式1-7) 得到的两个关于a0、 a1为未知数的两个方程组，解这两个方程组得出： a0 = (∑Yi) / m - a1(∑Xi) / m (式1-8) a1 = [∑Xi Yi - (∑Xi ∑Yi)/ m] / [∑Xi2 - (∑Xi)2 / m)] (式 1-9) 这时把a0、a1代入(式1-1)中, 此时的(式1-1)就是我们回归的元线性方程即：数学模型。 在回归过程中，回归的关联式是不可能全部通过每个回归数据点(x1, y1、 x2, y2...xm,ym),为了判断关联式的好坏,可借助相关系数“R”，统计量“F”，剩余标准偏差“S”进行判断；“R”越趋近于 1 越好；“F”的绝对值越大越好；“S”越趋近于 0 越好。 R = [∑XiYi - m (∑Xi / m)(∑Yi / m)]/ SQR{[∑Xi2 - m (∑Xi / m)2][∑Yi2 - m (∑Yi / m)2]} (式1-10) ＊ 在(式1-1)中，m为样本容量，即实验次数；Xi、Yi分别任意一组实验X、Y的数值。微积分应用课题一最小二乘法 从前面的学习中, 我们知道最小二乘法可以用来处理一组数据, 可以从一组测定的数据中寻求变量之间的依赖关系, 这种函数关系称为经验公式. 本课题将介绍最小二乘法的精确定义及如何寻求与之间近似成线性关系时的经验公式. 假定实验测得变量之间的个数据, , …, , 则在平面上, 可以得到个点 , 这种图形称为“散点图”, 从图中可以粗略看出这些点大致散落在某直线近旁, 我们认为与之间近似为一线性函数, 下面介绍求解步骤. 考虑函数 , 其中和是待定常数. 如果在一直线上, 可以认为变量之间的关系为 . 但一般说来, 这些点不可能在同一直线上. 记 , 它反映了用直线来描述 , 时, 计算值与实际值产生的偏差. 当然要求偏差越小越好, 但由于可正可负, 因此不能认为总偏差时, 函数就很好地反
最小二乘拟合法公式 最小二乘拟合法是一种常用的数据分析方法，用于找到一条最佳的拟合曲线或函数，使其在给定的数据集上的误差平方和最小。这种方法可以用于解决各种问题，例如线性回归、曲线拟合等。 在最小二乘拟合法中，我们希望找到一个函数或曲线，使其能够最好地拟合给定的数据点。假设我们有一组数据点{(x1, y1), (x2, y2), ..., (xn, yn)}，我们希望找到一个函数y = f(x)，使得对于每个数据点(xi, yi)，f(xi)的值与yi的值之间的差异最小。 为了实现这个目标，我们可以使用最小二乘法来确定最佳的拟合函数。最小二乘法通过最小化误差平方和来找到最佳拟合函数的系数。误差平方和定义为每个数据点的预测值与实际值之差的平方之和。 最小二乘拟合法的公式如下所示： β = (X^T * X)^(-1) * X^T * Y 其中，β是一个包含拟合函数的系数的向量，X是一个包含数据点的矩阵，Y是一个包含对应的实际值的向量，^T表示矩阵的转置，^(-1)表示矩阵的逆运算。 通过求解上述公式，我们可以得到最佳的拟合函数的系数。然后，我们可以使用这些系数来计算拟合函数在其他输入值上的预测值。
最小二乘拟合法在实际应用中具有广泛的用途。例如，在线性回归中，我们可以使用最小二乘法来拟合一条最佳的直线，以描述自变量和因变量之间的关系。在曲线拟合中，我们可以使用最小二乘法来拟合一条最佳的曲线，以逼近给定的数据点。 需要注意的是，最小二乘拟合法在某些情况下可能会出现问题。例如，当数据点存在较大的误差或离群值时，最小二乘法可能会受到影响。此外，最小二乘法只能用于找到最佳的拟合函数，而不能确定拟合函数的可靠性或显著性。 总结起来，最小二乘拟合法是一种常用的数据分析方法，用于找到一条最佳的拟合曲线或函数。通过最小化误差平方和，最小二乘法可以确定拟合函数的系数，从而实现对给定数据的最佳拟合。然而，最小二乘法也有一些限制，需要在实际应用中进行注意。
最小二乘拟合 在物理实验中经常要观测两个有函数关系的物理量。根据两个量的许多组观测数据来确定它们的函数曲线，这就是实验数据处理中的曲线拟合问题。这类问题通常有两种情况：一种是两个观测量x 与y 之间的函数形式已知，但一些参数未知，需要确定未知参数的最佳估计值；另一种是x 与y 之间的函数形式还不知道，需要找出它们之间的经验公式。后一种情况常假设x 与y 之间的关系是一个待定的多项式，多项式系数就是待定的未知参数，从而可采用类似于前一种情况的处理方法。 一、最小二乘法原理 在两个观测量中，往往总有一个量精度比另一个高得多，为简单起见把精度较高的观测量看作没有误差，并把这个观测量选作x ，而把所有的误差只认为是y 的误差。设x 和y 的函数关系由理论公式 y ＝f （x ；c 1，c 2，……c m ） （0-0-1） 给出，其中c 1，c 2，……c m 是m 个要通过实验确定的参数。对于每组观测数据（x i ，y i ）i ＝1，2，……，N 。都对应于xy 平面上一个点。若不存在测量误差，则这些数据点都准确落在理论曲线上。只要选取m 组测量值代入式（0-0-1），便得到方程组 y i ＝f （x ；c 1，c 2，……c m ） （0-0-2） 式中i ＝1，2，……，m.求m 个方程的联立解即得m 个参数的数值。显然N
线性回归最小二乘法公式 一、线性回归的概念 线性回归是回归分析的一种，用于描述在影响因素和结果之间存在着 线性关系的研究领域。在波士顿房屋数据中，我们可以用线性回归来研究 一个房屋的价格（Dependent Variable）是如何被不同的房屋特征（Independent Variable），如房屋大小，房间数量，地段位置等影响的。 二、最小二乘法原理 最小二乘法（Least Square Method，LSM）是一种进行数据拟合的最 常用的优化方法。它的核心思想是通过求取数据的总平方偏差最小的解来 拟合数据，这里的平方偏差反映的是拟合数据和原始数据之间的差异，拟 合数据和原始数据越相似，总偏差越小，就可以认为这种拟合越好。最小 二乘法的核心就是求得使总平方偏差最小的参数向量$\beta$，即解下式：$$ \min|Y-X\beta|^2$$ 其中$Y$是未知变量矩阵，$X$是已知变量矩阵，$\beta$是拟合参数。 根据最小二乘法的原理，下面继续推广为多元线性回归模型： $$ \min|Y-X\beta|^2$$
等价于： $$\min\sum_{i=1}^n(y_i-\beta_0-\sum_{j=1}^px_{ij}\beta_j)^2 $$ 其中$y_i$是未知变量，$\beta_0$是常量，$x_{ij}$是已知变量，$\beta_j$是拟合参数。 最小二乘法的推广，从成本函数中分离出了不同的参数，也扩展到了多元线性回归中。多元线性回归模型为： $$Y = \beta_0+\sum_{j=1}^px_{ij}\beta_j $$ 为求得上述通式中参数$\beta$的值，我们可以得到最小二乘法的解：$$\beta=(X^T X)^{-1} X^T Y$$ 从上述式中我们可以看出，最小二乘法为我们提供了一种数据拟合的优化方法，以达到模型最佳的预测效果。
线性回归最小二乘法公式 线性回归是一种广泛应用于统计学和机器学习中的回归分析方法，旨 在通过拟合一个线性方程来预测因变量与自变量之间的关系。最小二乘法 是一种最常用的线性回归方法，它寻找一条直线，使所有数据点到这条直 线的距离之和最小。 假设有n个数据点，表示为(x1, y1), (x2, y2), ..., (xn, yn)， 其中x为自变量，y为因变量。线性回归的目标是找到一条直线y = mx + b，使得所有数据点到该直线的距离之和最小。 最小二乘法的基本思想是，通过对每个数据点的误差的平方求和，来 定义一个损失函数，然后通过最小化这个损失函数来确定最优的拟合直线。步骤如下： 1. 建立线性模型：y = mx + b，其中m为斜率，b为截距。 2. 用该模型预测因变量y的值：y_hat = mx + b。 3. 计算每个数据点的误差：e = y - y_hat。 4.将所有数据点的误差的平方求和，得到损失函数：L=Σe^2 5.最小化损失函数：通过对m和b的偏导数求零，得到以下两个式子： ∂L/∂m = -2Σx(y - (mx + b)) = 0 ∂L/∂b = -2Σ(y - (mx + b)) = 0 6.解以上两个方程，得到最优的斜率m和截距b： m = (nΣxy - ΣxΣy) / (nΣx^2 - (Σx)^2)
b=(Σy-mΣx)/n 7. 使用得到的最优斜率m和截距b，构建出最优的线性模型：y = mx + b。 最小二乘法可以通过解析解或者数值方法求解。解析解适用于数据量 较小的情况，它通过直接求解最优化的数学公式来得到结果。而数值方法 适用于数据量较大，无法直接求解的情况，通过迭代方法逐步逼近最优解。 最小二乘法有几个关键的假设： 1.线性关系假设：认为自变量x和因变量y之间存在线性关系。 2.去噪假设：数据点的误差e服从均值为0的正态分布，即误差项是 一个很小的随机值。 3.独立性假设：各个数据点之间是相互独立的，彼此之间没有相关性。 最小二乘法对异常值和多重共线性非常敏感。异常值可能对结果产生 很大的影响，因为它们的误差项较大；而多重共线性指自变量之间存在高 度线性相关性，导致不可靠的估计结果。 在实际应用中，线性回归可以扩展到多个自变量的情况，称为多元线 性回归。多元线性回归的最小二乘法公式可以得到多个斜率和一个截距。 线性回归最小二乘法公式是一种常用的回归分析方法，通过最小化数 据点到拟合直线的距离，找到最优的斜率和截距，从而建立线性模型。它 的原理简单直观，易于理解和实现。然而，它也有其局限性，无法处理非 线性关系和复杂的数据模式，因此在实际应用中需要根据具体问题的特点 选择适当的回归方法。
最小二乘法的基本原理和多项式拟合 一最小二乘法的基本原理 从整体上考虑近似函数P（x）同所给数据点（X i，y i）（i=o,i,…,m）误差 r i 二呛）—y i（i=0,1,…,m） r i= P（X i）-y i（i=0,1,…,m）绝对值的最大值maX m r i，即误差向量 m / 、T》仃 r =（「0,「1,…r m）的X—范数；二是误差绝对值的和 7 ，即误差向量r的1 — m 2 Z r i 范数；三是误差平方和 7 的算术平方根，即误差向量r的2—范数；前两种方法简单、自然，但不便于微分运算，后一种方法相当于考虑2—范数的平方, m 2 送r i r 因此在曲线拟合中常采用误差平方和V 来度量误差r i（i=0 , 1,…，m）的整 体大小。 数据拟合的具体作法是：对给定数据（X i,y i）（i=0,1,…，m），在取定的函数类「中,求P（x），［使误差r i二P（X i）-y i（i=0,1,…,m）的平方和最小，即 m m 7〔P（X i） - y i F 二min i =0 = i =0 从几何意义上讲，就是寻求与给定点（X i, y i）（i=0,1,…,m）的距离平方和为最小的曲线y二P（X）（图6-1 ）。函数P（X）称为拟合函数或最小二乘解，求拟合函数P（X）的方法称为曲线拟合的最小二乘法。 可有不同的选取方法. 二多项式拟合 假设给定数据点（X i，y i）（i=0,1,…,m），为所有次数不超过n（n'm）的多项式构
n P n （X ）=送 a k X k 成的函数类，现求一 心 m ,使得 n 送 k | a k X i -y i = min V.k=0 丿 （1） 当拟合函数为多项式时，称为多项式拟合，满足式（1）的P n （X ）称为最小二乘 拟合 多项式。特别地，当n=1时，称为线性拟合或直线拟合。 I =送 bn(X i ) —y i 2 i =0
4.最小二乘法线性拟合 我们知道，用作图法求出直线的斜率a 和截据b ，可以确定这条直线所对应的经验公式，但用作图法拟合直线时，由于作图连线有较大的随意性，尤其在测量数据比较分散时，对同一组测量数据，不同的人去处理，所得结果有差异，因此是一种粗略的数据处理方法，求出的a 和b 误差较大。用最小二乘法拟合直线处理数据时,任何人去处理同一组数据，只要处理过程没有错误，得到的斜率a 和截据b 是唯一的。 最小二乘法就是将一组符合Y=a+bX 关系的测量数据，用计算的方法求出最佳的a 和b 。显然，关键是如何求出最佳的a 和b 。 (1) 求回归直线 设直线方程的表达式为： bx a y += (2-6-1) 要根据测量数据求出最佳的a 和b 。对满足线性关系的一组等精度测量数据（x i ，y i ），假定自变量x i 的误差可以忽略，则在同一x i 下，测量点y i 和直线上的点a+bx i 的偏差d i 如下： 111bx a y d --= 222bx a y d --= n n n bx a y d --= 显然最好测量点都在直线上（即d 1=d 2=……=d n =0），求出的a 和b 是最理想的，但测量点不可能都在直线上，这样只有考虑d 1、d 2、……、d n 为最小，也就是考虑d 1+d 2+……+d n 为最小，但因d 1、d 2、……、d n 有正有负，加起来可能相互抵消，因此不可取；而|d 1|+ |d 2|+……+ |d n |又不好解方程，因而不可行。现在采取一种等效方法：当d 12+d 22+……+d n 2 对a 和b 为最小时，d 1、d 2、……、d n 也为最小。取（d 12+d 22+……+d n 2 ）为最小值，求a 和b 的方法叫最小二乘法。 令 ∑== n i i d D 1 2＝221 1 []n n i i i i i D d y a bx === =--∑∑ (2-6-2) D 对a 和b 分别求一阶偏导数为： ][211∑∑==---=∂∂n i i n i i x b na y a D ][21 2 11∑∑∑===---=∂∂n i i n i i n i i i x b x a y x b D
最小二乘法多项式拟合 对于给定的数据点N i y x i i ≤≤1),,(，可用下面的n 阶多项式进行拟合，即 ∑==+++=n k k k x a x a x a a x f 0 2 210)( 为了使拟合出的近似曲线能尽量反映所给数据的变化趋势，要求在所有数据点上的残差 |)(|||i i i y x f -=δ 都较小。为达到上述目标，可以令上述偏差的平方和最小，即 min ] )([)(2 1 21 =-=∑∑==i i N i i N i y x f δ 称这种方法为最小二乘原则，利用这一原则确定拟合多项式)(x f 的方法即为最小二乘法多项式拟合。 确定上述多项式的过程也就是确定)(x f 中的系数n k a k ≤≤0,的过程，根据最小二乘 原则，则偏差平方和应该是这些系数的函数，即 min ])([)(),,,(21 2 1 10=-==∑∑==i i N i i N i n y x f a a a S δ 为使上式取值最小，则其关于n k a k ≤≤0,的一阶导数应该为零，即有 ∑∑∑∑=====⇒=-⇒=-=∂∂N i i N i i i i N i i i N i y x f y x f y x f a S 1 1110)(0])([0])([2 ∑∑∑∑=====⇒=-⇒=-=∂∂N i i i N i i i i i N i i i i N i i y x x f x y x f x y x f x a S 1 1111)(0])([0])([2 ∑∑∑∑=====⇒=-⇒=-=∂∂N i i k i N i i k i i i N i k i i i N i k i k y x x f x y x f x y x f kx a S 1 111)(0])([0])([2 ∑∑∑∑=====⇒=-⇒=-=∂∂N i i n i N i i n i i i N i n i i i N i n i n y x x f x y x f x y x f nx a S 1 111)(0])([0])([2 将上面各等式写成方程组的形式可有
—26 n 基本概念与数据处理 4.最小二乘法线性拟合(非常好) 我们知道，用作图法求出直线的斜率 a 和截据 b ，可以确定这条直线所对应的经验 公式，但用作图法拟合直线时，由于作图连线有较大的随意性，尤其在测量数据比较分 散时，对同一组测量数据，不同的人去处理，所得结果有差异，因此是一种粗略的数据 处理方法，求出的a 和b 误差较大。用最小二乘法拟合直线处理数据时 ，任何人去处理同 一组数据，只要处理过程没有错误，得到的斜率 a 和截据 b 是唯一的。 最小二乘法就是将一组符合 Y=a+bX 关系的测量数据，用计算的方法求出最佳的 a 和b 。显然，关键是如何求出最佳的 a 和 b 。 (1)求回归直线 设直线方程的表达式为： y 二 a bx (2-6-1) 要根据测量数据求出最佳的 a 和b o 对满足线性关系的一组等精度测量数据 (X i ，y i )， 假定自变量X i 的误差可以忽略，则在同一 X i 下，测量点y i 和直线上的点 a+bx i 的偏差d i 如下： d i = y i - a - bx-i d^ — y 2 ~ a - bx 2 d n = y n ~a ~ bx n 显然最好测量点都在直线上(即 d i =d 2=,, =d n =0),求出的a 和b 是最理想的，但 测量点不可能都在直线上， 这样只有考虑d i 、d 2、”、 d n 为最小，也就是考虑d i +d 2+,, +d n 为最小，但因d i 、d 2、，，、d n 有正有负，加起来可能相互抵消，因此不可取；而|d i | + |d 2|+ ,, + |d n |又不好解方程，因而不可行。现在米取一种等效方法： 当d^+d/ + ,, +d n 2 2 2 2 对a 和b 为最小时，d i 、d 2、，，、 d n 也为最小。取(d i +d 2 +,, +d n )为最小值，求 a 和b 的方法叫最小二乘法。 n D 八 d i 2 i J D 对a 和b 分别求一阶偏导数为: n -na -b ' X i ] i T n n D 八 d i 2 = i ± (2-6-2) -= D -=b : D -a n 一2「y i i 3 n 一2[、X i y i i 』
n 基本概念与数据处理 —26 - 4.最小二乘法线性拟合 我们知道，用作图法求出直线的斜率 a 和截据 b ，可以确定这条直线所对应的经验 公式，但用作图法拟合直线时，由于作图连线有较大的随意性，尤其在测量数据比较分 散时，对同一组测量数据，不同的人去处理，所得结果有差异，因此是一种粗略的数据 处理方法，求出的a 和b 误差较大。用最小二乘法拟合直线处理数据时 ，任何人去处理同 一组数据，只要处理过程没有错误，得到的斜率 a 和截据b 是唯一的。 最小二乘法就是将一组符合 Y=a+bX 关系的测量数据，用计算的方法求出最佳的 a 和b 。显然，关键是如何求出最佳的 a 和 b 。 (1)求回归直线 设直线方程的表达式为： y 二 a bx (2-6-1) 要根据测量数据求出最佳的 a 和b o 对满足线性关系的一组等精度测量数据 (X i ，y i )， 假定自变量X i 的误差可以忽略，则在同一 X i 下，测量点y i 和直线上的点 a+bx i 的偏差d i 如下： d i = y i - a - bx-i d^ — y 2 ~ a - bx 2 d n = y n ~a ~ bx n 显然最好测量点都在直线上(即 d i =d 2=,, =d n =0),求出的a 和b 是最理想的，但 测量点不可能都在直线上， 这样只有考虑d i 、d 2、”、 d n 为最小，也就是考虑d i +d 2+,, +d n 为最小，但因d i 、d 2、，，、d n 有正有负，加起来可能相互抵消，因此不可取；而|d i | + |d 2|+ ,, + |d n |又不好解方程，因而不可行。现在米取一种等效方法： 当d^+d/ + ,, +d n 2 2 2 2 对a 和b 为最小时，d i 、d 2、，，、 d n 也为最小。取(d i +d 2 +,, +d n )为最小值，求 a 和b 的方法叫最小二乘法。 n D 八 d i 2 i J D 对a 和b 分别求一阶偏导数为: n -na -b ' X i ] i T n -b ' X j 2] i d n D 八 d i 2 = i ± (2-6-2) -= D -=b : D -a n 一2「y i i 3 n 一2[、X i y i i 』