函数逼近与曲线拟合
3.１函数逼近的基本概念
3.1.1 函数逼近与函数空间
在数值计算中常要计算函数值，如计算机中计算基本初等函数及其他特殊函数；当函数只在有限点集上给定函数值，要在包含该点集的区间上用公式给出函数的
简单表达式，这些都涉及到在区间上用简单函数逼近已知复杂函数的问题，这就是函数逼近问题．上章讨论的插值法就是函数逼近问题的一种．本章讨论的函数逼近，是指“对函数类Ａ中给定的函数，记作，要求在另一类简单的便于计算的函数类Ｂ中求函数，使与的误差在某种度量意义下最小”．函数类Ａ通常是区间上的连续函数，记作，称为连续函数空间，而函数类Ｂ通常为n次多项式，有理函数或分段低次多项式等．函
数逼近是数值分析的基础，为了在数学上描述更精确，先要介绍代数和分析中一些基本概念及预备知识．
数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将为样的集合称为空间．例如将所有实n维向量组成集合，按向量加法及
向量与数的乘法构成实数域上的线性空间，记作，称为n维向量空间．类似地，对次数不超过n（n为正整数）的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域上的一个线性空间，用表示，称为多项式空间．所有定义在上的连续函数集合，按函数加法和数与函数乘法构成数域上的线性空间，记作．类似地，记为具有p阶的连续导数的函数空间．
定义１设集合Ｓ是数域Ｐ上的线性空间，元素，如果存在不全为零的数，使得
， (3.1.1)
则称线性相关．否则，若等式(3.1.1)只对成立，则称线性无关．
若线性空间Ｓ是由n个线性无关元素生成的，即对都有
则称为空间Ｓ的一组基，记为，并称空间Ｓ为n维空间，系数称为x在基下的坐标，记作，如果Ｓ中有无限个线性无关元素，…，则称Ｓ为无限维线性空间．
下面考察次数不超过n次的多项式集合，其元素表示为
， (3.1.2）它由个系数唯一确定．线性无关，它是的一组基，故，且是的坐标向量，是维的．对连续函数，它不能用有限个线性无关的函数表示，故是无限维的，但它的任一元素均可用有限维的逼近，使误差
（为任给的小正数），这就是著名的Weierstrass定理．定理１（Weierstrass）设，则对任何，总存在一个代数多项式，使
在上一致成立．
这个定理已在“数学分析”中证明过．这里需要说明的是在许多证明方法中，伯恩斯坦１９１２年给出的证明是一种构造性证明．他根据函数整体逼近的特性构造出伯恩斯坦多项式
， (3.1.3)
其中
，
其中，并证明了在上一致成立；若在上阶导数连续，则
．
这不但证明了定理１，而且由(3.1.3)给出了的一个逼近多项式．它与拉格朗日插值多项式
很相似，对，当＝１时也有关系式
． (3.1.4)
这只要在恒等式
中令就可得到．但这里当时还有，于是
是有界的，因而只要对任意成立，则
有界，故是稳定的．至于拉格朗日多项式，由于无界，
因而不能保证高阶插值的稳定性与收敛性．相比之下，多项式有良好的逼近性质，但它收敛太慢，比三次样条插值效果差得多，实际中很少被使用．
更一般地，可用一组在上线性无关的函数集合来逼近
，元素，表示为
． (3.1.5) 函数逼近问题就是对任何，在子空间中找一个元素，使
在某种意义下最小．
3.1.2 范数与赋范线性空间
为了对线性空间中元素大小进行衡量，需要引进范数定义，它是空间中向量长度概念的直接推广．
定义2.1.2 设为线性空间，，若存在唯一实数，满足条件：
（1）正定性：，（2）当且仅当时，（3）
；
（4）齐次性：，（5）；
（6）三角不（7）等式：，（8）．则称为线性空间上的范数，与一起称为赋范线性空间，记为．
例如，在上的向量，三种常用范数为
类似地对连续函数空间，若可定义三种常用范数如下：
可以验证这样定义的范数均满足定义3.1.2中的三个条件．
3.1.3 内积与内积空间
在线性代数中，中两个向量及的内积定义为
．
若将它推广到一般的线性空间，则有下面的定义．
定义3.1.3设是数域上的线性空间，对，有中一个数与之对应，记为，它满足以下条件：
（１）；
（２）；
（３）；
（４），当且仅当时，．
则称为上与的内积．定义了内积的线性空间称为内积空间．定义中（１）的右端称为的共轭，当为实数域时．
如果＝０，则称与正交，这是向量相互垂直的概念的推广．关于内积空间性质有以下重要定理．
定理3.1.2设为一个内积空间，对，有
(3.1.6) 称为Cauchy-Schwarz不等式．
［证明］当时(3.1.6)式显然成立．现设，则，且对任何数
有
．
取，代入上式右端，得
，
即得时
．
定理证毕定理3.1.2设为一个内积空间，，矩阵
（3.1.7）称为Gram矩阵，则Ｇ非奇异的充分必要条件是线性无关．
［证明］Ｇ非奇异等价于，其充分必要条件是齐次方程组
(3.1.8) 只有零解．而
(3.1.9) 从以上的等价关系可知，等价于从(3.1.8)推出．而后者等价于从(3.1.9)推出，即线性无关．
定理证毕在内积空间上可以由内积导出一种范数，即对于，记
(3.1.10) 容易验证它满足范数定义的三条性质，其中三角不等式
(3.1.11)
可由定理3.1.2直接得出，即
两端开方即得(3.1.11）．
例１与的内积．设，，，则其内积定义为
(3.1.12)
由此导出的向量２－范数为
．
若给定实数，称为权系数，则在上可定义加权内积为
(3.1.13)
相应的范数为
．
不难验证(3.1.13)给出的满足内积定义的４条性质，当
时，(3.1.13)就是(3.1.12)．
如果，带权内积定义为
(3.1.14) 这里仍为正实数序列，为的共轭．
在上也可以类似定义带权内积，为此先给出权函数的定义．
定义３.1.4 设是有限或无限区间，在上的非负函数满足条件：（１）存在且为有限值；
（２）对上的非负连续函数，如果，则．
则称为上的一个权函数．
例２上的内积．设，是上给定的权函数，则可定义内积
． (3.1.15)
容易验证它满足内积定义的４条性质，由此内积导出的范数为
． (3.1.16)
称(3.1.15)和(3.1.16)为带权的内积和范数．特别常用的是的情形，即
若是中的线性无关函数族，记，它的Gram矩阵为
(3.1.17)
根据定理3.1.3可知线性无关的充分必要条件是．
3.2 正交多项式
正交多项式是函数逼近的重要工具，在数值积分中也有着重要的应用．
3.2.1 正交函数族与正交多项式
定义3.2.1 若，为上的权函数且满足
， (3.2.1)
则称与在上带权正交．若函数族满足关系
(3.2.2)
则称是上带权的正交函数族；若，则称之为标准正交函数族．
例如，三角函数族
就是在区间上的正交函数族．因为对有
，
而对，当时有
定义3.2.2 设是上首项系数的次多项式，为上权
函数，如果多项式序列满足关系式(3.2.2)，则称多项式序列
为在上带权正交，称为上带权的次正交多项式．
只要给定区间及权函数，均可由一族线性无关的幂函数，利用逐个正交化手续构造出正交多项式序列；
，(3.2.3) 这样得到的正交多项式序列有以下性质：
（１）是具有最高次项系数为１的次多项式．
（２）任何次多项式均可表示为的线性组合．
（３）当时，，且与任一次数小于的多项式正交．（４）成立递推关系
．
其中
这里．
（５）设是在上带权的正交多项式序列，则的
个根都是在区间内的单重实根．
3.2.2 勒让德多项式
当区间为［－１，１］，权函数时，由正交化得到的多项式就称为
勒让德(Legendre)多项式，并用表示．这是勒让德于１７８５年引进的，１８１４年罗德利克(Rodrigul)给出了简单的表达式
由于是２次的多项式，求阶导数后得
，
于是得首项系数为，显然最高项系数为１的勒让德多项式为
．(3.2.6) 勒让德多项式有下述几个性质：
性质１正交性
(3.2.7) ［证明］令，则
．
设是在区间[-1,1]上的阶连续可微的函数，由分部积分知
下面分两种情况讨论：
（１）若是次数小于的多项式，则，故得
（２）若
，
则
，
于是
由于
，
故
，
于是(3.2.7)得证．
性质２奇偶性
（3.2.8）［证明］由于是偶次多项式，经过偶次求导仍为偶次多项式，经
过奇次求导则为奇次多项式，故为偶数时为偶函数，为奇数时为奇函数，于是(3.2.8)成立．
性质３递推关系
(3.2.9) ［证明］考虑＋１次多项式，它可表示为
两边乘以，并从－１到１积分，得
．
当时，的次数小于－１，上式左端积分为０，故得．当
时．为奇函数，左端积分仍为０，故．于是
．
其中
，
代入上式整理可得(3.2.9)．
例１由利用性质３可得
性质４在区间[-1,1]内有个不同的实零点．
3.2.3 切比雪夫多项式
当权函数，区间为[-1,1]时，由序列正交化得到的多项式就称为切比雪夫(Chebyshev)多项式，它可表示为
(3.2.10)
若令，则．
切比雪夫多项式有很多重要性质：
性质１递推关系
(3.2.11) 这只要由三角不等式
．
令即得．由(3.2.11)就可推出
由递推关系(3.2.11)还可得到的最高次项系数是．
性质６切比雪夫多项式在区间［－１，１］上带权正交，且
(3.2.12) 事实上，令，则，于是
性质７只含的偶次幂，只含有的奇次幂．
这性质由递推关系直接得到．
性质８在区间［－１，１］上的个零点
此外，实际计算中时常要求用的线性组合，其公式为
． (3.2.13) 例如：结果如下：
3.2.4 其他常用的正交多项式
一般说，如果区间及权函数不同，则得到的正交多项式也不同．除上述两种最重要的正交多项式外，下面再给出三种较常用的正交多项式．第二类切比雪夫多项式
在区间［－１，１］上带权的正交多项式称为第二类切比雪夫多项式，其表达式为
． (3.2.14)
令，可得
即是［－１，１］上带权的正交多项式族．还可得到递推关系式
．
拉盖尔多项式
在区间上带权的正交多项式称为拉盖尔（Laguerre）多项式，其表达式为
. (3.2.15)
其正交性为
和递推关系
．
３. 埃尔米特多项式
在区间上带权的正交多项式称为埃尔米特多项式．其表达式为
， (3.2.16)
其正交性为
递推关系为
．
3.3 最佳一致逼近多项式
3.3.1 基本概念及其理论
本节讨论，在中求多项式，使其误差
．
这就是通常所谓最佳一致逼近或切比雪夫逼近问题．为了说明这一概念，先给出以下定义．
定义3.3.1 设，，称
． (3.3.1) 为与在上的偏差．
显然，的全体组成一个集合，记为｛｝，它有下界０．若记集合的下确界为
(3.3.2)
则称之为在上的最小偏差．
定义3.3.2 假定，若存在，使得
， (3.3.3)
则称是在上的最佳一致逼近多项式或最小偏差逼近多项式，简称最佳逼近多项式．
注意，定义并未说明最佳逼近多项式是否存在，但可证明下面的存在定理．
第十三章 数据拟合与函数逼近 数据拟合与函数逼近涉及到许多内容与方法，从不同角度出发，也有多种叫法。这一章，我们主要通地线性拟合而引出最小乘法这一根本方法。 13.1 数据拟合概念与直线拟合 插值法是一种用简单函数近似代替较复杂函数的方法，它的近似标准是在插值点处的误差为零。但有时，我们不要求具体某些点的误差为零，而是要求考虑整体的误差限制。对了达到这一目的，就需要引入拟合的方法，所以数据拟合与插值相比： 数据拟合--不要求近似 函数过所有的数据点，而要求它反映原函数整体的变化趋势。 插值法--在节点处取函数值。 实际给出的数据，总有观测误差的，而所求的插值函数要通过所有的节点，这样就会保留全部观测误差的影响，如果不是要求近似函数过所有的数据点，而是要求它反映原函数整的变化趋势，那么就可以用数据拟合的方法得到更简单活用的近似函数。 13.1.1 直线拟合 由给定的一组测定的离散数据(,)i i x y （1,2,,i N = ），求自变量x 和因变量y 的近似表达式()y x ?=的方法。影响因变量y 只有一个自变量x 的数据拟合方法就是直线拟合。 直线拟合最常用的近似标准是最小二乘原理，它也是流行的数据处理方法之一。 直线拟合步骤如下： (1) 做出给定数据的散点图（近似一条直线）。 (2) 设拟合函数为： i bx a y +=* (13.1.1) 然后，这里得到的*i y 和i y 可能不相同，记它们的差为： i i i i i bx a y y y --=-=* δ (13.1.2) 称之为误差。在原始数据给定以后，误差只依赖于b a ,的选取，因此，可以把误差的大小作为衡量b a ,的选取是否优良的主要标志。
第三章 函数逼近与曲线拟合 1 函数的逼近与基本概念 1.1问题的提出 多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令，因此为了计算大多数有解析表达式的函数的值，必须产生可用四则运算进行计算的近似式，一般为多项式和有理分式函数.实际上，我们已经接触到两种逼近多项式，一种是泰乐多项式，一种是插值多项式.泰乐多项式是一种局部方法，误差分布不均匀，满足一定精度要求的泰乐多项式次数太高，不宜在计算机上直接使用.例如，设()f x 是[1,1]-上的光滑函数，它的Taylor 级数0()k k k f x a x ∞ ==∑， ()(0)! k k f a k =在[1,1]-上收敛。当此级数收敛比较快时，11()()()n n n n e x f x s x a x ++=-≈。这个误差分布是不均匀的。当0x =时，(0)0n e =，而x 离开零点增加时，()n e x 单调增加，在1x =±误差最
大。
为了使[1,1]-的所有x 满足()()n f x s x ε-<，必须选取足够大的n ，这显然是不经济的。插值函数出现的龙格现象表明，非节点处函数和它的插值多项式相差太大。更重要的是，实际中通过观测得到的节点数据往往有各种误差，此时如果要求逼近函数过全部节点，相当于保留全部数据误差，这是不适宜的。如图1所示，给出五个点上的实验测量数据，理论上的结果应该满足线性关系，即图1中的实线。由于实验数据的误差太大，不能用过任意两点的直线逼近函数。如果用过5个点的4次多项式逼近线性函数，显然误差会很大。 实验数据 真函数 插值多项式逼近 精确的线性逼近 图1
第三章 函数逼近与曲线拟合 1 函数的逼近与基本概念 1.1问题的提出 多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令，因此为了计算大多数有解析表达式的函数的值，必须产生可用四则运算进行计算的近似式，一般为多项式和有理分式函数.实际上，我们已经接触到两种逼近多项式，一种是泰乐多项式，一种是插值多项式.泰乐多项式是一种局部方法，误差分布不均匀，满足一定精度要求的泰乐多项式次数太高，不宜在计算机上直接使用.例如，设 ()f x 是[1,1]-上的光滑函数，它的Taylor 级数0 ()k k k f x a x ∞ ==∑， ()(0) ! k k f a k = 在[1,1]-上收敛。当此级数收敛比较快时，1 1()()()n n n n e x f x s x a x ++=-≈。这个误差分布是不均匀的。当0x =时，(0)0n e =，而x 离开零点增加时，()n e x 单调增加，在1x =±误差最大。为了使[1,1]-的所有x 满足()()n f x s x ε-<，必须选取足够大的n ，这显然是不经 济的。插值函数出现的龙格现象表明，非节点处函数和它的插值多项式相差太大。更重要的是，实际中通过观测得到的节点数据往往有各种误差，此时如果要求逼近函数过全部节点，相当于保留全部数据误差，这是不适宜的。如图1所示，给出五个点上的实验测量数据，理论上的结果应该满足线性关系，即图1中的实线。由于实验数据的误差太大，不能用过任意两点的直线逼近函数。如果用过5个点的4次多项式逼近线性函数，显然误差会很大。
1.2范数与逼近 一、线性空间及赋范线性空间 要深入研究客观事物，不得不研究事物间的内在联系，给集合的元素之间赋予某种“确定关系”也正是这样的道理.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将这样的集合称为空间。最常用的给集合赋予一种“加法”和“数乘”运算，使其构 成线性空间.例如将所有实 n 维数对组成的集合，按照“加法”和“数乘”运算构成实数域上的线 性空间，记作n R ，称为n 维向量空间.类似地，对次数不超过n 的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域R 上一个线性空间，用n H 表示，称为多项式空间。所有定义在[,]a b 上的连续函数集合，按函数加法和数与函数乘法构成数域R 上的线 性空间，记作[,]C a b .类似地，记[,]p C a b 为具有p 阶连续导数的函数空间. 在实数的计算问题中，对实数的大小、距离及误差界等是通过绝对值来度量的.实践中，我们常常会遇到对一般线性空间中的向量大小和向量之间的距离进行度量的问题，因此有必要在一般线性空间上，赋予“长度”结构，使线性空间成为赋范线性空间. 定义1 设 X 是数域K 上一个线性空间，在其上定义一个实值函数g ，即对于任意 ,x y X ∈及K α∈，有对应的实数x 和y ，满足下列条件 (1) 正定性：0x ≥，而且0x =当且仅当0x =； (2) 齐次性：x x αα=； (3) 三角不等式：x y x y +≤+； 实验数据 真函数 插值多项式逼近 精确的线性逼近 图1
曲线拟合的数值计算方法实验 【摘要】实际工作中，变量间未必都有线性关系，如服药后血药浓度与时间的关系；疾病疗效与疗程长短的关系；毒物剂量与致死率的关系等常呈曲线关系。曲线拟合（curve fitting）是指选择适当的曲线类型来拟合观测数据，并用拟合的曲线方程分析两变量间的关系。曲线直线化是曲线拟合的重要手段之一。对于某些非线性的资料可以通过简单的变量变换使之直线化，这样就可以按最小二乘法原理求出变换后变量的直线方程，在实际工作中常利用此直线方程绘制资料的标准工作曲线，同时根据需要可将此直线方程还原为曲线方程，实现对资料的曲线拟合。常用的曲线拟合有最小二乘法拟合、幂函数拟合、对数函数拟合、线性插值、三次样条插值、端点约束。 关键词曲线拟合、最小二乘法拟合、幂函数拟合、对数函数拟合、线性插值、三次样条插值、端点约束 一、实验目的 1.掌握曲线拟合方式及其常用函数指数函数、幂函数、对数函数的拟合。 2.掌握最小二乘法、线性插值、三次样条插值、端点约束等。 3.掌握实现曲线拟合的编程技巧。 二、实验原理 1.曲线拟合 曲线拟合是平面上离散点组所表示的坐标之间的函数关系的一种数据处理方法。用解析表达式逼近离散数据的一种方法。在科学实验或社会活动中，通过实验或观测得到量x与y的一组数据对（X i，Y i)（i=1，2，...m），其中各X i 是彼此不同的。人们希望用一类与数据的背景材料规律相适应的解析表达式，y=f(x，c）来反映量x与y之间的依赖关系，即在一定意义下“最佳”地逼近或拟合已知数据。f(x，c)常称作拟合模型，式中c=(c1，c2，…c n)是一些待定参数。当c在f中线性出现时，称为线性模型，否则称为非线性模型。有许多衡量拟合优度的标准，最常用的一种做法是选择参数c使得拟合模型与实际观测值在各点
第三章 曲线拟合与函数逼近 一．曲线拟合 1.问题提出： 已知多组数据(),,1,2,,i i x y i N = ，由此预测函数()y f x =的表达式。 数据特点：（1）点数较多。（2）所给数据存在误差。 解决方法：构造一条曲线反映所给数据点的变化总趋势，即所谓的“曲线拟合”。 2.直线拟合的概念 设直线方程为y=a+bx 。 则残差为：?i i i e y y =-,1,2,,i N = ，其中?i i y a bx =+。 残差i e 是衡量拟合好坏的重要标志。 可以用MATLAB 软件绘制残差的概念。 x=1:6; y=[3,4.5,8,10,16,20]; p=polyfit(x,y,1); xi=0:0.01:7; yi=polyval(p,xi); plot(xi,yi,x,y, 'o'); y1=polyval(p,x); hold on for i=1:6 plot([i,i],[y(i),y1(i)], 'r'); end 可以绘制出如下图形：
三个准则： （1）max i e 最小 （2）1n i i e =∑最小 （3）21 N i i e =∑最小 3.最小二乘法的直线拟合 问题：对于给定的数据点(),,1,2,,i i x y i N = ，求一次多项式y=a+bx ，使得总误差Q 最小。其中()2 21 1 N N i i i i i Q e y a bx ====-+????∑∑。根据 0,0.Q Q a b ??==?? 2222 1 222N i i i i i i i Q y a b x y a y x b x ab =??=++--+??∑
实验二 函数逼近与曲线拟合报告 一、问题提出 从随机的数据中找出其规律性，给出其近似表达式的问题，在生产实践和科学实验中大量存在，通常利用数据的最小二乘法求得拟合曲线。 在某冶炼过程中，根据统计数据的含碳量与时间关系，试求含碳量与时间t 的拟合曲线。 t(分) 0 5 10 15 20 25 30 35 40 45 50 55 4(10)y -? 0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64 二、要求 1、用最小二乘法进行曲线拟合； 2、近似解析表达式为23123()t a t a t a t ?=++； 3、打印出拟合函数()t ?，并打印出()j t ?与()j y t 的误差，1,2,,12j = ； 4、另外选取一个近似表达式，尝试拟合效果的比较； 5、* 绘制出曲线拟合图。 三、目的和意义 1、掌握曲线拟合的最小二乘法； 2、最小二乘法亦可用于解超定线代数方程组； 3、探索拟合函数的选择与拟合精度间的关系。 四、实验学时：2学时 五、实验步骤： 1．进入C 或matlab 开发环境； 2．根据实验内容和要求编写程序； 3．调试程序； 4．运行程序； 5．撰写报告,讨论分析实验结果．
解： 实验步骤 （一）算法流程 构造a1、a2、a3的线性方程组------构造误差平方和------对a1、a2、a3求偏导数------令偏导为零求得a1、a2、a3的值。 （二）编程步骤与分析 1. 绘制数据点(t,yi)的散点图 输入程序为： t=[0 5 10 15 20 25 30 35 40 45 50 55]; y=[0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64].*1e-4 plot(t,y,'r*'), legend('实验数据(t,yi)') xlabel('x'), ylabel('y'), title('数据点(t,yi)的散点图')，显示结果为： 2.求参数a1、a2、a3的解析表达式 计算)(x f 在),(i i y x 处的函数值，即输入程序 syms a1 a2 a3 t=[0 5 10 15 20 25 30 35 40 45 50 55]; fi=a1.*t+ a2.*t.^2+ a3.*t.^3 运行后屏幕显示关于a1,a2, a3的线性方程组： fi = [ 0, 5*a1 + 25*a2 + 125*a3, 10*a1 + 100*a2 + 1000*a3, 15*a1 + 225*a2 + 3375*a3, 20*a1 + 400*a2 + 8000*a3, 25*a1 + 625*a2 + 15625*a3, 30*a1 + 900*a2 + 27000*a3, 35*a1 + 1225*a2 + 42875*a3, 40*a1 + 1600*a2 + 64000*a3, 45*a1 + 2025*a2 + 91125*a3, 50*a1 + 2500*a2 + 125000*a3, 55*a1 + 3025*a2 + 166375*a3] 构造误差平方和： y=[0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64].*1e-4;
函数逼近与曲线拟合 3.１函数逼近的基本概念 3.1.1 函数逼近与函数空间 在数值计算中常要计算函数值，如计算机中计算基本初等函数及其他特殊函数；当函数只在有限点集上给定函数值，要在包含该点集的区间上用公式给出函数的 简单表达式，这些都涉及到在区间上用简单函数逼近已知复杂函数的问题，这就是函数逼近问题．上章讨论的插值法就是函数逼近问题的一种．本章讨论的函数逼近，是指“对函数类Ａ中给定的函数，记作，要求在另一类简单的便于计算的函数类Ｂ中求函数，使与的误差在某种度量意义下最小”．函数类Ａ通常是区间上的连续函数，记作，称为连续函数空间，而函数类Ｂ通常为n次多项式，有理函数或分段低次多项式等．函 数逼近是数值分析的基础，为了在数学上描述更精确，先要介绍代数和分析中一些基本概念及预备知识． 数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将为样的集合称为空间．例如将所有实n维向量组成集合，按向量加法及向量与数的乘法构成实数域上的线性空间，记作，称为n维向量空间．类似地，对次数不超过n（n为正整数）的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域上的一个线性空间，用表示，称为多项式空间．所有定义在上的连续函数集合，按函数加法和数与函数乘法构 成数域上的线性空间，记作．类似地，记为具有p阶的连续导数的函数空间． 定义１设集合Ｓ是数域Ｐ上的线性空间，元素，如果存在不全为零的数，使得
， (3.1.1)则称线性相关．否则，若等式(3.1.1)只对成立，则称线性无关． 若线性空间Ｓ是由n个线性无关元素生成的，即对都有 则称为空间Ｓ的一组基，记为，并称空间Ｓ为n维空间，系数称为x在基下的坐标，记作，如果Ｓ中有无限个线性无关元素，…，则称Ｓ为无限维线性空间． 下面考察次数不超过n次的多项式集合，其元素表示为 ， (3.1.2）它由个系数唯一确定．线性无关，它是的一组基，故，且是的坐标向量，是维的．对连续函数，它不能用有限个线性无关的函数表示，故是无限维的，但它的任一元素均可用有限维的逼近，使误差 （为任给的小正数），这就是著名的Weierstrass定理．定理１（Weierstrass）设，则对任何，总存在一个代数多项式，使
数值分析 课程设计报告 学生姓名 学生学号 所在班级 指导教师
一、课程设计名称 函数逼近与曲线拟合 二、课程设计目的及要求 实验目的： ⑴学会用最小二乘法求拟合数据的多项式，并应用算法于实际问题。 ⑵学会基本的矩阵运算，注意点乘和叉乘的区别。 实验要求： ⑴编写程序用最小二乘法求拟合数据的多项式，并求平方误差，做出离散函数（x i ,y i ）和拟合函数的图形； ⑵用MATLAB 的内部函数polyfit 求解上面最小二乘法曲线拟合多项式的系数及平方误差，并用MATLAB 的内部函数plot 作出其图形，并与（1）结果进行比较。 三、课程设计中的算法描述 用最小二乘法多项式曲线拟合，根据给定的数据点，并不要求这条曲线精确的经过这些点，而是拟合曲线无限逼近离散点所形成的数据曲线。 思路分析：从整体上考虑近似函数)(x p 同所给数据点） （i i y x ,误差i i i y x p r -=)(的大小，常用的方法有三种：一是误差i i i y x p r -=)(绝对值的最大值i m i r ≤≤0max ，即误差向量的无穷范数；二是误差绝对值的和∑=m i i r 0 ，即误差向量的1 范数；三是误差平方和∑=m i i r 0 2的算术平方根，即类似于误差向量的2范数。前两 种方法简单、自然，但不便于微分运算，后一种方法相当于考虑2范数的平方，此次采用第三种误差分析方案。 算法的具体推导过程： 1.设拟合多项式为： y =a 0+a 1x +a 2x 1+?+a k x k 2.给点到这条曲线的距离之和，即偏差平方和：
R 2= y i ? a 0+a 1x +?+a k x i k 2 n i =1 3.为了求得到符合条件的a 的值，对等式右边求a i 偏导数，因而我们得到了： ?2 y ? a 0+a 1x +?+a k x i k n i =1x =0 ?2 y ? a 0+a 1x +?+a k x i k n i =1 =0 ?? ?2 y ? a 0+a 1x +?+a k x i k x k n i =1 =0 4.将等式左边进行一次简化，然后应该可以得到下面的等式 a 0n +a 1 x i +?+a k x i k n i =1n i =1 a 0 x i +a 1 x i 2+?+ x i k +1n i =1 n i =1n i =1 a 0 x i k +a 1 x i k +1+?+a k x i 2k n i =1 n i =1 n i =1 5.把这些等式表示成矩阵的形式，就可以得到下面的矩阵： ????????? ???????????=???? ????????????????????????????∑∑∑∑∑∑∑∑∑∑∑=====+==+====n i i n i n i i k n i k i n i k i n i k i n i k i n i i n i i n i k i n i i y y y a a x x x x x x x x 11i 1 10121 11 1112111 a n 6. 将这个范德蒙得矩阵化简后得到 ?? ???? ??????=?????????????????? ??? ??? ? ?n k k n n k k y y y a a a x x x x x x 21102211111 7.因为Y A X =*,那么X Y A /=,计算得到系数矩阵，同时就得到了拟合曲线。
西安科技大学 《数值分析》 实验报告 题目：函数逼近与曲线拟合 院系（部）：计算机科学与技术学院 专业及班级： 姓名： 学号 日期：2019/11/11
一、实验名称 函数逼近与曲线拟合 二、实验目的及要求 实验目的： ⑴学会用最小二乘法求拟合数据的多项式，并应用算法于实际问题。 实验要求： ⑴编写程序用最小二乘法求拟合数据的多项式，并求平方误差，做出离散函数（）和拟合函数的图形； ⑵用MATLAB的内部函数polyfit求解上面最小二乘法曲线拟合多项式的系数及平方误差，并用MATLAB的内部函数plot作出其图形，并与（1）结果进行比较。 三、实验中的算法描述 1.设拟合多项式为： 2.给点到这条曲线的距离之和，即偏差平方和： 3.为了求得到符合条件的a的值，对等式右边求偏导数，因而我们得到了： 4.将等式左边进行一次简化，然后应该可以得到下面的等式
5.把这些等式表示成矩阵的形式，就可以得到下面的矩阵： ????????? ???????????=???? ????????????????????????????∑∑∑∑∑∑∑∑∑∑∑=====+==+====n i i n i n i i k n i k i n i k i n i k i n i k i n i i n i i n i k i n i i y y y a a x x x x x x x x 11i 1 10121 11 1112111 a n 6. 将这个范德蒙得矩阵化简后得到 ?? ??? ? ??????=???????????????????????? ??n k k n n k k y y y a a a x x x x x x 21102 211111 7.因为Y A X =*,那么X Y A /=,计算得到系数矩阵，同时就得到了拟合曲线。 四、课程设计内容 ⑴实验环境：MATLAB2010b ⑵实验内容：给定的数据点（ ） 1) 用最小二乘法求拟合数据的多项式； 2) 用MATLAB 内部函数polyfit 函数进行拟合。 3) 实验步骤 1)首先根据表格中给定的数据，用MATLAB 软件画出数据的散点图（图1）。 2)观察散点图的变化趋势，近似于二次函数。则用二次多项式进行拟合，取一组基函数 ,并令 ，其中 是待定系数 。 3)用MATLAB 程序作线性最小二乘法的多项式拟合，求待定系数。
第三章 插值法与最小二乘法 3.7 最小二乘法 一、教学目标及基本要求 通过对本节课的学习，使学生掌握数值逼近的拟合方法。 二、教学内容及学时分配 本章主要介绍数值分析的最小二乘法。具体内容如下：曲线拟合原理，最小二乘法。 三、教学重点难点 1．教学重点：曲线拟合。 2. 教学难点：最小二乘法。 四、教学中应注意的问题 多媒体课堂教学为主。适当提问，加深学生对概念的理解。 一．曲线拟合 1.问题提出： 已知多组数据(),,1,2,,i i x y i N =L ，由此预测函数()y f x =的表达式。 数据特点：（1）点数较多。（2）所给数据存在误差。 解决方法：构造一条曲线反映所给数据点的变化总趋势，即所谓的“曲线拟合”。 2.直线拟合的概念 设直线方程为y=a+bx 。 则残差为：?i i i e y y =-,1,2,,i N =L ，其中?i i y a bx =+。 残差i e 是衡量拟合好坏的重要标志。 可以用MATLAB 软件绘制残差的概念。 x=1:6; y=[3,4.5,8,10,16,20]; p=polyfit(x,y,1); xi=0:0.01:7; yi=polyval(p,xi); plot(xi,yi,x,y, 'o');
y1=polyval(p,x); hold on for i=1:6 plot([i,i],[y(i),y1(i)], 'r'); end 可以绘制出如下图形： 三个准则： （1）max i e 最小 （2）1n i i e =∑最小 （3）21 N i i e =∑最小 3.最小二乘法的直线拟合
关于几种曲线拟合基本方法的比较 学院：材料科学与工程学院专业：材料学（博）姓名：郑文静学号：1014208040 在实际工作中，变量之间的关系未必都是线性关系，更多时候，它们之间呈现出了曲线关系，在科学实验或社会活动中，通过实验或观测得到一些x和y数据，为了对位置点进行研究，很多时候，我们通过曲线拟合的方式，将这些离散点近似为一条连续的曲线，从而来预测或者得到所需结果。曲线拟合的方法很多，本文中，主要讨论了曲线拟合的三种基础方法--插值法、磨光法、最小二乘法的特点，并对其在科学实验和生产实践中的应用性进行了比较。 插值法是函数逼近的一种基本方法，插值法就是通过函数在有限个点处的取值情况，估算出函数在其他点处的近似值。插值法中，选取不同的插值公式，来满足实际或运算需求，得到拟合的函数。其中，最基础的插值方法是三弯矩法，该方法是利用拉格朗日插值为基础，已知平面中的n+1个不同点，寻找一条n次多项式曲线通过这些点。该曲线具有唯一性。另外，还有三转角法，该方法是利用Henmiter插值为基础，其思路与三弯矩法相同，已知条件有所差别，在Henmiter插值中，不仅已知函数在一些点的函数值，而且，还知道它在这些点的导数值，甚至知道其高阶导数值，要求所求函数不仅满足过这些点，同时也要求其导函数，甚至高阶导函数满足条件。采用Henmiter插值法求得的多项式比拉格朗日法求得的多项式有较高的光滑逼近要求。此外，还有以分段和B-样条函数为基础的δ-基函数法，其中，样条函数是：对于[a,b]上的划分，称函数S(x)为[a,b]上关于划分△的k次样条函数，记做S k，△[a,b]。该方法避免了高次插值可能引起的大幅度波动现象，在实际中通常采用分段低次插值来提高近似程度。插值法常用于填充图像变换时像素之间的空隙。 磨光法是适应保凸性要求的数据拟合方法。积分可以改变函数的光滑度，而微商是积分的逆运算，对函数进行积分，然后在微商，可以将函数还原。而差商近似为微商，对函数积分后差商，可以将函数近似还原，同时可以更光滑，这种变换就是磨光。可以采用其他方法拟合得到函数，对于不光滑的点采用一次或多次磨光，得到更加光滑连续的函数。这种方法常用于外形设计。 最小二乘法也是函数逼近的一种基本方法。该方法不要求拟合曲线通过已知点，而是通过最小化误差的平方和寻找数据的最佳函数匹配。其解题步骤是：首先通过数据点，确定其可能所属的函数类型；然后，设出函数，并求出误差平方和的表达式；之后，由表达式对函
计算方法实验报告实验二函数逼近与曲线拟合 班级硕1309 姓名杨婷婷 学号 131411068
实验二 函数逼近与曲线拟合 一、问题的提出 从随机的数据中找出其规律性，给出其近似表达式的问题，在生产实践和科学实验中大量存在，通过利用数据的最小二乘法求得拟合曲线。 在某冶炼过程中，根据统计数据的含碳量和时间的关系，试求含碳量y 与时间t 的拟合曲线。 t(分) 0 5 10 15 20 25 30 35 40 45 50 55 Y （10-4） 0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64 二、实验要求 1、用最小二乘法进行曲线拟合； 2、近似解析表达式为()33221t a t a t a t ++=?； 3、打印出拟合函数()t ?，并打印出()j t ?与() j t y 的误差，j=1,2，???，12； 4、另外选取一个解析表达式，尝试拟合效果的比较； 5、绘制出曲线拟合图。 三、实验目的与意义 1、掌握曲线拟合的最小二乘法； 2、最小二乘法亦可解超定线代数方程组； 3、探索拟合函数的选择与拟合精度间的关系。 四、结构程序设计 >> x=0:5:55; >> y=[0,1.27,2.16,2.86,3.44,3.87,4.15,4.37,4.51,4.58,4.02,4.64]; >> plot(x,y,x,y,'o') >> p3=polyfit(x,y,4); vpa(poly2sym(p3),10) ans = -6 4 3 0.0604487179487187 + 0.602564102564116 10 x - 0.0000319178969178983 x 2 - 0.00293227466977462 x + 0.238069314944314