直線回歸法的公式推導(dǎo)

關(guān)于直線回歸法的公式推導(dǎo)第1頁，課件共16頁，創(chuàng)作于2023年2月主要內(nèi)容

回歸直線法的原理回歸直線的公式推導(dǎo)一二第2頁，課件共16頁，創(chuàng)作于2023年2月0x業(yè)務(wù)量（件）y

成本（元）y=a+bx一、直線回歸法的原理直線回歸發(fā)的原理——微積分極值原理第3頁，課件共16頁，創(chuàng)作于2023年2月

從散布圖法可以看出，我們總能設(shè)法找到一條盡可能通過所有坐標(biāo)點(diǎn)，也就是所有誤差最小的惟一直線y=a+bx。設(shè)ei為當(dāng)業(yè)務(wù)量為xi時(shí)，實(shí)際值（又稱觀測(cè)值）yi與計(jì)算值（a+bxi）的誤差，即

ei=yi–(a+bxi)二、直線回歸法公式推導(dǎo)第4頁，課件共16頁，創(chuàng)作于2023年2月

怎樣判斷一條直線方程就是我們所要找的所有誤差最小的那條直線y=a+bx呢？可以考慮的辦法有三：第一，判斷所有誤差的代數(shù)和是否最小。即：Σei=0

但由于誤差有正有負(fù)，可能相互抵消，會(huì)存在無數(shù)滿足上述條件的直線，因而無法據(jù)此作出最終判斷。二、直線回歸法公式推導(dǎo)第5頁，課件共16頁，創(chuàng)作于2023年2月所有誤差的代數(shù)和是否最小示意圖？0x業(yè)務(wù)量（件）y

成本（元）滿足Σei=0的條件滿足Σei=0的條件二、直線回歸法公式推導(dǎo)第6頁，課件共16頁，創(chuàng)作于2023年2月

第二，判斷所有誤差絕對(duì)值的合計(jì)是否最小。即：Σ│ei│=0

但上式展開后，涉及到絕對(duì)數(shù)運(yùn)算，非常麻煩：

Σ│ei│=±e1±e2±e3±…±en-1±en

因而也無法據(jù)此作出判斷。二、直線回歸法公式推導(dǎo)第7頁，課件共16頁，創(chuàng)作于2023年2月

第三，判斷所有誤差平方和是否最小。即：Σei2=0

這種方法既排除了正負(fù)誤差的符號(hào)問題，又避免了絕對(duì)值運(yùn)算的麻煩。因此，可以根據(jù)誤差的平方和是否達(dá)到最小，來判斷直線方程y=a+bx的總誤差是否達(dá)到最小。此法又稱最小二乘法或最小平方法。二、直線回歸法公式推導(dǎo)第8頁，課件共16頁，創(chuàng)作于2023年2月

根據(jù)上述道理，回歸直線法就是求能使Σei2=0成立的回歸系數(shù)a和b的值。因?yàn)閑i=yi–(a+bxi)

所以Σei2=Σ[yi–(a+bxi)]2

按照微分極值原理，令上式=0，并分別對(duì)a和b求偏導(dǎo)數(shù)，就可以求出能滿足Σei2

達(dá)到極小值的a和b。按照此法推導(dǎo)的a，b計(jì)算公式，稱為

公式法。二、直線回歸法公式推導(dǎo)第9頁，課件共16頁，創(chuàng)作于2023年2月Σe2=Σ[y

–(a+bx)]2=Σ[y

2–2y

(a+bx)+(a+bx)2]=Σ[y

2–2ay–2bxy+a2+2abx+b2x2]=Σy2–2aΣy–2bΣxy+na2+2abΣx+b2Σx2令：Σy

2–2aΣy–2bΣxy+na2+2abΣx+b2Σx2=0對(duì)上式求a的偏導(dǎo)數(shù)，得：

–2Σy+2na+2bΣx=0整理得Σy=na+bΣx（1）式1.按公式法推導(dǎo)a，b計(jì)算公式的過程第10頁，課件共16頁，創(chuàng)作于2023年2月對(duì)Σy2–2aΣy–2bΣxy+na2+2abΣx+b2Σx2=0求b的偏導(dǎo)數(shù)，得：

–2Σxy+2aΣx+2bΣx2=0整理得

Σxy=aΣx+bΣx2

（2）式解聯(lián)立方程，即可求出a，b的值。1.按公式法推導(dǎo)a，b計(jì)算公式的過程Σy=na+bΣxΣxy=aΣx+bΣx2第11頁，課件共16頁，創(chuàng)作于2023年2月2.用行列式求二元一次方程組中a和b的解Σy=na+bΣxΣxy=aΣx+bΣx2因?yàn)橄铝新?lián)立方程中，未知數(shù)為a和b，Σy,Σxy為已知常數(shù)，n,Σx和Σx2分別為a和b的系數(shù)，則有常數(shù)列

ΣyΣxy用行列式的方法解法如下：第12頁，課件共16頁，創(chuàng)作于2023年2月Δ==nΣx2-(Σx)2Δa==ΣyΣx2-ΣxΣxy

nΣxΣxΣx2ΣyΣxyΣxΣx2Δb==nΣxy-ΣxΣynΣxΣyΣxy

nΣx2.用行列式求二元一次方程組中a和b的解第13頁，課件共16頁，創(chuàng)作于2023年2月a=ΔaΔb=ΔbΔnΣx2-(Σx)2ΣyΣx2-ΣxΣxy=nΣxy-ΣxΣy=nΣx2-(Σx)2∵Σy=na+bΣx可以同時(shí)計(jì)算出a和bΣy-bΣxn∴a=必須先計(jì)算出b，然后才能計(jì)算a2.用行列式求二元一次方程組中a和b的解第14頁，課件共16頁，創(chuàng)作于2023年2月

上述聯(lián)立方程也可以不用求偏導(dǎo)數(shù)的方法來建立，可利用一種所謂簡(jiǎn)捷法來實(shí)現(xiàn)?！遹=a+bx∴Σy=Σ(a+bx)=na+bΣx（1）式又