《試驗設計與建?！氛n件-1.(66頁PPT)

1、試驗設計和建模周永道四川大學數(shù)學學院第1頁，共66頁。試驗設計和分析教材: 方開泰、劉民千、周永道(2011)，試驗設計 和建模。 期末最終成績構成: 期末考試: 70% 作業(yè): 10% 隨堂測試: 10% 小課題: 10%軟件: MATLAB， SPSS 第2頁，共66頁。參考書方開泰、馬長興，正交與均勻試驗設計，科學出版社，2001.Douglas C. Montgomery. Design and Analysis of Experiments, 6th Edition，中國郵電出版社, 2007.Hamada, M. and Wu, Jeff C.F., Experiments: Pl

2、anning, Analysis, and Parameter Design Optimization , Wiley, 2000.Cornell, J.A. Experiments with Mixtures, 3nd Ed., Wiley, 2002.Fang, K.T., Li, R. and Sudjianto, A. Design and Modeling for Computer Experiments, Chapman & Hall/CRC Press, London, 2005.第3頁，共66頁。第一章試驗設計的基本概念第4頁，共66頁。1.1 科學試驗1.1.1 試驗的重要性

3、科學試驗是人們認識自然、了解自然的重要手段。許多重要的科學規(guī)律都通過科學試驗發(fā)現(xiàn)和證實。隨著科學和技術的發(fā)展，試驗涉及的因素越來越多，它們之間的關系更加復雜，光憑經(jīng)驗已不能達到預期要求，于是產(chǎn)生了試驗設計這門學科。設計一個試驗涉及到試驗目的、試驗方案、技術保證、分析數(shù)據(jù)以及有關組織管理等。這些環(huán)節(jié)有的是屬于管理科學，有的是需要數(shù)學和統(tǒng)計學的方法來設計試驗方案，后者稱為統(tǒng)計試驗設計, 它是統(tǒng)計學的一個重要分支。第5頁，共66頁。統(tǒng)計試驗設計 是統(tǒng)計學的重要分支，它能大量節(jié)省試驗的次數(shù)。能將試驗數(shù)據(jù)從隨機誤差的煙幕中去偽存真，抓住事物的規(guī)律。 所以一個精心設計的試驗是認識世界的有效方法 (Atki

4、nson and Donev (1992)。第6頁，共66頁。 奠定了現(xiàn)代遺傳理論的基礎例1.1孟德爾豌豆實驗例1.2化工試驗在某化工產(chǎn)品的合成工藝中，考慮反應溫度(A)、壓力(B) 和催化劑用量(C)，并選擇了試驗范圍分別為：溫度(A): 80oC120oC；壓力(B): 46 大氣壓；催化劑用量(C): 0.5%1.5%； 我們需要選擇這三個因素的最佳組合，以達到高產(chǎn)的目的。第7頁，共66頁。許多產(chǎn)品都是混合多種成分在一起形成的。面粉水糖蔬菜汁 椰子汁鹽發(fā)酵粉乳酸鈣 咖啡粉香料色素面包怎樣確定各種成分的比例呢？經(jīng)驗試驗混料試驗例1.3 加工面包試驗第8頁，共66頁。例1.4環(huán)保試驗 在水及

5、食物中的某些化學元素，吃多了對人體是有害的，為了研究這些元素對人體健康的影響。48,275,138Cadmium (Cd)鎘 Copper (Cu) 銅Zinc (ZN) 鋅Nickel (Ni)鎳Chromium(Cr) 鉻Lead (Pb)鉛因素0 200 200 200 200 20 0 20 0.01, 0.05, 0.1, 0.2, 0.4, 0.8, 1, 2, 4, 5, 8, 10, 12, 14, 16, 18, 200.01, 0.05, 0.1, 0.2, 0.4, 0.8, 1, 2, 4, 5, 8, 10, 12, 14, 16, 18, 200.01, 0.05,

6、 0.1, 0.2, 0.4, 0.8, 1, 2, 4, 5, 8, 10, 12, 14, 16, 18, 200.01, 0.05, 0.1, 0.2, 0.4, 0.8, 1, 2, 4, 5, 8, 10, 12, 14, 16, 18, 200.01, 0.05, 0.1, 0.2, 0.4, 0.8, 1, 2, 4, 5, 8, 10, 12, 14, 16, 18, 200.01, 0.05, 0.1, 0.2, 0.4, 0.8, 1, 2, 4, 5, 8, 10, 12, 14, 16, 18, 20范圍 和 水平第9頁，共66頁。試驗設計的目的 增加產(chǎn)量提高質(zhì)量降低成

7、本縮短研究時間科學試驗是人類了解自然的手段，通過試驗來了解因素和指標（響應）之間的關系，希望一個好的試驗設計是用最少的試驗次數(shù)獲得最多的有用信息。 第10頁，共66頁。試驗設計的目的水平組合的比較建模參數(shù)估計證實猜想優(yōu)化篩選發(fā)現(xiàn)規(guī)律等等第11頁，共66頁。Experiments are performed by investigators in virtually all fields of inquiry, usually to discover something about a particular process or system.Scientific experiments are

8、 of essential importance in peoplessurviving and exploring of nature.A well designed experiment is an efficient method of learning about the worldMake it your motto day and night.Experiment!And it will lead you to the light.Experiment!The Usefulness of Experimental Design第12頁，共66頁。多因素統(tǒng)計模型未知響應曲面多峰當代科

9、學試驗的復雜性非線性響應曲面無解析表達第13頁，共66頁。多峰非線性模型第14頁，共66頁。瞎子摸象第15頁，共66頁。1.1.2 試驗的重要元素讓我們首先通過一個例子來介紹一些重要元素 例 在一個化工試驗中, 試驗者希望通過如下 的可控變量來增加產(chǎn)量: x1:原料品種m1, m2, m3x2:加酸量 (ml) 10,28x3:反應時間 (時) 0.5, 3.5第16頁，共66頁。因素(因子) 在試驗中可控的并用于考察對試驗結(jié)果(y)的變量稱為 因素 或 因子 (factor)。如反應溫度、壓力、催化劑品種、施化肥量、水稻品種等。 因素可以是 定量 的, 也可以是 定性 的。 第17頁，共66

10、頁。水平 （level) 因素變化的范圍稱為試驗區(qū)域, 在本例中,試驗區(qū)域為: m1, m2, m3 x 10,28 x 0.5,3.5.原料品種:m1, m2, m3加酸量:10,19,28反應時間:0.5, 1.5, 2.5, 3.5第18頁，共66頁。水平組合 因素諸水平的組合稱為 水平組合 (level-combination), 如 m2, 10, 2.5, m1, 28, 0.5 。水平組合在文獻中又稱為 處理組合 。 一個因子設計 (Factorial design) 是一組水平組合。 第19頁，共66頁。處理, 響應 在試驗環(huán)境下對確定的水平組合所作的試驗稱為一個 處理 (tr

11、ial 或 run) 。 試驗的結(jié)果稱為 響應 (response), 響應可以是定性的, 也可是定量的。 第20頁，共66頁。不可控的諸微小因素之總和, 稱為 隨機誤差。 同樣條件下的兩次試驗結(jié)果可能不同。隨機誤差存在于一切試驗之中。 隨機誤差 (random error)第21頁，共66頁。隨機誤差隨機誤差可假定遵從 正態(tài)分布 。 方差給出隨機誤差大之度量 。令 為重復試驗之響應值 這里, 為真值, 獨立同分布,遵從 。 第22頁，共66頁。 和 的無偏估計為 第23頁，共66頁。AA1A2y均值 = 190.5/6 = 31.75自由度 : 5NOISE隨機誤差:第24頁，共66頁。 部

12、份因子設計設有 s 個因素, 它們分別取個水平。則全部水平組合有 一個 水平組合 可視為 s 維空間的一個點, 稱為試驗點 。個。 第25頁，共66頁。例如, 一個六因素, 五水平的全面試驗至少需要 次試驗。 全面試驗若所有的水平組合都作相同重復數(shù)的試驗, 稱為全面試驗 。第26頁，共66頁。在農(nóng)業(yè)、生物等試驗中，很難做到試驗條件完全一樣。區(qū)組的概念成為古典試驗設計中非常有用的工具，同一區(qū)組的試驗有十分近似的試驗環(huán)境。區(qū)組設計可以避免或減少系統(tǒng)誤差的干擾，從而大大提高試驗結(jié)論的可靠性。在體育比賽中，區(qū)組及有關設計已在普遍使用。 區(qū)組第27頁，共66頁。試驗的環(huán)境隨著時間的推移，可能有趨勢型的變

13、化，如室溫漸高、濕度漸小、電壓波動加劇等。為了使試驗的結(jié)論更加可靠，隨機化是用來減少試驗誤差的重要手段。常用的是對試驗次序隨機化，哪個試驗先做，哪個試驗后做，隨機決定。若試驗有區(qū)組，要根據(jù)試驗的具體情形采取所有試驗的完全隨機化，或僅區(qū)組內(nèi)的試驗隨機化。 隨機化第28頁，共66頁。同一個試驗重復兩次或多次是減少試驗誤差干擾的一種方法，在傳統(tǒng)的計算方法中經(jīng)常使用。若 y1, ym 是同一個試驗條件下的響應，且 yi 獨立同分布，方差為 ，則均值 均值的方差 重復傳統(tǒng)試驗的三個基本原則： 重復性、隨機化、分區(qū)組第29頁，共66頁。針對不同的試驗，試驗者要選擇合適的試驗方法，建立相應的統(tǒng)計模型 統(tǒng)計模

14、型試驗的組織和管理一支專業(yè)隊伍明確的試驗目標科學的試驗方案試驗中，處理可控與不可控因素第30頁，共66頁。A. 試驗實現(xiàn)方式：1.1.3 試驗的類型傳統(tǒng)的試驗實驗室試驗工業(yè)試驗計算機試驗計算機模擬計算尋找近似模型第31頁，共66頁。B. 因素約束條件無約束試驗 諸因素可以自由的選擇試驗的值，不受其它因素約束，試驗區(qū)域是一個超矩形 混料試驗 因素之間的取值會相互影響，例如或第32頁，共66頁。單因素試驗水平數(shù)可以適當多取，而且可以考慮做重復試驗多因素試驗各因素的水平數(shù)一般不能取得很大二水平試驗多水平試驗C. 因素個數(shù)第33頁，共66頁。D. 響應個數(shù)單響應試驗每次試驗只觀察一個響應值。如產(chǎn)量多響

15、應試驗每次試驗觀察多個響應值。如鞋子橡膠底的試驗響應：強度、彈性和最大彎曲次數(shù)等等多媒體試驗試驗有無窮多個的響應。例如，響應是人的指紋、化學或生物中指紋曲線、聲音的曲線、圖像的顏色及深淺，等等第34頁，共66頁。E. 試驗輪次單一試驗一次試驗達到要求序貫試驗優(yōu)選法響應曲面分析均勻序貫試驗第35頁，共66頁。單區(qū)組試驗每次試驗在相同或十分近似的條件下進行區(qū)組試驗目的是使得組內(nèi)的差異比組間差異小常見的區(qū)組有以日、月、年、批次、雙胞胎，等等F. 試驗分組第36頁，共66頁。例1.5. (自由落體運動) 若不計空氣阻力，自由落體運動的初始速度為零，記下落時間為x (秒)(s)，下落距離y (米)(m)

16、，人們發(fā)現(xiàn)它們之間有如下規(guī)律 g 為重力加速度。設想試驗者對關系(1.3) 一無所知，希望通過試驗來揭示y 和x 之間的關系1.2 統(tǒng)計模型 (1.3)第37頁，共66頁。試驗結(jié)果可用二次回歸模型擬合第38頁，共66頁。試驗設計的統(tǒng)計模型 方差分析模型 因子設計，正交設計參數(shù)回歸模型 最優(yōu)設計非參數(shù)回歸模型 均勻設計穩(wěn)健回歸模型第39頁，共66頁。例1.6：威布爾生長曲線第40頁，共66頁。方差分析模型在0,10中取若干個點作試驗，設 x1, , xq 為試驗點，n1, , nq 為其重復數(shù)，其統(tǒng)計模型為第41頁，共66頁。 用統(tǒng)計方法估計 1, , q 或 , a1, , aq, 以及 2二

17、水平試驗在西方被廣泛推薦二水平不足以揭示非線性關系多水平試驗值得推薦第42頁，共66頁。二水平試驗的不足試驗范圍對，但水平不合適試驗范圍及水平都對，但不能揭示A和Y之間更復雜的關系試驗范圍錯第43頁，共66頁。只能預報四個水平處的響應值，進一步采用回歸模型是有益的。因子設計第44頁，共66頁。試驗設計的統(tǒng)計模型 方差分析模型 因子設計，正交設計參數(shù)回歸模型 最優(yōu)設計非參數(shù)回歸模型 均勻設計穩(wěn)健回歸模型第45頁，共66頁。根據(jù)專業(yè)知識, 可選用適當?shù)幕貧w模型, 比如用二次模型回歸模型其中函數(shù) f1, fm已知, 但參數(shù) b1, bm未知。或三次模型更一般地,第46頁，共66頁。給定試驗次數(shù) n，

18、希望能獲得最精確的回歸系數(shù) b0, b1, 的估計。缺點：對模型的變化缺乏穩(wěn)健性。Kiefer, J.C. (1958), Ann Math.Stat.Kiefer, J.C. (1959), JRSS, B, with discussionAtkinson, A.C. and Donev, A.N. (1992), Optimal Experimental Designs, Clavendon Press, Oxford最優(yōu)設計第47頁，共66頁。三次回歸模型的D-最優(yōu)設計及其擬合如果采用4次多項式模型,效果會顯著地改進。第48頁，共66頁。試驗設計的統(tǒng)計模型 方差分析模型 因子設計，正交設

19、計參數(shù)回歸模型 最優(yōu)設計非參數(shù)回歸模型 均勻設計穩(wěn)健回歸模型第49頁，共66頁。式中函數(shù)形式 g(x)未知。希望通過試驗求得g(x)一個近似模型。這時，一個自然的想法是將試驗點在0,2上均勻散布，即均勻設計。 若試驗者對模型未知，這時將面對非參數(shù)回歸模型非參數(shù)回歸模型第50頁，共66頁。均勻設計及其擬合多項式回歸第51頁，共66頁。均勻設計是一種試驗設計方法。它可以用較少的試驗次數(shù)，安排多因素、多水平的析因試驗，當試驗者對析因試驗的統(tǒng)計模型未知時，均勻設計是最好的設計方法。均勻設計也是仿真試驗設計和穩(wěn)健設計的重要方法。均勻設計第52頁，共66頁。試驗設計的統(tǒng)計模型 方差分析模型 因子設計，正交

20、設計參數(shù)回歸模型 最優(yōu)設計非參數(shù)回歸模型 均勻設計穩(wěn)健回歸模型第53頁，共66頁。穩(wěn)健回歸模型常用于部分模型已知的情形此時，可用一些 穩(wěn)健設計 或 均勻設計.其中 f(x) 為已知函數(shù)，h(x) 為 偏離真實函數(shù) 的部分。穩(wěn)健回歸模型即 f(x) 為參數(shù) 的線性函數(shù)。第54頁，共66頁?；貧w模型:yi, xi1, xi2, , xi,p-1, i = 1, , ny = b0 + b1x1 + b2x2 + + b p-1 x p-1 + eE(e) = 0,Var(e) = s2 未知或 yi = b0 + b1xi1 + b2xi2 + + b p-1 xi, p-1 + ei ei,en

21、 i.i.d. E(ei) = 0, Var(ei) = s2.或更一般的, yi= b1 g1(xi) + b2 g2(xi) + + b p gp(xi) + ei ei,en i.i.d. E(ei) = 0, Var(ei) = s2.xi=( xi1, xi2, , xi,p-1), i=1, , n1.3 回歸分析簡介 第55頁，共66頁。一般回歸模型的矩陣表示:y = Gb + eE(e) = 0,Cov(e) = s2In其中 y : n1, G : np, b : p1, e : n1 其元素 i.i.d.(1.14)第56頁，共66頁。線性模型 (1.14) 包括很多有用的

22、模型:線性模型通過原點的線性模型二次模型中心化二次模型y = b0 + b1x1 + b2x2 + + b p-1 x p-1 + ey = b1x1 + b2x2 + + b p-1 x p-1 + e(1.16)第57頁，共66頁。對于模型 (1.14) (a) 估計 模型 (1.14) 的最小二乘估計為 性質(zhì): 其中 M=GG 為 信息矩陣, 或有時稱 M=GG/n 為信息矩陣. 第58頁，共66頁。s 2 的估計的矩陣表達形式E(y) = XbCov(y) = s2In0為無偏估計. 第59頁，共66頁。對于線性模型 (1.16), 在實際中常檢驗下面的假設: (k=p-1)A. 檢驗模型是否有意義. H0: b1 = = bk = 0 VS