深度學(xué)習(xí)及自動(dòng)駕駛應(yīng)用 課件 第1、2章 汽車自動(dòng)駕駛技術(shù)概述、深度學(xué)習(xí)基礎(chǔ)

Chapter1汽車自動(dòng)駕駛技術(shù)概述第一章DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第2頁1.1汽車自動(dòng)駕駛技術(shù)概述1.2汽車自動(dòng)駕駛技術(shù)架構(gòu)目錄Content1.3汽車自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用概述DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第3頁1.1汽車自動(dòng)駕駛技術(shù)概述1.2汽車自動(dòng)駕駛技術(shù)架構(gòu)目錄Content1.3汽車自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用概述汽車自動(dòng)駕駛技術(shù)原理及愿自動(dòng)駕駛汽車是指搭載先進(jìn)車載傳感器、控制器、執(zhí)行器等裝置，具備復(fù)雜環(huán)境感知、自主決策、運(yùn)動(dòng)控制等功能，可實(shí)現(xiàn)“安全、高效、舒適、節(jié)能”行駛，最終替代人類駕駛員并實(shí)現(xiàn)自主駕駛的新一代汽車。自動(dòng)駕駛技術(shù)因?yàn)榫哂刑嵘煌ò踩?、增?qiáng)道路通暢、減少燃油消耗的巨大潛力，受到學(xué)界和業(yè)界的廣泛關(guān)注。麥肯錫報(bào)告顯示自動(dòng)駕駛的全面普及可將交通事故發(fā)生率降低至原來的十分之一。蘭德公司預(yù)測自動(dòng)駕駛汽車可提升30%的交通效率，減少67%的碳排放量，潛在的經(jīng)濟(jì)與社會(huì)效益顯著。4第4頁汽車自動(dòng)駕駛的分級(jí)第5頁汽車自動(dòng)駕駛的分級(jí)中國汽車工程學(xué)會(huì)分級(jí)第6頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀第7頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀1956年推出的FirebirdII，是世界上第一輛安裝自動(dòng)導(dǎo)航系統(tǒng)的概念車，神似火箭頭的造型很容易讓人聯(lián)想到已經(jīng)實(shí)現(xiàn)自動(dòng)駕駛的飛機(jī)。第8頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀2004年~2007年間，DARPA在連續(xù)組織了三屆無人駕駛汽車競賽，在推動(dòng)自動(dòng)駕駛技術(shù)方面發(fā)揮了重要作用，激發(fā)了全球范圍內(nèi)的研究和開發(fā)，圖為DARPA2005競賽冠軍斯坦福大學(xué)的Stanley賽車。第9頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀20世紀(jì)80年代開始，美國卡內(nèi)基·梅隆大學(xué)、斯坦福大學(xué)、麻省理工學(xué)院等著名大學(xué)都先后加入無人駕駛汽車的研究工作中。其中，美國卡內(nèi)基·梅隆大學(xué)研制的NavLab系列智能車輛最具有代表性。進(jìn)行了多次自動(dòng)駕駛測試，其中包括在高速公路上的自動(dòng)駕駛行駛，開發(fā)的NavLab-11，如圖，最高車速達(dá)到了102km/h。第10頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀1987年至1995年期間，德國慕尼黑聯(lián)邦國防大學(xué)研發(fā)的VAMT和VITA智能車，該車輛最大時(shí)速為158km/h，可以實(shí)現(xiàn)車輛自動(dòng)超車、跟隨等功能。2001年，歐盟開展了CyberCars/CyberMove智能車項(xiàng)目，該系列智能車采用激光掃描技術(shù)，可以完成障礙檢測、車輛跟蹤和自主導(dǎo)航。1998年，意大利帕爾馬大學(xué)研發(fā)出ARGO智能車，2010年，ARGO試驗(yàn)車沿著馬可·波羅的旅行路線，全程自動(dòng)駕駛來到中國上海參加世博會(huì)，行程達(dá)15900km。2013年，ARGO試驗(yàn)車在無人駕駛的情況下成功識(shí)別了交通信號(hào)燈、避開行人、駛過十字路口和環(huán)島等。除了科研院校在無人駕駛領(lǐng)域的積極研究外，奧迪、福特、沃爾沃、日產(chǎn)、寶馬等眾多汽車制造廠商也于2013年開始相繼在無人駕駛汽車領(lǐng)域進(jìn)行了布局。第11頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀2018新款?yuàn)W迪A8是全球首款量產(chǎn)搭載Level3級(jí)別的自動(dòng)駕駛系統(tǒng)的車型，其安裝有24個(gè)車載傳感器，可以在60km/h以下車速時(shí)實(shí)現(xiàn)Level3級(jí)自動(dòng)駕駛。第12頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀2015年10月，特斯拉推出的半自動(dòng)駕駛系統(tǒng)Autopilot，Autopilot是第一個(gè)投入商用的自動(dòng)駕駛技術(shù)。2010年，通用公司在上海世博會(huì)上首次展示了EN-V系列電動(dòng)車輛的概念原型。2016年，通用汽車收購了自動(dòng)駕駛技術(shù)創(chuàng)業(yè)公司CruiseAutomation，正式進(jìn)入無人駕駛領(lǐng)域。2018年1月，作為通用汽車旗下自動(dòng)駕駛部門的CruiseAutomation發(fā)布了新一代（第四代）無人駕駛汽車——CruiseAV，如圖1.11所示。CruiseAV沒有方向盤、油門踏板和剎車踏板，安裝了21個(gè)普通雷達(dá)、16個(gè)攝像機(jī)和5個(gè)激光雷達(dá)來感知車輛周圍的環(huán)境和障礙物。第13頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀2010年，Google啟動(dòng)了"谷歌自動(dòng)駕駛項(xiàng)目"，旨在研發(fā)一種能夠自主駕駛的汽車，并能夠在現(xiàn)實(shí)道路上行駛，圖為谷歌公司的自動(dòng)駕駛原型車。谷歌的自動(dòng)駕駛團(tuán)隊(duì)開始將自動(dòng)駕駛技術(shù)應(yīng)用于一些修改過的汽車，并進(jìn)了測試。他們?cè)诓煌貐^(qū)進(jìn)行大規(guī)模的測試，積累了大量的自動(dòng)駕駛行駛數(shù)據(jù)，并不斷改進(jìn)和驗(yàn)證自動(dòng)駕駛系統(tǒng)的性能。2016年，谷歌將自動(dòng)駕駛項(xiàng)目整合到AlphabetInc.旗下的一個(gè)子公司——Waymo。Waymo在自動(dòng)駕駛車的研究和開發(fā)方面取得了顯著的成就，并不斷推進(jìn)自動(dòng)駕駛技術(shù)的商業(yè)化和實(shí)際應(yīng)用。第14頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀2016年5月，Uber無人駕駛汽車在位于美國賓夕法尼亞州匹茲堡市的Uber先進(jìn)技術(shù)中心正式上路測試。Uber首次路測使用的無人駕駛汽車是一款福特Fusion混合動(dòng)力汽車，如圖所示，它同時(shí)進(jìn)行采集測繪數(shù)據(jù)并試驗(yàn)自動(dòng)駕駛功能。第15頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國外自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀創(chuàng)業(yè)公司nuTonomy是一家于2013年從麻省理工學(xué)院分離出來的創(chuàng)業(yè)公司，2016年8月，它成為了新加坡第一家在試點(diǎn)項(xiàng)目下推出自動(dòng)駕駛出租車的公司。在新加坡的測試中，nuTonomy在自動(dòng)駕駛汽車上配備了6套激光雷達(dá)檢測系統(tǒng)，前面安裝有2個(gè)攝像機(jī)，用于識(shí)別障礙物，檢測交通信號(hào)燈變化。第16頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國內(nèi)自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀第17頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國內(nèi)自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀相對(duì)于歐美國家，我國智能車的研究起步較晚，國防科技大學(xué)從20世紀(jì)80年代末開始先后研制出基于視覺的CITAVT系列智能車輛。1992年，由國防科技大學(xué)、北京理工大學(xué)等五家單位聯(lián)合研制成功了ATB－1（AutonomousTestBed－1）無人車，這是我國第一輛能夠自主行駛的測試樣車，其行駛速度可以達(dá)到21km／h。清華大學(xué)在國防科工委和國家863計(jì)劃的資助下，從1988年開始研究開發(fā)THMR系列智能車。THMR-Ⅴ智能車能夠?qū)崿F(xiàn)結(jié)構(gòu)化環(huán)境下的車道線自動(dòng)跟蹤、準(zhǔn)結(jié)構(gòu)化環(huán)境下的道路跟蹤，復(fù)雜環(huán)境下的道路避障、道路停障以及視覺臨場感遙控駕駛等功能，最高車速達(dá)150km/h。1992年以后，吉林大學(xué)先后研發(fā)出了JUIV系列智能車，其中JLUIV-4使用交流電提供動(dòng)力，提升了視覺采集技術(shù)，使得視野范圍更大，圖像采集的速度加快。第18頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國內(nèi)自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀為推動(dòng)創(chuàng)新研發(fā)無人駕駛汽車，國家自然科學(xué)基金委員會(huì)啟動(dòng)了“視聽覺信息的認(rèn)知計(jì)算”重大研究計(jì)劃，從2009年起，每年舉辦一屆“中國智能車未來挑戰(zhàn)賽”推動(dòng)中國的無人駕駛車輛“駛出實(shí)驗(yàn)室，駛向?qū)嶋H環(huán)境”。2012年，軍事交通學(xué)院研制出“猛獅3號(hào)”智能車，如圖1.14所示，獲得“中國智能車未來挑戰(zhàn)賽”冠軍，在高速公路進(jìn)行試驗(yàn)，完成了車輛跟隨、換道、超車等功能。第19頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國內(nèi)自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀不同于國外車企以自主研發(fā)為主，我國汽車制造廠商多采取與國內(nèi)科研院所、高校合作研發(fā)無人駕駛技術(shù)。一汽集團(tuán)于2007年與國防科技大學(xué)合作，2011年7月，由一汽集團(tuán)與國防科技大學(xué)共同研制的紅旗HQ3無人駕駛汽車，如圖所示，完成了286km的面向高速公路的全程無人駕駛試驗(yàn)，人工干預(yù)的距離僅占總里程的0.78％。2015年4月，一汽集團(tuán)正式發(fā)布了其“摯途”技術(shù)戰(zhàn)略，標(biāo)志著一汽集團(tuán)的互聯(lián)智能汽車技術(shù)戰(zhàn)略規(guī)劃正式形成。第20頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國內(nèi)自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀2015年8月，宇通大型客車從鄭開大道城鐵賈魯河站出發(fā)，在完全開放的道路環(huán)境下完成自動(dòng)駕駛試驗(yàn)，共行駛32.6km，最高速度為68km/h，全程無人工干預(yù)，這是國內(nèi)首次大型客車高速公路自動(dòng)駕駛試驗(yàn)。2018年5月，宇通客車在其2018年新能源全系產(chǎn)品發(fā)布會(huì)上宣布，已具備面向高速結(jié)構(gòu)化道路和園區(qū)開放通勤道路的Level4級(jí)別自動(dòng)駕駛能力。2013年，百度公司開始了百度無人駕駛汽車項(xiàng)目，其技術(shù)核心是“百度汽車大腦”，包括高精度地圖、定位、感知、智能決策與控制四大模塊。2015年12月初，百度無人駕駛汽車在北京進(jìn)行自動(dòng)駕駛測跑，實(shí)現(xiàn)多次跟車減速、變道、超車、上下匝道、調(diào)頭等復(fù)雜駕駛動(dòng)作，完成了進(jìn)入高速到駛出高速不同道路場景的切換，最高車速達(dá)到100km/h。第21頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國內(nèi)自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀2015年12月14日，百度宣布正式成立自動(dòng)駕駛事業(yè)部。2016年，百度智能車獲得美國加州車輛管理局的批準(zhǔn)，可以進(jìn)行無人車輛道路測試。2021年下半年，百度正式組建智能汽車事業(yè)部，將多年積累的能力和經(jīng)驗(yàn)全面應(yīng)用在量產(chǎn)乘用車領(lǐng)域，助力車企共同擁抱汽車智能化浪潮。自此，百度先后推出了自主泊車ApolloParking、行泊一體領(lǐng)航輔助駕駛ApolloHighwayDrivingPro、城市域領(lǐng)航輔助駕駛ApolloCityDrivingMax等覆蓋低、中、高組合的全系列智駕產(chǎn)品，目前已在多款明星車型上實(shí)現(xiàn)量產(chǎn)。第22頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國內(nèi)自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀百度自動(dòng)駕駛出租車2020年10月11日起在北京開放，約車平臺(tái)為“蘿卜快跑”?！疤}卜快跑”是百度Apollo帶來的全新升級(jí)的自動(dòng)駕駛出行服務(wù)平臺(tái)，主要使用自動(dòng)駕駛汽車Robotaxi，如圖所示，開展自動(dòng)駕駛甚至完全無人駕駛運(yùn)營。截止2023年，蘿卜快跑已在北京、上海、廣州、深圳、重慶、武漢、長沙、陽泉、烏鎮(zhèn)等城市開通。第23頁汽車自動(dòng)駕駛技術(shù)發(fā)展現(xiàn)狀國內(nèi)自動(dòng)駕駛汽車的發(fā)展現(xiàn)狀我國還有不少科技公司在自動(dòng)駕駛領(lǐng)域取得了不錯(cuò)的成績“經(jīng)緯恒潤”的產(chǎn)品覆蓋智能泊車、智能行車、安全預(yù)警三大領(lǐng)域。

“地平線”是國內(nèi)率先實(shí)現(xiàn)大規(guī)模前裝量產(chǎn)的車載智能芯片公司，領(lǐng)跑ADAS一體機(jī)、智能座艙、智能駕駛（行泊一體）域控制器等細(xì)分市場?！澳⒐杰嚶?lián)”采取“單車智能+車路協(xié)同”技術(shù)路線，以系統(tǒng)性思維打造了“車路云一體化”自動(dòng)駕駛方案，實(shí)現(xiàn)技術(shù)與數(shù)據(jù)閉環(huán)，在自動(dòng)駕駛行業(yè)競爭中形成優(yōu)勢?！拜p舟智航”采取“技術(shù)應(yīng)用深度和廣度”雙擎發(fā)展戰(zhàn)略。一方面，以公開道路L4級(jí)別自動(dòng)駕駛能力為“動(dòng)力引擎”，不斷探索更多落地場景，驅(qū)動(dòng)城市交通出行效率提升；另一方面，以自動(dòng)駕駛量產(chǎn)規(guī)?；涞貫椤皠?chuàng)新引擎”，借助更多裝機(jī)量實(shí)現(xiàn)產(chǎn)品和技術(shù)的打磨。專注于礦區(qū)自動(dòng)駕駛技術(shù)的“踏歌智行”，入選為國家級(jí)專精特新“小巨人”企業(yè)，自研感知、規(guī)控、協(xié)同、云控、運(yùn)維五大核心技術(shù)，有效應(yīng)對(duì)極端自然環(huán)境、特殊路面、龐大車輛、復(fù)雜路況與生產(chǎn)工藝流程等礦區(qū)獨(dú)有的應(yīng)用場景。第24頁DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第25頁1.1汽車自動(dòng)駕駛技術(shù)概述1.2汽車自動(dòng)駕駛技術(shù)架構(gòu)目錄Content1.3自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用概述汽車自動(dòng)駕駛技術(shù)架構(gòu)第26頁汽車自動(dòng)駕駛技術(shù)架構(gòu)環(huán)境感知環(huán)境感知技術(shù)是自動(dòng)駕駛系統(tǒng)中至關(guān)重要的組成部分，它負(fù)責(zé)通過傳感器獲取車輛周圍環(huán)境的信息，以實(shí)時(shí)感知和理解道路條件、障礙物、交通標(biāo)志、行人和其他車輛等各種元素。這些感知信息是自動(dòng)駕駛決策和規(guī)劃的基礎(chǔ)，幫助車輛做出正確和安全的駕駛決策。第27頁汽車自動(dòng)駕駛技術(shù)架構(gòu)環(huán)境感知攝像頭：攝像頭是被動(dòng)式傳感器，它的基本工作原理是通過光學(xué)透鏡和圖像傳感器，將周圍環(huán)境的光線轉(zhuǎn)化為數(shù)字圖像信號(hào)。相比于其他傳感器，攝像頭通常成本較低，適用于廣泛應(yīng)用和大規(guī)模生產(chǎn)。但攝像頭產(chǎn)生的圖像數(shù)據(jù)龐大，對(duì)計(jì)算機(jī)視覺算法和硬件的要求較高，需要高效的圖像處理和分析能力，在強(qiáng)光、弱光和惡劣天氣條件下可能性能下降。激光雷達(dá)：激光雷達(dá)是一種主動(dòng)式傳感器，它通過發(fā)射一束激光脈沖，并通過接收返回的激光反射信號(hào)來計(jì)算目標(biāo)物體的距離和位置。激光雷達(dá)的傳感器通常旋轉(zhuǎn)或使用多束激光來掃描周圍環(huán)境來獲取周圍環(huán)境的三維點(diǎn)云數(shù)據(jù)，這些點(diǎn)云數(shù)據(jù)可以用于構(gòu)建高精度的地圖、檢測障礙物和進(jìn)行目標(biāo)識(shí)別，從而實(shí)現(xiàn)全方位的感知。但激光雷達(dá)成本高、價(jià)格昂貴、對(duì)不透明物體的感知能力有限。第28頁汽車自動(dòng)駕駛技術(shù)架構(gòu)環(huán)境感知毫米波雷達(dá)：毫米波雷達(dá)也是一種主動(dòng)式傳感器，它使用毫米波頻段（通常是24GHz或77GHz）的電磁波來探測周圍環(huán)境，從而提供高精度、長距離的障礙物檢測和距離測量。相比于激光雷達(dá)，其空間分辨率較低、通常無法穿透非金屬、不透明的物體、角度分辨率相對(duì)較低，無法提供精細(xì)的目標(biāo)識(shí)別和輪廓信息。超聲波傳感器：是一種常用于測量距離和檢測障礙物的被動(dòng)式傳感器。它利用超聲波在空氣中傳播的特性，測量從傳感器發(fā)射到目標(biāo)物體反射回來的超聲波的時(shí)間差，從而計(jì)算出目標(biāo)物體與傳感器的距離。相比于其他傳感器，超聲波傳感器通常成本較低，適用于經(jīng)濟(jì)實(shí)惠的自動(dòng)駕駛解決方案。然而，超聲波傳感器的探測范圍相對(duì)有限，通常在幾米到十幾米之間，因而它不適用于高速駕駛和大范圍感知。第29頁汽車自動(dòng)駕駛技術(shù)架構(gòu)環(huán)境感知全球衛(wèi)星導(dǎo)航系統(tǒng)：常用的有美國的全球定位系統(tǒng)（GlobalPositioningSystem，GPS）、俄羅斯的GLONASS、歐盟的Galileo和中國的北斗系統(tǒng)。這些衛(wèi)星導(dǎo)航系統(tǒng)共同為全球用戶提供了更加準(zhǔn)確和可靠的導(dǎo)航和定位服務(wù)，可用于獲取車輛的精確位置信息，并與高精度地圖相匹配，從而提供更準(zhǔn)確的定位和導(dǎo)航。但衛(wèi)星導(dǎo)航系統(tǒng)可能會(huì)受到信號(hào)干擾或遮擋，導(dǎo)致定位誤差增大。慣性導(dǎo)航系統(tǒng)（InertialNavigationSystem，INS）：是一種能夠獨(dú)立地、持續(xù)地、實(shí)時(shí)地提供車輛的位置、速度和方向信息的導(dǎo)航系統(tǒng)，它利用加速度計(jì)和陀螺儀等慣性傳感器來測量車輛的加速度和角速度，估計(jì)車輛的位置和姿態(tài)。慣性導(dǎo)航系統(tǒng)不依賴于外部信號(hào)源，如衛(wèi)星定位系統(tǒng)或地面基站，因此在遭遇信號(hào)中斷或干擾時(shí)仍然可以提供導(dǎo)航信息，而且慣性導(dǎo)航系統(tǒng)能夠?qū)崟r(shí)地提供導(dǎo)航信息，不需要預(yù)先建立地圖或進(jìn)行數(shù)據(jù)處理。但慣性導(dǎo)航系統(tǒng)的測量誤差會(huì)隨著時(shí)間累積，導(dǎo)致位置和方向信息的誤差逐漸增大。第30頁汽車自動(dòng)駕駛技術(shù)架構(gòu)環(huán)境感知車聯(lián)網(wǎng)：通過無線通信技術(shù)將車輛與互聯(lián)網(wǎng)連接起來，比如借助5G通信技術(shù)在高速、大容量、低延遲等方面優(yōu)勢，為車聯(lián)網(wǎng)提供更快速、可靠的數(shù)據(jù)傳輸，實(shí)現(xiàn)車輛與車輛（V2V）、車輛與基礎(chǔ)設(shè)施（V2I）、車輛與云端（V2C）之間的實(shí)時(shí)數(shù)據(jù)交換。第31頁汽車自動(dòng)駕駛技術(shù)架構(gòu)決策規(guī)劃技術(shù)在自動(dòng)駕駛汽車中，決策規(guī)劃是一個(gè)關(guān)鍵的環(huán)節(jié)，它根據(jù)車輛的感知信息和環(huán)境狀況做出決策，規(guī)劃出車輛的行駛路徑和行為，以實(shí)現(xiàn)預(yù)定的目標(biāo)和任務(wù)。決策規(guī)劃的主要任務(wù)包括路徑規(guī)劃、速度規(guī)劃、交通行為決策和沖突處理等。

第32頁汽車自動(dòng)駕駛技術(shù)架構(gòu)決策規(guī)劃技術(shù)路徑規(guī)劃：路徑規(guī)劃是決策規(guī)劃的核心部分，它決定車輛的行駛路徑。路徑規(guī)劃算法根據(jù)車輛的當(dāng)前位置、目標(biāo)位置和環(huán)境信息，計(jì)算出一條安全且符合規(guī)則的路徑。考慮到不同的場景和交通條件，路徑規(guī)劃可以是全局路徑規(guī)劃（從起點(diǎn)到目標(biāo)點(diǎn)的整體路徑規(guī)劃）或局部路徑規(guī)劃（針對(duì)避障和動(dòng)態(tài)障礙物的路徑調(diào)整）。速度規(guī)劃：速度規(guī)劃決定車輛的行駛速度。根據(jù)當(dāng)前交通情況、道路條件、障礙物等信息，速度規(guī)劃算法可以調(diào)整車輛的速度，以保持安全距離、避免碰撞，并盡可能地提高行駛效率。車道規(guī)劃：車道規(guī)劃決定車輛在道路上的行駛車道。車道規(guī)劃算法可以根據(jù)交通標(biāo)志、道路標(biāo)線和導(dǎo)航目標(biāo)，將車輛引導(dǎo)至合適的車道。交通行為決策涉及到車輛在復(fù)雜交通環(huán)境中的行為。第33頁汽車自動(dòng)駕駛技術(shù)架構(gòu)控制執(zhí)行技術(shù)自動(dòng)駕駛汽車的控制執(zhí)行是指將經(jīng)過決策規(guī)劃階段得出的行駛路徑和行為決策轉(zhuǎn)化為實(shí)際的車輛操作，使汽車能夠按照規(guī)劃的路徑和速度進(jìn)行行駛?？刂茍?zhí)行是自動(dòng)駕駛系統(tǒng)中的最終環(huán)節(jié)，負(fù)責(zé)將決策轉(zhuǎn)換成車輛的物理動(dòng)作。自動(dòng)駕駛汽車的控制執(zhí)行主要任務(wù)包括縱向（驅(qū)動(dòng)、制動(dòng)）、橫向（轉(zhuǎn)向）和橫縱向綜合控制。第34頁汽車自動(dòng)駕駛技術(shù)架構(gòu)控制執(zhí)行技術(shù)縱向控制：縱向控制是指通過對(duì)驅(qū)動(dòng)和制動(dòng)的協(xié)同控制，實(shí)現(xiàn)利用加速度或減速度對(duì)目標(biāo)車速或目標(biāo)扭矩的精確響應(yīng)。橫向控制：橫向控制主要是指通過對(duì)電動(dòng)助力轉(zhuǎn)向系統(tǒng)（EPS）進(jìn)行轉(zhuǎn)角或轉(zhuǎn)矩控制，實(shí)現(xiàn)汽車的自動(dòng)轉(zhuǎn)向功能?？刂茍?zhí)行：控制執(zhí)行要根據(jù)車輛當(dāng)前的狀態(tài)和位置，確保車輛按照規(guī)劃的路徑準(zhǔn)確行駛，避免偏離或碰撞障礙物。第35頁DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第36頁1.1汽車自動(dòng)駕駛技術(shù)概述1.2汽車自動(dòng)駕駛技術(shù)架構(gòu)目錄Content1.3汽車自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用概述深度學(xué)習(xí)與傳統(tǒng)機(jī)器學(xué)習(xí)的區(qū)別傳統(tǒng)機(jī)器學(xué)習(xí)方法下，一般需要獨(dú)立的特征提取階段；而在深度學(xué)習(xí)下，只需要輸入原始的圖像、語音和文本信息，即可直接訓(xùn)練。第37頁深度學(xué)習(xí)的研究及應(yīng)用進(jìn)展第38頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用概述第39頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用概述深度學(xué)習(xí)在自動(dòng)駕駛環(huán)境感知中的應(yīng)用自動(dòng)駕駛汽車環(huán)境感知包括：可行駛路面檢測、車道線檢測、路緣檢測、護(hù)欄檢測、行人檢測、機(jī)動(dòng)車檢測、非機(jī)動(dòng)車檢測、路標(biāo)檢測、交通標(biāo)志檢測、交通信號(hào)燈檢測等。對(duì)于如此復(fù)雜的路況檢測，環(huán)境感知技術(shù)是利用攝像機(jī)、激光雷達(dá)、毫米波雷達(dá)、超聲波等車載傳感器，以及V2X和5G網(wǎng)絡(luò)等獲取汽車所處的交通環(huán)境信息和車輛狀態(tài)信息等多源信息。這些多源信息需要通過深度學(xué)習(xí)方法進(jìn)行處理。第40頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用概述深度學(xué)習(xí)在自動(dòng)駕駛環(huán)境感知中的應(yīng)用深度學(xué)習(xí)按照模型的不同可以分為CNN、RNN、LSTM、DBN和Autoencoder等類型。CNN（卷積神經(jīng)網(wǎng)絡(luò)）在處理圖像和視頻上擁有很好的效果，幫助車輛準(zhǔn)確地感知和理解周圍環(huán)境，從而為安全、高效的駕駛決策提供支撐。CNN可以用于實(shí)時(shí)檢測和識(shí)別道路上的各種目標(biāo)，如車輛、行人、自行車、交通標(biāo)志等。CNN通過訓(xùn)練，它可以從傳感器（如攝像頭）捕獲的圖像中提取特征，并準(zhǔn)確地標(biāo)記和分類目標(biāo)。CNN可以用于圖像的語義分割，即將圖像中的每個(gè)像素點(diǎn)標(biāo)記為屬于不同的類別，例如車道線、道路、行人、建筑物等。這有助于自動(dòng)駕駛車輛更好地理解和解釋環(huán)境。CNN可以進(jìn)行實(shí)例分割，實(shí)例分割能夠?qū)⑼活悇e的目標(biāo)分別標(biāo)記出來，有助于更精確地識(shí)別和跟蹤目標(biāo)。CNN可以用于檢測和提取道路邊緣的特征，幫助車輛在復(fù)雜道路環(huán)境中準(zhǔn)確地定位和行駛。第41頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用的概述深度學(xué)習(xí)在自動(dòng)駕駛決策規(guī)劃中的應(yīng)用自動(dòng)駕駛汽車的規(guī)劃分為全局規(guī)劃和局部規(guī)劃兩種。全局規(guī)劃是根據(jù)獲取到的地圖信息，規(guī)劃出一條無碰撞最優(yōu)路徑，以滿足特定的行駛條件。局部規(guī)劃則是根據(jù)全局規(guī)劃，在一些局部環(huán)境信息的基礎(chǔ)之上，避免碰撞一些未知的障礙物，最終達(dá)到目的地的過程。在自動(dòng)駕駛汽車決策規(guī)劃中，車輛需要根據(jù)環(huán)境感知數(shù)據(jù)和當(dāng)前狀態(tài)來做出決策，如選擇合適的行駛速度、路徑規(guī)劃、超車、變道、避障等，以確保安全、高效和舒適的駕駛。第42頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用的概述深度學(xué)習(xí)在自動(dòng)駕駛決策規(guī)劃中的應(yīng)用深度學(xué)習(xí)在自動(dòng)駕駛汽車決策規(guī)劃中發(fā)揮著關(guān)鍵的作用。深度學(xué)習(xí)模型可以用于預(yù)測其他交通參與者（如其他車輛、行人）的行為，包括變道、加速、減速等。這些預(yù)測能夠幫助自動(dòng)駕駛車輛更好地理解周圍車輛和行人的動(dòng)態(tài)，從而做出合理的決策。深度學(xué)習(xí)模型可以用于路徑規(guī)劃，根據(jù)車輛的當(dāng)前位置、目的地和環(huán)境條件，選擇最優(yōu)的行駛路徑。這有助于車輛避開擁堵路段、選擇安全路線，并使駕駛更高效。深度學(xué)習(xí)模型可以用于制定合適的跟車策略，包括與前車的距離維持、速度調(diào)節(jié)等，以確保安全且平滑的跟車行駛。自動(dòng)駕駛車輛需要能夠識(shí)別并規(guī)避障礙物，如其他車輛、行人、障礙物等。深度學(xué)習(xí)可以幫助車輛做出及時(shí)的避障決策，避免潛在的碰撞。深度學(xué)習(xí)還可以用于交通信號(hào)燈的識(shí)別和狀態(tài)預(yù)測，從而幫助車輛做出合適的行駛策略，避免違規(guī)或浪費(fèi)時(shí)間。第43頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用的概述深度學(xué)習(xí)在自動(dòng)駕駛控制執(zhí)行中的應(yīng)用自動(dòng)駕駛汽車的控制核心技術(shù)涵蓋汽車的縱向、橫向、驅(qū)動(dòng)和制動(dòng)控制?？v向控制負(fù)責(zé)汽車前后運(yùn)動(dòng)的控制，而橫向控制則負(fù)責(zé)方向盤角度和輪胎力的調(diào)整。只有同時(shí)實(shí)現(xiàn)縱向和橫向自動(dòng)控制，才能使汽車按照預(yù)設(shè)目標(biāo)和約束自主行駛。在自動(dòng)駕駛控制執(zhí)行中，深度學(xué)習(xí)通常與傳統(tǒng)的控制方法和規(guī)則引擎相結(jié)合，形成一個(gè)全面有效的控制系統(tǒng)，以確保自動(dòng)駕駛汽車的安全和可靠性。第44頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用的概述深度學(xué)習(xí)在自動(dòng)駕駛控制執(zhí)行中的應(yīng)用在汽車自動(dòng)駕駛控制執(zhí)行中，深度學(xué)習(xí)應(yīng)用廣泛，發(fā)揮著重要的作用。深度學(xué)習(xí)模型可以用于設(shè)計(jì)自動(dòng)駕駛控制器，將環(huán)境感知數(shù)據(jù)和規(guī)劃決策結(jié)果作為輸入，輸出具體的汽車控制指令。深度學(xué)習(xí)可以通過行為克隆的方法，從人類駕駛員的行駛數(shù)據(jù)中學(xué)習(xí)駕駛行為，并在自動(dòng)駕駛中模仿這些行為。深度強(qiáng)化學(xué)習(xí)在自動(dòng)駕駛控制執(zhí)行中也得到廣泛應(yīng)用。通過強(qiáng)化學(xué)習(xí)，車輛可以在不斷的嘗試和學(xué)習(xí)中優(yōu)化控制策略，以最大化預(yù)設(shè)的獎(jiǎng)勵(lì)函數(shù)，實(shí)現(xiàn)更智能和適應(yīng)性強(qiáng)的駕駛控制。第45頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用的概述深度學(xué)習(xí)在自動(dòng)駕駛控制執(zhí)行中的應(yīng)用深度學(xué)習(xí)應(yīng)用于汽車自動(dòng)駕駛還有一種被稱為“端到端”自動(dòng)駕駛的方法，它直接從原始傳感器數(shù)據(jù)中學(xué)習(xí)駕駛策略，不需要顯式地提取特征或規(guī)劃路徑。這種方法尚在研究和探索階段，但有望實(shí)現(xiàn)更高級(jí)別的自動(dòng)駕駛。第46頁自動(dòng)駕駛領(lǐng)域深度學(xué)習(xí)應(yīng)用的概述深度學(xué)習(xí)在自動(dòng)駕駛控制執(zhí)行中的應(yīng)用總的來說，自動(dòng)駕駛與深度學(xué)習(xí)技術(shù)都處于快速發(fā)展階段，在汽車自動(dòng)駕駛領(lǐng)域，深度學(xué)習(xí)廣泛用于解決感知、決策、控制算法中面臨的難題，以提高自動(dòng)駕駛系統(tǒng)的智能化水平，深度學(xué)習(xí)在自動(dòng)駕駛領(lǐng)域的應(yīng)用為自動(dòng)駕駛技術(shù)的發(fā)展提供了強(qiáng)大的支持，使得自動(dòng)駕駛汽車能夠更準(zhǔn)確、更智能地感知和理解交通環(huán)境，從而實(shí)現(xiàn)更安全和高效的駕駛體驗(yàn)。隨著深度學(xué)習(xí)技術(shù)的不斷進(jìn)步，預(yù)計(jì)自動(dòng)駕駛技術(shù)在未來將繼續(xù)取得更大的進(jìn)展。第47頁Thanks!DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第48頁第一章汽車自動(dòng)駕駛技術(shù)概述謝謝！本章總結(jié)與答疑Chapter2深度學(xué)習(xí)基礎(chǔ)第二章DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第50頁2.4Drop—out2.1神經(jīng)網(wǎng)絡(luò)的定義2.3神經(jīng)網(wǎng)絡(luò)步驟2.2神經(jīng)網(wǎng)絡(luò)的框架目錄Content車的識(shí)別一個(gè)經(jīng)典的定義：神經(jīng)網(wǎng)絡(luò)是由具有適應(yīng)性的簡單單元組成的廣泛并行互連網(wǎng)絡(luò)，它的組織能夠模擬生物神經(jīng)系統(tǒng)對(duì)真實(shí)世界物體所作出的交互反應(yīng)。神經(jīng)網(wǎng)絡(luò)的定義生物神經(jīng)元結(jié)構(gòu)人腦視覺機(jī)理視覺影像反射光線神經(jīng)脈沖雙極細(xì)胞i.視感覺階段-信息采集紋狀皮層初級(jí)視覺信息輸入人體神經(jīng)網(wǎng)絡(luò)人腦視覺機(jī)理ii.視知覺階段-信息認(rèn)知紋狀皮層紋外視覺皮層初級(jí)視覺信息中級(jí)視覺信息海馬體長短時(shí)記憶信息神經(jīng)脈沖輸入人體神經(jīng)網(wǎng)絡(luò)從原始信號(hào)攝入（瞳孔攝入像素Pixels）

初步處理（大腦皮層某些細(xì)胞發(fā)現(xiàn)邊緣和方向）

抽象（大腦判定，眼前的物體的形狀，是圓形的）

進(jìn)一步抽象（大腦進(jìn)一步判定該物體是人臉）從原始信號(hào)，做低級(jí)抽象，逐漸向高級(jí)抽象迭代人腦視覺機(jī)理：神經(jīng)-中樞-大腦測量空間（表象）特征空間（概念）人體神經(jīng)網(wǎng)絡(luò)圖像在計(jì)算機(jī)中的存儲(chǔ)方式神經(jīng)網(wǎng)絡(luò)最初是在圖像識(shí)別中取得了很好的效果。

一張圖片被表示成三維數(shù)組的形式，每個(gè)像素的值從0到255例如：300*100*3表示圖像的長寬和顏色通道數(shù)列矩陣人工神經(jīng)網(wǎng)絡(luò)模仿人類的視覺系統(tǒng)底層特征中層特征高層特征像素矩陣可訓(xùn)練的分類器圖像識(shí)別基本框架（場景識(shí)別、目標(biāo)識(shí)別、人臉識(shí)別…）測量空間特征空間類別空間人工神經(jīng)網(wǎng)絡(luò)目的使用深度學(xué)習(xí)的目的：尋找一個(gè)合適的函數(shù)數(shù)字圖片識(shí)別機(jī)器翻譯自動(dòng)問答“3”“傾盆大雨”“上海”“Rain

cats

and

dogs”“姚明是哪里人？”人工神經(jīng)網(wǎng)絡(luò)目的圖像識(shí)別“燙燙燙燙”“8”“2”學(xué)習(xí)任務(wù):尋找手寫識(shí)別函數(shù)，候選函數(shù)集合為：人工神經(jīng)網(wǎng)絡(luò)目的學(xué)習(xí)過程確定函數(shù)集合如何評(píng)價(jià)好壞挑出最好函數(shù)=“2”=“3”….=“0”=“5”答案人人機(jī)器怎么做：對(duì)答案人工神經(jīng)網(wǎng)絡(luò)框架學(xué)習(xí)過程建立模型損失函數(shù)參數(shù)學(xué)習(xí)=“2”=“3”….=“0”=“5”訓(xùn)練數(shù)據(jù)人人機(jī)器監(jiān)督學(xué)習(xí)（SupervisedLearning）人工神經(jīng)網(wǎng)絡(luò)框架學(xué)習(xí)過程建立模型損失函數(shù)參數(shù)學(xué)習(xí)答案人人機(jī)器

XY0

人工神經(jīng)網(wǎng)絡(luò)框架建立模型損失函數(shù)“0”“2”“5”參數(shù)學(xué)習(xí)Using“羅紅霉素”TrainingTesting監(jiān)督學(xué)習(xí)任務(wù):手寫識(shí)別訓(xùn)練數(shù)據(jù)圖像識(shí)別測試數(shù)據(jù)Step1Step2Step3人工神經(jīng)網(wǎng)絡(luò)框架建立模型選擇什么樣的網(wǎng)絡(luò)結(jié)構(gòu)選擇多少層數(shù)，每層選擇多少神經(jīng)元損失函數(shù)選擇常用損失函數(shù)，平方誤差，交叉熵….參數(shù)學(xué)習(xí)梯度下降反向傳播算法人工神經(jīng)網(wǎng)絡(luò)步驟建立模型選擇什么樣的網(wǎng)絡(luò)結(jié)構(gòu)選擇多少層數(shù)，每層選擇多少神經(jīng)元損失函數(shù)選擇常用損失函數(shù)，平方誤差，交叉熵….參數(shù)學(xué)習(xí)梯度下降反向傳播算法人工神經(jīng)網(wǎng)絡(luò)步驟單層感知器輸入節(jié)點(diǎn)：x1,x2,x3輸出節(jié)點(diǎn)：y權(quán)向量：w1,w2,w3偏置因子：b激活函數(shù)：sign(x)=1 x>=0-1 x<0單層感知器（SingleLayerPerceptron）是最簡單的神經(jīng)網(wǎng)絡(luò)。它包含輸入層和輸出層，而輸入層和輸出層是直接相連的。y

=1 (0.5x1+0.5x2+0.5x3-0.6>=0)-1 (0.5x1+0.5x2+0.5x3-0.6<0)單層感知器舉例權(quán)值w都設(shè)成0.5，偏置b設(shè)為-0.6單層感知器單層感知器學(xué)習(xí)過程i

=

0,1,2…y是網(wǎng)絡(luò)輸出f是sign函數(shù)η表示學(xué)習(xí)率t是標(biāo)簽值t和y的取值為±1權(quán)值調(diào)整公式假設(shè)：t=1，η=1，x1=1，w1=-5，b=0:單層感知器學(xué)習(xí)過程簡化演示，假設(shè)只有一個(gè)樣本，一個(gè)特征??取值一般取0-1之間;學(xué)習(xí)率太大容易造成權(quán)值調(diào)整不穩(wěn)定;學(xué)習(xí)率太小，權(quán)值調(diào)整太慢，迭代次數(shù)太多。單層感知器學(xué)習(xí)過程1.誤差小于某個(gè)預(yù)先設(shè)定的較小的值2.兩次迭代之間的權(quán)值變化已經(jīng)很小3.設(shè)定最大迭代次數(shù)，當(dāng)?shù)^最大次數(shù)就停止模型收斂條件單層感知器學(xué)習(xí)過程題目：假設(shè)平面坐標(biāo)系上有四個(gè)點(diǎn)，(3,3),(4,3)這兩個(gè)點(diǎn)的標(biāo)簽為1，(1,1),(0,2)這兩個(gè)點(diǎn)的標(biāo)簽為-1。構(gòu)建單層感知器來分類。單層感知器實(shí)例思路：我們要分類的數(shù)據(jù)是2維數(shù)據(jù)，所以只需要2個(gè)輸入節(jié)點(diǎn)，我們可以把神經(jīng)元的偏置值也設(shè)置成一個(gè)節(jié)點(diǎn)，偏置也是一個(gè)輸入，恒等于1，這樣我們需要3個(gè)輸入節(jié)點(diǎn)。輸入數(shù)據(jù)有4個(gè)(1,3,3),(1,4,3),(1,1,1),(1,0,2)數(shù)據(jù)對(duì)應(yīng)的標(biāo)簽為(1,1,-1,-1)初始化權(quán)值w0,w1,w2取-1到1的隨機(jī)數(shù)，學(xué)習(xí)率(learning

rate)設(shè)置為0.11，激活函數(shù)為sign函數(shù)。單層感知器程序?qū)崿F(xiàn)單層感知器分類.ipynb建立模型選擇什么樣的網(wǎng)絡(luò)結(jié)構(gòu)選擇多少層數(shù)，每層選擇多少神經(jīng)元損失函數(shù)選擇常用損失函數(shù)，平方誤差，交叉熵….參數(shù)學(xué)習(xí)梯度下降反向傳播算法人工神經(jīng)網(wǎng)絡(luò)步驟單個(gè)神經(jīng)元y神經(jīng)元…偏置bias權(quán)重weights………激活函數(shù)理解：簡單線性函數(shù)f(x)=kx+b(x是向量，表示多維，k是斜率，b是截距)建立模型

網(wǎng)絡(luò)結(jié)構(gòu)神經(jīng)元不同的連接方式構(gòu)成不同的網(wǎng)絡(luò)結(jié)構(gòu)每個(gè)神經(jīng)元都有自己的權(quán)重和偏置參數(shù)建立模型

建立模型—淺層神經(jīng)網(wǎng)絡(luò)建立模型—淺層神經(jīng)網(wǎng)絡(luò)建立模型—深度神經(jīng)網(wǎng)絡(luò)為什么引入激活函數(shù)為了增強(qiáng)網(wǎng)絡(luò)的表達(dá)能力，我們需要激活函數(shù)來將線性函數(shù)->非線性函數(shù)深層神經(jīng)網(wǎng)絡(luò)中最常用的是ReLU，Sigmoid使用較少。建立模型神經(jīng)元CNN在卷積層盡量不要使用Sigmoid和Tanh，將導(dǎo)致梯度消失。首先選用ReLU，使用較小的學(xué)習(xí)率，以免造成神經(jīng)元死亡的情況。??如果ReLU失效，考慮使用LeakyReLU、PReLU、ELU或者M(jìn)axout，此時(shí)一般情況都可以解決。激活函數(shù)表達(dá)式以及對(duì)應(yīng)的微分函數(shù)建立模型Google神經(jīng)網(wǎng)絡(luò)演示平臺(tái)http://playground.tensorflow.org/前饋神經(jīng)網(wǎng)絡(luò)建立模型1-11-21-10激活函數(shù)1

0.980.124-2

自左向右依次計(jì)算建立模型1-11-21-101

0.980.124-2

2-1-1-20.860.113-14-10.620.8300-22

前饋神經(jīng)網(wǎng)絡(luò)輸出層隱藏層輸入層隱藏層數(shù)很多意味著網(wǎng)絡(luò)越深神經(jīng)元建立模型……………………………………y1y2ymx1x2xn…………前饋神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)其實(shí)就是按照一定規(guī)則連接起來的多個(gè)神經(jīng)元。輸出層常用softmax函數(shù)作為輸出層激活函數(shù)：容易理解、便于計(jì)算

32.7200.05建立模型1-30.880.12≈0應(yīng)用示例：手寫識(shí)別輸入每一個(gè)輸出值代表其對(duì)應(yīng)標(biāo)簽的概率值輸出神經(jīng)網(wǎng)絡(luò)is1is2is8……0.10.10.716x16=256……黑色像素點(diǎn)→1白色像素點(diǎn)→0建立模型“8”……神經(jīng)網(wǎng)絡(luò)圖片被識(shí)別成數(shù)字“8”應(yīng)用示例：手寫體識(shí)別設(shè)置合適的網(wǎng)絡(luò)結(jié)構(gòu)：層數(shù)和結(jié)點(diǎn)個(gè)數(shù)、激活函數(shù)問題：應(yīng)該設(shè)置多少層，多少結(jié)點(diǎn)？是否需要選擇其他網(wǎng)絡(luò)結(jié)構(gòu)如CNN/RNN？建立模型is1is2is0…………………………………………y1y2ymx1x2xn…………X建立模型選擇什么樣的網(wǎng)絡(luò)結(jié)構(gòu)選擇多少層數(shù)，每層選擇多少神經(jīng)元損失函數(shù)選擇常用損失函數(shù)，平方誤差，交叉熵….參數(shù)學(xué)習(xí)梯度下降反向傳播算法使用步驟損失函數(shù)分類損失回歸損失損失函數(shù)的設(shè)計(jì)依賴于具體的任務(wù)16x16=256y1

值最大；對(duì)于數(shù)字識(shí)別任務(wù)，設(shè)計(jì)用于分類的損失函數(shù)，使得學(xué)習(xí)目標(biāo)變?yōu)椋狠斎?y8

值最大······輸入:損失函數(shù)………………………………y1y2y10x1x2x256…………is1is2……is0Softmax

“1”……100常用損失函數(shù)：平方損失函數(shù)、交叉熵?fù)p失函數(shù)目標(biāo)盡可能接近好的參數(shù)使得所有訓(xùn)練數(shù)據(jù)的損失越小越好損失函數(shù)………………………………y1y2y10x1x2x256…………Softmax

學(xué)習(xí)一組參數(shù)損失函數(shù)對(duì)所有訓(xùn)練數(shù)據(jù)：

即確定參數(shù)使得總損失L最小總損失:盡可能小找到一個(gè)函數(shù)使得總損失L最小神經(jīng)網(wǎng)絡(luò)樣本x1y1

樣本x2y2

神經(jīng)網(wǎng)絡(luò)樣本x3y3

神經(jīng)網(wǎng)絡(luò)樣本xRyR

……神經(jīng)網(wǎng)絡(luò)建立模型選擇什么樣的網(wǎng)絡(luò)結(jié)構(gòu)選擇多少層數(shù)，每層選擇多少神經(jīng)元損失函數(shù)選擇常用損失函數(shù)，平方誤差，交叉熵….參數(shù)學(xué)習(xí)梯度下降反向傳播算法使用步驟參數(shù)學(xué)習(xí)

枚舉所有可能的取值例如：語音識(shí)別模型有8層，每層1000神經(jīng)元參數(shù)個(gè)數(shù)巨大L+1層……L層……106權(quán)重參數(shù)1000神經(jīng)元1000神經(jīng)元

參數(shù)學(xué)習(xí)梯度下降法總損失神經(jīng)網(wǎng)絡(luò)參數(shù)w初始值下的總損失總損失值最小總損失變小通過調(diào)節(jié)參數(shù)w，逐步逼近總損失最小值參數(shù)學(xué)習(xí)初始值w選擇一個(gè)初始值w，Random,RBMpre-train

梯度為正梯度為負(fù)減小w增加w

梯度下降法選擇一個(gè)初始值w，Random,RBMpre-train

η

是“學(xué)習(xí)率”迭代參數(shù)學(xué)習(xí)

梯度下降法總損失神經(jīng)網(wǎng)絡(luò)參數(shù)w在平坦區(qū)變化非常緩慢

停在鞍點(diǎn)

參數(shù)學(xué)習(xí)全局最優(yōu)值停在局部最優(yōu)值梯度下降法初始值影響選取不同的初始值，可能到達(dá)不同的局部最小值參數(shù)學(xué)習(xí)ABCDACBD例如：使用步驟建立模型選擇什么樣的網(wǎng)絡(luò)結(jié)構(gòu)選擇多少層數(shù)，每層選擇多少神經(jīng)元損失函數(shù)選擇常用損失函數(shù)，平方誤差，交叉熵….參數(shù)學(xué)習(xí)梯度下降反向傳播算法BP(Back

Propagation)神經(jīng)網(wǎng)絡(luò)1986年，由McClelland和Rumelhart為首的科學(xué)家小組提出，解決了多層神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)問題，極大促進(jìn)了神經(jīng)網(wǎng)絡(luò)的發(fā)展。BP神經(jīng)網(wǎng)絡(luò)也是整個(gè)人工神經(jīng)網(wǎng)絡(luò)體系中的精華，廣泛應(yīng)用于分類識(shí)別、逼近、回歸、壓縮等領(lǐng)域。在實(shí)際應(yīng)用中，大約80%的神經(jīng)網(wǎng)絡(luò)模型都采取了BP網(wǎng)絡(luò)或BP網(wǎng)絡(luò)的變化形式?！瓂1y2ymx1x2xn…………反向傳播算法輸入：x

總誤差L

隱藏層參數(shù)學(xué)習(xí)InputLayer1Layer2Output反向傳播的基本思想就是通過計(jì)算輸出層與期望值之間的誤差來調(diào)整網(wǎng)絡(luò)參數(shù)，從而使得誤差變小。信號(hào)正向傳播

…

參數(shù)學(xué)習(xí)

…

參數(shù)學(xué)習(xí)

信號(hào)正向傳播

…

參數(shù)學(xué)習(xí)

信號(hào)正向傳播

…

參數(shù)學(xué)習(xí)

信號(hào)正向傳播

…

參數(shù)學(xué)習(xí)

信號(hào)正向傳播

…

參數(shù)學(xué)習(xí)

信號(hào)正向傳播

…

參數(shù)學(xué)習(xí)