人工智能在自動駕駛決策中的應(yīng)用與思考分析報(bào)告

背景分析紅旗新能源HDNGCI■1.1人工智能在自動駕駛中的應(yīng)用人工智能的出現(xiàn)，使得圖像的輸入與輸出之間通過深度學(xué)習(xí)等方法進(jìn)行特征描述，因此不再需要完全依賴人類專家設(shè)計(jì)特征，特征本身也可以跟學(xué)習(xí)器一起進(jìn)行聯(lián)合優(yōu)化傳統(tǒng)感知與AI感知AI感知優(yōu)勢關(guān)鍵因素人工特征設(shè)計(jì)分類器學(xué)習(xí)優(yōu)勢1：Vehicle逐層加工處理優(yōu)勢2：內(nèi)置特征變換自動學(xué)習(xí)特征分類器學(xué)習(xí)Vehicle優(yōu)勢3：模型高度復(fù)雜即將深度學(xué)習(xí)的特殊優(yōu)勢，構(gòu)化的圖像數(shù)據(jù)進(jìn)行統(tǒng)計(jì)和分析，依靠圖像語義分割，將大量的數(shù)據(jù)抽象和形式化，通過計(jì)算機(jī)可理解的簡單概念構(gòu)建復(fù)雜概念，使得其在自動駕駛感知領(lǐng)域取得了廣泛的應(yīng)用、背景分析紅旗新能源HDNGCI■1.2自動駕駛中的規(guī)劃決策隨著人工智能的發(fā)展，模型的泛化能力不斷增強(qiáng)，特征提取不僅能夠應(yīng)用于感知，同樣能夠?qū)㈩愃品椒☉?yīng)用于決策技術(shù)在復(fù)雜場景下，人工智能算法自動提取更多的特征，盡可能多的自動學(xué)習(xí)人類司機(jī)的經(jīng)驗(yàn)，提升算法“擬人化”程度簡單交互場景下的規(guī)則型決策方法復(fù)雜場景下的AI型決策方法送航駕駛員超護(hù)自動駕駛決策任務(wù)同樣具有自己的特征，人工智能方法的引入對自動駕駛決策任務(wù)的提升具有潛在優(yōu)勢背景分析紅旗新能源HDNGCI■1.3感知型AI與決策型AI的差異決策型AI感知型AI環(huán)境的“靜態(tài)”表示感知，存在相對真值環(huán)境的“動態(tài)”表示交互，但動作不唯一性，是相對值由于決策的結(jié)果與環(huán)境之間存在動態(tài)交互，且不同決策下的行為表現(xiàn)的差異性較大，給決策型AI的工程化落地帶來了困難，探索AI驅(qū)動規(guī)劃決策技術(shù)是人工智能技術(shù)在自動駕駛領(lǐng)域的下一個(gè)重點(diǎn)內(nèi)容二、相關(guān)探索紅旗新能源HDNGCIAI決策技術(shù)的應(yīng)用方向AI加“智"AI加“速"自動化標(biāo)注挖據(jù)基于模塊化的方法AI數(shù)據(jù)合成云端大模型訓(xùn)練基于端到端的方法TaCTadLarsingAI模型可通過子模塊或一體化的形式部署在車端決策代碼中，實(shí)現(xiàn)“新手司機(jī)”向“老司機(jī)”AI可以在自動駕駛數(shù)據(jù)挖掘、場景生成、仿真測試等方面實(shí)現(xiàn)加速，極大提升自動駕駛驗(yàn)證效率和效果的轉(zhuǎn)變相關(guān)探索二、紅旗新能源HDNGCI■2.1AI決策技術(shù)的加“智”方式基于模塊化的方法基于端到端的方法自車位姿感知結(jié)果導(dǎo)航信息自車位姿

感知結(jié)果

導(dǎo)航信息自車位姿導(dǎo)航信息決策規(guī)劃決策深度學(xué)習(xí)模型深度學(xué)習(xí)模型控制被控車輛被控車輛被控車輛易于實(shí)現(xiàn)安全性條件的檢測運(yùn)用模型強(qiáng)大的學(xué)習(xí)能力及對于數(shù)據(jù)的擬合能力×輸出的穩(wěn)定性和安全性無法保證可以與已有規(guī)則方法相結(jié)合，進(jìn)行局部提升易于根據(jù)需求進(jìn)行模型微調(diào)模塊化限制了中間輸出的模態(tài)X難以在現(xiàn)有方法基礎(chǔ)上進(jìn)行提升X二、相關(guān)探索紅旗新能源HONDCI■2.2基于模塊化的AI決策通過AI算法提高決策效率和決策性能軌跡粗解生成應(yīng)急反應(yīng)場景√基于強(qiáng)化學(xué)習(xí)，越過繁瑣的決策流程，加速自動駕駛系統(tǒng)在緊急場景下的反應(yīng)√基于機(jī)器學(xué)習(xí)，短時(shí)間內(nèi)從5000余條粗解軌跡中選取出最優(yōu)軌跡Wust%efcassb0g基于AI實(shí)現(xiàn)安全性條件的檢測，增強(qiáng)緊急場景的反應(yīng)能通過局部應(yīng)用AI模型，實(shí)現(xiàn)軌跡粗選，提升算法運(yùn)算實(shí)時(shí)性，效率提升了85%以上力相關(guān)探索紅旗新能源HDNGCI■2.2基于模塊化的AI決策擴(kuò)展搜索空間至?xí)r間與空間一體，決策靈活度提升，但高維度空間導(dǎo)致搜索耗時(shí)增加以模仿學(xué)習(xí)為代表的決策AI方法通過將駕駛問題建模來學(xué)習(xí)從環(huán)境表示中給出最優(yōu)的決策行為聯(lián)合行為決策流程模仿學(xué)習(xí)優(yōu)化決策范圍聯(lián)合行為決策優(yōu)化·考慮動態(tài)與靜態(tài)·基于模仿學(xué)習(xí)搭障礙物，通過規(guī)則方法在橫縱體式坐標(biāo)系下直·將最優(yōu)行為決策轉(zhuǎn)換為約空間建AI決策模型，利用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)決策行為的快速搜素，搜索耗構(gòu)建最優(yōu)化問題，求解出最優(yōu)動作接搜索出最優(yōu)行為決策，耗費(fèi)算力序列時(shí)降低42%，類人程度顯著提升■基于模塊化部署決策A的優(yōu)勢，實(shí)現(xiàn)部分模塊的微調(diào)，實(shí)現(xiàn)決策規(guī)劃模塊的性能提升相關(guān)探索紅旗新能源HDNGCI■2.3基于端到端的AI決策以感知地圖信息、障礙物歷史軌跡信息、車輛運(yùn)動信息作為輸入，以人類駕駛數(shù)據(jù)為真值標(biāo)簽便用一套數(shù)據(jù)驅(qū)動的輕量生成網(wǎng)絡(luò)幫助快速生成規(guī)劃路徑Tesla交互式搜素算法Comma.aiInteractionSearchFOCUSCOMPUTESOUTCOMESIraining+InfrastructureCarpemlatne(Online)運(yùn)用了模型強(qiáng)大的學(xué)習(xí)能力及對于數(shù)據(jù)的擬合能力，利用豐富的上游信息更好的適應(yīng)道路條件、

交通情況和駕駛場景二、相關(guān)探索紅旗新能源HDNGCI■2.4A加速”方式使用A技術(shù)，可以在數(shù)據(jù)獲取、標(biāo)注、挖掘、訓(xùn)練等方面，有效提高模型選代效率，縮短開發(fā)周期技術(shù)應(yīng)用數(shù)據(jù)驅(qū)動的自動駕駛開發(fā)流程車端平臺云端平臺自動化標(biāo)注挖掘：A/模型自動挖掘有效數(shù)據(jù)，加速模型持續(xù)選代車端采集數(shù)據(jù)自動化標(biāo)注挖掘人工標(biāo)注質(zhì)檢和精修AI合成數(shù)據(jù)：云端模型選代仿真環(huán)境+A/合成足以亂真的數(shù)據(jù)，低成本、高效率的獲取海量數(shù)據(jù)AI合成數(shù)據(jù)云端大模型云端大模型訓(xùn)練通過A/搜素，自動調(diào)整模型車端模型送代超參數(shù)和模型結(jié)構(gòu)，減少繁項(xiàng)重復(fù)工作車端模型二、相關(guān)探索紅旗新能源HDNGOI■2.5A加速：自動化標(biāo)注挖掘依托影子模式+云端大算力模型，自動完成數(shù)據(jù)標(biāo)注、清洗、挖掘，加速數(shù)據(jù)向模型能力轉(zhuǎn)化技術(shù)應(yīng)用應(yīng)用案例自動化標(biāo)注挖掘：影子模式云端大模型√云端自動標(biāo)注數(shù)據(jù)，降低成本√自動挖掘有效數(shù)據(jù)，提高效率當(dāng)前使用大模型自動標(biāo)注自動化率可達(dá)80%~90%，大量減輕人工標(biāo)注負(fù)擔(dān)，且標(biāo)注結(jié)果相較人工具有更好的一致性二、相關(guān)探索紅旗新能源HDNGCI■2.6AI加速：AI合成數(shù)據(jù)通過仿真環(huán)境+AI合成染，源源不斷的生成訓(xùn)練數(shù)據(jù)，有力推動模型送代升級可將場景隱式存儲于神經(jīng)網(wǎng)絡(luò)，重建自動駕駛場景，模擬罕見、極端場景，支撐模型閉環(huán)驗(yàn)證技術(shù)應(yīng)用應(yīng)用案例數(shù)據(jù)獲取：V短時(shí)間低成本獲取海量數(shù)據(jù)√定向獲取指定類型有效數(shù)據(jù)tarn參數(shù)空間分析對于自動駕駛規(guī)控而言，80%以上的數(shù)據(jù)是無效數(shù)據(jù)使用仿真環(huán)境+AI合成可以定向獲取有效數(shù)據(jù)，顯著加速模型送代二、相關(guān)探索紅旗新能源HDNGI■2.7A加速：云端大模型訓(xùn)練自動駕駛規(guī)控需要面向駕駛風(fēng)格需求進(jìn)行設(shè)計(jì)，對應(yīng)不同駕駛風(fēng)格需要構(gòu)建多種AI模型自適應(yīng)調(diào)整模型超參數(shù)與模型結(jié)構(gòu)，避免重復(fù)繁瑣的調(diào)參和模型結(jié)構(gòu)設(shè)計(jì)工作技術(shù)應(yīng)用應(yīng)用案例云端大模型訓(xùn)練：√自動調(diào)整模型超參數(shù)√自動調(diào)整模型結(jié)構(gòu)TheVision自適應(yīng)超參數(shù)調(diào)整自動網(wǎng)絡(luò)結(jié)構(gòu)搜索anicngligoreNeDandiritesNorDatasdNt.....IbarifetreM,AlpidnMAIpitha已經(jīng)成為了未來的發(fā)展趨勢使用AI技術(shù)學(xué)習(xí)如何進(jìn)行AI模型本身的訓(xùn)練，目錄紅旗新能源HDNGI背景分析相關(guān)探素幾點(diǎn)思考紅旗新能源三、幾點(diǎn)思考HDNGI■3.1AI在自動駕駛決策應(yīng)用中的安全風(fēng)險(xiǎn)新一輪的人工智能浪潮受到了工業(yè)界以及全社會的廣泛關(guān)注，隨著一批人工智能的落地應(yīng)用逐漸開始變成現(xiàn)實(shí)，安全問題也漸漸顯現(xiàn)出來cruisePOLICEPULLOVERDRIVERLESSCARNBCdSANFRANCISCO一輛Uber自動駕駛汽車在美國亞利桑那州坦佩發(fā)生交通事故造成一名行人

，這是首起自動駕駛汽車致行人

的交通事故一輛無人駕駛出租車，！由于晚上沒開大燈而被在警察走近后，這輛無人車居然突然加速“逃跑”直到遠(yuǎn)程介入后才停下來2018年3月19日，2022年4月1日，警察攔截，紅旗新能源三、幾點(diǎn)思考HDNOCI■3.1AI在自動駕駛決策應(yīng)用中的安全風(fēng)險(xiǎn)人工智能算法對學(xué)習(xí)樣本數(shù)據(jù)集的正確性存在嚴(yán)重依賴，錯(cuò)誤的數(shù)據(jù)集將導(dǎo)致人工智能算法的錯(cuò)誤輸出，人工智能算法本身存在安全盲點(diǎn)，難以對數(shù)據(jù)集的安全性進(jìn)行分析表現(xiàn)：錯(cuò)誤的數(shù)據(jù)集導(dǎo)致錯(cuò)誤輸出局限性：安全盲點(diǎn)-·Q：ElizaElizansforroutocorcuttitwithearm比利時(shí)男子在與Chai應(yīng)用程序上的一個(gè)Al聊天機(jī)器人交談中，聊天機(jī)器人鼓勵(lì)其通過自殺解除痛苦，該男子最后自殺身亡。-解決辦法：需要推進(jìn)建設(shè)人工智能數(shù)據(jù)集安全管理的相關(guān)標(biāo)準(zhǔn)、法規(guī)，并構(gòu)建標(biāo)準(zhǔn)AI模型，對數(shù)據(jù)集安全性進(jìn)行監(jiān)督保障紅旗新能源三、幾點(diǎn)思考HDNGI■3.1AI在自動駕駛決策應(yīng)用中的安全風(fēng)險(xiǎn)人工智能算法提取特征的過程是隨機(jī)化的、不可控的，在不恰當(dāng)?shù)臄?shù)據(jù)集上算法可能會選擇錯(cuò)誤的特征，以致使用者不能清晰理解算法的決策機(jī)理，難以解釋、預(yù)測算法的行為和結(jié)果局限性：黑盒特性表現(xiàn)：算法輸出不可解釋INPUT輸入OUTPUTBLACK輸出BOX黑盒自動駕駛車輛經(jīng)過一座無人墓地時(shí)，車主發(fā)現(xiàn)中控屏幕上顯示出了可怕的未知“行人”。解決辦法：需要構(gòu)建基于AI與規(guī)則混合驅(qū)動的強(qiáng)化智能模型及安全大腦，實(shí)現(xiàn)可解釋的安全兜底。紅旗新能源三、幾點(diǎn)思考HDNGCI■3.1AI在自動駕駛決策應(yīng)用中的安全風(fēng)險(xiǎn)系統(tǒng)越復(fù)雜，就越有可能包含安全隱患，人工智能算法容易受到輸入數(shù)據(jù)擾動的干擾，出現(xiàn)非魯棒特征，從而導(dǎo)致模型給出錯(cuò)誤的結(jié)論表現(xiàn)：系統(tǒng)輸入增加擾動后輸出錯(cuò)誤局限性：

不穩(wěn)定性無擾動+.007דpanda""nematode""gibbon"8.2%confidence99.3%confidence有擾動57.7%confidence對一幅“能貓”圖像增加少量擾動后輸入到AI算法中，AI算法將圖像錯(cuò)解決辦法：需要構(gòu)建車路云協(xié)同監(jiān)管系統(tǒng)，在大系統(tǒng)、大環(huán)境中對AI智能駕駛車輛進(jìn)行全面監(jiān)管。紅旗新能源三、幾點(diǎn)思考HDNGCI■3.2AI在自動駕駛決策應(yīng)用中的231安全對策模型安全Step1Step6Step3AI標(biāo)準(zhǔn)/法規(guī)規(guī)則決策規(guī)劃控制校驗(yàn)AI決策規(guī)劃感知數(shù)據(jù)安全Step2Step4Step5安全大腦車路云數(shù)據(jù)紅旗新能源三、幾點(diǎn)思考HDNGCI■3.3模型安全策略Step1收集示教數(shù)據(jù)，訓(xùn)練監(jiān)督策略Step2收集對比數(shù)據(jù)，訓(xùn)練獎勵(lì)模型Step3利用強(qiáng)化學(xué)習(xí)針對獎勵(lì)模型優(yōu)化策略從數(shù)據(jù)集中采集新的調(diào)優(yōu)數(shù)采集調(diào)優(yōu)數(shù)據(jù)及多個(gè)模型輸從調(diào)優(yōu)數(shù)據(jù)集中采樣據(jù)出貼簽展示出期望的決策行為策略生成單個(gè)輸出對輸出結(jié)果從好至壞進(jìn)行打10數(shù)據(jù)被用于監(jiān)督學(xué)習(xí)方法對決策行為模型進(jìn)行微獎助模型為輸出計(jì)算出獎勵(lì)值利用數(shù)據(jù)訓(xùn)練獎助模型利用獎動值更新策略三、點(diǎn)思考紅旗新能源IDNCI■3.4數(shù)據(jù)安全策略需要對數(shù)據(jù)的使用權(quán)、所有權(quán)、運(yùn)營權(quán)進(jìn)行確權(quán)，使用數(shù)據(jù)時(shí)仍需對于敏感數(shù)據(jù)進(jìn)行隱私保護(hù)，實(shí)現(xiàn)在充分挖掘數(shù)據(jù)使用價(jià)值的同時(shí)保障數(shù)據(jù)安全對于規(guī)劃決策這種相對表達(dá)需求，需借助仿真手段構(gòu)建精準(zhǔn)評估模型，快速評估端到端決策效果，進(jìn)而生成泛化海量高價(jià)值場景數(shù)據(jù)數(shù)據(jù)訓(xùn)練評測部署自動化標(biāo)注1②泛化數(shù)據(jù)篩選！人工設(shè)計(jì)優(yōu)質(zhì)數(shù)據(jù)標(biāo)注訓(xùn)練評估模型仿真部署仿真系統(tǒng)紅旗新能源三、幾點(diǎn)思考HDNOCI■3.5人工智能型與傳統(tǒng)規(guī)則型任務(wù)混合建模個(gè)感知融合決策規(guī)劃算法車輛控制安全仲裁GoalA快格安全仲裁模塊通過規(guī)則約束交規(guī)、安全等預(yù)設(shè)限制，進(jìn)而保證AI決策大數(shù)據(jù)挖攝提?。ㄓ白幽Ｊ剑┙Y(jié)果的安全可行通過混合傳統(tǒng)包含安全規(guī)則的決策算法，可以確保AI規(guī)劃決策算法在行駛過程中底線安全性，從而得到一個(gè)安全等級更高的決策框架紅旗新能源三、幾點(diǎn)思考HDNGCI■3.6安全大腦理念訓(xùn)練獎勵(lì)模型SENSE構(gòu)建獎勵(lì)模型最優(yōu)排序數(shù)據(jù)標(biāo)注：標(biāo)注元根據(jù)預(yù)定義的標(biāo)準(zhǔn)對結(jié)果進(jìn)行評估與排序構(gòu)建訓(xùn)練模型：根據(jù)標(biāo)注員的排序，學(xué)習(xí)模型的排序規(guī)則PLAN最優(yōu)排序：對模型輸出的結(jié)果，利用構(gòu)建的排序模型對其進(jìn)行排序獎勵(lì)反饋：將排序后的結(jié)果反饋給模型，

以幫助模型改進(jìn)決策策略ACT送代優(yōu)化■通過不斷選代訓(xùn)練和獎勵(lì)信號的反饋，模型可以逐漸調(diào)整其決策策略，從而實(shí)現(xiàn)高類人性表達(dá)，為智能體研發(fā)提供基礎(chǔ)紅旗新能源三、幾點(diǎn)思考HDNGCI■3.7車路云協(xié)同監(jiān)督車路云協(xié)同監(jiān)督AI智能駕駛車輛行為，形成多重穴余系統(tǒng)級解決方案，獲取更及時(shí)、更全面外部信息，做出更合理決策不安全安全感知層·路側(cè)和云端輔助單車感知，車輛獲取全局道路交通元素實(shí)時(shí)動態(tài)信息，實(shí)現(xiàn)超視距感知和極自主換遞已知端場景感知補(bǔ)足決策層·路側(cè)邊緣計(jì)算節(jié)點(diǎn)與城市數(shù)據(jù)中心協(xié)同決策為車端提供算力補(bǔ)足控制層未知·云端匯聚車端、路端實(shí)時(shí)上傳的全局信息，指揮調(diào)度車輛、調(diào)控紅綠燈等交通設(shè)施，提高交通效率和交通安全格時(shí)熱單通過車路云方式，逐步實(shí)現(xiàn)遠(yuǎn)程監(jiān)控一遠(yuǎn)程監(jiān)督一遠(yuǎn)程調(diào)度一集群管控轉(zhuǎn)變紅旗新能源三、幾點(diǎn)思考HDNGI■3.8AI系列標(biāo)準(zhǔn)與法規(guī)針對自動駕駛引入人工智能等新技術(shù)帶來的新問題，ISOIAWIPAS8800等標(biāo)準(zhǔn)、法規(guī)提供解決AI相關(guān)系統(tǒng)數(shù)據(jù)集安全性等全生命周期問題的規(guī)范，用來解決汽車引入的AI相關(guān)算法技術(shù)的安全性結(jié)合《網(wǎng)絡(luò)安全法》2023年4月11日，國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，《數(shù)據(jù)安全法》A助《個(gè)人信息保護(hù)法》等，關(guān)注要點(diǎn)在于產(chǎn)品安全評估審查、生成式內(nèi)容標(biāo)識與用戶數(shù)據(jù)保護(hù)等手級說明ISOIAWIPAS8800RoadVehicles

SafetyandArtificialIntelligenceStrategyandObjectives可以使用現(xiàn)有動能安全方法和標(biāo)準(zhǔn)，進(jìn)行開發(fā)裝保審的抵水Industry-specificguidanceonsafety-relatedAl/MLfunctions;A1A2B1Definesultablesafetyprinclples,methodsandevidencefuilingobjectiveswithISO26262(functionalsafety)andISO21488(safetyoftheintendedfunctionality)Harmonizeconceptsalreadydescrib