人工智能和機(jī)器學(xué)習(xí)系列研究（1）：多模型、多數(shù)據(jù)、多跨度融合的深度學(xué)習(xí)GRU因子

金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告證券研究報(bào)告1356491768813564917688fengjiaruiangzhishun@多模型融合提升預(yù)測(cè)準(zhǔn)確性。GRU模型具備很強(qiáng)的處系的能力，故被廣泛應(yīng)用于時(shí)間序列的預(yù)測(cè)。進(jìn)一步引入雙層GRU、用了卷積神經(jīng)網(wǎng)絡(luò)的局部特征提取能力，Attention或可捕捉短、中、長(zhǎng)期的市場(chǎng)規(guī)律，增強(qiáng)模型對(duì)不同市場(chǎng)周期的適應(yīng)能力。風(fēng)險(xiǎn)提示：模型失效風(fēng)險(xiǎn)，市場(chǎng)風(fēng)格變化風(fēng)險(xiǎn)，數(shù)據(jù)測(cè)算誤差風(fēng)險(xiǎn)。金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告 4二、深度學(xué)習(xí)模型簡(jiǎn)介 4三、GRU因子的構(gòu)建與融合 53.1資金流GRU因子 63.1.1資金流類(lèi)因子 63.1.2資金流GRU因子及其集成 73.2分鐘頻GRU因子 93.3衍生高頻GRU因子 3.3.1衍生高頻因子 3.3.2衍生高頻GRU因子及其集成 3.4多模型與多數(shù)據(jù)的融合 四、指數(shù)增強(qiáng)組合 4.1滬深300指數(shù)增強(qiáng) 4.2中證500指數(shù)增強(qiáng) 4.3中證1000指數(shù)增強(qiáng) 20五、2024年融合因子表現(xiàn)回顧 21六、總結(jié)與討論 23七、風(fēng)險(xiǎn)提示 24 5圖2：資金流GRU因子各期及累計(jì)RankIC 8圖3：資金流GRU因子與Barra因子相關(guān)性1 8圖4：資金流GRU因子與Barra因子相關(guān)性2 8圖5：分鐘頻GRU因子各期及累計(jì)RankIC 圖6：分鐘頻GRU因子與Barra因子相關(guān)性1 圖7：分鐘頻GRU因子與Barra因子相關(guān)性2 圖8：衍生高頻GRU因子各期及累計(jì)RankIC 圖9：衍生高頻GRU因子與Barra因子相關(guān)性1 圖10：衍生高頻GRU因子與Barra因子相關(guān)性2 圖11：融合因子各期及累計(jì)RankIC 圖12：融合因子與Barra因子相關(guān)性1 圖13：融合因子與Barra因子相關(guān)性2 金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告圖14：10分組年化超額收益（Wind全A） 圖15：10分組年化超額收益（滬深300） 圖16：10分組年化超額收益（中證500） 圖17：10分組年化超額收益（中證1000） 圖18：滬深300增強(qiáng)組合累計(jì)超額收益 圖19：中證500增強(qiáng)組合累計(jì)超額收益 20圖20：中證1000增強(qiáng)組合累計(jì)超額收益 21圖21：中證500增強(qiáng)組合4個(gè)場(chǎng)景下的累計(jì)超額收益 23圖22：中證1000增強(qiáng)組合4個(gè)場(chǎng)景下的累計(jì)超額收益 23表1：資金流因子RankIC 6表2：資金流GRU模型參數(shù) 7表3：資金流GRU因子RankIC 7表4：資金流GRU因子相關(guān)性 9表5：分鐘頻GRU模型參數(shù) 9表6：分鐘頻GRU因子RankIC 表7：分鐘頻GRU因子相關(guān)性 表8：衍生高頻因子RankIC 表9：衍生高頻GRU模型參數(shù) 表10：衍生高頻GRU因子RankIC 表11：衍生高頻GRU因子相關(guān)性 表12：集成因子RankIC 表13：集成因子相關(guān)性 表14：滬深300指數(shù)增強(qiáng)組合收益風(fēng)險(xiǎn)特征 表15：中證500指數(shù)增強(qiáng)組合收益風(fēng)險(xiǎn)特征 20表16：中證1000指數(shù)增強(qiáng)組合收益風(fēng)險(xiǎn)特征 21表17：2024年融合因子收益特征 22表18：2024年增強(qiáng)組合4個(gè)場(chǎng)景下的收益風(fēng)險(xiǎn)特征（2024.01.02-2024.06.24） 23金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告海內(nèi)外諸多研究和實(shí)踐表明，通過(guò)量化方法挖掘因子和信號(hào)，制定合適的投為應(yīng)對(duì)這一挑戰(zhàn)，我們探索了多種模型、多種數(shù)據(jù)和多種輸入時(shí)間跨度結(jié)合的方法，雖然GRU已經(jīng)被廣泛應(yīng)用，但我們通過(guò)引入多層GRU、結(jié)合自注意力機(jī)制（Self-Attention）和卷積神經(jīng)網(wǎng)絡(luò)（CNN希望挖掘更深層次的時(shí)序信息和空間特征，特征因子和單一輸入跨度因子，展現(xiàn)出更加穩(wěn)定和準(zhǔn)確的預(yù)測(cè)能力。二、深度學(xué)習(xí)模型簡(jiǎn)介深度學(xué)習(xí)中的GRU模型可以很好地提取輸入特征的時(shí)序信息。疊加自注意力機(jī)制（Self-Attention）和卷積神經(jīng)網(wǎng)絡(luò)（CNN理論上可以分別增強(qiáng)模型的局部注意能力和1)GRU：GRU是一種經(jīng)典的深度神經(jīng)網(wǎng)絡(luò)，擅長(zhǎng)處理時(shí)序信息。與傳統(tǒng)的RNN相比，GRU通過(guò)特殊設(shè)計(jì)，有效解決了梯度消2)Double-GRU：在基準(zhǔn)GRU模型的基礎(chǔ)上，我們引入了雙層GRU模型，通過(guò)4)CNN-GRU：卷積神經(jīng)網(wǎng)絡(luò)（CNN）能夠有效提取時(shí)序數(shù)據(jù)中的局部特征。將依賴(lài)關(guān)系，從而可以在處理時(shí)序數(shù)據(jù)時(shí)更全面地捕捉數(shù)據(jù)特征。金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告三、GRU因子的構(gòu)建與融合分鐘頻量?jī)r(jià)行情數(shù)據(jù)和Wind資金流向數(shù)據(jù)。前者既可直接作3種不同的數(shù)據(jù)類(lèi)型——資金流數(shù)據(jù)、分鐘頻數(shù)據(jù)和資金流向信息、更高頻次的價(jià)格和交易量信息，以及日內(nèi)成交的一些統(tǒng)計(jì)學(xué)意義的信息。提高模型對(duì)不同市場(chǎng)周期的適應(yīng)能力。金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告特征的優(yōu)點(diǎn)。下文的實(shí)證結(jié)果表明，多模型與多數(shù)據(jù)融合的因子在穩(wěn)定性和準(zhǔn)確性方面，資金流數(shù)據(jù)來(lái)源于Wind，每日更新機(jī)構(gòu)、大戶(hù)、中戶(hù)金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告收益率為預(yù)測(cè)目標(biāo)。為使模型能夠具備在短、中、長(zhǎng)期內(nèi)的泛化能力4種，GRU、Double-GRU、AttentionGRU、CN24/48/72個(gè)雙周作為輸入，3:AdamAttention-GRU金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告050資料來(lái)源：Wind，西部證券研發(fā)中心GRU因子與殘差波動(dòng)率和流動(dòng)性保持著較為穩(wěn)定的負(fù)相關(guān)性。這表明，該因子的多頭組特征。與市值因子的相關(guān)性較不穩(wěn)定，但2022年以來(lái)，負(fù)相關(guān)性顯著，多0.30.20.120162017201820192020202120222023202402016201720182019202020212022202320242015-0.1-0.2-0.3-0.4-0.5-0.62015非線(xiàn)性市值動(dòng)量對(duì)數(shù)市值非線(xiàn)性市值動(dòng)量殘差波動(dòng)率0.40.30.20.10201620172018201920202021202220232024-0.2201620172018201920202021202220232024-0.3-0.4-0.5-0.6賬面市值比流動(dòng)性盈利成長(zhǎng)杠桿金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告Attention-GRUAttention-GRU處理時(shí)間較長(zhǎng)，我們僅對(duì)單只股票進(jìn)行時(shí)序標(biāo)準(zhǔn)化，而未對(duì)全部股票進(jìn)行橫截面標(biāo)準(zhǔn)化。與最后一分鐘收盤(pán)價(jià)計(jì)算收益率，再整體做時(shí)序標(biāo)準(zhǔn)化；4種，GRU、Double-GRU、AttentionGRU、CN24/48/72個(gè)雙周作為輸入，3:Adam金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告Attention-GRU0各期RankIC2017201850資料來(lái)源：Wind，西部證券研發(fā)中心高盈利的股票。與市值因子的相關(guān)性波動(dòng)較大，但2022年金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告0.20.12016201720182019202020212016201720182019202020212022202320242015-0.1-0.2-0.3-0.4非線(xiàn)性市值動(dòng)量對(duì)數(shù)市值非線(xiàn)性市值動(dòng)量殘差波動(dòng)率2016201720182019202020212022202320240.40.30.20.12016201720182019202020212022202320240-0.20-0.3-0.4-0.5-0.6賬面市值比流動(dòng)性盈利成長(zhǎng)杠桿我們認(rèn)為，擴(kuò)展特征的類(lèi)型或是計(jì)算的時(shí)間跨度，或比堆疊模型更能提高因子的穩(wěn)定性。Attention-GRUAttention-GRU金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告37.7%尾盤(pán)成交量比例金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告額標(biāo)準(zhǔn)差、上行已實(shí)現(xiàn)波動(dòng)率等。4種，GRU、Double-GRU、AttentionGRU、CN24/48/72個(gè)雙周作為輸入，3:AdamGRUDouble-GRUAttention-GRU金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告Attention-GRU050資料來(lái)源：Wind，西部證券研發(fā)中心2016201720182019202020212022202320240.40.30.20.120162017201820192020202120222023202402015-0.1-0.2-0.3-0.42015非線(xiàn)性市值動(dòng)量對(duì)數(shù)市值非線(xiàn)性市值動(dòng)量殘差波動(dòng)率0.40.30.20.10201620172018201920202021202220232024-0.2201620172018201920202021202220232024-0.3-0.4-0.5賬面市值比流動(dòng)性盈利成長(zhǎng)杠桿金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告Attention-GRUAttention-GRU也是一種方案。下表展示了上述4種集成方案Attention-金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告0.036，顯著不及其余兩個(gè)因子，這也在一定程度上說(shuō)明了多數(shù)據(jù)特征融合的重要下圖展示了融合因子的各期及累計(jì)RankIC，較為0-0.2-0.3資料來(lái)源：Wind，西部證券研發(fā)中心0.30.20.12016201720182019202020212022202320240201620172018201920202021202220232024-0.2-0.3-0.4-0.5-0.6非線(xiàn)性市值動(dòng)量對(duì)數(shù)市值非線(xiàn)性市值動(dòng)量殘差波動(dòng)率0.40.30.20.12016201720182019202020212022202320240201620172018201920202021202220232024-0.2-0.3-0.4-0.5-0.6——賬面市值比流動(dòng)性盈利成長(zhǎng)杠桿金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告Attention-Attention-GRU9s在其余三個(gè)指數(shù)的成分股中，分組單調(diào)性都得到了良好的保持。. .Double-GRU9s.Attention-GRU. .Double-GRU9s.Attention-GRU9s金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告00 CNN-GRU9s2YInput12s3YIn.Double-GRU9s.Attenti. .Double-GRU9s.Attention-GRU9s四、指數(shù)增強(qiáng)組合增強(qiáng)組合。優(yōu)化目標(biāo)為最大化組合的預(yù)期收益，約束偏離為[-0.5,0.5]1；3)雙周頻調(diào)倉(cāng)（每雙周的第一個(gè)交易日單邊換手率不高于25%；超額，跟蹤誤差5.0%。2023年超額收4.4%，發(fā)生在2024.01.03-202金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告4213210資料來(lái)源：Wind，西部證券研發(fā)中心超額，跟蹤誤差5.5%。2023年超額收益12.8%；20245.2%，發(fā)生在2024.01.03-202金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告 043210資料來(lái)源：Wind，西部證券研發(fā)中心超額，跟蹤誤差6.4%。2023年超額收益16.8%；2024年YTD超額4.2金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告7654321076543210資料來(lái)源：Wind，西部證券研發(fā)中心五、2024年融合因子表現(xiàn)回顧2024年上半年，市場(chǎng)波動(dòng)較大，小市值風(fēng)格的回撤尤為明顯，融合因子表現(xiàn)平平。金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告并持續(xù)至今。受小盤(pán)風(fēng)格強(qiáng)勢(shì)的驅(qū)動(dòng)，22、23兩年，融合因子及以此為金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告12023-12-292024-01-292024-03-052024-04-02場(chǎng)景1場(chǎng)景2——場(chǎng)景3——場(chǎng)景412023-12-292024-01-292024-03-052024-04-02202場(chǎng)景1場(chǎng)景2——場(chǎng)景3——場(chǎng)景4意義上保持正向alpha，但波動(dòng)難免會(huì)加劇。更加嚴(yán)格的風(fēng)險(xiǎn)管理方式，或許是利用風(fēng)險(xiǎn)中性等相關(guān)話(huà)題。六、總結(jié)與討論GRU模型具備很強(qiáng)的處理數(shù)據(jù)中長(zhǎng)期依賴(lài)關(guān)系的能力，故被廣泛應(yīng)用于時(shí)間序列的則利用了卷積神經(jīng)網(wǎng)絡(luò)的局部特征提取能力，Attention-GRU通過(guò)自注意力機(jī)制緩金工量化專(zhuān)題報(bào)告金工量化專(zhuān)題報(bào)告進(jìn)一步將數(shù)據(jù)類(lèi)型、模型形式和時(shí)間跨度下的因子等權(quán)集成，得到最終的融合因子。調(diào)性均優(yōu)于按單一模型、單一數(shù)據(jù)和單一跨度的集2024年上半年，市場(chǎng)波動(dòng)較大，小市值風(fēng)格的回撤尤為明顯，融合因子表現(xiàn)平平。七、風(fēng)險(xiǎn)提示模型失效風(fēng)險(xiǎn)：模型可能無(wú)法準(zhǔn)確預(yù)測(cè)市場(chǎng)行為，導(dǎo)致因子失效。數(shù)據(jù)測(cè)算誤差風(fēng)險(xiǎn)：數(shù)據(jù)和模型搭建過(guò)程中可能存在偏差，影響分析結(jié)果的準(zhǔn)確性。金工量化專(zhuān)題報(bào)告