AI建模師-素養(yǎng)手冊(cè)(4)-認(rèn)識(shí)隱藏空間-ok8

Part-4從DeepNN介紹潛藏空間觀念37從深度神經(jīng)網(wǎng)絡(luò)(DeepNeuralNetwork)認(rèn)識(shí)隱藏空間(Latentspaces)By高煥堂/AI建模師俱樂(lè)部會(huì)長(zhǎng)——————————————————————4.1前言4.2隱藏空間(Latentspaces的)特質(zhì)4.3從<單層NN模型>說(shuō)起4.4多層的NN模型4.5隱藏空間在AIGC領(lǐng)域的角色***本文摘自高煥堂的下列書籍******以及北京【電子世界雜志】連載專欄***4.1前言復(fù)習(xí)：空間對(duì)映在上一集里，特別強(qiáng)調(diào)空間對(duì)映(Spacemapping)的觀念和機(jī)制?，F(xiàn)在，請(qǐng)您回憶一下(歐式)空間的觀念，并且從下述的范例中，領(lǐng)會(huì)歐式空間機(jī)制的妙用之處。這個(gè)范例是：有一個(gè)學(xué)校，它有2萬(wàn)學(xué)生，其使用計(jì)算機(jī)來(lái)管理門禁，只要聽(tīng)學(xué)生說(shuō)出語(yǔ)音：<芝麻開(kāi)門>。計(jì)算機(jī)錄下這一小段聲音，去辨認(rèn)是否為本校同學(xué)，而決定是否開(kāi)門。請(qǐng)您想一想，其計(jì)算機(jī)如何進(jìn)行這<辨認(rèn)>過(guò)程呢？如果您的思維是：計(jì)算機(jī)會(huì)去Database里讀取各人的聲音來(lái)逐一核對(duì)。這就誤解AI了。傳統(tǒng)上，計(jì)算機(jī)會(huì)去Database里讀取各人的聲音來(lái)Part-4從DeepNN介紹潛藏空間觀念39逐一核對(duì)，花費(fèi)時(shí)間很長(zhǎng)，反應(yīng)速度太慢了。這就不是AI。請(qǐng)記得AI的特技就是：鑒往知來(lái)、瞬間洞察。當(dāng)AI聽(tīng)到<芝麻開(kāi)門>聲音時(shí)，不需要去查詢Database，就能瞬間判斷了。這才是AI。為什么古典的計(jì)算機(jī)做不到呢？因?yàn)楣诺鋾r(shí)代里，人們沒(méi)有讓計(jì)算機(jī)進(jìn)行機(jī)器學(xué)習(xí)，也就是它沒(méi)有<鑒古>。在AI時(shí)代里，其必備過(guò)程是：鑒古(即機(jī)器學(xué)習(xí))，所以它能知來(lái)(即瞬間洞察)。AI的關(guān)鍵技術(shù)在于：鑒古(機(jī)器學(xué)習(xí))。先在鑒古(機(jī)器學(xué)習(xí))階段，就會(huì)收集每一位同學(xué)的聲音成為<訓(xùn)練數(shù)據(jù)>(Trainingdata)。讓每一位學(xué)生說(shuō)出：<芝麻開(kāi)門>語(yǔ)音，重復(fù)說(shuō)5遍，把它錄制成mp3音檔。于是，2萬(wàn)個(gè)同學(xué)，共錄制了10萬(wàn)個(gè)聲音(即音檔)。然后從每一個(gè)聲音，萃取出39個(gè)特征值(如聲量、音高等)。繼續(xù)把每一項(xiàng)特征都當(dāng)做數(shù)學(xué)歐式空間的一個(gè)維度。于是，上述所錄制的每一個(gè)聲音(即音檔)都對(duì)映到此歐式空間里的一個(gè)<點(diǎn)>。所以，這10萬(wàn)的聲音，就對(duì)映到空間里的10萬(wàn)個(gè)點(diǎn)。當(dāng)AI機(jī)器學(xué)習(xí)完成時(shí)，這空間里已含有10萬(wàn)點(diǎn)，分別位于空間里的各坐標(biāo)位置上。于是鑒古階段完畢了。接著，就進(jìn)入應(yīng)用階段，又稱：預(yù)測(cè)階段。真正把AI模型(含這歐式空間)，布署于門禁系統(tǒng)上。隔天早上，第1位學(xué)生來(lái)了，當(dāng)場(chǎng)說(shuō)出語(yǔ)音：〈芝麻開(kāi)門〉。AI立即從這個(gè)新錄下的聲音，萃取出39個(gè)特征值(如聲量、音高等)。并且對(duì)映到空間里的一個(gè)新的點(diǎn)。此時(shí)空間里共有10萬(wàn)+1個(gè)點(diǎn)。AI就開(kāi)始判斷了。如果這個(gè)新的點(diǎn)與原來(lái)10萬(wàn)個(gè)點(diǎn)的距離都很遠(yuǎn)，就不開(kāi)門。反之，如果這新的點(diǎn)，很靠近這10萬(wàn)個(gè)點(diǎn)中的任何一個(gè)，就立即開(kāi)門。這叫：瞬間洞察。過(guò)去IT資訊時(shí)代的計(jì)算機(jī)技術(shù)中，沒(méi)有<鑒古>。如果沒(méi)有<鑒古>，就非AI了。以上復(fù)習(xí)您對(duì)AI里歐式空間角色的領(lǐng)會(huì)簡(jiǎn)介<隱藏空間>凡是AI生成模型(如AIGC的相關(guān)模型，都非常依賴關(guān)鍵性的空間，就是本文將介紹的：隱藏空間(Latentspace)，又稱為：潛藏空間。一般的開(kāi)發(fā)者不必去知道隱藏空間的架構(gòu)及操作技巧，但建模師必需完全掌握它。隱藏空間的向量，就如同人身染色體里的基因組。例如當(dāng)今AI科技領(lǐng)域的大浪潮：AIGC。其中主要的生成式AI模型是：GAN、ChatGPT和Diffusion。其中，GAN只要是捕捉樣本空間的潛藏機(jī)率分配。Diffusion是訓(xùn)練對(duì)隱藏空間(LatentSpace)細(xì)微變化的靈敏度。清晰領(lǐng)會(huì)<隱藏空間>觀念和含意，是掌握Diffusion的關(guān)鍵要素。#===========================歡迎加入…<中國(guó)AI建模師俱樂(lè)部>微信群新創(chuàng)期間，免入會(huì)費(fèi)misootwgmailcomMelody收Part-4從DeepNN介紹潛藏空間觀念414.2隱藏空間(Latentspaces)的特質(zhì)隱藏空間可模擬人腦的表示方法(Latentspacesareagood隱藏空間蘊(yùn)藏直覺(jué)潛質(zhì)(Latentspaceshaveintuitive里沉淀(濃縮)出簡(jiǎn)單的(日月)精華之道，謂之<無(wú)招>，而蘊(yùn)含于隱藏空間<無(wú)招>才能解釋千變?nèi)f化的招術(shù)。如果您對(duì)于隱藏空間還感覺(jué)很玄秒難4.3從<單層NN模型>說(shuō)起Part-4從DeepNN介紹潛藏空間觀念43然后，將X空間里的4個(gè)點(diǎn)(即4筆數(shù)據(jù))，經(jīng)由X*W+B=Y和Part-4從DeepNN介紹潛藏空間觀念45然后，將Z空間里的4個(gè)點(diǎn)(即4筆數(shù)據(jù))，經(jīng)由Z*W+B=Y和兩層的NN模型回合都會(huì)同步修正這兩層權(quán)重。換句話說(shuō)，這兩層權(quán)重是一起逐步成長(zhǎng)Part-4從DeepNN介紹潛藏空間觀念47Part-4從DeepNN介紹潛藏空間觀念49HPart-4從DeepNN介紹潛藏空間觀念51輸入層X(jué)空間，對(duì)映到隱藏層H空間，再對(duì)映到輸出層的Z4.4多層的NN模型Part-4從DeepNN介紹潛藏空間觀念53Part-4從DeepNN介紹潛藏空間觀念55Part-4從DeepNN介紹潛藏空間觀念57<兩層一起學(xué)習(xí)>按鈕，ML就會(huì)尋找出中間層的權(quán)重難懂，那就可能是沒(méi)有進(jìn)入無(wú)招境界，對(duì)于武林高手4.5隱藏空間在AIGC領(lǐng)域的角色擴(kuò)散模型轉(zhuǎn)化為隱藏?cái)U(kuò)散模型(Latentdiffusionmodels)，因而獲得兩個(gè)經(jīng)由模型訓(xùn)練，操作隱藏空間向量，加上隨機(jī)輸入中合成新的數(shù)據(jù)，經(jīng)由空間對(duì)映，把模型的計(jì)算空間從可觀察的像素空間，降維對(duì)映到P