人工神經(jīng)網(wǎng)絡(luò)Presentation

1、歷史發(fā)展 代表人物 理論內(nèi)容 目 錄 簡(jiǎn)介 年度工作概述 此處添加詳細(xì)文本描述，建議與標(biāo)題相關(guān)并符合整體語言風(fēng)格，語言描述盡量簡(jiǎn)潔生動(dòng)。盡量將每頁幻燈片的字?jǐn)?shù)控制在200 字以內(nèi)，據(jù)統(tǒng)計(jì)每頁幻燈片的最好控制在5分鐘之內(nèi)。 此處添加詳細(xì)文本描述，建議與標(biāo)題相關(guān)并符合整體語言風(fēng)格 簡(jiǎn)介簡(jiǎn)介 倫敦當(dāng)?shù)貢r(shí)間10月18日18：00 （北京時(shí)間19日01：00），谷歌旗下 的DeepMind團(tuán)隊(duì)公布了進(jìn)化后的最 強(qiáng)版AlphaGo，代號(hào)AlphaGo Zero。 AlphaGo Zero的系統(tǒng)從一個(gè)對(duì) 圍棋一無所知的神經(jīng)網(wǎng)絡(luò)開始，將該 神經(jīng)網(wǎng)絡(luò)和一個(gè)強(qiáng)力搜索算法結(jié)合， 自我對(duì)弈。在對(duì)弈過程中，神經(jīng)網(wǎng)絡(luò) 不

2、斷調(diào)整、升級(jí)，預(yù)測(cè)每一步落子和 最終的勝利者 l 計(jì)算機(jī)信息處理能力高于人類， 但識(shí)別能力比人類相去甚遠(yuǎn) l 計(jì)算機(jī)依靠模型運(yùn)算 人腦并行處理信息 機(jī)器會(huì)思考嗎？ 由大量簡(jiǎn)單的基本元件神經(jīng)元相 互連接，通過模擬人的大腦神經(jīng)處理 信息的方式，進(jìn)行信息并行處理和非 線性轉(zhuǎn)換的復(fù)雜網(wǎng)絡(luò)系統(tǒng)。 人工神經(jīng)網(wǎng)絡(luò) （Artificial Neutral Networks） 工作完成情況 此處添加詳細(xì)文本描述，建議與標(biāo)題相關(guān)并符合整體語言風(fēng)格，語言描述盡量簡(jiǎn)潔生動(dòng)。盡量將每頁幻燈片的字?jǐn)?shù)控制在200 字以內(nèi)，據(jù)統(tǒng)計(jì)每頁幻燈片的最好控制在5分鐘之內(nèi)。 此處添加詳細(xì)文本描述，建議與標(biāo)題相關(guān)并符合整體語言風(fēng)格 歷史

3、歷史發(fā)展發(fā)展 歷史發(fā)展歷史發(fā)展 提出 “機(jī)器思 維”的方法 提出自適應(yīng)線 性元件 感知機(jī)使 神經(jīng)網(wǎng)絡(luò)走向 低谷 確定人工智能 的概念 人工神經(jīng)網(wǎng)絡(luò) 的構(gòu)造和學(xué)習(xí) 有了理論指導(dǎo)， 神經(jīng)網(wǎng)絡(luò)開始 復(fù)興 Rumelhart和 McClelland 發(fā)展了BP算 法 2006 1955 2009 1969 2014 1986 1949 （1947） 1959 1984 歷史發(fā)展歷史發(fā)展 Deep Learning發(fā) 表，深度學(xué)習(xí) 真正被學(xué)學(xué)術(shù) 界接受 吳恩達(dá)和谷歌 科學(xué)家合作， 模擬人腦神經(jīng) 網(wǎng)絡(luò)，自主學(xué) 習(xí)到“貓” AlphaGo打 敗李世石，人 工智能成為熱 門話題 2006 2012 2009

4、2015 2014 2016 1949 1984 工作完成情況 此處添加詳細(xì)文本描述，建議與標(biāo)題相關(guān)并符合整體語言風(fēng)格，語言描述盡量簡(jiǎn)潔生動(dòng)。盡量將每頁幻燈片的字?jǐn)?shù)控制在200 字以內(nèi)，據(jù)統(tǒng)計(jì)每頁幻燈片的最好控制在5分鐘之內(nèi)。 此處添加詳細(xì)文本描述，建議與標(biāo)題相關(guān)并符合整體語言風(fēng)格 代表人物代表人物 代表人物 艾倫麥席森圖靈 Alan Mathisn Turing 英國(guó)數(shù)學(xué)家、邏輯學(xué)家， 被稱為計(jì)算機(jī)科學(xué)之父， 人工智能之父。 約翰霍普菲爾德 John Hopfueld 提出了霍普菲爾德神經(jīng) 網(wǎng)絡(luò),使神經(jīng)網(wǎng)絡(luò)的平衡 穩(wěn)定狀態(tài)有了明確的判 斷方法 杰弗里辛頓 Geoffrey Hinton 谷歌

5、工程研究員，多倫多 大學(xué)計(jì)算機(jī)科學(xué)系教授， 反向傳播算法和對(duì)比散度 算法的發(fā)明人之一 揚(yáng)勒丘恩 Yann LeCun 師從杰弗里辛頓，AT apple is sweet. If (flexible): apple is juicy. etc. 買蘋果： 標(biāo)準(zhǔn)1：蘋果=熟了,甜 標(biāo)準(zhǔn)2：個(gè)大+紅色的蘋果=甜 標(biāo)準(zhǔn)3 標(biāo)準(zhǔn)4 大腦的智慧是一種非線性現(xiàn)象； 人工神經(jīng)元處于激活或抑制兩種不 同狀態(tài)，在數(shù)學(xué)上表現(xiàn)為非線性關(guān) 系； 具有閾值的神經(jīng)元所構(gòu)成的網(wǎng)絡(luò)具 有較好的容錯(cuò)性、存儲(chǔ)能力 非線性 一個(gè)神經(jīng)網(wǎng)絡(luò)由多個(gè)神經(jīng)元廣泛連 接而成 系統(tǒng)的整體行為不僅取決于單個(gè)神 經(jīng)元的特征，同時(shí)由單元間的相互 連接、

6、相互作用決定 非局限性 人工神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)、自組織、 自學(xué)習(xí)能力 系統(tǒng)處理的信息可以有各種變化， 系統(tǒng)本身也在不斷變化 非常定性 系統(tǒng)的演化方向，在一定條件下取 決于某個(gè)特定的狀態(tài)函數(shù)，其極值 對(duì)應(yīng)系統(tǒng)比價(jià)比較穩(wěn)定的狀態(tài) 人工神經(jīng)網(wǎng)絡(luò)匯總這種函數(shù)具有多 個(gè)極值，系統(tǒng)具有多個(gè)較穩(wěn)定的平 衡態(tài)，系統(tǒng)演化存在多樣性 非凸性 構(gòu)造神經(jīng)元 人工神經(jīng)網(wǎng)絡(luò)的基本單位：人工神經(jīng)元 樹突：樹突： 信息傳入信息傳入 胞體：胞體： 信息處理信息處理 軸突：軸突： 數(shù)據(jù)傳出數(shù)據(jù)傳出 構(gòu)造神經(jīng)元 構(gòu)造神經(jīng)元 內(nèi)部強(qiáng)內(nèi)部強(qiáng) 度值度值b b 階梯函數(shù) （Step） a=0,n0 a=1,n0 符號(hào)函數(shù) （Sgn） 線性

7、函數(shù) （Linear） a=n 飽和線性函數(shù) （Ramp） a=0,n1 對(duì)數(shù)S形函數(shù) （Sigmoid） 傳遞函數(shù) 神經(jīng)元神經(jīng)元：多多個(gè)輸入、單輸出的非線性器件個(gè)輸入、單輸出的非線性器件 雙曲正切S形函數(shù) （Tanh） 此處添加詳細(xì)文本描述，建議與標(biāo)題相關(guān)并 符合整體語言風(fēng)格，語言描述盡量 1（紅色） 1（圓形） -1（黃色） -1（彎型） 感知機(jī)學(xué)習(xí) 蘋果蘋果 顏色顏色 香蕉香蕉 顏色顏色 蘋果蘋果 形狀形狀 香蕉香蕉 形狀形狀 感知機(jī)學(xué)習(xí) step(2)=1 step(-2)=0 感知機(jī)學(xué)習(xí) 信號(hào)源：外界刺激 上一神經(jīng)元輸出信號(hào) 輸出：神經(jīng)元輸出結(jié)果 下一神經(jīng)元的信號(hào)源 構(gòu)造神經(jīng)網(wǎng)絡(luò) 單

8、層神經(jīng)網(wǎng)絡(luò) AND運(yùn)算： 線性不可分運(yùn)算： 構(gòu)造神經(jīng)網(wǎng)絡(luò) 品種品種顏色顏色形狀形狀 蘋果蘋果1（紅色）1（圓形） 香蕉香蕉0（黃色）0（彎型） 分類邏輯運(yùn)算： 0 and 0=0 香蕉 1 and 1=1 蘋果 品種品種顏色顏色形狀形狀 蘋果蘋果1（紅色）1（圓形） 香蕉香蕉0（黃色）0（彎型） 品種品種顏色顏色形狀形狀 蘋果蘋果1（紅色）1（圓形） 香蕉香蕉0（黃色）0（彎型） 0 and 1=0 香蕉? 1 and 0=0 香蕉? 品種品種顏色顏色形狀形狀 蘋果蘋果1（紅色）1（圓形） 香蕉香蕉0（黃色）0（彎型） 品種品種顏色顏色形狀形狀 蘋果蘋果1（紅色）1（圓形） 香蕉香蕉0（黃色）

9、0（彎型） 形形 狀狀 顏色顏色 更紅更黃 更彎 更圓 形形 狀狀 顏色顏色 更紅更黃 更彎 更圓 可見層：輸入節(jié)點(diǎn) 輸出節(jié)點(diǎn) 隱層：中間層 （第一隱層、第二隱層。） 構(gòu)造神經(jīng)網(wǎng)絡(luò) 每一隱層都是一個(gè)單層神經(jīng)網(wǎng)絡(luò) 上一層輸出只能是下一層輸入，不可跨層鏈接 形形 狀狀 顏色顏色 更紅更黃 更彎 更圓 多層神經(jīng)網(wǎng)絡(luò)（前饋神經(jīng)網(wǎng)絡(luò)） 前向網(wǎng)絡(luò)：每一層神經(jīng)元只接受來自前一層神經(jīng)元的輸入，后面的層對(duì)前面 的層沒有信號(hào)反饋。 構(gòu)造神經(jīng)網(wǎng)絡(luò) 有反饋的前向網(wǎng)絡(luò)：輸出層對(duì)輸入層有信息反饋 層內(nèi)有相互結(jié)合的前向網(wǎng)絡(luò)：通過層內(nèi)神經(jīng)元的相互結(jié)合，實(shí)現(xiàn)同層神經(jīng)元 之間的橫向抑制或興奮機(jī)制 相互結(jié)合型網(wǎng)絡(luò)（全互連或部分互連）：在任意兩個(gè)神經(jīng)元之間都有可能有 連接（僅限于同層或前向） 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)（訓(xùn)練）方式 監(jiān)督學(xué)習(xí)（Supervised Learning，SL）： Training Predicting 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)（訓(xùn)練）方式 無監(jiān)督學(xué)習(xí)（Nonsupervised Learning，NSL）： 輸入你的文本內(nèi)容輸入你的文本內(nèi)容 2015年年終總結(jié)計(jì)劃 THANKS 歷史發(fā)展 代表人物 理論內(nèi)容 目 錄 簡(jiǎn)介 研究機(jī)器模擬人類的學(xué)習(xí)活動(dòng)，獲取 知識(shí)和技能的理論和方法，以改善系 統(tǒng)性能的學(xué)科。 機(jī)器學(xué)習(xí) （Machine Learning） 構(gòu)造神經(jīng)元 構(gòu)造神經(jīng)元 內(nèi)部強(qiáng)內(nèi)部強(qiáng) 度值度值b