人工智能學(xué)習(xí)

大綱IntroductiontomachinelearningSupervisedlearning（監(jiān)督學(xué)習(xí)）

Decisiontreelearning（決策樹(shù)學(xué)習(xí)）

Linearpredictions（線性預(yù)測(cè)）

Supportvectormachines（支持向量機(jī)）

…Unsupervisedlearning（無(wú)監(jiān)督學(xué)習(xí)）

人工智能學(xué)習(xí)Learning學(xué)習(xí)對(duì)認(rèn)識(shí)未知的環(huán)境是必不可少的,

i.e.,當(dāng)設(shè)計(jì)者缺乏完整知識(shí)的時(shí)候whendesignerlacksomniscience（全知）學(xué)習(xí)作為一種系統(tǒng)構(gòu)造方法是有用的,

i.e.,編寫(xiě)一個(gè)學(xué)習(xí)智能體程序來(lái)實(shí)現(xiàn)比嘗試著將函數(shù)直接寫(xiě)出來(lái)要好得多學(xué)習(xí)會(huì)不斷地修改智能體的決策機(jī)制來(lái)提高性能

人工智能學(xué)習(xí)學(xué)習(xí)智能體人工智能學(xué)習(xí)學(xué)習(xí)元件Designofalearningelementisaffectedby

性能元素的哪些組件是需要學(xué)習(xí)的

什么樣的反饋可被用來(lái)學(xué)習(xí)這些組件

這些組件可以被哪些方法來(lái)表示

人工智能學(xué)習(xí)IntroductiontoMachineLearning人工智能學(xué)習(xí)MachineLearningEveryday:

SearchEngine人工智能學(xué)習(xí)MachineLearningEveryday:

SpamDetection（垃圾郵件檢測(cè)）人工智能學(xué)習(xí)MachineLearningEveryday:

MachineTranslation人工智能學(xué)習(xí)MachineLearningEveryday:

FaceDetectionNowinmostdigitalcamerasforautofocusing

人工智能學(xué)習(xí)MachineLearning脫胎于人工智能工作電腦的一種新能力

人工智能學(xué)習(xí)WhyMachineLearning?SolveclassificationproblemsLearnmodelsofdata(“datafitting”)Understandandimproveefficiencyofhuman

learningDiscovernewthingsorstructuresthatareunknowntohumans(“datamining”)

…

人工智能學(xué)習(xí)WhyMachineLearning?Largeamountsofdata

Webdata,Medicaldata,Biologicaldata…昂貴的手工分析費(fèi)用計(jì)算機(jī)變得便宜并性能更加優(yōu)良

人工智能學(xué)習(xí)WhyMachineLearning?應(yīng)用程序無(wú)法直接通過(guò)手工編程完成

無(wú)人駕駛

手寫(xiě)識(shí)別

自然語(yǔ)言處理(NLP)

計(jì)算機(jī)視覺(jué)理解人類的學(xué)習(xí)（人腦，真正的AI）

人工智能學(xué)習(xí)Whatismachinelearningusefulfor?機(jī)器學(xué)習(xí)在哪些領(lǐng)域有用？人工智能學(xué)習(xí)Automaticspeechrecognition

自動(dòng)語(yǔ)音識(shí)別當(dāng)前大部分語(yǔ)音識(shí)別和翻譯都能夠不斷學(xué)習(xí)—你用得越多，它們就會(huì)變得越聰明

人工智能學(xué)習(xí)Computervision:e.g.object,faceand

handwritingrecognition人工智能學(xué)習(xí)Informationretrieval—信息檢索對(duì)大量文本數(shù)據(jù)庫(kù)的閱讀,領(lǐng)會(huì)和分類對(duì)于人類來(lái)說(shuō)是困難的WebPagesRetrieval（檢索）Categorization（分類）Clustering（聚類）Relationsbetweenpages人工智能學(xué)習(xí)Financialprediction人工智能學(xué)習(xí)Medicaldiagnosis（醫(yī)學(xué)診斷）人工智能學(xué)習(xí)Bioinformatics（生物信息學(xué)）e.g.基因微陣列數(shù)據(jù)建模,蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)

人工智能學(xué)習(xí)Robotics機(jī)器人學(xué)人工智能學(xué)習(xí)電影推薦系統(tǒng)

Movierecommendationsystems人工智能學(xué)習(xí)MachineLearningMachinelearningisaninterdisciplinaryfieldfocusingonboththemathematicalfoundationsandpracticalapplicationsofsystemsthatlearn,reasonandact.機(jī)器學(xué)習(xí)是一個(gè)交叉學(xué)科的領(lǐng)域，著重于研究具有學(xué)習(xí)、推理和行動(dòng)的

系統(tǒng)所需要的數(shù)學(xué)基礎(chǔ)以及實(shí)際應(yīng)用

Otherrelatedterms:PatternRecognition（模式識(shí)別）,NeuralNetworks（神經(jīng)網(wǎng)絡(luò)）,DataMining（數(shù)據(jù)挖掘）,StatisticalModeling（統(tǒng)計(jì)模型）...

Usingideasfrom:Statistics,ComputerScience,Engineering,Applied

Mathematics,CognitiveScience（認(rèn)知科學(xué)）,Psychology（心理學(xué)）,

ComputationalNeuroscience（計(jì)算神經(jīng)學(xué)）,Economics

Thegoaloftheselectures:tointroduceimportantconcepts（概念）,modelsandalgorithmsinmachinelearning.人工智能學(xué)習(xí)MachineLearning:定義TomMitchell(1998)Well-posedLearningProblem:AcomputerprogramissaidtolearnfromexperienceEwithrespecttosometaskTandsomeperformancemeasureP,ifitsperformanceonT,asmeasuredbyP,improveswithexperienceE.湯姆?米切爾（1998）很好地定義了學(xué)習(xí)問(wèn)題：我們說(shuō)一個(gè)計(jì)算機(jī)程序能從經(jīng)驗(yàn)E中學(xué)會(huì)針對(duì)某些任務(wù)T和一些性能指標(biāo)P的方法，如果程序使用E有效提高了在T中運(yùn)行時(shí)的指標(biāo)P.

人工智能學(xué)習(xí)“AcomputerprogramissaidtolearnfromexperienceEwith

respecttosometaskTandsomeperformancemeasureP,ifits

performanceonT,asmeasuredbyP,improveswithexperienceE.”假設(shè)你的郵件程序觀測(cè)到你將一些郵件標(biāo)記為垃圾郵件，以此為基礎(chǔ)程序?qū)W習(xí)如何更好地過(guò)濾垃圾郵件，那么在該設(shè)定中taskT是什么？

將郵件分類為垃圾或非垃圾郵件

Watchingyoulabelemailsasspamornotspam.

Thenumber(orfraction)ofemailscorrectlyclassifiedasspam/notspam.

Noneoftheabove—thisisnotamachinelearningproblem.人工智能學(xué)習(xí)學(xué)習(xí)的種類想象一下，一個(gè)智能體或機(jī)器收集到一系列的傳感輸入（sensoryinputs）:x1,x2,x3,x4,...

Supervisedlearning（監(jiān)督學(xué)習(xí)）:

Themachineisalsogivendesiredoutputsy1,y2,...,

anditsgoalistolearntoproducethecorrectoutput

givenanewinput.

Unsupervisedlearning（無(wú)監(jiān)督學(xué)習(xí)）:

outputsy1,y2,...Notgiven,theagentstillwantsto

buildamodelofxthatcanbeusedforreasoning,

decisionmaking,predictingthings,communicatingetc.

Semi-supervisedlearning（半監(jiān)督學(xué)習(xí)）人工智能學(xué)習(xí)Representing“objects”inmachine

learning舉個(gè)實(shí)例,x,representsaspecificobjectx通常表示一個(gè)d維的特征向量

x=(x1,...,xd)∈Rd其中每一個(gè)維度叫做featureorattribute特征值是連續(xù)的或離散的x在d維的特征空間中是一個(gè)點(diǎn)目標(biāo)抽象化.忽略其他方面(e.g.,twopeoplehavingthesameweightandheightmaybeconsideredidentical)

人工智能學(xué)習(xí)Featurevectorrepresentation

特征向量表示法文本文件

詞匯ofsized(~100,000)

“bagofwords”:對(duì)每個(gè)詞條的計(jì)數(shù)

通常忽略掉stopwords:the,of,at,in,…

特別的，用“out-of-vocabulary”(OOV)來(lái)捕捉

所有未知的詞

人工智能學(xué)習(xí)特征向量表示法圖像

像素,顏色直方圖銀行賬戶

信用等級(jí),余額,最近一天、一星期、一個(gè)月、一年存款,#取款,…Youandme

醫(yī)學(xué)特征test1,test2,test3,…人工智能學(xué)習(xí)主要成分Data

ThedatasetDconsistsofNdatapoints:

D={x1,x2...,xN}Predictions（預(yù)測(cè)）

Wearegenerallyinterestedinpredictingsomethingbasedontheobserveddata

set.基于已觀測(cè)到的數(shù)據(jù)集能否正確對(duì)后來(lái)的數(shù)據(jù)進(jìn)行預(yù)測(cè)

GivenDwhatcanwesayaboutxN+1?Model

Tomakepredictions,weneedtomakesomeassumptions.Wecanoftenexpress

theseassumptionsintheformofamodel,withsomeparameters（參數(shù)）

為了完成預(yù)測(cè)任務(wù)，我們需要做一些合理假設(shè)。我們經(jīng)常以帶參數(shù)的模型形式來(lái)表達(dá)這些假設(shè)

在給定數(shù)據(jù)集D時(shí),我們學(xué)習(xí)模型的參數(shù),以便對(duì)新數(shù)據(jù)進(jìn)行預(yù)測(cè).人工智能學(xué)習(xí)主要成分人工智能學(xué)習(xí)學(xué)習(xí)的架構(gòu)實(shí)驗(yàn)3：人工智能學(xué)習(xí)LearningProblems人工智能學(xué)習(xí)HousingpricepredictionSupervisedLearning

監(jiān)督學(xué)習(xí)

數(shù)據(jù)中給出了“rightanswers”Regression（回歸）: