PyTorch深度學(xué)習(xí)項(xiàng)目教程課件：貓狗圖像分類

PyTorch深度學(xué)習(xí)項(xiàng)目教程

貓狗圖像分類IMAGECLASSIFICATION要點(diǎn)：監(jiān)督學(xué)習(xí)、分類任務(wù)、多層感知機(jī)、數(shù)據(jù)增強(qiáng)

項(xiàng)目背景ProjectBackground要點(diǎn)：分類任務(wù)是深度學(xué)習(xí)的基本任務(wù)。問題：貓狗圖像分類是一個經(jīng)典的計(jì)算機(jī)視覺問題，目標(biāo)是對給定的圖像進(jìn)行分類，判斷圖像中是貓還是狗。由于貓狗的相似性，將二者完全分開面臨極大的挑戰(zhàn)。解決：通過監(jiān)督學(xué)習(xí)進(jìn)行解決，即通過帶標(biāo)簽的圖像數(shù)據(jù)集來進(jìn)行訓(xùn)練和評估模型。訓(xùn)練階段，模型接收大量的貓狗圖像作為輸入，并對其進(jìn)行學(xué)習(xí)，調(diào)整模型參數(shù)以最小化預(yù)測結(jié)果與真實(shí)標(biāo)簽之間的差異。評估階段，使用另外的圖像數(shù)據(jù)集對訓(xùn)練好的模型進(jìn)行測試和驗(yàn)證其分類準(zhǔn)確性。知識目標(biāo)KnowledgeObjectives理解并應(yīng)用PyTorch中DataSet類進(jìn)行數(shù)據(jù)增強(qiáng)，以提高模型泛化能力學(xué)會使用torchstat工具包對模型的參數(shù)進(jìn)行統(tǒng)計(jì)分析，以監(jiān)控模型訓(xùn)練狀態(tài)掌握logging工具包的使用，實(shí)現(xiàn)訓(xùn)練過程的日志記錄與輸出，便于模型調(diào)試與分析理解回歸與分類任務(wù)的區(qū)別，并掌握分類任務(wù)中的關(guān)鍵算法學(xué)習(xí)和掌握Sigmoid與Softmax函數(shù)在不同分類任務(wù)中的應(yīng)用能力目標(biāo)AbilityGoals能夠利用網(wǎng)絡(luò)資源加載和處圖像數(shù)據(jù)集，進(jìn)行有效的數(shù)據(jù)預(yù)處理和增強(qiáng)。能夠獨(dú)立搭建并訓(xùn)練一個全連接神經(jīng)網(wǎng)絡(luò)模型，用于圖像分類任務(wù)。能夠運(yùn)用日志記錄和其他評估手段，對模型的性能進(jìn)行監(jiān)控和分析，提出改進(jìn)策略素養(yǎng)目標(biāo)ProfessionalAttainments培養(yǎng)項(xiàng)目化思維，養(yǎng)成項(xiàng)目開發(fā)的全局視角，合理規(guī)劃項(xiàng)目進(jìn)度增強(qiáng)自主學(xué)習(xí)能力，能夠獨(dú)立分析問題，尋找解決方案，并在項(xiàng)目中實(shí)踐提升自我學(xué)習(xí)意識，通過本項(xiàng)目的學(xué)習(xí)，激發(fā)對監(jiān)督學(xué)習(xí)數(shù)據(jù)集收集和構(gòu)建的興趣，主動尋找和應(yīng)用更多的學(xué)習(xí)資源目錄任務(wù)1準(zhǔn)備貓狗數(shù)據(jù)集任務(wù)2設(shè)計(jì)圖像分類全連接網(wǎng)絡(luò)任務(wù)3訓(xùn)練圖像分類網(wǎng)絡(luò)任務(wù)4應(yīng)用分類網(wǎng)絡(luò)推理更多圖片任務(wù)5認(rèn)識深度學(xué)習(xí)的主要任務(wù)01任務(wù)1準(zhǔn)備貓狗數(shù)據(jù)集1.1數(shù)據(jù)集獲取

1.2數(shù)據(jù)整理及劃分對收集到的圖像進(jìn)行預(yù)處理：可以使用圖像編輯軟件進(jìn)行裁剪、縮放、旋轉(zhuǎn)、去除噪聲等預(yù)處理操作可參見OpenCV類的教材書籍一般將數(shù)據(jù)集分為訓(xùn)練集、驗(yàn)證集和測試集3類，根據(jù)數(shù)據(jù)樣本數(shù)量可以按照8:1:1、8:2:0或7:2:1等比例進(jìn)行劃分。訓(xùn)練集：用于訓(xùn)練模型驗(yàn)證集：用于在訓(xùn)練過程中判斷模型是否收斂測試集：用于評估模型的性能本項(xiàng)目，首先創(chuàng)建train、val和test文件夾，在對應(yīng)文件夾內(nèi)再創(chuàng)建cat、dog等具體類別，如圖所示。之后在對應(yīng)的類別文件夾內(nèi)放置相應(yīng)類別圖片，即可完成數(shù)據(jù)集的構(gòu)建1.3創(chuàng)建數(shù)據(jù)集類classDogCatDataset(Dataset):

def__init__(self,data_dir,transform=None):

“”“

分類任務(wù)的Dataset

:paramdata_dir:str,數(shù)據(jù)集所在路徑

:paramtransform:torch.transform，數(shù)據(jù)預(yù)處理

”“”

self.label_name={“cat”:0,“dog”:1}#需要根據(jù)實(shí)際訓(xùn)練任務(wù)修改

self.data_info=self.get_img_info(data_dir)#data_info存儲所有圖片路徑和標(biāo)簽，在DataLoader中通過index讀取樣本

self.transform=transform

def__getitem__(self,index):

path_img,label=self.data_info[index]

img=Image.open(path_img).convert(‘RGB’)#0~255

ifself.transformisnotNone:

img=self.transform(img)#在這里做transform，轉(zhuǎn)為tensor等等

returnimg,label

def__len__(self):

returnlen(self.data_info)

defget_img_info(self,data_dir):

data_info=list()

forroot,dirs,_inos.walk(data_dir):

#遍歷類別

forsub_dirindirs:

img_names=os.listdir(os.path.join(root,sub_dir))

img_names=list(filter(lambdax:x.endswith(‘.jpg’),img_names))

#遍歷圖片

foriinrange(len(img_names)):

img_name=img_names[i]

path_img=os.path.join(root,sub_dir,img_name)

label=self.label_name[sub_dir]

data_info.append((path_img,int(label)))

returndata_info項(xiàng)目組織結(jié)構(gòu)02任務(wù)2設(shè)計(jì)圖像分類網(wǎng)絡(luò)2分類MLPclassMLP(nn.Module):

def__init__(self,classes=2):#64x64x3

#使用super調(diào)用父類中的init函數(shù)對網(wǎng)絡(luò)進(jìn)行初始化

super(MLP,self).__init__()

#構(gòu)建網(wǎng)絡(luò)子模塊,存儲到MLP的module屬性中

self.fc1=nn.Linear(64*64*3,32*32*3)

self.fc2=nn.Linear(32*32*3,16*16*3)

self.fc3=nn.Linear(16*16*3,256)

self.fc4=nn.Linear(256,128)

self.fc5=nn.Linear(128,classes)

#按照每層網(wǎng)絡(luò)結(jié)構(gòu)寫處forward函數(shù),即如何進(jìn)行前向傳播

defforward(self,x):

x=x.view(x.size(0),-1)#重置為[batchsize,一維數(shù)組]的形狀

out=torch.relu(self.fc1(x))

out=torch.relu(self.fc2(out))

out=torch.relu(self.fc3(out))

out=torch.relu(self.fc4(out))

out=self.fc5(out)

returnout總參數(shù)個數(shù):40,341,890torchstat模塊統(tǒng)計(jì)：項(xiàng)目組織結(jié)構(gòu)03任務(wù)3訓(xùn)練圖像分類網(wǎng)絡(luò)3.1訓(xùn)練日志importlogging

defget_logger(filename,verbosity=1,name=None):

level_dict={0:logging.DEBUG,1:logging.INFO,2:logging.WARNING}

formatter=logging.Formatter(

"[%(asctime)s][%(filename)s][line:%(lineno)d][%(levelname)s]%(message)s"

)

logger=logging.getLogger(name)

logger.setLevel(level_dict[verbosity])

fh=logging.FileHandler(filename,mode="a",encoding='utf-8')

fh.setFormatter(formatter)

logger.addHandler(fh)

sh=logging.StreamHandler()

sh.setFormatter(formatter)

logger.addHandler(sh)

returnlogger

if__name__=='__main__':

logger=get_logger('test.log')

("這是一條測試指令")項(xiàng)目組織結(jié)構(gòu)記錄訓(xùn)練過程，更好追溯問題3.2訓(xùn)練過程項(xiàng)目組織結(jié)構(gòu)#參數(shù)設(shè)置MAX_EPOCH=30BATCH_SIZE=128LR=0.01log_interval=10val_interval=1device=torch.device("cuda:0"iftorch.cuda.is_available()else"cpu")訓(xùn)練初始化train_transform=transforms.Compose([transforms.Resize((64,64)),transforms.RandomCrop(64,padding=4),transforms.ToTensor(),transforms.Normalize(norm_mean,norm_std),])train_data=DogCatDataset(data_dir=train_dir,transform=train_transform)train_loader=DataLoader(dataset=train_data,batch_size=BATCH_SIZE,shuffle=True,num_workers=4)配置數(shù)據(jù)集net=MLP(classes=2)net.to(device)加載網(wǎng)絡(luò)模型criterion=nn.CrossEntropyLoss()#損失函數(shù)設(shè)置optimizer=optim.SGD(net.parameters(),lr=LR,momentum=0.9）#優(yōu)化器設(shè)置scheduler=torch.optim.lr_scheduler.StepLR(optimizer,step_size=100,gamma=0.1）#設(shè)置學(xué)習(xí)率下降策略

配置訓(xùn)練策略forepochinrange(MAX_EPOCH):...fori,datainenumerate(train_loader):

迭代訓(xùn)練3.2.1初始化參數(shù)初始化訓(xùn)練參數(shù)，由于數(shù)據(jù)量超過1萬張圖片，一般需要三位數(shù)的訓(xùn)練輪次才能讓模型收斂，這里可以先預(yù)設(shè)一個小MAX_EPOCH值，便于觀察程序模塊是否配置正確：判斷是否安裝了英偉達(dá)GPU及其CUDA驅(qū)動：MAX_EPOCH=30

BATCH_SIZE=128

LR=0.01

log_interval=10

val_interval=1device=torch.device("cuda:0"iftorch.cuda.is_available()else"cpu")3.2.2配置數(shù)據(jù)集split_dir=os.path.join("data","dogs-vs-cats")

train_dir=os.path.join(split_dir,"train")

valid_dir=os.path.join(split_dir,"val")

norm_mean=[0.485,0.456,0.406]

norm_std=[0.229,0.224,0.225]

train_transform=transforms.Compose([

transforms.Resize((64,64)),

transforms.RandomCrop(64,padding=4),

transforms.ToTensor(),

transforms.Normalize(norm_mean,norm_std),

])

valid_transform=transforms.Compose([

transforms.Resize((64,64)),

transforms.ToTensor(),

transforms.Normalize(norm_mean,norm_std),

])

#構(gòu)建MyDataset實(shí)例

train_data=DogCatDataset(data_dir=train_dir,transform=train_transform)

valid_data=DogCatDataset(data_dir=valid_dir,transform=valid_transform)

#構(gòu)建DataLoder

train_loader=DataLoader(dataset=train_data,batch_size=BATCH_SIZE,shuffle=True,num_workers=4)

valid_loader=DataLoader(dataset=valid_data,batch_size=BATCH_SIZE,shuffle=True)transforms.Compose：由Pytorch的torchvision庫提供，包括圖像縮放、裁剪、翻轉(zhuǎn)、對比度變換等多種類型，充分利用模型的4000萬個參數(shù)記住多樣的數(shù)據(jù)變化，提高模型的表達(dá)能力DogCatDataSet:定義數(shù)據(jù)集DataLoader：主要作用是一次加載一部分?jǐn)?shù)據(jù)到內(nèi)存，防止數(shù)據(jù)一次性加載內(nèi)存或顯存容量不足，參數(shù)shuffle=True的意思為打亂數(shù)據(jù)加載順序，shuffle的英文原意為洗牌3.2.3加載網(wǎng)絡(luò)模型net=MLP(classes=2)

net.to(device)#GPU3.2.4配置訓(xùn)練策略1.配置損失函數(shù)criterion=nn.CrossEntropyLoss()#選擇損失函數(shù)

3.2.4配置訓(xùn)練策略2.優(yōu)化器optimizer=optim.SGD(net.parameters(),lr=LR,momentum=0.9)#選擇優(yōu)化器

scheduler=torch.optim.lr_scheduler.StepLR(optimizer,step_size=100,gamma=0.1)#設(shè)置學(xué)習(xí)率下降策略在PyTorch中，優(yōu)化器（Optimizer）是用于更新神經(jīng)網(wǎng)絡(luò)參數(shù)的工具。它根據(jù)計(jì)算得到的損失函數(shù)的梯度來調(diào)整模型的參數(shù)，以最小化損失函數(shù)并改善模型的性能。即優(yōu)化器是一種特定的機(jī)器學(xué)習(xí)算法，通常用于在訓(xùn)練深度學(xué)習(xí)模型時調(diào)整權(quán)重和偏差。是用于更新神經(jīng)網(wǎng)絡(luò)參數(shù)以最小化某個損失函數(shù)的方法。它通過不斷更新模型的參數(shù)來實(shí)現(xiàn)這一目的。

SGD（StochasticGradientDescent）:Adam（AdaptiveMomentEstimation）:通過維護(hù)模型的梯度和梯度平方的一階動量和二階動量，來調(diào)整模型的參數(shù)。Adam的優(yōu)點(diǎn)是計(jì)算效率高，收斂速度快，缺點(diǎn)是需要調(diào)整超參數(shù)SGD的基本思想是，通過梯度下降的方法，不斷調(diào)整模型的參數(shù)，使模型的損失函數(shù)最小化。SGD的優(yōu)點(diǎn)是實(shí)現(xiàn)簡單、效率高，缺點(diǎn)是收斂速度慢、容易陷入局部最小值。RMSprop（RootMeanSquarePropagation）:是一種改進(jìn)的隨機(jī)梯度下降優(yōu)化器，用于優(yōu)化模型的參數(shù)?；舅枷胧?，通過維護(hù)模型的梯度平方的指數(shù)加權(quán)平均，來調(diào)整模型的參數(shù)。RMSprop的優(yōu)點(diǎn)是收斂速度快，缺點(diǎn)是計(jì)算復(fù)雜度高，需要調(diào)整超參數(shù)3.2.5迭代訓(xùn)練數(shù)據(jù)模型損失函數(shù)優(yōu)化器損失函數(shù)Loss給到模型Autograd反向傳播計(jì)算梯度，并輸入到優(yōu)化器更新模型參數(shù)Dataloader按照BatchSize加載數(shù)據(jù)迭代訓(xùn)練過程04任務(wù)4應(yīng)用分類網(wǎng)絡(luò)推理4推理path_img="data/dogs-vs-cats/val/dog/dog.11250.jpg"

label_name={0:"cat",1:"dog"}

norm_mean=[0.485,0.456,0.406]

norm_std=[0.229,0.224,0.225]

valid_transform=transforms.Compose([

transforms.Resize((64,64)),

transforms.ToTensor(),

transforms.Normalize(norm_mean,norm_std),

])

device=torch.device("cuda:0"iftorch.cuda.is_available()else"cpu")

img=Image.open(path_img).convert('RGB')#0~255

img=valid_transform(img)#在這里做transform，轉(zhuǎn)為tensor等等

model=torch.load('train_process/best.pth')

model.eval()

outputs=model(img.to(device).unsqueeze(0))

print(outputs)

_,predicted=torch.max(outputs.data,1)

confidence=torch.softmax(outputs,1).cpu().squeeze(0).detach().numpy()

print(confidence)

label=predicted.cpu().detach().numpy()[0]

print(label)

print(f'預(yù)測結(jié)果為{label_name[label]},置信度為{confidence[label]}’)項(xiàng)目組織結(jié)構(gòu)4推理置信度confidence=torch.softmax(outputs,1).cpu().squeeze(0).detach().numpy()神經(jīng)網(wǎng)絡(luò)outputs輸出結(jié)果不夠直觀，我們期望輸出結(jié)果為有多大概率為貓，以及有多大概率為狗

05任務(wù)5認(rèn)識深度學(xué)習(xí)的主要任務(wù)5深度學(xué)習(xí)的主要任務(wù)1.回歸(Regression)回歸任務(wù)的目標(biāo)是預(yù)測連續(xù)數(shù)值的輸出。深度學(xué)習(xí)在回歸問題中可以學(xué)習(xí)到數(shù)據(jù)之間的復(fù)雜關(guān)系。例如，預(yù)測房價、股票價格、氣溫等連續(xù)變量的值。在回歸任務(wù)中，我們可以使用不同的神經(jīng)網(wǎng)絡(luò)架構(gòu)（如多層感知器、卷積神經(jīng)網(wǎng)絡(luò)）和損失函數(shù)（如均方誤差、平均絕對誤差）來訓(xùn)練模型。2.分類(Classification)分類任務(wù)的目標(biāo)是將輸入數(shù)據(jù)分為不同的類別。深度學(xué)習(xí)在分類問題中能夠有效地從大量的特征中進(jìn)行學(xué)習(xí)，自動提取數(shù)據(jù)中的有用信息，從而實(shí)現(xiàn)高準(zhǔn)確率的分類。例如，圖像分類、語音識別、文本分類等任務(wù)都