計算機(jī)視覺與應(yīng)用 課件 10.4 VGG16模型分解

10.4VGG16模型分解CONTENTS目錄VGG16模型簡介01VGG16模型結(jié)構(gòu)02Tensorflow實現(xiàn)VGG1603CONTENTS目錄VGG16模型簡介01VGG16模型結(jié)構(gòu)02Tensorflow實現(xiàn)VGG1603VGG是由Simonyan和Zisserman在文獻(xiàn)《VeryDeepConvolutionalNetworksforLargeScaleImageRecognition》中提出卷積神經(jīng)網(wǎng)絡(luò)模型，其名稱來源于作者所在的牛津大學(xué)視覺幾何組(VisualGeometryGroup)的縮寫。該模型參加2014年的ImageNet圖像分類與定位挑戰(zhàn)賽，取得了優(yōu)異成績：在分類任務(wù)上排名第二，在定位任務(wù)上排名第一。模型可以達(dá)到92.7%的測試準(zhǔn)確度,在ImageNet的前5位。它的數(shù)據(jù)集包括1400萬張圖像，1000個類別。VGG16模型簡介CONTENTS目錄VGG16模型簡介01VGG16模型結(jié)構(gòu)02Tensorflow實現(xiàn)VGG1603VGG16深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)VGG16模型結(jié)構(gòu)上圖中，每一列對應(yīng)一種結(jié)構(gòu)配置。例如，圖中綠色部分即指明了VGG16所采用的結(jié)構(gòu)。VGG16共包含：13個卷積層（ConvolutionalLayer），分別用conv3-XXX表示3個全連接層（FullyconnectedLayer）,分別用FC-XXXX表示5個池化層（Poollayer）,分別用maxpool表示其中，卷積層和全連接層具有權(quán)重系數(shù)，因此也被稱為權(quán)重層，總數(shù)目為13+3=16，這即是VGG16中16的來源。(池化層不涉及權(quán)重，因此不屬于權(quán)重層，不被計數(shù))。VGG16模型結(jié)構(gòu)按照塊劃分的VGG16結(jié)構(gòu)圖VGG16模型結(jié)構(gòu)CONTENTS目錄VGG16模型簡介01VGG16模型結(jié)構(gòu)02Tensorflow實現(xiàn)VGG1603（1）構(gòu)建VGG的16層網(wǎng)絡(luò)（包含5段（2+2+3+3+3=13）卷積，3層全連接）1）構(gòu)建2個卷積層+最大池化層self.conv1_1=self.conv_layer（bgr,"conv1_1"）self.conv1_2=self.conv_layer（self.conv1_1,"conv1_2"）self.pool1=self.max_pool_2x2（self.conv1_2,"pool1"）2）構(gòu)建2個卷積層+最大池化層self.conv2_1=self.conv_layer（self.pool1,"conv2_1"）self.conv2_2=self.conv_layer（self.conv2_1,"conv2_2"）self.pool2=self.max_pool_2x2（self.conv2_2,"pool2"）Tensorflow實現(xiàn)VGG163）構(gòu)建3個卷積層+最大池化層self.conv3_1=self.conv_layer（self.pool2,"conv3_1"）self.conv3_2=self.conv_layer（self.conv3_1,"conv3_2"）self.conv3_3=self.conv_layer（self.conv3_2,"conv3_3"）self.pool3=self.max_pool_2x2（self.conv3_3,"pool3"）4）構(gòu)建3個卷積層+最大池化層self.conv4_1=self.conv_layer（self.pool3,"conv4_1"）self.conv4_2=self.conv_layer（self.conv4_1,"conv4_2"）self.conv4_3=self.conv_layer（self.conv4_2,"conv4_3"）self.pool4=self.max_pool_2x2（self.conv4_3,"pool4"）Tensorflow實現(xiàn)VGG165）構(gòu)建3個卷積層+最大池化層self.conv5_1=self.conv_layer（self.pool4,"conv5_1"）self.conv5_2=self.conv_layer（self.conv5_1,"conv5_2"）self.conv5_3=self.conv_layer（self.conv5_2,"conv5_3"）self.pool5=self.max_pool_2x2（self.conv5_3,"pool5"）Tensorflow實現(xiàn)VGG166）構(gòu)建3層全連接層self.fc6=self.fc_layer（self.pool5,"fc6"）assertself.fc6.get_shape（）.as_list（）[1:]==[4096]self.relu6=tf.nn.relu（self.fc6）self.fc7=self.fc_layer（self.relu6,"fc7"）self.relu7=tf.nn.relu（self.fc7）self.fc8=self.fc_layer（self.relu7,"fc8"）Tensorflow實現(xiàn)VGG167）實現(xiàn)Softmax分類，輸出類別的概率b=tf.nn.softmax（self.fc8,name="prob"）end_time=time.time（）print（（"forwardtimeconsuming:%f"%（end_time-start_time）））self.data_dict=NoneTensorflow實現(xiàn)VGG16（2）定義卷積運(yùn)算defconv_layer（self,x,name）:withtf.variable_scope（name）:w=self.get_conv_filter（name）conv=tf.nn.conv2d（x,w,[1,1,1,1],padding='SAME'）conv_biases=self.get_bias（name）result=tf.nn.relu（tf.nn.bias_add（conv,conv_biases））returnresultTensorflow實現(xiàn)VGG16（3）定義獲取卷積核大小的函數(shù)defget_conv_filter（self,name）:returntf.constant（self.data_dict[name][0],name="filter"）（4）定義獲取偏置的函數(shù)defget_bias（self,name）:returntf.constant（self.data_dict[name][1],name="biases"）Tensorflow實現(xiàn)VGG16（5）定義2x2最大池化操作defmax_pool_2x2（self,x,name）:returntf.nn.max_pool（x,ksize=[1,2,2,1],strides=[1,2,2,1],padding='SAME',name=name）Tensorflow實現(xiàn)VGG16（6）定義全連接層的前向傳播計算deffc_layer（self,x,name）:withtf.variable_scope（name）:shape=x.get_shape（）.as_list（）print（"fc_layershape:",shape）dim=1foriinshape[1:]:dim*=ix=tf.reshape（x,[-1,dim]）w=self.get_fc_weight（name）b=self.get_bias（name）result=tf.nn.bias_add（tf.matmu