caffe之特征图可视化及特征提取

上一篇博客，介绍了怎么对训练好的model的各层权重可视化，这篇博客，我们介绍测试图片输入网络后产生的特征图的可视化

记得上篇中，我们是写了一个新的文件test.cpp，然后编译运行那个文件的，这是因为权重可视化，是不需要网络的前向传播，只要加载model就好了，而我们如果需要可视化特征图，那就必须进行网络的前向传播了，所以，这次，我们对caffe根目录下的examples/cpp_classification/classification.cpp文件基础上，进行修改，添加我们自己需要的功能（可视化），同样的，我们把这个文件拷贝过来，放在自己的某个文件夹下，假设取名依然为test.cpp，而我们要修改的，就是Predict函数,定位到Predict函数，在net_->Forward();后面加入以下代码：

//打印出一张图片经过网络各层产出的各层输出  
cout<<"网络中的Blobs名称为：\n";  
vector<shared_ptr<Blob<float> > > blobs=net_->blobs();   //得到各层的输出特征向量	
vector<string> blob_names=net_->blob_names();            //各层的输出向量名字	
cout<<blobs.size()<<" "<<blob_names.size()<<endl;        	
for(int i=0;i<blobs.size();i++){		
    cout<<blob_names[i]<<" "<<blobs[i]->shape_string()<<endl;
}	
cout<<endl;

编译该文件，编译命令参照上一篇博客，此时会打印出如下信息

网络中的Blobs名称为：
15 15
data 1 3 227 227 (154587)
conv1 1 96 55 55 (290400)
pool1 1 96 27 27 (69984)
norm1 1 96 27 27 (69984)
conv2 1 256 27 27 (186624)
pool2 1 256 13 13 (43264)
norm2 1 256 13 13 (43264)
conv3 1 384 13 13 (64896)
conv4 1 384 13 13 (64896)
conv5 1 256 13 13 (43264)
pool5 1 256 6 6 (9216)
fc6 1 4096 (4096)
fc7 1 4096 (4096)
fc8 1 1000 (1000)
prob 1 1000 (1000)

可以看到，此时将每个层的输出特征图的维度信息都打印出来了，比如data层的输出是1 3 227 277，因为网络的输入图片是1个，3通道，尺寸是227*227；经过conv1层的输出是1 96 55 55，因为conv1层有96个卷积核，卷积核大小为11*11，步长为4，所以其输出的每个特征图的尺寸为(227-11)/4+1=55，所以特征图的尺寸也对应着1 96 55 55.

好了，我们接下来再输入一下代码，进行对经过conv1的特征图可视化，其尺寸是1 96 55 55，也就看出是96个55*55大小的灰度图

//将测试图片经过第一个卷积层的特征图可视化	
string blobName="conv1";   //我们取经过第一个卷积层的特征图	
assert(net_->has_blob(blobName));    //为免出错，我们必须断言，网络中确实有名字为blobName的特征图
shared_ptr<Blob<float> >  conv1Blob=net_->blob_by_name(blobName);   //1*96*55*55    断言成功后，按名字返回该 特征向量
cout<<"测试图片的特征响应图的形状信息为："<<conv1Blob->shape_string()<<endl;   //打印输出的特征图的形状信息
//和前面的博客一样,此时的特征向量是经过了ReLU激活函数的，范围在0~无穷大，我们为了可视化，仍然需要归一化到0~255	
//下面的代码，跟上一篇博客中是一样的
float maxValue=-10000000,minValue=10000000;	
const float* tmpValue=conv1Blob->cpu_data(); 	
for(int i=0;i<conv1Blob->count();i++){		
    maxValue=std::max(maxValue,tmpValue[i]);		
    minValue=std::min(minValue,tmpValue[i]);	
}
int width=conv1Blob->shape(2);  //响应图的宽度
int height=conv1Blob->shape(3);  //响应图的高度	
int num=conv1Blob->shape(1);      //个数	
int imgHeight=(int)(1+sqrt(num))*height;	
int imgWidth=(int)(1+sqrt(num))*width;
Mat img2(imgHeight,imgWidth,CV_8UC1,Scalar(0));   //此时，应该是灰度图
	
int kk=0;
for(int x=0;x<imgHeight;x+=height){		
   for(int y=0;y<imgWidth;y+=width){		
      if(kk>=num)				
         continue;			
      Mat roi=img2(Rect(y,x,width,height));			
      for(int i=0;i<height;i++){				
          for(int j=0;j<width;j++){						
              float value=conv1Blob->data_at(0,kk,i,j);
              roi.at<uchar>(i,j)=(value-minValue)/(maxValue-minValue)*255;
          }		
      }			
      kk++;		
    }	
}
resize(img2,img2,Size(500,500));//进行显示	
imshow("2",img2);
waitKey(0);

输入图片

特征图

会了这一点后，大家如果想将CNN单纯的当做特征提取器，可以将第一个全连接层的前一层的输出特征向量（比如这个网络，是pool5层的输出特征1*256*6*6=9216）提取出来，这是该图片经过CNN后的最初步的特征，当然如果觉得维度高，也可以提取出第一个全连接层的特征向量，这里是4096维，然后再送进泛化性能更好的分类器（如SVM）去分类识别，我用提取第一个全连接层的4096维特征试验了下SVM，在线性核下，分类效果大致相当。大家可以根据自己的需求去尝试。

caffe之特征图可视化及特征提取

猜你喜欢