【目标检测】用Fast R-CNN训练自己的数据集超详细全过程

目录:

一、环境准备

二、训练步骤

三、测试过程

四、计算mAP

 

       寒假在家下载了Fast R-CNN的源码进行学习,于是使用自己的数据集对这个算法进行实验,下面介绍训练的全过程。

一、环境准备

       我这里的环境是win10系统,pycharm + python3.7

 

二、训练过程

1、下载Fast R-CNN源码

      //github.com/dBeker/Faster-RCNN-TensorFlow-Python3

2、安装扩展包

      下载的源码中有一个 requirements.txt文件,列出了需要安装的扩展包名字。可以在cmd中直接运行以下代码:

pip install -r requirements.txt

      或者使用pip命令一个一个安装,所需要的扩展包有:cython、opencv-python、easydict、Pillow、matplotlib、scipy。

      如果使用conda管理,按conda的下载方式也可以。

3、下载并添加预训练模型

      源码中预训练模型使用的是VGG16,VGG16模型可点开下方链接直接下载:

      //download.tensorflow.org/models/vgg_16_2016_08_28.tar.gz

      下载的模型名字应该是vgg_16.ckpt,重命名为vgg16.ckpt 后,把模型保存在data\imagenet_weights\文件夹下。

      也可以使用其他的模型替代VGG16,其他模型在下方链接中下载:

      //github.com/tensorflow/models/tree/master/research/slim#pre-trained-models

4、修改训练参数

      打开源码的lib\config文件夹下的config.py文件,修改其中一些重要参数,如:

(1)network参数

       该参数定义了预训练模型网络,源码中默认使用了vgg16模型,我们使用vgg16就不需修改,如果在上一步中使用其他模型就要修改。

(2)learning_rate

       这个参数是学习率,如果设定太大就可能产生振荡,如果设定太小就会使收敛速度很慢。所以我们可以先默认为源码的0.001进行实验,后期再取0.01或0.0001等多次实验,找到运行后的相对最优值。

(3)batch_size

       该参数表示梯度下降时数据批量大小,一般可以取16、32、64、128、256等。我个人的理解是,batch_size设定越大,训练时梯度下降的速率更快,也具有更高的方向准确度,但更加消耗内存;batch_size设定越小,虽然节省内存,但训练的速率比较慢,收敛效果也可能不是很好。所以在内存允许的情况下,尽量设定大一些。

(4)max_iters

       max_iters参数表示训练最大迭代的步数。源码中是40000,我实验了4000和40000的步数,发现后来的测试结果中mAP值相差不大,以后会再继续研究。这个参数可以先按照源码的40000进行(要跑好几天。。。)

(5)snapshot_iterations

       这个参数表示间隔多少迭代次数生成一次结果模型。

(6)roi_bg_threshold_low 和 roi_bg_threshold_high

       这个参数表示在背景中被设定为ROI(感兴趣区域,region of interest)的阈值。如果后面出现Exception: image invalid, skipping 这样的报错,将roi_bg_threshold_low参数修改为0.0会解决问题。

5、替换数据集

       源码中的VOCDevkit2007文件夹存放的是数据集,我们将自己的数据集按照文件夹结构替换存放在VOCDevkit2007中。Annotations存放的是标签的XML文件,JPEGImages存放的是自己的数据集所有图片,ImageSets\Main文件夹下保存的是test.txt、train.txt、trainval.txt、validation.txt,分别是测试集、训练集、训练验证集、验证集的标签文件名号。可以按照下图的结构制作自己的数据集~

       考虑到源码中没有数据集划分程序,这里把划分代码贴出来,替换成自己的各个文件路径后直接运行就可以自动生成所需的txt文件啦。

# 数据集划分集类
import os
from sklearn.model_selection import train_test_split

image_path = r'F:/111/data/VOCDevkit2007/VOC2007/JPEGImages'
image_list = os.listdir(image_path)
names = []

for i in image_list:
    names.append(i.split('.')[0])     # 获取图片名
trainval,test = train_test_split(names,test_size=0.5,shuffle=446)   # shuffle()中是图片总数目
validation,train = train_test_split(trainval,test_size=0.5,shuffle=446)

with open('F:/111/data/VOCDevkit2007/VOC2007/ImageSets/Main/trainval.txt','w') as f:
    for i in trainval:
        f.write(i+'\n')
with open('F:/111/data/VOCDevkit2007/VOC2007/ImageSets/Main/test.txt','w') as f:
    for i in test:
        f.write(i+'\n')
with open('F:/111/data/VOCDevkit2007/VOC2007/ImageSets/Main/validation.txt','w') as f:
    for i in validation:
        f.write(i+'\n')
with open('F:/111/data/VOCDevkit2007/VOC2007/ImageSets/Main/train.txt','w') as f:
    for i in train:
        f.write(i+'\n')

print('完成!')

6、生成所需文件

      在cmd中进入 ./data/coco/PythonAPI文件夹路径,分别运行下面两条命令:

python setup.py build_ext --inplace
python setup.py build_ext install

      之后,在cmd中进入 ./lib/utils文件夹路径,运行下面一条命令:

python setup.py build_ext --inplace

      这样,就生成训练需要的文件啦。

7、修改目标类别

       打开lib/datasets目录中的pascal_voc.py文件,第34行self._classes表示目标检测的类别,将其修改为自己数据集的类别。注意不能修改 “_background_”,它表示图片的背景。

8、删除缓存文件

       打开源码中data/cache目录,删掉上一次训练生成的.pkl缓存文件。打开default/voc_2007_trainval/default目录,删掉上次训练生成的模型。

      注意以后每次训练都要删掉上述两个文件夹中的缓存文件和模型,不删会报错的哦。

9、运行train.py文件

      做好上面所有步骤之后,就可以运行train.py文件进行训练啦。每次生成的模型都会保存在default/voc_2007_trainval/default目录下。

 

三、测试过程

1、添加训练模型

       新建Faster-RCNN-TensorFlow-Python3-master/output/vgg16/voc_2007_trainval/default目录。把训练生成的模型(default/voc_2007_trainval/default目录下的四个文件)复制到新建目录下,并重命名为如下图:

2、修改demo.py文件

(1)修改目标类别

         修改demo.py文件中line32,CLASSES中的类别要修改为之前步骤中相同的类别。注意 “_background_”不要修改。

(2)修改网络模型

         找到demo.py文件中line35、line36,将其修改为如下图所示:

(3)修改预训练模型

         找到demo.py文件中line104,将其修改为’vgg16’,如下图:

(4)修改测试图片

       找到demo.py文件中的line148,改为自己测试用的几张图片名称。注意和data/demo目录下存放的测试图片名字一致。

3、运行demo.py文件

       做好上述修改后,就可以运行demo.py文件啦,能够对新的测试图片进行目标检测。

 

四、计算mAP

       mAP(mean Average Precision), 即各类别AP的平均值,反映出一个目标检测模型性能的总体精确度。

1、修改pascal_voc.py文件

       打开pascal_voc.py文件,找到line189,将”filename”内容修改为下图:

2、修改demo.py文件

       打开demo.py文件,找到line31,添加两个模块:

# 添加这两个import
from lib.utils.test import test_net
from lib.datasets.factory import get_imdb

       添加后如图所示:

       然后,找到最后一行plt.show(),在它上面添加两行代码:

# 添加这两行代码
imdb = get_imdb("voc_2007_trainval")
test_net(sess, net, imdb, 'default')

       添加后如图所示:

3、运行demo.py文件

       新建data/VOCDevkit2007/results/VOC2007/Main目录,然后运行demo.py文件,等待运行结束就能看到mAP指标的计算结果啦!贴出我自己模型的计算结果吧!

       这次内容就分享到这里了,希望与各位老师和小伙伴们交流学习~