当前位置 博文首页 > 雨吹桐:Fast R-CNN训练自己的数据集时遇到的报错及解决方案

    雨吹桐:Fast R-CNN训练自己的数据集时遇到的报错及解决方案

    作者:雨吹桐 时间:2021-02-18 22:33

    最近使用Fast R-CNN训练了实验室的数据集,期间遇到一些报错,主要还是在配置环境上比较麻烦,但可以根据提示在网上找到解决这些错误的办法。这里我只记录一些难改的报错,以后再遇见这些时希望能尽快解决~

     

    报错汇总:

    1、assert (boxes[:, 2] >= boxes[:, 0]).all()

    2、targets_dh = np.log(gt_heights / ex_heights)

    3、AssertionError: assert (gt_heights > 0).all()

    4、ModuleNotFoundError: No module named 'lib.utils.cython_bbox'

     

    解决方法:

    报错1:assert (boxes[:, 2] >= boxes[:, 0]).all()

    这个错误表示调用append_flipped_images函数时,自己的数据集标注出现矩形越界,导致后面的计算溢出。在尝试了网上说的几种方法无果后,我决定先想办法找到是哪些图片出现问题。需要在lib/datasets/imdb.py文件的assert (boxes[:, 2] >= boxes[:, 0]).all()这句前面加上一行:

    print(self.image_index[i])  #打印出图像名

    打印出当前正在处理的图像名,运行train.py后报错前最后一个打印的图像名就是出问题的图像啦,打开Annotation中该图像的标注是不是有矩形越界的情况。经查,还真有两个目标的Xmax被标注成了1047。注意每次重新运行前都要删掉./data/cache中的缓存文件。

     

    报错2:targets_dh = np.log(gt_heights / ex_heights)

    这个错误尽量不要看网上说的降低learning_rate,降低了学习率很可能只会延迟报错的时间。

    折腾好久终于明白,这个错误还是自己的数据集标注出现问题。源码是针对pascal_voc数据集写的,默认数据集没有错误,所以对x和y的标注都没有检查,在上一报错中,我们只检查了图像中对x的标注,所以后面还需对图像中y的标注进行检查。

    点击报错的代码,会自动找到lib/datasets/imdb.py文件中targets_dw = np.log(gt_widths / ex_widths)的位置。在其前面加上:

    1     print(gt_widths)
    2     print(ex_widths)
    3     print(gt_heights)
    4     print(ex_heights)
    5     assert (gt_widths > 0).all()
    6     assert (gt_heights > 0).all()
    7     assert (ex_widths > 0).all()
    8     assert (ex_heights > 0).all()

    加上后运行train.py文件,发现运行日志有新的报错3AssertionError: assert (gt_heights > 0).all(),表示height方向数据存在错误,也就是图像中的y,所以应该是y的标注错误。接下来,我们就要对y的标注进行检查。打开imdb.py文件,找到_get-widths函数和append_flipped_images函数所在位置,如下图:

    整体替换为下面代码

     1     def _get_widths(self):
     2         return [PIL.Image.open(self.image_path_at(i)).size[0]
     3                 for i in range(self.num_images)]
     4     #源码中没有获取图像高度信息的函数,需要补充上
     5     def _get_heights(self):
     6       return [PIL.Image.open(self.image_path_at(i)).size[1]
     7               for i in range(self.num_images)]
     8 
     9     def append_flipped_images(self):
    10         num_images = self.num_images
    11         widths = self._get_widths()
    12         heights = self._get_heights()#add to get image height
    13         for i in range(num_images):
    14             boxes = self.roidb[i]['boxes'].copy()
    15             oldx1 = boxes[:, 0].copy()
    16             oldx2 = boxes[:, 2].copy()
    17             print(self.image_index[i])
    18             assert (boxes[:,1]<=boxes[:,3]).all()#assert that ymin<=ymax
    19             assert (boxes[:,1]>=0).all()#assert ymin>=0,for 0-based
    20             assert (boxes[:,3]<heights[i]).all()#assert ymax<height[i],for 0-based
    21             assert (oldx2<widths[i]).all()#assert xmax<withd[i],for 0-based
    22             assert (oldx1>=0).all()#assert xmin>=0, for 0-based
    23             assert (oldx2 >= oldx1).all()#assert xmax>=xmin, for 0-based
    24             boxes[:, 0] = widths[i] - oldx2 - 1
    25             boxes[:, 2] = widths[i] - oldx1 - 1
    26             #print ("num_image:%d"%(i))
    27             assert (boxes[:, 2] >= boxes[:, 0]).all()
    28             entry = {'boxes' : boxes,
    29                      'gt_overlaps' : self.roidb[i]['gt_overlaps'],
    30                      'gt_classes' : self.roidb[i]['gt_classes'],
    31                      'flipped' : True}
    32             self.roidb.append(entry)
    33         self._image_index = self._image_index * 2

    然后运行,当出现中断报错就查看运行日志上最后一个打印出的图像名,找到对应的标注文件检查。改过后记得要删掉./data/cache中的缓存,然后再运行,直到所有图像的y标注错误都修改完后就大功告成啦!

     

    报错4:ModuleNotFoundError: No module named 'lib.utils.cython_bbox'

    这个错误可能是因为没有生成训练所需的cython_bbox.py文件,或者已有的cython_bbox.py文件不能在本地正常运行。

    解决办法是从cmd中先进入./data/coco/PythonAPI目录,分别运行下面两条命令:

    python setup.py build_ext --inplace
    python setup.py build_ext install

    然后,在cmd中进入./lib/utils目录,运行下面一条命令:

    python setup.py build_ext --inplace

    这样,就重新运行了setup.py,重新生成了训练所需的文件,报错就解决了。

     

    感悟:直面bug,找到问题源头就更容易解决。

    这次内容就分享到这里了,希望与各位老师和小伙伴们交流学习~

     

    bk
    下一篇:没有了