博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
深度学习ssd配置并在VGG模型上训练自己的数据
阅读量:6046 次
发布时间:2019-06-20

本文共 5106 字,大约阅读时间需要 17 分钟。

hot3.png

最近一直在看深度学习的东西,用到了ssd,上网一搜,找到一篇不错的博客,,, 这篇是连安装cuda到caffe环境的一系列。经过磕磕绊绊,也决定写一篇相关的博客。

ssd的demo是介绍了在voc数据集上训练和验证,所以想要简单的使用ssd训练自己的数据,就是做成类似voc 的数据再调用ssd 中的ssd_pascal.py进行训练。 这里需要说明的是ssd项目中自带的ssd_pascal.py文件会在VGG的模型上再训练,以我的理解就是在VGG的模型上做fine-tuning。


现在从头开始教程:

1 安装ssd

1.1 首先需要安装有git

sudo apt-get install git

1.2 git ssd 项目

git clone https://github.com/weiliu89/caffe.gitcd caffegit checkout ssd(出现“分支”则说明copy-check成功)

记得一定要用git的方法,不要直接下载caffe-master.zip这种压缩包,里面没有git的配置,没用的。

1.3 开始编译ssd

先安装一些依赖

sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libhdf5-serial-dev protobuf-compilersudo apt-get install --no-install-recommends libboost-all-dev

ubuntu14.04需要依赖

sudo apt-get install libgflags-dev libgoogle-glog-dev liblmdb-dev

ubuntu16.04需要cuda 8

BLAS:可以通过

sudo apt-get install libatlas-base-dev

可以安装OpenBLAS 或者 MKL,MKL可以使CPU更好的工作。

要python的话可能要安装

sudo apt-get install python-pip python-numpy  python-scipy python-matplotlib python-sklearn python-skimage python-h5py python-protobuf python-leveldb python-networkx python-nose python-pandas python-gflags Cython ipython

开始编译,编译有两种办法:

** 1.3.1 直接make**

cd "
<你的caffe项目>
"cp Makefile.config.example Makefile.config

如果你想直接用CPU而不用GPU,进入Makefile.config 将 #CPU_ONLY:=1这句去掉注释,像下面这个

# CPU-only switch (uncomment to build without GPU support).CPU_ONLY := 1

如果要改BLAS:

# BLAS choice:# atlas for ATLAS (default)# mkl for MKL# open for OpenBlasBLAS := atlas

然后执行

make all -j8sudo make installmake runtest (这个不一定要)make pycaffe

** 1.3.2 用cmake方法安装**

cd "
<你的caffe项目>
"mkdir buildcd buildccmake ..make -j8sudo make installmake runtestmake pycaffe

如果要改BLAS和单用CPU,在ccmake .. 中选择。

装好在之后注意配置python caffe 环境

vim /etc/profile

在最后一行添加

export PYTHONPATH=/home/........../caffe/python:$PYTHONPATH

然后更新下环境

source /etc/profile

1.4 验证pycaffe环境

pythonimport caffe

如果没有问题那就是成功了

如果有错误那么就打开主目录下的.bashrc写入那句话,再试试看。

2 训练自己模型

训练VOC数据的方法上面那篇博客有讲,这里不再多说。讲讲训练自己数据。

现在来看一下voc的标签00001.xml

VOC2007
000018.jpg
The VOC2007 Database
PASCAL VOC2007
flickr
340537267
Kathy Stern
Kathy Stern
380
285
3
0
dog
Left
0
0
31
30
358
279

现在主要更改的是size中的width,height,object中的name和xmin,xmax,ymin,ymax这几个东西。

所以每幅图片都要在样子更改,上面的博客推荐了一个,但是对于我来说不太好用,然后就写了一个基于opencv的程序,稍后放出。

在ssd中voc的同级目录新建一个文件夹,讲所有图片和标签都放进去,做好链接 文件夹下

  • trainval.txt 存放训练用的图片路径,格式类似
data1/image1.jpg data1/image.xml
  • test.txt 存放测试用的图片路径,格式和trainval.txt相同
  • test_name_size.txt 存放测试用的图片,格式类似测试 “ 图片名 高 长“
imagetest1 300 300
  • labelmap_indoor.prototxt 标签的名字,注意label 0 这类一定会存在,就是图片bounding box以外的数据标签

数据做好之后运行create_data.sh进行整理数据,create_data.sh里面可能有些路径错误,可以自行改到自己的数据目录。

运行create_data.sh之后会在当前目录和ssd的examples下新建一个数据目录,名字是当前目录的名字。

3 训练

打开ssd_pascal.py需要修改的有一下几点:

  • train_data和test_data , 指向examples中你的数据,例如
train_data = "examples/indoor/indoor_trainval_lmdb"# The database file for testing data. Created by data/VOC0712/create_data.shtest_data = "examples/indoor/indoor_test_lmdb"
  • num_test_image该变量修改成自己数据集中测试数据图片的数量
  • num_classes 该变量修改成自己数据集中 标签类别数量数 + 1
  • gpus = "0,1,2,3" 电脑有几个gpu就写多少个,如果有一个就写gpus="0",两个就写gpus="0,1",以此类推。

最后到caffe的根目录运行, ps:你的ssd_pascal.py的目录是example/yourSSD/ssd_pascal.py

python example/yourSSD/ssd_pascal.py

4 测试

有好几种测试的方法,

4.1 python

在caffe的根目录运行ssd_pascal_webcam.py这个文件,这是使用摄像头实时测试的软件,读取的caffemodel是在caffe/models/VGGNet/VOC0712/SSD_300x300_webcam下最新的model,所以记得在这个文件夹中放入模型。 还要更改下ssd_pascal_webcam.py中label_map_file到你的labelmap_voc.prototxt

python examples/ssd/ssd_pascal_webcam.py

4.2 c++

编译完SSD后,C++版本的的可执行文件存放目录: .build_release/examples/ssd/ssd_detect.bin

测试命令 ./.build_release/examples/ssd/ssd_detect.bin models/VGGNet/indoor/deploy.prototxt models/VGGNet/indoor/VGG_VOC0712_SSD_300x300_iter_60000.caffemodel pictures.txt

ssd自带ssd_detect.cpp,可以拿来使用。

** 4.2.1 用qt** .pro件定义中需要引入你的caffe配置,例如

LIBS += /home/xxx/caffe/build/lib/libcaffe.so INCLUDEPATH += /home/xxx/caffe/includeINCLUDEPATH += /home/xxx/caffe/build/include

可能还会有一些编译问题:

  1. error while loading shared libraries: libglog.so.0: cannot open shared object file: No such file or directory 解决
LIBS +=/usr/lib/x86_64-linux-gnu/libglog.so
  1. libcaffe.so.1.0.0-rc3: cannot open shared object file: No such file or directory 解决:在/etc/ld.so.conf.d/下新建caffe.conf文件,在caffe.conf中加入到libcaffe.so.1.0.0-rc3的位置,基本上是在build的lib里。

** 4.2.2 使用cmake**

如果是使用cmake,注意安装ssd的时候一定要make install

然后CMakeLists.txt

find_package(OpenCV REQUIRED)find_package(Caffe REQUIRED)#option (CPU_ONLY "Use CPU or use GPU" ON)#option (USE_OPENCV "Use CPU or use GPU" ON)include_directories( ${Caffe_INCLUDE_DIRS} )add_definitions(${Caffe_DEFINITIONS}) # ex. -DCPU_ONLYadd_executable(ssd_detect ssd_detect.cpp )

使用cpu或者gpu可以在选项里面定义。


博客先写到这里,如有有任何疑问和错误可以和作者联系,以后会不定期修改文章错误和增加注意事项。

转载于:https://my.oschina.net/u/1046919/blog/777470

你可能感兴趣的文章
ORACLE 收集统计信息
查看>>
upstream sent too big header while reading response header from upstream
查看>>
Java开源报表JasperReport、iReport4.5.1使用详解(五)Table组件
查看>>
图解使用Telnet程序手工发送邮件
查看>>
Python你可能会用到的时间比较
查看>>
SQL Server数据库安全资源
查看>>
windows server2012配置存储池和存储空间
查看>>
flume源码学习5-RegexExtractorInterceptor实现
查看>>
Centos6.2_X86_64 _LNMP安装全程实录
查看>>
创建3层的服务模板(4)--- 创建一个App Server的VM Template
查看>>
走进Windows Server 2008服务器核心(Serve Core)
查看>>
SCCM 2007系列教程之二客户端安装之客户端请求安装
查看>>
win7关闭程序兼容性助手和windows Defender
查看>>
【博客话题】我还没准备好毕业就毕业了,我还没准备好...
查看>>
hive中打印日志的几种方式实现
查看>>
PXE+KickStart无人值守安装RHEL
查看>>
●advanced topics(重要的话题)
查看>>
Linux下如何添加路由
查看>>
Silverlight实例教程 - Out of Browser配置,安装和卸载
查看>>
Shell文本过滤
查看>>