caffe源代的码解析.docx

caffe源码简单解析——Blob（1）November 26, 2014?caffe,?源码阅读,?blob使用caffe也有一段时间了，但更多是使用Python的接口，使用现有的ImageNet训练好的模型进行图片分类。为了更好的了解caffe这个框架，也为了提高自己的水平，在对卷积神经网络有了一些研究之后，终于开始研读caffe的源码了，今天看了Blob类的一些内容，做个总结。看过caffe官方文档的话，应该会知道，它可以分为三层：Blob、Layer、Net。Blob是一个四维的数组，用于存储数据，包括输入数据、输出数据、权值等等；Layer层则是神经网络中具体的各层结构，主要是计算的作用，在根据配置文件初始化结构后，前向计算结果，反向更新参数，都是它要做的，而它的输入和输出都是Blob数据；Net的话，就是多个Layer组合而成的有向无环图结构，也就是具体的网络了。Layer和Net的代码有待深入，尤其是Layer的代码，caffe实现了差不多40种不同的Layer层，里面有不同的激活函数，这个要好好研究下。Blob源码解析#include caffe/common.hpp#include caffe/proto/caffe.pb.h#include caffe/syncedmem.hpp#include caffe/util/math_functions.hpp从blob.hpp包含的四个头文件入手，其中caffe.pb.h是google protocol buffer根据caffe.proto自动生成的，可以到src/caffe/proto/caffe.proto里看下caffe里面用到的各个数据的定义，比如BlobProto，Datum，NetParameter等。使用这个protocol buffer看起来确实方便，一方面可以用文本文件定义结构化的数据类型，另一方面可以生成查询效率更高、占空间更小的二进制文件，具体的教程可以看看这里。在caffe/common.hpp，主要singleton化Caffe类，并封装了boost和CUDA随机数生成的函数，提供了统一的接口。而在caffe/syncedmem.hpp中，定义了以下的接口：inlinevoid CaffeMallocHost(void** ptr, size_t size)inlinevoid CaffeFreeHost(void* ptr)主要是分配内存和释放内存的。而class SyncedMemory定义了内存分配管理和CPU与GPU之间同步的函数，也没啥特别的。比较重要的是caffe/util/math_functions.hpp，这里面封装了很多cblas矩阵运算，真是密密麻麻，看的我眼花缭乱、如痴如醉。比如：void caffe_cpu_gemmfloat(const CBLAS_TRANSPOSE TransA, const CBLAS_TRANSPOSE TransB, constint M, constint N, constint K, constfloat alpha, constfloat* A, constfloat* B, constfloat beta, float* C)封装了cblas_sgemm(CblasRowMajor, TransA, TransB, M, N, K, alpha, A, lda, B, ldb, beta, C, N)，这个计算得到的结果为C=alphaAB+beta*C，也即是A和B两个矩阵的乘积。这里有详细的解释。void caffe_cpu_gemvfloat(const CBLAS_TRANSPOSE TransA, constint M, constint N, constfloat alpha, constfloat* A, constfloat* x, constfloat beta, float* y)是对cblas_sgemv的封装，实现的矩阵与向量的乘积，结果为y=alphaAx+beta*y。void caffe_axpyfloat(constint N, constfloat alpha, constfloat* X, float* Y)封装了cblas_saxpy，实现的是Y=alpha*X+Y里面都是诸如此类的函数，基本是些矩阵和向量的一些处理函数。回到blob类，里面定义了data_(),diff_()指针，用于存放数据，而num_,channel_,?height_,?width_则主要用来做定位offset和reshape处理。对于输入(n, c, h, w)位置的数据位置为((n*channels_+c)*height_+h)*width_+w，可以依据