我在做一个多分类，为啥训练集很正常，验证集里的loss和acc都不收敛呢

1）在caffe中可以在solver里面设置：debug_info: true,看看各个层的data和diff是什么值，一般这个时候那些值不是NAN（无效数字）就是INF（无穷大）；   2）检查数据标签是否从0开始并且连续；   3）把学习率base_lr调低；   4）数据问题，lmdb生成有误；   5）中间层没有归一化，导致经过几层后，输出的值已经很小了，这个时候再计算梯度就比较尴尬了，可以尝试在各个卷积层后加入BN层和SCALE层；   5）把base_lr调低，然后batchsize也调高；   6）把data层的输入图片进行归一化，就是从0-255归一化到0-1，使用的参数是：

transform_param {
scale: 0.00390625//像素归一化，1/255 } 1 2 3   7）网络参数太多，网络太深，删掉几层看看，可能因为数据少，需要减少中间层的num_output；   8）记得要shuffle数据，否则数据不够随机，几个batch之间的数据差异很小。