基于相对概率变化比的CNN超参数优化方法

卷积神经网络(convolutional neural network,CNN)已被广泛应用于图像识别领域,其自身的超参数对图像分类问题中分类错误率的大小有较大的影响.为进一步优化CNN超参数,提出了基于Softmax回归的相对概率变化比.应用相对概率变化比寻找对图像分类影响较大的超参数,并根据超参数的重要性大小依次对其进行调整.为验证相对概率比的有效性,在网络架构1和网络架构2下进行了调参实验.实验结果表明,Softmax回归的相对概率变化比在不同的网络架构下均可反映CNN超参数对分类错误率的影响,且有助于找到一个更优的超参数组合,降低分类错误率.在MNIST和CIFAR-10数据集上的对比实验表明,研究结果在不同数据集下都适用.