Datawhale 零基础入门CV赛事-Task3 字符识别模型

1 字符识别模型
因为本次问题归根到底是图像识别问题,所以我们显然应该选择图像识别领域的神器--CNN,来解决这个问题。我们继续讨论究竟选择何种CNN模型能够更好的适应本问题,并且是否需要对模型做相对应的改进也是我们需要考虑的问题。只有经过众多选择才能获得更加优秀的成绩。

2 CNN介绍
卷积神经网络(简称CNN)是一类特殊的人工神经网络,是深度学习中重要的一个分支。CNN在很多领域都表现优异,精度和速度比传统计算学习算法高很多。特别是在计算机视觉领域,CNN是解决图像分类、图像检索、物体检测和语义分割的主流模型。

CNN每一层由众多的卷积核组成,每个卷积核对输入的像素进行卷积操作,得到下一次的输入。随着网络层的增加卷积核会逐渐扩大感受野,并缩减图像的尺寸。

CNN是一种层次模型,输入的是原始的像素数据。CNN通过卷积(convolution)、池化(pooling)、非线性激活函数(non-linear activation function)和全连接层(fully connected layer)构成。

与传统机器学习模型相比,CNN具有一种端到端(End to End)的思路。在CNN训练的过程中是直接从图像像素到最终的输出,并不涉及到具体的特征提取和构建模型的过程,也不需要人工的参与。

3 CNN发展
随着网络结构的发展,研究人员最初发现网络模型结构越深、网络参数越多模型的精度更优。比较典型的是AlexNet、VGG、InceptionV3和ResNet的发展脉络。

  • LeNet-5(1998)
    Le_net.png-22.3kB
  • AlexNet(2012)
    Alex-net.png-36.9kB
  • VGG-16(2014)
    VGG.png-35.9kB
  • Inception-v1 (2014)
    Incep-net.png-4818.5kB
  • ResNet-50 (2015)
    Resnet50.png-67.8kB

4 构建CNN模型
当然为了追求精度,baseline也可以直接使用在ImageNet数据集上的预训练模型ResNet-18。但是在本问题中采用这种方法会造成较为严重的过拟合问题,进而导致取得不了较好的成绩,所以我需要在后续的研究中轻量化模型。

class SVHN_Model2(nn.Module):
    def __init__(self):
        super(SVHN_Model1, self).__init__()
                
        model_conv = models.resnet18(pretrained=True)
        model_conv.avgpool = nn.AdaptiveAvgPool2d(1)
        model_conv = nn.Sequential(*list(model_conv.children())[:-1])
        self.cnn = model_conv
        
        self.fc1 = nn.Linear(512, 11)
        self.fc2 = nn.Linear(512, 11)
        self.fc3 = nn.Linear(512, 11)
        self.fc4 = nn.Linear(512, 11)
        self.fc5 = nn.Linear(512, 11)
    
    def forward(self, img):        
        feat = self.cnn(img)
        # print(feat.shape)
        feat = feat.view(feat.shape[0], -1)
        c1 = self.fc1(feat)
        c2 = self.fc2(feat)
        c3 = self.fc3(feat)
        c4 = self.fc4(feat)
        c5 = self.fc5(feat)
        return c1, c2, c3, c4, c5
Last modification:May 26th, 2020 at 05:47 pm
If you think my article is useful to you, please feel free to appreciate