1.数据增强与合成：

具体做法：借助条件生成对抗网络生成与原始数据相仿的样本。经由训练生成器来生成各类经变换后的图像，这些新生成的图像能够保留原有的标签信息，进而达到扩充数据集的目的。生成对抗网络中的生成器与判别器同步开展训练，以此生成符合数据多样性需求的样本。在训练CNN模型期间，既运用原始数据，又把生成的数据当作训练集的组成部分。

 

2.迁移学习：

具体做法：选用预训练的ResNet50或者VGG16模型，此类模型是在大规模数据集上完成训练的。针对小样本数据集展开微调操作。将预训练模型的大部分层予以冻结，仅针对最后几层实施训练，以此缩减训练时长。采用较小的学习率开展微调工作，防止出现过拟合现象。

 

3.增强卷积神经网络：

具体做法：在CNN结构里融入自注意力机制。通过对特征图中的关键区域实施加权处理，强化模型对于关键区域的关注程度。在每个卷积层之后添加SE模块，实现特征权重的自适应调整。也可将Transformer的自注意力机制相结合，在特征图上开展位置敏感的加权调整。

 

4.元学习：

具体做法：运用MAML算法对CNN模型展开训练。首先在大量小样本任务上实施训练，促使模型能够迅速适应全新任务。在训练阶段，通过多次任务切换，使模型掌握在少量样本情况下调整参数的方法。针对每一个任务开展快速适应操作，让模型在仅使用少量样本时能够快速收敛。

 

5.特征重用与共享：

具体做法：采用Siamese Network，借助共享网络参数来强化特征学习。两张输入图像经由相同的网络实施处理，通过计算它们之间的相似度来完成分类任务。设计共享权重的神经网络，每次输入两张图片并开展比较。运用Triplet loss对模型进行优化，提升相似图像的相似程度以及不相似图像的差异程度。

 

6.半监督学习：

具体做法：采用伪标签生成策略。在训练过程中，把当前模型的预测结果当作伪标签，并将其与少量真实标签一同用于训练。使用小批量的标注数据开启模型训练，随后对未标注的数据展开预测，挑选高置信度的预测结果作为伪标签。针对伪标签样本开展迭代训练，增强模型对于未标注数据的学习能力。

📙另外，我整理了十篇关于CNN的最新论文及代码，方便大家参考。