I'm trying to build a convolutional based model. I trained two different structures as following. As you can see for single layer there isn't any obvious change along number of epochs. Bi-layer Conv2D presents improving in accuracy and losses for train dataset, but validation characteristics are going to be a tragedy.
According to the fact that I can't increase my data-set what should I do to improve validation characteristics?
I've examined regularizer L1 & L2 but they didn't affect my model.
1)您可以使用自适应学习率(指数衰减或步长相关可能适合您)此外,当您的模型进入局部最小值时,您可以尝试极高的学习率。
2)如果您正在使用图像进行训练,您可以翻转、旋转或其他方式来增加数据集大小,也许其他一些增强技术可能适合您的情况。
3)尝试改变模型,如更深、更浅、更宽、更窄。
4)如果您正在做分类模型,请确保您没有使用sigmoid除非你正在进行二元分类,否则最终作为你的激活函数。
5)在训练之前请务必检查数据集的情况。
- 您的训练-测试分割可能不适合您的情况。
- 您的数据中可能存在极端噪音。
- 您的部分数据可能已损坏。
Note:每当我想到新想法时,我都会更新它们。此外,我不想重复评论和其他答案,它们都为您的案例提供了有价值的信息。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)