中国新农村建设网站投稿国家重点项目建设库网站

中国新农村建设网站投稿,国家重点项目建设库网站,临沂色度广告有限公司,深圳公司广告片制作后#xff0c;可以说#xff0c;在理解上对本周的内容不会存在什么难度。当然#xff0c;我也会对一些新出现的概念补充一些基础内容来帮助理解#xff0c;在有之前基础的情况下#xff0c;按部就班即可对本周内容有较好的掌握。本篇继续上篇的内容#xff0c;在完成正则…后可以说在理解上对本周的内容不会存在什么难度。当然我也会对一些新出现的概念补充一些基础内容来帮助理解在有之前基础的情况下按部就班即可对本周内容有较好的掌握。本篇继续上篇的内容在完成正则化部分后再补充一些课程里提到的其他缓解过拟合的方法。1.数据增强之前提到解决过拟合最好的方法就是增加数据量但受限于各个方面有时获取新数据并不容易。因此就出现了数据增强数据增强并不是引入新数据而是以一些方式增强现有数据到达“丰富数据集”的效果。什么方式看一眼就明白了Pasted image 20251031093931我们可以对图像进行翻转、裁剪、旋转、模糊、亮度变化等处理。虽然这些样本并没有提供全新的信息但它们能让模型学习到更广泛的特征变化。这样的操作看起来有些取巧但也确实能做到一些查漏补缺配合正则化有时能实现不错的效果。简单举个例子上图里的猫我们对其处理后并不能提供太多新信息从高维上讲模型依旧拟合的是橘猫的模样但是反转裁剪后我们可以改变猫头的位置在图中的比例。或者在模糊后训练模型的“视力”。模型可以学会识别“同一类目标在不同条件下的表现”起到丰富低维特征的作用。要强调一点的是课程中提到数据增强也可以被称为一种正则化方法。2.早停early stopping我们再回顾一下过拟合在训练神经网络时我们常常会遇到这样一种现象模型在训练集上的损失不断下降但在验证集上的性能却在某个时刻开始变差——也就是说模型开始记住训练数据的噪声出现了过拟合。“早停”正是针对这一问题的一种简单而有效的策略。早停的核心思想是当模型在验证集上的表现不再提升时就提前停止训练而不是一味追求训练损失的最小化。换句话说我们不让模型在训练集上“学得太好”而是在它刚开始出现过拟合的拐点提前终止让模型保持在一个“泛化性能最好”的状态。通常的做法是在每一轮epoch训练后计算模型在验证集上的损失如果验证集损失在连续若干轮称为耐心值 patience中没有显著改善就停止训练最后保留验证集效果最好的那一轮的模型参数。如图所示Pasted image 20251031101136总的来说早停的优点在于它能在验证集性能开始下降前及时停止训练从而有效防止过拟合并节省训练时间实现起来也十分简单。但它也有不足——如果停止得太早或验证集波动较大模型可能还没学到足够的特征就被迫中断导致欠拟合同时早停依赖验证集的表现可能带来一定的不稳定性。本篇内容不多加上前两篇这部分内容总结了一些帮助缓解过拟合的方法涉及到一些新的概念因此花费了一些篇幅来帮助理解之后的内容在理解上的难度就没有这部分高了进度也会快一些。