当模型不仅学习训练数据中的基础模式，而且还学习该特定数据集中存在的噪声和随机性时，就会发生过度拟合。这导致模型在训练数据上表现非常好，但无法泛化新的、未见过的数据。
＃＃ 鉴别
-
训练精度高，测试精度低：主要指标之一是模型在训练数据上表现异常良好，但在测试或验证数据上表现不佳。
-
模型复杂性：过度拟合模型往往过于复杂，捕获噪声而不是底层模式。
-
可视化：如果训练性能持续提高而验证性能稳定或下降，则显示训练和验证集性能的学习曲线等图可以揭示过度拟合。
缓解过度拟合的预防和技术
-
交叉验证：k 折交叉验证等技术可以帮助评估模型在不同数据子集上的性能，确保其具有良好的泛化能力。
-
训练-验证-测试分割：将数据分割成不同的数据集进行训练、验证和测试，确保模型根据未见过的数据进行评估。
-
特征选择：仅使用最相关的特征来训练模型，避免来自信息较少的属性的噪音。
-
正则化：L1 或 L2 正则化等技术会为模型的损失函数添加惩罚项，从而阻止过于复杂的模型。
-
提前停止：监控模型在验证集上的性能，并在性能开始下降时停止训练，防止模型对训练数据进行过度优化。
-
集成方法：使用 bagging、boosting 或 stacking 等技术可以通过组合多个模型的预测来帮助减少过度拟合。
-
数据增强：对于某些类型的模型，通过对现有数据应用转换或扰动来生成额外的训练数据可以帮助防止过度拟合。
平衡模型复杂性、数据集大小和正则化技术对于防止过度拟合至关重要，同时确保模型能够很好地推广到新的、未见过的数据。
