一句话定义
模型 复杂度过高,把噪音当信号——背了一年的天气数据却没抽出”温带海洋性气候”这条规律。
来源
详细解释
原本是机器学习术语:模型在训练集表现完美但在新数据上失败,因为它把样本里的随机波动也学成了规律。
万维钢拓展到日常思维:
- 买手机花好几天研究参数评测 = 过拟合的购物模型。
- 公司管理对所有 中介变量 全都盯住每天做日报 = 过拟合的管理模型。
- 把一年每天天气描述一遍 = 过拟合的天气描述。
最小描述长度 准则要求模型描述长度+数据补丁长度二者之和最小——避开过拟合也避开 欠拟合。