机器学习中的 Bias(偏差)、Error(误差)、Variance(方差)有什么区别和联系?

修宇亮的回答 - 知乎 https://www.zhihu.com/question/27068705/answer/137487142

这个回答写得非常好

    

bias(偏差): 体现的是准。描述的是根据样本拟合出的模型的输出预测结果的期望与样本真实结果的差距,简单讲,就是在样本上拟合的好不好。 

                   要想在bias上表现好,low bias,就得复杂化模型,增加模型的参数,但这样容易过拟合 (overfitting)。  

varience(方差):体现的是确。varience描述的是样本上训练出来的模型在测试集上的表现,要想在variance上表现好,

                    low varience,就要简化模型,减少模型的参数,但这样容易欠拟合(unfitting),欠拟合对应上图是high bias,点偏离中心。

如何减小Error(test)? 主要分两步:

        1、让Error(train)尽可能小  ——>把模型复杂复杂化,把参数搞得多多的 ——> low bias

        2、让Error(train)尽可能等于Error(test)  ——>把模型简单化,把参数搞得少少的,使模型更具有通用性  ——> low variance

 

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐