问问题描述
答精选答案

1.使用梯度下降法求解最优解的模型,归一化就非常重要!原因:随机梯度下降时,特征值相差大,会导致更新速度慢,需要兼顾特征值小的特征。
比如,knn,logistc回归,gbdt,xgboost,adaboost、线性回归。
2.还有一些模型是基于距离的,所以量纲对模型影响较大,就需要归一化数据,处理特征之间的权重问题,这样可以提高计算精度。
比如,knn,svm,kmeans,k近邻,主成分分析。
3.神经网络对数据分布本无要求,但归一化可以加快训练数据。
不需要归一化处理的模型:
决策树,随机森林(决策树作为基学习器)、GBDT(梯度提升决策树)。决策树模型,决策树模型分裂根据信息增益,信息增益与特征归一化无关。他们因为它们不关心变量的值,而是关心变量的分布和变量之间的条件概率。
树模型一般不需要做归一化处理,做归一化处理的目的主要为了使同一特征的取值在同一量纲,降低方差太大带来的影响。树模型并不关心特征的具体取值,只关心特征取值的分布。
本文来自作者[作出好文章]投稿,不代表公众科技网立场,如若转载,请注明出处:https://www.cpst.net.cn/changshijingxuan/202609/2338408.html
评论列表(4条)
我是公众科技网的签约作者“作出好文章”!
希望本篇文章《envi归一化处理的目的》能对你有所帮助!
本站[公众科技网]内容主要涵盖:教育咨询,知识百科
本文概览:1.使用梯度下降法求解最优解的模型,归一化就非常重要!原因:随机梯度下降时,特征值相差大,会导致更新速度慢,需要兼顾特征值小的特征。比如,knn,logistc回归,gbdt,xgboost,adaboost、线性回归。2.还有一些模型是基于距离的,所以量纲对模型影响较大,就需要归一化数据,处理特征之间的权重问题,这样可以提高计算精度。比如,knn,svm,kmeans,k近邻,主成分分析。3.神经网络对数据分布本无要求,但归一化可以加快训练数据。不需要归一化处理的模型:决策树,随机森林(决策树作为基学习