当前位置：首页 > 机器学习 > 正文

包含机器学习训练参数的词条

文章阐述了关于机器学习训练参数，以及的信息，欢迎批评指正。

简述信息一览：

机器学习评价指标对于机器学习中评价模型性能的指标，常用的有准确率、精度、召回率、P-R曲线、F1 分数、ROC、AUC以及混淆矩阵等。

综合评价：概率预测与损失函数对于预测概率，Log Loss（对数损失）是关键，它衡量预测值与真实值的差异，越小代表预测越精准。

在正负样本不平衡的情况下，准确率这个评价指标有很大的缺陷。比如在互联网广告里面，点击的数量是很少的，一般只有千分之几，如果用acc，即使全部预测成负类（不点击）acc 也有 99% 以上，没有意义。

1、机器学习一般通过梯度下降法来求解参数，w = w - Δw 理论上讲，模型设计合适时，随着训练次数越多，模型在训练集上拟合得越好。

2、max_depth=5时随着深度的增加，模型复杂度越来越高，过拟合现象也越来越明显，可以测试，当max_depth=20时，在训练集上又为一条y=1的无偏差直线。有兴趣的仍然可以修改其它参数绘制学习曲线。

3、max_iter：算法收敛最大迭代次数，int类型，默认为10。仅在正则化优化算法为newton-cg， sag和lbfgs才有用，算法收敛的最大迭代次数。multi_class：分类方式选择参数，str类型，可选参数为ovr和multinomial，默认为ovr。

4、梯度下降算法是一种常用的最优化算法，它的基本思想是通过不断调整模型参数来最小化损失函数，以达到在训练集上预测效果尽可能优秀的目的。具体而言，梯度下降算法的工作过程如下：首先，选择一组初始的参数。

因为在训练模型的时候，参数全是根据现有训练集里的数据进行修正、拟合，有可能会出现过拟合的情况，即这个参数仅对训练集里的数据拟合比较准确，如果出现一个新数据需要利用模型预测结果，准确率可能就会很差。

在机器学习的上下文中，超参数是在开始学习过程之前设置值的参数。相反，其他参数的值通过训练得出。超参数：定义关于模型的更高层次的概念，如复杂性或学习能力。

不同的参数其实就代表着不同的模型了。一般参数分两种：一类是算法的参数，亦称“超参数”，如聚类要分的簇数量k；一类是模型的参数，如神经网络中每个节点的权重。前者多为人工选择一组候选，后者是让机器自己学习。

在求解损失函数的最小值时，可以通过梯度下降法来一步步的迭代求解，得到最小化的损失函数和模型参数值。反过来，如果我们需要求解损失函数的最大值，这时就需要用梯度上升法来迭代了。

关于机器学习训练参数和的介绍到此就结束了，感谢你花时间阅读本站内容，更多关于、机器学习训练参数的信息别忘了在本站搜索。