在机器学习中,常用的损失函数有哪些?

(1) 0-1 loss

记录分类错误的次数。

(2)Hinge Loss

最常用在SVM中最大优化间隔分类中,对可能的输出t=±1和分类器分数y,预测值y的hinge loss定义如下:

L(y)=max(0.1-t*y)

(3)Log Loss对数损失

对于对数函数,由于其具有单调性,在求最优化问题时,结果与原始目标一致,在含有乘积的目标函数中(如极大似然函数),通过取对数可以转化为求和的形式,从而大大简化目标函数的求解过程。

(4)Squared Loss 平方损失

即真实值与预测值之差的平方和。通常用于线性模型中,如线性回归模型。

(5)Exponential Loss指数损失

指数函数的特点是越接近正确结果误差越小,Adaboost算法即使用的指数损失目标函数。但是指数损失存在的一个问题是误分类样本的权重会指数上升,如果数据样本是异常点,会极大地干扰后面基本分类器学习效果。

拜托你一件事儿

关注我一下!

谢谢啦!