在机器学习中,常用的损失函数有哪些?
“(1) 0-1 loss”
记录分类错误的次数。
“(2)Hinge Loss”
最常用在SVM中“最大优化间隔分类”中,对可能的输出t=±1和分类器分数y,预测值y的hinge loss定义如下:
L(y)=max(0.1-t*y)
“(3)Log Loss对数损失”
对于“对数函数”,由于其具有“单调性”,在求最优化问题时,结果与原始目标一致,在含有乘积的目标函数中(如极大似然函数),通过“取对数”可以转化为求和的形式,从而大大简化目标函数的“求解”过程。
“(4)Squared Loss 平方损失”
即真实值与预测值之差的平方和。通常用于线性模型中,如线性回归模型。
“(5)Exponential Loss指数损失”
指数函数的特点是越接近正确结果误差越小,Adaboost算法即使用的指数损失目标函数。但是指数损失存在的一个问题是误分类样本的权重会“指数上升”,如果数据样本是异常点,会“极大地”干扰后面基本分类器学习效果。
❝
拜托你一件事儿
关注我一下!
谢谢啦!
❞