在机器学习中,常用的损失函数有哪些?
「(1) 0-1 loss」
记录分类错误的次数。
「(2)Hinge Loss」
最常用在SVM中「最大优化间隔分类」中,对可能的输出t=±1和分类器分数y,预测值y的hinge loss定义如下:
L(y)=max(0.1-t*y)
「(3)Log Loss对数损失」
对于「对数函数」,由于其具有「单调性」,在求最优化问题时,结果与原始目标一致,在含有乘积的目标函数中(如极大似然函数),通过「取对数」可以转化为求和的形式,从而大大简化目标函数的「求解」过程。
「(4)Squared Loss 平方损失」
即真实值与预测值之差的平方和。通常用于线性模型中,如线性回归模型。
「(5)Exponential Loss指数损失」
指数函数的特点是越接近正确结果误差越小,Adaboost算法即使用的指数损失目标函数。但是指数损失存在的一个问题是误分类样本的权重会「指数上升」,如果数据样本是异常点,会「极大地」干扰后面基本分类器学习效果。
❝
拜托你一件事儿
关注我一下!
谢谢啦!
❞