当前位置 博文首页 > dastu的博客:支持向量机(SVM)与逻辑回归(LR)对比

    dastu的博客:支持向量机(SVM)与逻辑回归(LR)对比

    作者:[db:作者] 时间:2021-09-19 19:25

    相同:
    1.本质都是线性分类器,都是要求一个最佳分类的超平面
    2.都是监督模型
    3.都是判别模型 判别模型有:KNN,SVL,LR, 生成模型:朴素贝叶斯, 马尔可夫

    不同点:
    1.损失函数不同,lr是交叉熵损失,SVM合页损失函数
    2.SVM考虑分类边界线附近的样本(决定分类超平面的样本)。在支持向量外添加或减少任何样本点对分类决策面没有任何影响;
    LR受所有数据点的影响。直接依赖数据分布,每个样本点都会影响决策面的结果。
    3.SVM需要做归一化,因为SVM是依赖于距离表达的度量,LR需要做归一化是因为梯度下降需要提速。
    4.SVM使用核函数,而逻辑回归不使用核函数,因为如果逻辑回归使用核函数,则每个样本点都有进行核计算,计算量会很大
    5.SVM的损失函数就自带正则,而 LR 必须另外在损失函数之外添加正则项

    cs
    下一篇:没有了