更多机器学习方法总结请到我这个博客链接

文章目录

• 7 逻辑回归与最大熵模型
• • 7.1 逻辑斯蒂回归（logistic regression ）
  • • 7.1.0 和线性回归比较
    • 7.1.1 logistic 分布
    • 7.1.2 二项逻辑斯谛回归模型
    • 7.1.3 模型参数估计
    • 7.1.4 逻辑回归模型优缺点
  • 7.2 最大熵模型（MEM）
  • • 7.2.1 最大熵原理
    • 7.2.2 最大熵模型定义
    • 7.2.3 最大熵模型的学习
    • 7.2.4 对偶函数的极大化等价于最大熵模型的极大似然估计
    • 7.3 模型学习的最优化方法
    • 7.3.1 改进的迭代尺度法（improved iterative scaling，IIS）
    • 7.3.2 牛顿法
    • 7.3.3 拟牛顿法（DFP，BFGS，Broyden类算法）